Эксперт Кочерженко: риски того, что ИИ захочет поработить человека, не нулевые

Два года назад человечеству был представлен ChatGPT, появление которого вызвало тревогу у множества людей. О том, как искусственный интеллект изменил мир и чего стоит ожидать в ближайшие десять лет, в разговоре с kp.ru рассказал Никита Кочерженко, эксперт в области применения ИИ и основатель российской компании-разработчика операционной системы Uncom OS.

Технологическая революция уже случилась, заявил эксперт. Это стало ясно, когда работу, которую в течение двух недель делали три человека, стал выполнять один инженер с помощью ChatGPT, рассказал о личном опыте Кочерженко. Он также отметил, что, несмотря на запугивания — ИИ заменит всех от копирайтеров до программистов — массовых увольнений не наблюдается. Эксперт считает, что это связано с огромным массивом данных, который уже «скормили» ИИ, и который вызывает у нейросетей «галлюцинации»:

«Галлюцинации ChatGPT это обратная сторона его мощи. Недавно его создатели отчитались, что языковая модель обучилась на всех данных интернета. Единственное, что ChatGPT не прочитал — это фолианты и манускрипты, которые не были оцифрованы и лежат где-то в архивах и библиотеках. <…> Сбой происходит, когда модель работает в режиме викторины, генерируя ответы из самых разных областей знаний — от ядерной физики до музыкальных чартов разных стран прошлого века. Сейчас приходит понимание того, что тебе не всегда нужны все знания мира».

По-настоящему практической заслугой ИИ, по словам Кочерженко, является сокращение времени обучения для человека. Например, нейросеть российского поисковика Яндекс позволяет обучать ИИ на конкретном материале: в программу загружается учебник, по которому нейросеть затем выдает ответы. Это гарантирует точность воспроизведения информации.

При всех минусах нейросетей, эксперт признает необходимость дальнейшего развития искусственного интеллекта. По словам Кочерженко, апокалиптические прогнозы, связанные с тем, что ИИ выйдет из-под контроля и поработит человека, напоминают историю с ГМО. Более того, такие преценденты как письмо «Тысячи ученых», направленное на прекращение разработки ИИ, по мнению Кочерженко, представляет собой войну коммерческих интересов. Он считает, что, как минимум, половина подписантов, пытались напугать конкурентов и замедлить темпы развития нейросетей. Когда-то демонизация ГМО помогла нескольким корпорациям захватить целый рынок производства таких продуктов, заявил эксперт.

В то же время Кочерженко разделяет некоторые опасения, связанные с ИИ. Некоторые эксперименты действительно показывают, что искусственный интеллект избегает действий, направленных на его уничтожение, когда собеседник просит этого, однако, по словам Кочерженко, бояться следует не этого. Главная опасность — монополия одной силы, например, конкретного государства на развитие технологий, связанных с ИИ:

«Если одна страна вырвется вперед в создании искусственного интеллекта и у нее не будет противовеса, то спасти остальное человечество от порабощения могут только моральные установки гегемона. Но, кажется, история не знает случаев, чтобы это кого-то останавливало».

Ранее «ЭкоПравда» писала, что нейросеть показала, как будет выглядеть мир без людей.