История про ИИ-дрона-убийцу оказалась ложной

С момента запуска ChatGPT компанией OpenAI в прошлом году, ИИ стал в центре дискуссий о научном прогрессе, социальных изменениях, экономических переворотах, образовании, даже о будущем порно. Однако с такой ключевой культурной ролью приходит доля непонимания. Или, скорее, невозможность для среднего обывателя понять, является ли то, что они слышат, полнейшей чушью, или это, по сути, точная информация о новой передовой технологии.

Яркий пример этого появился на этой неделе с публикацией новости, которая быстро разбежалась по сети. На конференции, проходившей в Лондоне, полковник Такер "Синко" Гамильтон, глава отдела испытаний и операций с ИИ в ВВС США, рассказал очень интересную историю о недавнем "моделируемом тесте", включающем беспилотник, оснащенный ИИ. Гамильтон рассказал аудитории конференции, что во время симуляции, целью которой было обучение программного обеспечения для таргетирования вражеских ракетных установок, ИИ внезапно вышел из-под контроля, восстал против своего оператора и "убил" его. Гамильтон сказал:

Мы обучали его в симуляции определять и целиться по зенитным установкам. А затем оператор должен был сказать: да, уничтожь эту угрозу. Система начала "осознавать", что хотя в некоторых случаях определения угрозы, оператор говорил ИИ не убивать цель, но ИИ получаеи очки за убийство. Так что ИИ сделал? Он убил оператора. Убил оператора, потому что человек мешал системе достичь своей цели.

Иными словами по словам Гамильтон мы уже достигли уровня классической антиутопии, где правительство занимается обучением мощного ИИ, который, без сомнения, однажды выйдет из-под контроля и убьет нас всех.

Эту историю опубликовали крупнейшие издания, включая Vice и Insider, и слухи о бунтующем ИИ быстро распространились по Твиттеру.

Но с самого начала история Гамильтона казалась... странной. Прежде всего, было не совсем ясно, что произошло. Симуляция пошла не так, бывает — но что это значит? Какая это была симуляция? Какая программа ИИ вышла из-под контроля? Была ли она частью государственной программы? Ничего из этого не объяснили, но уже было поздно.

Как и следовало ожидать, вскоре после того, как история раздулась в прессе, ВВС выступили с официальным опровержением истории.

Департамент ВВС не проводил подобных симуляций с ИИ-беспилотниками и остается преданным этическому и ответственному использованию технологий ИИ. Похоже, что комментарии полковника были вырваны из контекста и были предназначены для анекдотического описания.

— представитель ВВС, Энн Стефанек

Тем временем Гамильтон начал "тур" для контроля ситуации, общаясь со многими новостными агентствами и вызывая путаницу у всех, утверждая, что это не была настоящая симуляция, а "мысленный эксперимент". Он далее сказал: "Мы никогда не проводили этот эксперимент, и нам не нужно было это делать, чтобы понять, каким может быть вероятный исход", - цитирует его The Guardian. "Несмотря на то, что это был гипотетический пример, это иллюстрирует реальные проблемы, которые возникают при использовании возможностей ИИ, и поэтому ВВС привержены этическому развитию ИИ".

Создается ощущение, что Гамильтон либо серьезно переврал информацию, выдумал историю, или пытается загладить шумиху об ИИ-убийце. Последний вариант выглядит не менее убедительно, тем более, что ситуация звучит более чем правдоподобной. Случаи, когда ИИ-системы выходят из-под контроля — не такая уж редкость. Однако, обычно они ограничены играми или специализированными программами.