Исследователи оценили вероятность уничтожения человечества ИИ в 5%

Опрос ведущих учёных в области ИИ показал, что они оценивают вероятность в 5%, что ИИ станет неконтролируемым и уничтожит человечество. В краткосрочной перспективе исследователи прогнозируют значительный прогресс в ИИ, который сможет создавать хиты для Топ-40 и бестселлеры New York Times уже к 2030 году. Так что ИИ-властители как минимум развлекут нас перед тем, как убить.

Хотя предсказания экспертов по ИИ не следует рассматривать как надёжное руководство к объективной истине, они могут дать один важный фрагмент головоломки. Их знакомство с технологией и динамикой её прошлого прогресса ставит их в хорошее положение для образованных догадок о будущем ИИ.

В опросе, проведённом в декабре, приняли участие 2778 учёных, опубликовавших работы по ИИ. Преобладающее чувство — неопределённость. Примерно 68% считают, что вероятность позитивных последствий от сверхчеловеческого ИИ выше, чем негативных. Но примерно половина из этих оптимистов не исключает вероятность вымирания человечества. Это подчёркивает воспринимаемую опасность создания мощного ИИ со стороны ведущих мировых специалистов.

Более 80% выразили "крайнюю" или "существенную" обеспокоенность вероятностью использования ИИ для распространения дезинформации. Большинство также обеспокоены авторитарным контролем населения с помощью ИИ, усилением экономического неравенства и созданием вирусов. Это, похоже, крупнейший на сегодняшний день опрос подобного рода.

Исследователи также дали свои лучшие оценки сроков достижения 39 важных вех в развитии ИИ. Эксперты прогнозируют, что к 2033 году ИИ сможет собирать LEGO, переводить неизвестные языки и создавать видеоигры. А к 2063 году, по оценкам учёных, ИИ достигнет уровня, достаточного для выполнения работы хирурга или даже исследователя в области ИИ. Звучит довольно медленно, особенно в отношении хирургии.