Google добавит выключатель для своего ИИ

В дебатах на тему Искусственного Интеллекта можно отметить две противоположные стороны. С одной — такие компании как: Google, Facebook, Amazon, Microsoft. Все они агрессивно инвестируют и разрабатывают технологии, чтобы сделать ИИ-системы умнее. С другой стороны — такие люди как Стивен Хокинг и Илон Маск, опасающиеся того, что человечество может стать "домашними зверьками" супер ИИ. 

Теперь же один из самых продвинутых ИИ на данный момент — DeepMind от Google, получит средства безопасности на тот случай, если операторам ИИ потребуется взять контроль над вышедший из под контроля системой, которая может привести к необратимым последствиям. 

Документ опубликованный командой DeepMind и Институтом Будущего Человечества в Университете Окфорда, гласит, что уже ведутся работы по изучению того, каким образом оператор-человек может отключить ИИ если тот делает вещи, которые не должен. Проще говоря, речь идет о большой красной кнопке для ИИ с надписью "Выкл".

Более того, исследовали стараются сделать так, чтобы ИИ не смог узнать как предотвратить свое отключение при помощи внешних факторов или человека-оператора.

Звучит как лишняя работа, с учетом того, что мы еще очень далеко от ИИ сопоставимого с мозгом человека. Однако как отмечает директор Института Будущего Человечества Ник Бостром, как только ИИ достигнет человеческого уровня, возникнет петля положительной обратной связи, которая придаст значительное ускорение развитию ИИ. Один ИИ поможет создать лучшие ИИ, которые помогут сделать еще лучший ИИ и так далее.

Так что лучше с кнопкой, чем без кнопки.