Игрок в Го обыграл ИИ при помощи бота

Игрок в Го уровня "крепкий любитель" смог одолеть мощный ИИ путем эксплуатации слабого места, обнаруженного вторым компьютером. Используя уязвимость, американский игрок Келлин Пелрин победил систему KataGo в 14 из 15 игр без дополнительной помощи компьютера. Для человека это редкое достижение с тех пор, как AlphaGo одержал победу над человеком в 2016 году. Кроме этого это демонстрирует, что даже самые продвинутые алгоритмы не лишены уязвимостей.

Победа стала возможна с поддержкой исследовательской компании FAR AI, разработавшей программу для зондирования KataGo на предмет уязвимостей. После миллиона игр их бот смог найти слабость, на которую может положиться даже игрок среднего уровня. По словам Келлина, научиться использовать слабость было не так-то просто, но возможно. Он также использовал похожий метод для победы в Го над другим ИИ Leela Zero.

Этот случай напоминает, что ИИ это на самом деле не корректное определение для комплексных алгоритмов, которые не способны "думать" за пределами рамок, почему они и могут делать совершенно глупые вещи.

Новый чатбот Bing от Microsoft — хороший тому пример. Пусть это и впечатляющий генератор текстов, он способен выдавать ложную информацию и даже ругать пользователей.

Впрочем, это дело времени — баги будут исправлены.