ИИ Claude 2.1 от Anthropic может анализировать до 150 000 слов за один запрос

Компания Anthropic, конкурент OpenAI, представила новую версию своего продукта — Claude 2.1. Эта версия значительно увеличивает возможности ИИ, расширяя окно контекста до 200 000 токенов. Теперь пользователи могут загрузить для анализа целые произведения, такие как "Одиссея" Гомера. Для справки — токены, это фрагменты текста, используемые для организации информации, а окно контекста — это максимальное количество токенов, которое ИИ может обработать за один запрос.

Компания сообщает, что новое окно контекста позволяет загружать и анализировать целые кодовые базы, научные работы, финансовые отчеты или обширные литературные произведения. 200 000 токенов примерно соответствуют 150 000 словам или более 500 страницам текста. После загрузки материала чат-бот может предоставлять резюме, отвечать на конкретные вопросы о содержании, сравнивать и анализировать несколько документов или выявлять закономерности, которые могут быть незаметны для человека.

Обработка сообщения длиной 200K — это серьезное и первое в своем роде в индустрии достижение. Хотя мы рады предоставить нашим пользователям эту мощную новую возможность, задачи, которые обычно требуют часов человеческого труда, могут занять у Claude несколько минут.

Anthropic предупреждает, что анализ и ответ на очень длинные запросы могут занять у бота несколько минут — значительно дольше, чем обычно приходится ждать при выполнении более простых запросов.

Мы ожидаем, что задержка существенно сократится по мере развития технологии.

Галлюцинации, или неправильная информация, все еще распространены среди современных ИИ-ботов. Однако Anthropic сообщает, что Claude 2.1 сократил свой уровень галлюцинаций вдвое по сравнению с Claude 2.0. Компания отмечает некоторый прогресс в улучшении способности отличать неправильные утверждения, что делает Claude 2.1 в два раза более склонным признавать, что он не знает ответа, чем предоставлять неправильный.

Anthropic также сообщает, что Claude 2.1 на 30% реже допускает ошибки в очень длинных документах. Кроме того, у него в три-четыре раза меньше вероятность "ошибочно заключить, что документ поддерживает определенное утверждение".

Обновленный бот также предлагает несколько преимуществ специально для разработчиков. Новая консоль Workbench позволяет разработчикам уточнять запросы "в стиле площадки для игр и получать доступ к новым настройкам модели для оптимизации поведения Claude". Например, она позволяет пользователям тестировать несколько запросов и подключаться к кодовой базе Claude для генерации фрагментов кода для SDK.

Другая новая функция для разработчиков, "использование инструментов", позволяет Claude "интегрироваться с существующими процессами, продуктами и API пользователей". Компания приводит примеры, такие как использование калькулятора для сложных уравнений, перевод обычного языка в структурированные вызовы API, использование API веб-поиска, подключение к частным API клиентов или подключение к наборам данных продуктов.

Компания отмечает, что функция "использование инструментов" находится на ранней стадии разработки и призывает клиентов предоставлять обратную связь.