Искусственный интеллект Google поможет решить, получат ли безработные пособия в США
В течение нескольких месяцев штат Невада планирует запустить систему на базе генеративного ИИ от Google, которая будет анализировать стенограммы апелляционных слушаний по вопросам пособий по безработице и предлагать рекомендации по решению дел. Этот шаг станет первым экспериментом в США, где ИИ будет играть роль в принятии решений, касающихся финансовой поддержки безработных.
По мнению представителей штата, внедрение ИИ значительно ускорит процесс рассмотрения апелляций, сокращая время, которое арбитры тратят на подготовку решений, с нескольких часов до нескольких минут. Это должно помочь решить проблему с большим количеством нерассмотренных дел, накопившихся с пандемии COVID-19.
Новый инструмент на основе ИИ будет формировать рекомендации на основе стенограмм и доказательств, предоставляя свое видение того, стоит ли одобрить, отклонить или изменить заявление на пособие. Однако, как отмечает директор Департамента занятости, обучения и реабилитации (DETR) Кристофер Сьюэлл, каждую рекомендацию будет проверять и утверждать человек. Если арбитр не согласен с предложением ИИ, он сможет внести коррективы и провести дополнительное расследование.
Некоторые эксперты и юристы выражают обеспокоенность тем, что акцент на скорость принятия решений может снизить уровень контроля со стороны человека. По их мнению, если проверка рекомендаций ИИ будет поверхностной, это может привести к ошибкам и несправедливым решениям, особенно в тех случаях, где важна внимательная оценка фактов.
В ответ на эти опасения представитель Google отметила, что компания работает с клиентами над тем, чтобы избежать возможных предвзятостей и соответствовать требованиям законодательства. В рамках контракта на сумму $1 млн, одобренного властями штата, Google не будет иметь доступ к персональной информации заявителей и не сможет использовать данные для других целей.
Новая система будет использовать модель Retrieval-Augmented Generation (RAG), которая обращается к базе данных с законами Невады и предыдущими делами, чтобы выдавать более точные результаты. Для контроля за работой модели будет создан комитет, который будет отслеживать ошибки и возможные искажения в работе ИИ, включая так называемые "галлюцинации" — моменты, когда модель выдант неверные или искаженные факты.
Исследования показывают, что RAG-модели иногда дают неверные ответы на юридические запросы, что вызывает опасения у юристов Невады. Если ошибка ИИ окажет влияние на решение арбитра, это может негативно сказаться на способности заявителя обжаловать это решение в суде. Ошибки в таких делах могут серьезно повлиять на жизнь людей, лишив их финансовой поддержки.
Новая система направлена на решение проблем, с которыми столкнулась Невада во время пандемии, когда огромное количество заявлений на пособия по безработице привело к перегрузке системы и долгим задержкам в рассмотрении дел. В 2020 году уровень безработицы в Неваде достиг рекордных 30%, что вызвало серьезные финансовые трудности для многих семей.
Хотя автоматизация с использованием ИИ может помочь решить проблемы с задержками, эксперты подчеркивают, что важным остается вопрос качества контроля и возможности человека вмешиваться в процесс.
- Google анонсировал новую функцию ИИ на основе камеры
- Microsoft готовит новую модель ИИ для конкуренции с Google и OpenAI
- В каждом федеральном агентстве США теперь должен быть главный директор по искусственному интеллекту