Федеральная торговая комиссия США: Компаниям следует бороться с "расистскими алгоритмами" или мы сделаем это за них

Федеральная торговая комиссия США обратилась к компаниям, которые разрабатывают или используют различные алгоритмы, связанные с ИИ. В своем послании агентство призвало корпорации бороться с расизмом и брать на себя ответственность за его проявления.

В противном случае комиссия пригрозила "сделать это за них":

Как мы уже отмечали, важно нести ответственность за эффективность своего алгоритма. Наши рекомендации по прозрачности и независимости могут помочь вам в этом. Но имейте в виду, что если вы не будете нести ответственность, Федеральная торговая комиссия может сделать это за вас.

Например, если ваш алгоритм приводит к кредитной дискриминации в отношении защищенного класса, вы можете столкнуться с жалобой на нарушение Закона. Независимо от того, вызвано ли это предвзятым алгоритмом или более прозаическим проступком со стороны человека, комиссия очень серьезно относится к обвинениям в кредитной дискриминации, о чем свидетельствуют ее недавние действия против Bronx Honda.

Говоря простым языком, комиссия требует, чтобы алгоритмы, построенные на ИИ, выдавали результаты, учитывающие расовое и гендерное разнообразие. Если же результаты будут слишком "белые", то компаниям, которые используют или продают такие алгоритмы, тут же прилетит судебный иск.

Спеша осваивать новые технологии, будьте осторожны, чтобы не преувеличивать возможности вашего алгоритма. Например, предположим, что разработчик ИИ сообщает клиентам, что его продукт будет обеспечивать "100% объективные решения о найме", но алгоритм при этом построен на данных, в которые не заложены расовое или гендерное разнообразие. Результатом станут судебные преследования со стороны Федеральной торговой комиссии.

Пока непонятно, как именно комиссия собирается обеспечить расово-верную работу всех ИИ-алгоритмов. Ведь те обрабатывают объективные данные, и если, к примеру, чернокожие чаще не отдают набранные кредиты, чем "белые", то алгоритм именно такие результаты и будет выдавать.