Изменения в условиях Google по генеративному ИИ
Google обновил свои условия, чтобы уточнить, что клиенты могут использовать его инструменты генеративного ИИ для принятия «автоматизированных решений» в «высокорисковых» областях, таких как здравоохранение, при условии, что в процессе участвует человек.
Новые условия использования
Согласно обновленной Политике запрещенного использования генеративного ИИ, опубликованной во вторник, клиенты могут применять генеративный ИИ Google для принятия «автоматизированных решений», которые могут иметь «существенное негативное воздействие на индивидуальные права». При условии, что человек осуществляет надзор каким-либо образом, клиенты могут использовать генеративный ИИ Google для принятия решений в следующих областях:
- Трудоустройство
- Жилищное обеспечение
- Страхование
- Социальное обеспечение
- Другие “высокорисковые” сферы
Что такое автоматизированные решения?
Автоматизированные решения в контексте ИИ — это решения, принимаемые ИИ-системой на основе фактических и предположительных данных. Например, система может принять автоматизированное решение о выдаче кредита или проведении отбора кандидатов на работу.
Изменения в правилах Google
Предыдущее draft условий Google подразумевал полный запрет на высокорисковую автоматизацию процесса принятия решений с использованием генеративного ИИ. Однако Google уточнил, что клиенты всегда могли использовать его генеративный ИИ для автоматизации решений в высокорисковых приложениях, если существует надзор со стороны человека.
Представитель Google прокомментировал:
>»Требование о человеческом надзоре всегда было в нашей политике для всех высокорисковых областей. Мы просто перетасовываем некоторые пункты и делаем некоторые примеры более явными для пользователей.»
Конкуренты Google
Основные конкуренты Google в области ИИ, такие как OpenAI и Anthropic, имеют более строгие правила, касающиеся использования их ИИ в высокорисковой автоматизации принятия решений. Например:
- OpenAI запрещает использование своих сервисов для автоматизированных решений в областях:
- Кредиты
- Трудоустройство
- Жилищное обеспечение
- Образование
- Социальный рейтинг
- Страхование
- Anthropic допускает использование своего ИИ в таких областях, как право, страхование и здравоохранение, но только под контролем “квалифицированного специалиста” и требует от клиентов раскрытия информации о применении ИИ.
Проблемы с автоматизированными решениями ИИ
ИИ, принимающий автоматизированные решения, затрагивающий индивидуальные права, вызывает опасения у регуляторов, которые выражают сомнения по поводу потенциальной предвзятости технологий. Исследования показывают, что ИИ, используемый для принятия решений, таких как одобрение кредитов и ипотечных заявок, может усугублять историческую дискриминацию.
Неправительственная группа Human Rights Watch призвала к запрету на системы “социального рейтинга”, которые, по их мнению, угрожают нарушением доступа к социальной помощи, компрометацией личной жизни и предвзятым профилированием.
Законодательство в ЕС и США
В соответствии с Законом об ИИ в ЕС высокорисковые ИИ-системы, включая те, которые принимают решения о кредитах и трудоустройстве, подлежат наиболее строгому контролю. Поставщики этих систем обязаны:
- Зарегистрироваться в базе данных
- Провести управление качеством и рисками
- Привлечь к надзору людей
- Сообщать о происшествиях соответствующим властям
В США штат Колорадо недавно принял закон, обязывающий разработчиков ИИ раскрывать информацию о “высокорисковых” ИИ-системах и публиковать заявления, подводящие итоги возможностей и ограничений систем. Тем временем в Нью-Йорке работодателям запрещено использовать автоматизированные инструменты для оценки кандидатов на работу, если инструмент не прошел аудит на предмет предвзятости в течение предыдущего года.