Губернатор Калифорнии Гэвин Ньюсом сегодня наложил вето на Закон о безопасных и надежных инновациях в моделях искусственного интеллекта (SB 1047). В своем сообщении о вето губернатор Ньюсом сослался на множество факторов, влияющих на его решение, в том числе на бремя, которое законопроект возложил бы на компании, занимающиеся искусственным интеллектом, на лидерство Калифорнии в этой области, а также на критику того, что законопроект может быть слишком широким.
«Несмотря на благие намерения, SB 1047 не принимает во внимание, развернута ли система искусственного интеллекта в средах высокого риска, предполагает ли она принятие важных решений или использование конфиденциальных данных. Вместо этого законопроект применяет строгие стандарты даже к самым базовым функциям — при условии, что они используются в крупной системе. Я не считаю, что это лучший подход к защите населения от реальных угроз, исходящих от технологии».
Ньюсом пишет, что законопроект может «дать общественности ложное чувство безопасности в отношении контроля над этой быстро развивающейся технологией».
«Меньшие специализированные модели могут оказаться столь же или даже более опасными, чем модели, на которые распространяется SB 1047 – за счет потенциального сокращения тех самых инноваций, которые способствуют прогрессу в пользу общественного блага».
Губернатор говорит, что он согласен с тем, что должны быть приняты протоколы безопасности и защитные меры, а также «четкие и осуществимые» последствия для злоумышленников. Однако он заявляет, что не считает, что государство должно «довольствоваться решением, которое не основано на эмпирическом анализе траектории систем и возможностей искусственного интеллекта».
Вот полное сообщение о вето:
В своем сообщении на X сенатор Скотт Винер, главный автор законопроекта, назвал вето «неудачей для всех, кто верит в надзор за крупными корпорациями, принимающими важные решения», затрагивающие общественную безопасность и благосостояние, а также «будущее планеты».
«Это вето оставляет нас перед тревожной реальностью: компании, стремящиеся создать чрезвычайно мощную технологию, не сталкиваются с никакими обязательными ограничениями со стороны американских политиков, особенно с учетом продолжающегося паралича Конгресса в отношении регулирования технологической отрасли каким-либо значимым образом».
В конце августа на стол губернатора Ньюсома поступил законопроект SB 1047, призванный стать самой строгой правовой базой в отношении ИИ в США, с крайним сроком для его подписания или наложения вето до 30 сентября.
Это могло бы применяться к компаниям, занимающимся искусственным интеллектом, ведущим бизнес в Калифорнии, с моделью, обучение которой стоит более 100 миллионов долларов, или более 10 миллионов долларов на точную настройку, добавляя требования к разработчикам внедрять меры защиты, такие как «выключатель» и составлять протоколы для тестирования для снизить вероятность катастрофических событий, таких как кибератака или пандемия. Текст также устанавливает защиту информаторов от сообщения о нарушениях и позволяет AG подавать иски о возмещении ущерба, причиненного инцидентами, связанными с безопасностью.
Изменения с момента его введения включали отмену предложений о новом регулирующем органе и предоставление генеральному прокурору штата права подавать в суд на разработчиков за потенциальные инциденты до того, как они произойдут. Большинство компаний, подпадающих под действие закона, выступили против закона, хотя некоторые приглушили свою критику после внесения поправок.
В письме автору законопроекта сенатору Винеру директор по стратегии OpenAI Джейсон Квон заявил, что SB 1047 замедлит прогресс и что вместо этого федеральное правительство должно заняться регулированием ИИ. Тем временем генеральный директор Anthropic Дарио Амодей написал губернатору после того, как в законопроект были внесены поправки, перечислив свои предполагаемые плюсы и минусы и заявив: «…новый SB 1047 существенно улучшен до такой степени, что, по нашему мнению, его преимущества, вероятно, перевешивают его затраты. »
Палата прогресса, коалиция, представляющая Amazon, Meta и Google, также предупредила, что закон «подрежет инновации».
Об этом сообщила представитель Google Дженн Крайдер в заявлении, отправленном по электронной почте. Грань:
«Мы присоединяемся ко многим мелким и крупным разработчикам и благодарим губернатора Ньюсома за то, что он помогает Калифорнии продолжать лидировать в создании ответственных инструментов искусственного интеллекта, которые приносят пользу Калифорнии, нашей стране и всему миру. Мы с нетерпением ожидаем совместной работы с инициативой губернатора по ответственному использованию искусственного интеллекта и федеральным правительством над созданием соответствующих мер безопасности и разработкой инструментов, которые помогут всем».
Менеджер Меты по связям с общественностью Джейми Радис отправил по электронной почте заявление Меты о вето на Грань:
«Мы рады, что губернатор Ньюсом наложил вето на SB1047. Этот законопроект задушил бы инновации в области искусственного интеллекта, нанес бы ущерб росту бизнеса и созданию рабочих мест, а также сломал бы давнюю традицию штата по содействию развитию открытого исходного кода. Мы поддерживаем ответственное регулирование ИИ и по-прежнему стремимся сотрудничать с законодателями для продвижения более эффективных подходов».
Среди противников законопроекта были бывший спикер Палаты представителей Нэнси Пелоси, мэр Сан-Франциско Лондон Брид и восемь демократов в Конгрессе от Калифорнии. С другой стороны, среди активных сторонников были Илон Маск, такие известные голливудские имена, как Марк Хэмилл, Алисса Милано, Шонда Раймс и Джей Джей Абрамс, а также профсоюзы, в том числе SAG-AFTRA и SEIU.
Федеральное правительство также изучает способы регулирования ИИ. В мае Сенат предложил дорожную карту стоимостью 32 миллиарда долларов, которая охватывает несколько областей, которые законодателям следует изучить, включая влияние ИИ на выборы, национальную безопасность, контент, защищенный авторским правом, и многое другое.
Обновление от 30 сентября: Обновлена информация о том, что заявление Google принадлежит представителю Google Дженн Крайдер.