Влияние выборов 2024 года на политику в области ИИ
Хотя выборы 2024 года в США сосредоточились на традиционных вопросах, таких как экономика и иммиграция, их тихое влияние на политику в области ИИ может оказаться еще более значительным. Без единого вопроса дебатов или важного предвыборного обещания о ИИ, избиратели невольно надавили на ускорителей — тех, кто выступает за быстрое развитие ИИ с минимальными регуляторными барьерами.
Про-бизнес позиция президента Дональда Трампа ведёт к мысли, что его администрация будет поддерживать разработчиков и маркетологов ИИ и других передовых технологий. Платформа его партии практически не упоминает ИИ, однако акцентируется на подходе к отмене регулирования ИИ, особенно того, что относится к «радикальным левым идеям» существующих указов уходящей администрации.
Интенсивные дебаты
С момента появления ChatGPT в ноябре 2022 года начались бурные споры о развитии ИИ. В марте 2023 года группа техников предложила шестимесячную паузу в разработке самых передовых систем, утверждая, что инструменты ИИ представляют «глубокие риски для общества и человечества». Это было следствием выхода модели GPT-4 от OpenAI.
Письмо, в котором выступили более 33,000 подписантов, включая известных личностей, таких как Илон Маск и Стив Возняк, отражало опасения о потенциальных экзистенциальных рисках от ИИ. Эта группа стала известна как «думеры», выражавшие свои опасения о возможных катастрофах из-за ИИ.
- Среди подписантов письма:
- Илон Маск
- Стив Возняк
- Эндрю Янг
- Лекс Фридман
- Йошуа Бенжио
- Стюарт Рассел
Разные мнения о рисках ИИ
Некоторые, такие как генеральный директор OpenAI Сэм Альтман, не подписали это письмо. Мнения о вероятности рисков от ИИ различаются. Например, исследователь Роман Ямпольский оценил вероятность угрозы от ИИ на уровне более 99%.
Однако, исследование, проведённое среди более чем 2700 исследователей в начале года, показало, что «медные предсказания о крайне плохих исходах, таких как вымирание человечества, были на уровне 5%». Это порождает вопросы: какова вероятность катастрофы? Готовы ли мы к этому?
Ускорение развития ИИ
Некоторые эксперты, такие как Эндрю Нг и Педро Домингос, открыто отмахиваются от опасений по поводу ИИ. Они утверждают, что ИИ является частью решения глобальных проблем, таких как изменение климата и пандемии. Нг выступает за то, чтобы развитие ИИ не приостанавливалось, а шло быстрее.
- Идеи ускорителей ИИ:
- Технология — это не проблема, а решение.
- Необходимо развивать ИИ, чтобы он мог помочь в решении мировых проблем.
Новый курс в политике ИИ
После выборов 2024 года ускорители ИИ могут оказать влияние на политику в области ИИ в США. Президент Трамп назначил Давида Сакса, который выступает против регуляции, «цзярем» по ИИ.
| Имя | Должность | Мнение о регуляции ИИ |
|---|---|---|
| Давид Сакс | Цзярь по ИИ | Против регуляции, за рынок |
Последствия выборов
Хотя большинство избирателей, возможно, не задумывались о последствиях для политики ИИ при голосовании, ускорители одерживают победу, что ставит под угрозу осторожный подход к долгосрочным рискам ИИ со стороны федерального правительства.
Ситуация требует зоркого общественного контроля и осведомленности о том, как развиваются технологии.
Что нас ждёт впереди?
- Возможно, некоторые штаты примут соответствующие регуляции.
- Калифорния и Колорадо уже начали с законопроектов по безопасному использованию ИИ.
- Все внимание на тестирование и защитные меры от разработчиков ИИ, таких как Anthropic и Google.
Таким образом, победа ускорителей означает меньше ограничений на инновации в ИИ, что может привести к быстрому развитию, но и увеличивать риски.
Каково ваше мнение о вероятности катастрофы в результате развития ИИ?