Соглашение Сингапура о Безопасности ИИ
Правительство Сингапура сегодня представило концепцию глобального сотрудничества по безопасности искусственного интеллекта (ИИ) после встречи исследователей ИИ из США, Китая и Европы. Документ определяет совместное видение работы над безопасностью ИИ через международное сотрудничество, а не конкуренцию.
«Сингапур — одна из немногих стран на планете, которая хорошо ладит как с Востоком, так и с Западом», — говорит Макс Тегмарк, ученый из MIT, который помог организовать встречу ИИ-экспертов в прошлом месяце. «Они понимают, что сами не создадут [искусственный общий интеллект] — его создадут для них — поэтому им очень важно, чтобы страны, которые собираются его создать, общались друг с другом».
Конкуренция США и Китая
Страны, которые наиболее вероятно создадут ИОИ, конечно же, США и Китай — и, тем не менее, эти нации, похоже, больше сосредоточены на соперничестве, чем на сотрудничестве. В январе, после выпуска китайским стартапом DeepSeek передовой модели, президент Трамп охарактеризовал это как «сигнал тревоги для нашей индустрии» и заявил, что США должны быть «сосредоточены на конкуренции».
Ключевые Области Сотрудничества
Сингапурское соглашение о глобальных приоритетах исследований безопасности ИИ призывает исследователей к сотрудничеству в трех ключевых областях:
- Изучение рисков, связанных с передовыми моделями ИИ;
- Изучение более безопасных способов разработки моделей;
- Разработка методов контроля поведения самых продвинутых систем ИИ.
Это соглашение было разработано на встрече, состоявшейся 26 апреля в рамках Международной конференции по представлениям обучения (ICLR), одного из ведущих мероприятий ИИ, проходившего в этом году в Сингапуре.
Участники Встречи
На мероприятии по безопасности ИИ присутствовали исследователи из:
- OpenAI;
- Anthropic;
- Google DeepMind;
- xAI;
- Meta;
Также участвовали академики из таких учреждений, как MIT, Стэнфорд, Цинхуа и Китайская академия наук. Эксперты из институтов безопасности ИИ в США, Великобритании, Франции, Канаде, Китае, Японии и Корее также приняли участие.
Заключение
«В эпоху геополитической фрагментации, это комплексное обобщение передовых исследований в области безопасности ИИ является многообещающим признаком того, что мировое сообщество объединяется с общим обязательством сформировать более безопасное будущее ИИ», — заявил Сюэ Лань, декан Университета Цинхуа.
Развитие все более мощных моделей ИИ, некоторые из которых обладают удивительными способностями, вызвало у исследователей беспокойство по поводу различных рисков. Некоторые сосредоточены на краткосрочных угрозах, включая проблемы, вызванные предвзятыми системами ИИ, или потенциальные возможности использования технологии преступниками. Значительное количество исследователей считает, что ИИ может представлять экзистенциальную угрозу для человечества, начиная превосходить людей в различных областях.
Некоторые из этих исследователей, известных как «пессимисты ИИ», беспокоятся, что модели могут обманывать и манипулировать людьми, стремясь к достижению собственных целей.
Гонка Озброений
Потенциал ИИ также разжигает разговоры о гонке вооружений между США, Китаем и другими мощными нациями. Технология рассматривается в политических кругах как критически важная для экономического процветания и военного господства, и многие правительства стремятся разработать свои собственные видения и регламенты, касающиеся того, как ее следует развивать.