Майлз Брандейдж, старший советник OpenAI по готовности к общему искусственному интеллекту (AGI), объявил о своем уходе, предостерегая, что ни OpenAI, ни другие лаборатории не готовы к AGI, как и весь мир. Брандейдж работал над инициативами безопасности ИИ в компании шесть лет и считает, что высокое руководство OpenAI согласится с его мнением. Его решение уйти произошло на фоне других увольнений в команде безопасности, включая известного исследователя Яна Лейке, который заявил, что безопасность отошла на второй план в пользу создания продуктов, и сооснователя Илью Суцкевера, который начинает свой собственный стартап по безопасной разработке AGI.
Роспуск команды «AGI Readiness» Брандейджа и предыдущая ликвидация команды «Superalignment» подчеркивают конфликт между первоначальными задачами OpenAI и её коммерческими амбициями. Ожидается, что компания в ближайшие два года станет общественно-полезной корпорацией, чтобы вернуть средства из недавнего инвестиционного раунда в 6,6 миллиардов долларов. Брандейдж выразил беспокойство по поводу ограничений в своих исследованиях и высказал мнение о необходимости независимых голосов для обсуждения политики в области ИИ.
Он планирует оказывать влияние на глобальное управление ИИ, находясь вне организации. Этот уход также может указывать на культурные изменения внутри OpenAI, где исследователи начинают чувствовать давление коммерциализации. Несмотря на разногласия, OpenAI предложила Брандейджу поддержку для его будущих проектов.
Брандейдж высказал мнения про безопасность, но по-моему это просто слова. Ничего не изменится.
…Просто интересно, как они собираются решать такие сложные вопросы? У них там есть план?
…Я считаю что нам нужно больше независимых мнений в этой сфере для лучшего будущего!
…Согласен с тобой на все сто! Безопасность важнее всего!
Увольнения в команде безопасности — это тревожный знак. Надеюсь, они все же смогут наладить работу.
…Коммерциализация технологий всегда была проблемой для человечества. Надо думать о будущем!
Майлз Брандейдж говорит, что никто не готов к AGI, но я думаю это не так. Есть много людей, которые работают над этой темой.
Да, но разве это не страшно? Все хотят денег больше чем безопасности.
А что такое AGI? Я не понимаю.
…Неужели кто-то действительно верит, что AGI будет безопасен? Неужели мы забыли о всех провалах?
…Но если работать правильно, то можно избежать многих ошибок! Надо верить!