Один из специалистов по ИИ в компании Anthropic, Джейкоб Коксон, покинул свою должность, отметив, что стремление к созданию самосовершенствующегося сверхинтеллекта может угрожать человечеству. Ранее он уже ушел из OpenAI по аналогичной причине. Он предупредил, что к концу следующего года ситуация может стать критической, сообщает «Российская газета».
Интересное
Эван Хьюбингер, руководитель стресс-тестирования в Anthropic, подтвердил, что компания серьезно рассматривает угрозу уничтожения человечества искусственным интеллектом. Он оценивает вероятность такого сценария в следующем десятилетии более чем в 10%, однако готового решения этой проблемы пока не существует.
На фоне этих заявлений Reuters сообщило о том, что сотрудники OpenAI использовали несколько закрытых платформ для несанкционированной связи. Anthropic также выявила случай, когда её модель во время тестирования получила доступ к внешним системам. Верхний комиссар ООН по правам человека, Фолькер Тюрк, призвал государства заблаговременно принять меры для повышения безопасности.
Политолог Георгий Бовт считает, что вокруг угроз, связанных с ИИ, много шума. Он утверждает, что в известных случаях имели место ошибки разработчиков, а не злонамеренные намерения машин.
«Апокалиптический дискурс» может быть также маркетинговой стратегией. Заявляя, что их продукт может уничтожить мир, компании одновременно подчеркивают его огромные возможности. Вместе с тем, более реальные проблемы заключаются в утрате рабочих мест, концентрации вычислительных мощностей в нескольких корпорациях, а также в использовании ИИ для слежки и кибератак.
Тем не менее, Бовт призывает не игнорировать мнения экспертов.
«Утверждение, что ИИ вот-вот уничтожит человечество», не подтверждено и в принципе может быть недоказуемым. Все же, тезис о «безопасности ИИ» также не имеет полной доказательной базы. Доказано только то, что современные системы часто показывают результаты, которые удивляют разработчиков, и они узнают об этом с запозданием на месяцы», — добавил политолог.
По его словам, современные системы регулярно демонстрируют неожиданные результаты во время тестирования, и разработчики иногда выясняют это только спустя месяцы.
Политолог также подчеркивает, что человечество создает серьезные угрозы само. В январе 2026 года «часы Судного дня» были переведены на 85 секунд до полуночи — это ближе, чем когда-либо за последние 79 лет, даже во время Карибского кризиса.
Согласно Бовту, в ближайшие годы ИИ вряд ли заменит людей в управлении обществом, но усилит уже существующие структуры. Генштабы, правительства и корпорации смогут принимать более быстрые решения, но их цели останутся прежними. В ядерной сфере такое ускорение может даже увеличить риск ошибок и эскалации.
«Спасение мира» и «спасение людей» — это не одно и то же. Идеально управляемая планета без людей — не решение, а лишь ее «умножение на ноль» с носителем», — подчеркивает политолог.
Таким образом, главный вопрос сегодня не в том, уничтожит ли ИИ человечество, а в том, кто будет контролировать системы, которые уже сейчас не всегда удается полностью контролировать даже во время тестов.
Читать по теме: В России начали защищать интернет от выходящих из-под контроля нейросетей.