В конце июня главный редактор The Economist Зэнни Минтон Беддоус провела полуторачасовое интервью с триллионером Илоном Маском на заводе Tesla в Техасе. Обсуждение стартовало с прогнозов о сверхразуме и перешло к темам, включая преступность в Великобритании и тепловую смерть Вселенной; однако значительная часть беседы касалась искусственного интеллекта. RTVI собрал главные идеи Маска об ИИ и обратился за комментариями к экспертам — бизнес-консультанту по безопасности Positive Technologies Алексею Лукацкому и исследователю ИИ Сергею Карелову, ведущему телеграм-канала «Малоизвестное интересное».
Через пять лет машины будут умнее всего человечества вместе взятого
В ответ на вопрос о будущем через десять лет, Маск отметил, что сложно представить мир без значительного количества искусственного интеллекта. Он предполагает, что к 2036 году ИИ значительно превзойдет совокупный человеческий интеллект, и это произойдет уже через пять лет. При этом он добавил, что не останется ничего, что ИИ не мог бы делать лучше людей, «кроме, возможно, самого факта быть человеком».
Оба эксперта считают данное заявление скорее риторическим, чем измеримым.
Сергей Карелов описал утверждение как медийное, подчеркивая, что «формальная оценка тут невозможна». Тем не менее, он отметил, что интуитивно сказанное Маском понятно как исследователям, так и широкой аудитории: речь идет о том, что ИИ сможет выполнять задачи, недоступные человечеству.
Алексей Лукацкий не согласен с прогнозом, полагая, что «суммарный человеческий интеллект» не является измеримой величиной:
«Маск прав в том, что при существующем росте вычислительных мощностей и алгоритмической сложности интеллектуальная сила ИИ растет экспоненциально. Однако это не означает, что она превысит человеческий ум, который пока никто не научился вычислять, в отличие от IQ».
Лукацкий предлагает переформулировать тезис: к началу 2030-х может появиться ИИ-система, способная превосходить любые отдельные человеческие способности в широком круге интеллектуальных задач.
Десять-двадцать процентов на шанс гибели человечества
Минтон Беддоус вспомнила слова Маска десятилетней давности, когда он считал рекурсивное самоулучшение ИИ наиболее пугающим аспектом, сравнивая людей с «домашними лабрадорами» искусственного разума. В 2023 году он подписал письмо с просьбой приостановить разработку ИИ и оценивал вероятность гибели человечества от «роботов-убийц» в 10-20%. Сегодня он выглядит более спокойно.
Jonathan Kemper / Unsplash
Маск ответил, что риск все еще существует, но его философия теперь заключается в том, чтобы смотреть на светлую сторону, ведь остановить развитие ИИ невозможно. Более того, даже если бы существовала кнопка, останавливающая его разработку, нажимать на нее не стоило бы, поскольку Маск сам создал OpenAI, чтобы противостоять монополии Google, а это лишь ускорило прогресс. «Не можешь победить — присоединяйся», — подытожил он.
Карелов отмечает, что цифра 10-20% не основана на каком-либо четком расчете:
«Эта формулировка также является медийной (любой формальный расчет невозможен). Опросы среди специалистов показывают, что большинство считает, что вероятность гибели человечества из-за ИИ составляет 10-20%».
Лукацкий согласен, что такая вероятность возможна, но указывает на ее субъективность:
«10-20% Маска — это не результат статистической модели; для этого у нас нет истории предыдущих цивилизаций, создавших AGI, из которых 17 погибли. Это скорее экспертная субъективная оценка».
Он добавляет, что в большом опросе 2778 исследователей ИИ медианная оценка вероятности того, что продвинутый ИИ приведет к человеческому вымиранию, была примерно на уровне 5%, а от трети до половины опрошенных давали 10% и выше.
Среди возможных причин Лукацкий называет несколько факторов:
- злоупотребление ИИ для разработки биологического и ядерного оружия;
- потеря контроля над ИИ, который будет воспринимать человечество как препятствие;
- гонка с конкурентами, которая может привести к быстрому развертыванию систем;
- рекурсивное самоулучшение, которое может ускорить негативные последствия;
- каскадный эффект, ведущий к системным катастрофам — даже без «восстания машин».
Конкуренты должны контролировать друг друга, а государство вмешиваться — в крайних случаях
Маск рассказал о нескольких часах обсуждений с Демисом Хассабисом, сооснователем Google DeepMind, его предложении создать частно-государственный регулятор ИИ. Маск считает, что ведущим ИИ-компаниям стоит регулярно собираться для обсуждения безопасности и перед выпуском мощной модели давать конкурентам время на тестирование через API. Он считает, что именно конкуренты лучше способны выявить проблемы, чем чиновники. В качестве примера он привел Американскую ассоциацию кинокомпаний, которая самостоятельно присваивает рейтингам фильмам.
Государство должно вмешиваться лишь в случае, если компания отказывается устранять выявленные опасности. Он упомянул инцидент с моделью Claude Mythos, где риски в области кибербезопасности были выявлены Amazon, а не чиновниками.
На вопрос о возможности сотрудничества между людьми, которые «публично оскорбляют друг друга», Маск ответил: «Если нужно будет поговорить — поговорим. Поставим личные разногласия на паузу ради общего блага». Он также считает важным подключить к этому процессу китайские компании, работающие над продвинутыми моделями.
Китай, электричество и литография
Liu Hui / VCG via Getty Images
По мнению Маска, китайские компании уже демонстрируют выдающиеся результаты с текущими скромными вычислительными мощностями, и с увеличением ресурсов они могут стать лидерами. Ограничивающими факторами для ИИ он видит электричество и чипы. Китай уже производит больше электроэнергии, чем США, Европа и Индия вместе, и в будущем это число может увеличиться вчетверо по сравнению с США. Однако Китай сталкивается с ограничениями в производстве передовых чипов из-за американского контроля импорта, в то время как остальной мир — с ограничениями по энергии и холодным охлаждением. Маск также упомянул, что Китай может оказаться ближе к решению проблем литографии, чем считают многие, и выделил китайские робототехнические компании, которые вызывают его интерес.
Карелов согласен с выводами относительно ключевых факторов:
«В некоторых аспектах Китай уже обгоняет (например, в открытых моделях). Но в других он отстает (например, в литографических машинах для производства чипов). Наличие высокопроизводительных чипов и доступная энергия действительно могут стать решающими факторами через пару лет. Как будет развиваться ситуация дальше — неизвестно».
Лукацкий признает мощь китайской энергетики, однако не согласен с тем, что прогресс в ИИ можно сравнивать с генерацией электричества:
«Это все равно что сравнивать военную мощь с нефтяными запасами. ИИ-стек включает в себя энергию, электросети, дата-центры, ускорители, данные, алгоритмы и таланты».
Он отмечает, что рейтинг Stanford AI Index 2026 показывает, что в 2025 году США создали 59 ИИ-моделей, в то время как Китай — 35. При этом Китай ведет по количеству научных публикаций и патентов. Разрыв в качестве становится все меньше, и к марту 2026 года лидирующая модель из США опережала китайскую лишь на 2,7%, тогда как инфраструктурный разрыв все еще огромен — согласно данным Stanford, число дата-центров в США составляет 5427, что более чем в десять раз превышает количество в других странах.
Лукацкий рассматривает проблему чипов как наиболее болезненную, подчеркивая, что без современной микроэлектроники дешевая энергия не решит никаких проблем — «достаточно взглянуть на Россию». Он предполагает, что Китай сможет достичь технологического паритета в ИИ-моделях гораздо быстрее, чем предполагали два-три года назад. Но постановка вопроса о «превосходстве США в ИИ» является неудачной. Лидировать можно в различных аспектах, говорит он: США могут превосходить в фундаментальных моделях и чипах, в то время как Китай — в производстве и масштабах.
ИИ уже пишет код лучше 90% разработчиков
Говоря о влиянии ИИ на рынок труда, Маск заявил, что ИИ уже пишет код лучше «как минимум 90% профессиональных инженеров-программистов» и скоро достигнет 99%, а затем уровня Stockfish — шахматного движка, способного обыграть лучших игроков мира. По его словам, этот путь будет сложным, так как ИИ сможет выполнять любую работу лучше человека, особенно это касается задач, выполняемых на компьютере или с телефона.
Здесь мнения экспертов расходятся. Карелов полностью согласен с Маском, тогда как Лукацкий считает, что бизнесмен путаница между способностью писать код и быть хорошим инженером:
«Современный ИИ действительно может решить задачи по программированию лучше многих. Однако инжиниринг программного обеспечения включает в себя множество аспектов: понимание требований, архитектуру, работу с устаревшими технологиями, переговоры, компромиссы и многое другое».
По существующим бенчмаркам тезис Маска пока не подтверждается, хотя прогресс действительно впечатляющий, и слова бизнесмена могут стать реальностью быстрее, чем принято считать.
Изобилие, отмена денег и универсальный высокий доход
Наиболее смелый прогноз Маска касается экономики. Он видит вероятный исход гонки ИИ в виде изобилия, когда каждый сможет получить все, что хочет. Экономику он предлагает понимать как взаимодействие цифрового и физического интеллекта — цифровому не хватает «конечных эффекторов», и согласно его мнению, это обеспечат человекоподобные роботы, создавая «квазибесконечную экономику».
Igal Ness / Unsplash
Исходя из этого, он предсказывает, что к 2036 году деньги потеряют значение, ведь они нужны только для товаров и услуг. Маск сравнил работу с садоводством — хотя покупные овощи будут лучше, заниматься садом приятно. Для тех, кто останется без заработка, он предлагает выплачивать универсальный высокий доход, а на вопрос о источниках средств ответил, что казначейству следует просто «выписывать чеки». Он не опасается инфляции, утверждая, что если производство товаров растет быстрее, чем денежная масса, то возникнет дефицит.
Карелов считает, что постановка вопроса устарела:
«Экономика гибридного общества людей и ИИ подчиняется иным законам, чем традиционная экономика. «Взрывного роста производства товаров и услуг» не будет. Главное ограничение — не ИИ, а люди и их способность адаптироваться».
Лукацкий согласен с логикой Маска, но не с выводами. Он подчеркивает, что дефицит не исчезает для всех ресурсов:
«Каким образом можно решить проблемы дефицита внимания, энергии и экосистем? Главное правило экономики сохраняется — если желающих получить ресурс больше, чем самого ресурса, требуется механизм распределения, и это, в основном, деньги».
Он также отмечает, что не следует сосредотачиваться на отдельных прогнозах. Маск говорит о реальном переходе от экономики, где основное ограничение — труд, к экономике, где основными ограничениями станут вычислительные мощности и физические ресурсы. Если интеллектуальный труд начнет масштабироваться так же, как вычисления, и физический труд с помощью роботов, экономика действительно может измениться коренным образом:
«Если ИИ сможет превзойти людей в создании новых технологий, этот переход станет одним из механизмов, способствующих экспоненциальному росту и объясняющим как оптимистичные прогнозы роста, так и страх перед утратой контроля».