Если вы хотите собрать безбожную сумму денег, у вас должны быть какие-то благочестивые причины.
Вот что генеральный директор Anthropic Дарио Амодей изложил нам в пятницу более чем в 14 000 слов: потусторонние способы, которыми общий искусственный интеллект (AGI, хотя он предпочитает называть его «мощным ИИ») изменит нашу жизнь. В блоге под названием «Машины любящей благодати». он предвидит будущее, в котором ИИ сможет сжать 100 лет медицинского прогресса в десятилетие, вылечить психические заболевания, такие как посттравматическое стрессовое расстройство и депрессия, загрузить ваш разум в облако и уменьшить бедность. В то же время сообщается, что Anthropic надеется привлечь новые средства при оценке в 40 миллиардов долларов.
Сегодняшний ИИ не может сделать ровно ничего из того, что представляет себе Амодей. По его собственному признанию, для обучения моделей AGI потребуются вычислительные ресурсы стоимостью в сотни миллиардов долларов, построенные с использованием центров обработки данных стоимостью в триллионы долларов, получающих достаточно энергии из местных электросетей, чтобы обеспечить включенным свет миллионы домов. Не говоря уже о том, что никто не уверен на 100 процентов, что это возможно. Сам Амодей говорит: «Конечно, никто не может знать будущее с какой-либо уверенностью или точностью, а последствия мощного ИИ, вероятно, будут еще более непредсказуемыми, чем прошлые технологические изменения, поэтому все это неизбежно будет состоять из догадок».
Руководители ИИ освоили искусство грандиозных обещаний перед массовым сбором средств. Возьмем, к примеру, Сэма Альтмана из OpenAI, чей блог «Век интеллекта» предшествовал ошеломляющему раунду инвестиций в 6,6 миллиарда долларов. В блоге Альтмана он заявил, что через «несколько тысяч дней» в мире появится сверхразум и что это приведет к «массовому процветанию». Это убедительное представление: нарисуйте утопическое будущее, намекните на решение самых глубоких страхов человечества — смерти, голода, бедности — а затем докажите, что только устранив некоторый С помощью избыточных ограждений и вливаний беспрецедентного капитала мы сможем достичь этого технорая. Это блестящий маркетинг, позволяющий использовать наши самые большие надежды и тревоги, одновременно уклоняясь от необходимости в конкретных доказательствах.
Время публикации этого блога также подчеркивает, насколько жестока конкуренция. Как отмечает Амодей, утопический манифест из 14 000 слов совершенно не соответствует Anthropic. Компания была основана после того, как Амодей и другие покинули OpenAI из соображений безопасности, и она заработала репутацию компании, занимающейся трезвой оценкой рисков, а не мечтательным футуризмом. Именно поэтому компания продолжает переманивать исследователей безопасности из OpenAI. Даже в сообщении на прошлой неделе он настаивает, что Anthropic будет отдавать предпочтение откровенным обсуждениям рисков ИИ, а не соблазнительным видениям техноутопии.
«Технические гиганты уже давно пропагандируют свои инновации как решения, спасающие мир».
Но безопасность не является захватывающей темой для презентаций, и ежедневно появляются новые претенденты. Соучредитель OpenAI Илья Суцкевер запустил собственную лабораторию искусственного интеллекта, а уходящая технический директор OpenAI Мира Мурати, по слухам, начинает собственное предприятие. Блог Амодеи предназначен не только для того, чтобы продать свое видение, но и для того, чтобы оставаться конкурентоспособным.
Несмотря на его заявленное отвращение к грандиозным притязаниям, он тратит тысячи слов рисуя будущее, в котором ИИ сможет изменить судьбу человечества (по-видимому, соответствует сдержанным словам Альтмана, ставшим легендой в технических кругах). В посте упоминается только одно упоминание о согласованности, то есть обеспечении того, чтобы системы ИИ работали в соответствии с человеческими ценностями, и не упоминается о безопасности. Это противоречие раскрывает суровую правду: в мире развития искусственного интеллекта, где ставки высоки, даже те, кто опасается шумихи, вынуждены играть в игру грандиозных обещаний, чтобы обеспечить важное финансирование.
Прямо сейчас существует невероятный разрыв между тем, на что способна эта технология, и утопией, которую представляют себе лидеры ИИ. Это вызвало множество справедливой критики — как он изменит мир всего за несколько лет, если не сможет даже достоверно подсчитать количество букв R в слове «клубника»? В чем ИИ надежно превосходит сейчас автоматизирует рутинные задачи и анализирует огромные наборы данных, выявляя закономерности с возрастающей точностью. Эта сила уже помогает таким областям, как финансы, медицина и автономные транспортные средства. Но хотя эти достижения впечатляют, заявления, подобные утверждениям Амодеи, о том, что ИИ может «структурно способствовать демократии», кажутся преждевременными и чрезмерно оптимистичными. Стоит отметить, что сторонники AGI считают его пост в блоге слишком скучным (чего Амодей и предвидел в своем блоге, написав в сносках, что им следует «тронуть траву»).
Сообщение в блоге Амодеи не предназначено для обычного читателя, интересующегося искусственным интеллектом, и не является убедительным планом будущего искусственного интеллекта — опять-таки, вещи, которой нет и, возможно, никогда не будет существовать в той форме, которую представляет себе индустрия искусственного интеллекта. Это предложение для инвесторов: верните Anthropic, и вы не просто финансируете компанию; вы покупаете долю в светлом будущем человечества. С разной степенью тонкости именно это обещает каждый руководитель ИИ — Альтман из OpenAI, Илон Маск из xAI, Сергей Брин из Google. Присоединяйтесь к их видению будущего или останетесь позади.
Несмотря на всю новизну ИИ, технологические гиганты уже давно пропагандируют свои инновации как решения, спасающие мир. Марк Цукерберг представил универсальный Интернет как лекарство от бедности. Брин однажды заявил, что Google может «вылечить смерть». Маск представил межпланетные амбиции SpaceX как окончательный запасной план для нашего вида (а в последнее время как необходимость проголосовать за Дональда Трампа). Но когда в обращении находится ограниченное количество денег инвесторов, альтруизм становится игрой с нулевой суммой. В роли технологического магната в «Майке Джадже» Кремниевая долина Как известно, он сказал: «Я не хочу жить в мире, где кто-то другой делает мир лучше, чем мы».
Амодей ясно осознает, что может показаться преувеличением. «Компании, занимающиеся искусственным интеллектом, говорящие обо всех удивительных преимуществах искусственного интеллекта, могут выглядеть как пропагандисты или как будто они пытаются отвлечь внимание от недостатков», — пишет он. Это не помешало ему сыграть свою роль.
«Это вещь необыкновенной красоты», — завершает свой блог Амодей. «У нас есть возможность сыграть небольшую роль в том, чтобы это стало реальностью».