Генеральный директор Anthropic Дарио Амодей хочет, чтобы вы знали, что он не «убийца» искусственного интеллекта.
По крайней мере, так я прочитал «падение микрофона» в эссе из примерно 15 000 слов, которое Амодей опубликовал в своем блоге поздно вечером в пятницу. (Я попытался спросить чат-бота Клода Anthropic, согласен ли он, но, увы, длина сообщения превысила ограничение по длине бесплатного плана.)
В общих чертах Амодей рисует картину мира, в котором все риски ИИ смягчены, а технология обеспечивает ранее нереализованное процветание, социальный подъем и изобилие. Он утверждает, что это не делается для того, чтобы свести к минимуму недостатки ИИ: вначале Амодей, не называя имен, нацеливается на компании, занимающиеся ИИ, которые перепродают и в целом пропагандируют возможности своих технологий. Но можно возразить, что это эссе слишком сильно склоняется к техноутопическому направлению, делая утверждения, просто не подкрепленные фактами.
Амодей считает, что «мощный ИИ» появится уже в 2026 году. мощный ИИ, он имеет в виду ИИ, который «умнее лауреата Нобелевской премии» в таких областях, как биология и инженерия, и который может выполнять такие задачи, как доказательство нерешенных математических теорем и написание «чрезвычайно хороших романов». Этот ИИ, по словам Амодеи, сможет управлять любым программным или аппаратным обеспечением, которое только можно себе представить, включая промышленное оборудование, и, по сути, выполнять большую часть работы, которую люди выполняют сегодня, но лучше.
«[This AI] может участвовать в любых действиях, общении или удаленных операциях… включая действия в Интернете, указание или указание людям, заказ материалов, руководство экспериментами, просмотр видео, создание видеороликов и так далее», — пишет Амодей. «У него нет физического воплощения (кроме жизни на экране компьютера), но он может управлять существующими физическими инструментами, роботами или лабораторным оборудованием через компьютер; теоретически оно могло бы даже разрабатывать роботов или оборудование для собственного использования».
Многое должно было произойти, чтобы достичь этой точки.
Даже лучший ИИ сегодня не может «думать» так, как мы это понимаем. Модели не столько рассуждают, сколько воспроизводят закономерности, которые они наблюдали в своих обучающих данных.
Если предположить, что в целях аргументации Амодеи индустрия искусственного интеллекта вскоре «решит» человеческое мышление, сможет ли робототехника догнать его, чтобы позволить будущему искусственному интеллекту проводить лабораторные эксперименты, производить свои собственные инструменты и так далее? Хрупкость сегодняшних роботов означает, что это далекая перспектива.
И все же Амодей настроен оптимистично, очень оптимистично.
Он считает, что в ближайшие 7–12 лет ИИ сможет помочь в лечении почти всех инфекционных заболеваний, ликвидации большинства видов рака, излечения генетических нарушений и остановки болезни Альцгеймера на самых ранних стадиях. Амодей считает, что в ближайшие 5–10 лет такие состояния, как посттравматическое стрессовое расстройство, депрессия, шизофрения и зависимость, будут излечиваться с помощью лекарств, созданных с помощью ИИ, или генетически предотвращаться с помощью скрининга эмбрионов (спорное мнение). существуют средства, которые «настраивают когнитивные функции и эмоциональное состояние», чтобы «получить [our brains] вести себя немного лучше и получать больше удовлетворения от повседневной жизни».
Если это произойдет, Амодей ожидает, что средняя продолжительность жизни человека удвоится и составит 150 лет.
«Мой основной прогноз заключается в том, что биология и медицина с поддержкой ИИ позволят нам сжать прогресс, которого биологи-люди могли бы достичь в течение следующих 50–100 лет, до 5–10 лет», — пишет он. «Я буду называть это «сжатым 21 веком»: идея о том, что после разработки мощного ИИ мы за несколько лет добьемся такого же прогресса в биологии и медицине, которого мы достигли бы за весь 21 век».
Это тоже кажется преувеличением, учитывая, что ИИ еще не радикально изменил медицину — и, возможно, не в течение некоторого времени или никогда. Даже если ИИ действительно сократит трудозатраты и затраты на проведение доклинических испытаний лекарства, на более позднем этапе он может потерпеть неудачу, как и лекарства, разработанные человеком. Учтите, что ИИ, используемый сегодня в здравоохранении, оказался предвзятым и рискованным по ряду причин, или его невероятно сложно внедрить в существующих клинических и лабораторных условиях. Предполагать, что все эти и многие другие проблемы будут решены примерно в течение десятилетия, кажется весьма амбициозным.
Но Амодей не останавливается на достигнутом.
Он утверждает, что ИИ может решить проблему голода в мире. Это может переломить ситуацию в изменении климата. И это могло бы трансформировать экономику большинства развивающихся стран; Амодей считает, что ИИ может довести ВВП на душу населения в странах Африки к югу от Сахары (1701 доллар США по состоянию на 2022 год) до ВВП на душу населения Китая (12 720 долларов США в 2022 году) за 5-10 лет.
Это смелые заявления, хотя они, вероятно, знакомы каждому, кто слушал последователей движения «Сингулярность», ожидающего аналогичных результатов. К чести Амодеи, он признает, что такое развитие событий потребует «огромных усилий в области глобального здравоохранения, благотворительности, [and] политическая пропаганда», которая, как он утверждает, будет происходить, потому что это отвечает лучшим экономическим интересам мира.
Если бы это было так, это было бы драматическим изменением в человеческом поведении, учитывая, что люди снова и снова доказывают, что их основной интерес заключается в том, что принесет им выгоду в краткосрочной перспективе. (Обезлесение — лишь один из тысяч примеров.) Также стоит отметить, что многие работники, ответственные за маркировку наборов данных, используемых для обучения ИИ, получают гораздо меньше минимальной заработной платы, в то время как их работодатели получают десятки миллионов — или сотни миллионов — капитала от результаты.
Амодей вкратце затрагивает опасность ИИ для гражданского общества, предлагая, чтобы коалиция демократических стран защитила цепочку поставок ИИ и заблокировала противников, которые намереваются использовать ИИ во вредных целях, с помощью средств мощного производства ИИ (полупроводников и т. д.). В то же время он предполагает, что ИИ в умелых руках может быть использован для «подрыва репрессивных правительств» и даже уменьшения предвзятости в правовой системе. (ИИ исторически усугубил предвзятость в правовой системе.)
«По-настоящему зрелое и успешное внедрение ИИ потенциально может уменьшить предвзятость и стать более справедливым для всех», — пишет Амодей.
Итак, если ИИ возьмет на себя всю мыслимую работу и будет делать ее лучше и быстрее, не оставит ли это людей в экономическом положении? Амодей признает, что да, и что в этот момент обществу придется поговорить о том, «как должна быть организована экономика».
Но он не предлагает никакого решения.
«Людям действительно нужно чувство выполненного долга, даже чувство конкуренции, и в мире после ИИ вполне возможно будет потратить годы на попытку решить какую-то очень трудную задачу со сложной стратегией, подобно тому, что люди делают сегодня, когда начинают исследовательские проекты, попытаться стать голливудскими актерами или основать компании», — пишет он. «Тот факт, что (а) ИИ где-то в принципе мог бы выполнить эту задачу лучше, и (б) эта задача больше не является экономически вознаграждаемым элементом глобальной экономики, мне кажется, не имеет большого значения».
В заключение Амодей выдвигает идею о том, что ИИ — это просто технологический ускоритель, что люди естественным образом стремятся к «верховенству закона, демократии и ценностям Просвещения». Но при этом он игнорирует многочисленные издержки ИИ. По прогнозам, ИИ окажет – и уже оказывает – огромное воздействие на окружающую среду. И это создает неравенство. Лауреат Нобелевской премии по экономике Джозеф Стиглиц и другие отметили, что перебои в работе труда, вызванные ИИ, могут еще больше сконцентрировать богатство в руках компаний и оставить работников еще более бессильными, чем когда-либо.
В число этих компаний входит Anthropic, как бы не хотелось Амодею это признавать. В конце концов, Anthropic — это бизнес, стоимость которого, как сообщается, составляет около 40 миллиардов долларов. И те, кто извлекает выгоду из технологии искусственного интеллекта, — это, по большому счету, корпорации, единственная ответственность которых — повысить прибыль акционеров, а не улучшить человечество.
Циник мог бы усомниться в своевременности написания эссе, учитывая, что Anthropic, как говорят, находится в процессе привлечения миллиардов долларов в венчурные фонды. Генеральный директор OpenAI Сэм Альтман опубликовал аналогичный технопотимистский манифест незадолго до того, как OpenAI закрыла раунд финансирования на сумму 6,5 миллиардов долларов. Возможно, это совпадение.
Опять же, Амодей не филантроп. Как и у любого генерального директора, у него есть продукт, который он может предложить. Так уж получилось, что его продукт «спасет мир» — и те, кто думает иначе, рискуют остаться позади. По крайней мере, он хотел, чтобы вы поверили.