Юрген Шмидхубер: будущее искусственного интеллекта неостановимо и для всех

Юрген Шмидхубер — уникальная фигура в мире искусственного интеллекта: ученый и провокатор с большим послужным списком новаторских исследований, откровенных мнений и грандиозных видений.

Шмидхубер широко известен как один из первых первопроходцев в области глубокого обучения и нейронных сетей. Большая часть его карьеры была посвящена разработке таких архитектур ИИ, как сети с долговременной кратковременной памятью (LSTM), которые имеют фундаментальное значение для моделирования языка, распознавания речи и приложений, управляемых ИИ. Эти достижения, сделанные Шмидхубером и его коллегами, используются во всех устройствах, которые мы сегодня используем — вспомните персональные ассистенты, такие как Siri от Apple или Alexa от Amazon.

Шмидхубер занимал пост научного директора IDSIA, лаборатории ИИ, расположенной в швейцарском городе Лугано, где он провел значительную часть своей карьеры, а также преподавал ИИ в Университете Лугано. В 2014 году он объединился со своими бывшими студентами и стал соучредителем стартапа под названием Nnaisense для работы над искусственным интеллектом общего назначения. Он является автором более 350 рецензируемых статей и получил признание за свою работу, а также награду Neural Networks Pioneer от IEEE Computational Intelligence Society.

Однако его деятельность не лишена противоречий. Шмидхубер открыто обвинял других видных деятелей ИИ в плагиате работ его команды. В прошлом году он написал длинный пост на сайте X, в котором обвинил Нобелевские премии в поощрении плагиата и неправильного присвоения авторства.

Он также часто расходится с технологическим сообществом, когда речь заходит об опасностях ИИ: он утверждает, что заявления об экзистенциальной угрозе ИИ для человечества преувеличены. Два года назад он отказался подписать открытое письмо «Приостановить гигантские эксперименты с ИИ», в котором говорилось об этике ИИ и которое поддержали ведущие ученые и технологические основатели, включая Элона Маска.

Шмидхубер указал на две проблемы с этим письмом: «Если вы спросите 10 разных людей, вы получите 10 разных мнений о том, что является «хорошим» и «этически приемлемым», — сказал он. Некоторые из этих мнений будут совершенно непримиримыми». Я предсказывал, что это письмо не окажет существенного влияния, потому что многие исследователи ИИ, компании и правительства полностью проигнорируют его. И я оказался прав». Он также постоянно говорит, что «многие из тех, кто публично предупреждает об опасностях ИИ, просто ищут пиара».

В 2021 году Шмидхубер был назначен директором по искусственному интеллекту в Университете науки и технологий имени короля Абдаллы (KAUST) в Саудовской Аравии, где он работает в настоящее время. Его работа, помимо руководства программой по информатике, сосредоточена на исследованиях в области применения ИИ в нескольких отраслях, включая здравоохранение, химию, распознавание речи, робототехнику и автоматизацию. Его приезд совпадает с попыткой Саудовской Аравии стать мировым центром технологий и ИИ, в то время как Китай и США борются за глобальное влияние. С момента принятия плана модернизации экономики и общества, известного как «Видение 2030», Саудовская Аравия взяла на себя обязательства и запустила амбициозные инфраструктурные и футуристические проекты, общая сумма которых превышает триллион долларов. «Да, это будет стоить денег, но в этой стране много денег», — сказал Шмидхубер. The New York Times в прошлом году.

По его просьбе мы со Шмидхубером провели это интервью по электронной почте. Он попросил, чтобы я отправлял ему по электронной почте только один вопрос за раз, чтобы у нас получилось «постоянно развивающееся интервью с естественным и логичным течением». Ниже приводится слегка отредактированная и сокращенная беседа из нашего обмена мнениями.

Весь мир очарован моделью R1 компании DeepSeek и ее потенциалом, способным подорвать конкурентные преимущества Запада в области ИИ. Все пытаются понять, что это значит — для Запада, для Китая и для сотрудничества над конкуренцией. Как вы анализируете всю реакцию на данный момент?

Говорят, что ИИ — это новая нефть или новое электричество. И некогда проворные и высокоприбыльные софтверные компании, такие как Microsoft и Google, стали почти как коммунальные предприятия, инвестируя в атомную энергию, в том числе для обеспечения работы центров обработки данных ИИ. Open Source и DeepSeek еще раз показали, что у таких компаний нет рва в области ИИ.

Во многих выступлениях за последнее десятилетие я упоминаю одного богатого парня, которого знал в молодости. У него был Porsche с чем-то невероятным: мобильным телефоном. Он мог звонить через спутник другим людям, у которых тоже был такой Porsche. Но 40 лет спустя у каждого в кармане был дешевый смартфон, который во многом превосходил то, что было у него в Porsche.

То же самое происходит с искусственным интеллектом. Каждые пять лет вычислительная техника становится в 10 раз дешевле — эта тенденция сохраняется с тех пор, как в 1941 году был создан первый компьютер общего назначения. Основные методы современного ИИ были разработаны в предыдущем тысячелетии, когда вычислительная техника была еще очень дорогой, но эта тенденция сделала их настолько дешевыми, что ИИ уже в 2010-х годах работает на вашем смартфоне.

В ближайшие десятилетия эта тенденция не прервется. Центр обработки данных с искусственным интеллектом, который сегодня стоит 500 миллиардов долларов, через пять лет будет стоить всего 50 миллиардов долларов, а через 10 лет — 5 миллиардов долларов. Вскоре меньшие и более дешевые компьютеры со все более эффективным программным обеспечением ИИ с открытым исходным кодом будут делать то, что сегодня делают крупные центры обработки данных. Таким образом, ИИ не будет контролироваться несколькими крупными ИИ-компаниями. Каждый будет владеть дешевым, но мощным и прозрачным ИИ, который улучшит его жизнь во многих отношениях. Посмотрите на старый девиз нашей компании Nnaisense, основанной в 2014 году: «AI∀» или «AI для всех».

Справедливо ли тогда сказать, что большой открытый вопрос с точки зрения гонки ИИ заключается не в том, кто разработает лучшие модели ИИ, а в том, кто сможет лучше всего применить их для решения реальных задач? Как на самом деле выглядит «ИИ для всех» на местах — особенно в странах с развивающейся экономикой, таких как Саудовская Аравия, Индия и Индонезия?

Почти все основные методы современного ИИ, основанные на искусственных нейронных сетях с глубоким обучением, были разработаны в Европе в прошлом тысячелетии. Некоторые из них были разработаны в Японии. Но в коммерческих приложениях сейчас доминируют США и Китай. Однако любой человек в остальном мире может загрузить или переработать старые алгоритмы, усовершенствовать их и адаптировать для применения в конкретных странах. ИИ для всех! Как и всегда в бизнесе, процветать будут те, кто умеет балансировать между затратами и прибылью.

Последние Отчет об индексе ИИ от Стэнфордского университета говорится, что ИИ создает высококачественную работу, делает людей более продуктивными и способствует научным открытиям. Вы всегда с оптимизмом относились к ИИ и говорили, что большинство исследований и разработок в области ИИ направлены на решение самых серьезных проблем, с которыми сталкиваются люди. Так почему же так много нервозности и паранойи по поводу того, что сделает ИИ? Что вы скажете обычному человеку, который опасается возможностей ИИ?

Я не думаю, что средний человек боится ИИ. Большинство людей могут назвать полезные применения ИИ. Они просто предпочитают смотреть глупые антиутопии. [Arnold] Шварценеггера, а не документальный фильм об искусственном интеллекте, который улучшает здравоохранение. Дело в развлечении. Со времен романа Э.Т.А. Гофмана 1816 года о прекрасном человекоподобном роботе научно-фантастические истории об ИИ были сосредоточены на антиутопиях. И некоторые современные исследователи ИИ, стремящиеся к публичности, также используют привлекательность сценариев конца света.

Как вы думаете, чего не хватает в дискуссиях об ИИ, особенно в западных СМИ?

Многие говорят об AGI [artificial general intelligence] сейчас. Когда-нибудь он появится, но не сейчас. Единственный ИИ, который сегодня хорошо работает, — это ИИ в виртуальном мире за экраном — например, для автоматического обобщения документов, создания изображений, программ и слайдов PowerPoint. ИИ в физическом мире гораздо сложнее. Пройти тест Тьюринга за экраном или решить некоторые сложные математические задачи проще, чем настоящий ИИ для настоящих роботов в реальном мире. Не существует робота, способного сделать то, что может сделать водопроводчик. Так много еще предстоит сделать. И мало кто об этом говорит. В 2014 году мы основали исследовательскую компанию для разработки реального ИИ в физическом мире, но даже сегодня таких компаний не так много. Настоящий ИИ — это сложно. Я думаю, что это будет следующим большим шагом.

Еще один важный момент, упущенный из виду в дебатах, заключается в том, что у нас есть не только контролируемый ИИ, который рабски подражает человеческим учителям или преследует определенные человеком цели. С 1990 года в моей лаборатории мы также создали искусственные нейронные сети, которые сами ставят перед собой цели, задают вопросы и придумывают собственные эксперименты, чтобы узнать, как устроен мир, строя модели мира, как это делают дети. Я назвал это искусственным любопытством и творчеством, и при дальнейшем аппаратном ускорении оно будет масштабироваться так же, как масштабировались концептуально более простые и менее общие большие языковые модели. Без свободы ставить собственные цели и придумывать собственные проблемы ИИ не станет очень умным. Но как заставить их ориентироваться на человеческие цели? Об этом мало кто говорит.

Это действительно интересно. Как сбалансировать искусственное любопытство с целями, ориентированными на человека? Можно ли программно установить ограждения, чтобы программы ИИ соответствовали нашим ценностям, но при этом имели возможность исследовать и учиться автономно?

Прагматичный ответ таков: Мы должны воспитывать такие системы так же, как воспитываем своих детей. Мы не можем доказать, что наши дети не будут вечно сходить с ума. Но мы можем значительно повысить вероятность того, что они станут полезными членами нашего общества, периодически давая им навязанные извне задания и наказывая (награждая) их за плохое (хорошее) поведение.

С другой стороны, любопытные системы очень трудно предсказать, и трудно или невозможно доказать, что любопытство не убьет кошку или других людей. Именно поэтому я потратил много времени на то, чтобы распространить информацию о таких системах, заставить людей понять, что они уже существуют, и задуматься об их возможных последствиях.

Я хочу сделать шаг назад на мгновение. Как ваш опыт и ваши ценности вдохновили вас на то, чтобы заняться разработкой ИИ?

В подростковом возрасте я был ленив. Я старался делать домашние задания и решать другие проблемы с минимальными усилиями. Если что-то было для меня необъяснимо, я искал самое простое возможное объяснение. Поэтому вполне естественно, что в 1970-х годах у меня появилось стремление найти простейшее объяснение для всей Вселенной, а также создать ИИ, который мог бы решать задачи. все решить все проблемы в течение моей жизни, чтобы я мог уйти на пенсию. Этим, собственно, и объясняются все мои последующие работы, например, самый быстрый алгоритм вычисления всех вычислимых вселенных, теоретически оптимальные AGI, такие как машина Гёделя, и все эти нейронные сети глубокого обучения для практического ИИ, например, основанные в 1991 году G, P и T в ChatGPT.

Каково это, когда тебя называют «отцом искусственного интеллекта»?

Один человек не может создать ИИ с нуля. Нужна целая цивилизация. Нужны люди для создания алгоритмов, базовых методов обучения и так далее. Но вам также нужны компьютеры, на которых будут работать эти алгоритмы обучения. А еще нужны люди, которые разрабатывают и ускоряют компьютеры. В моем обзоре «Аннотированная история современного ИИ и глубокого обучения» упоминаются некоторые из первопроходцев, на плечах которых мы стоим. Затем вам нужны люди, которые добывают руду из земли, чтобы построить эти компьютеры, а затем вам нужны фермеры, которые производят еду, чтобы прокормить всех этих людей, которые этим занимаются. И, конечно, нужны покупатели, например игроки в видеоигры, потому что иначе не было бы рынка для этих компьютеров, а значит, не было бы и стимула их создавать. Опять же, чтобы создать ИИ, нужна целая цивилизация.

Вы размышляете о людях и человечестве на протяжении всей своей карьеры. Мне интересно, как амбиции Саудовской Аравии и ее видение ИИ согласуются с вашей жизненной деятельностью и стремлением к будущему ИИ?

Саудовская Аравия прошла долгий путь всего за несколько лет. Вряд ли какая-либо другая страна имеет такую высокую первую производную изменений, что делает ее чрезвычайно интересным местом. В частности, в стране проживает в шесть раз больше людей, чем 50 лет назад. Большинство из них молоды и оптимистичны; многие верят, что ИИ изменит их жизнь к лучшему. Примечательно, что неожиданно открылись огромные возможности для женщин, а процент стартапов с женщинами-основателями выше, чем в Европе или Калифорнии.

Мой собственный университет на берегу Красного моря находится недалеко от истоков человеческой цивилизации и полон блестящих ученых со всего мира: Здесь работают представители более чем 100 национальностей, которые наслаждаются прекрасными условиями труда и высоким качеством жизни. В KAUST мы можем заниматься теми исследованиями в области ИИ, которые считаем наиболее важными.

Как ученые, мы обычно публикуем свои результаты для всеобщего обозрения и открываем код ИИ, чтобы весь мир мог воспользоваться саудовским финансированием, а не только местные жители. Мы надеемся, что наша работа над ИИ будет способствовать наступлению нового золотого века науки, аналогичного исламскому золотому веку, начавшемуся более тысячелетия назад, когда Ближний Восток лидировал в мире в области науки и технологий — особенно в области автоматической обработки информации.

Насколько желание Саудовской Аравии возглавить новый золотой век науки и технологий является следствием принятой в королевстве программы Vision 2030? И насколько ваши собственные исследования в области ИИ сейчас находятся под влиянием Vision 2030?

Видение 2030 — это смело. Моя же главная цель в жизни по-прежнему остается старой, еще с подростковых лет: создать ИИ, который будет действительно умнее меня во всех значимых отношениях. Мы еще не достигли этой цели. Поскольку это будет иметь такие далеко идущие последствия, оно совместимо практически с любым видением неограниченного будущего процветания с помощью ИИ.

Какой вы видите роль Саудовской Аравии в глобальной экосистеме ИИ в ближайшем будущем, скажем, в ближайшие пять лет? Есть ли у вас конкретный мандат в отношении секторов, на которых следует сосредоточить свои исследования в области ИИ, и есть ли конкретные инициативы, которые страна готова возглавить?

Королевство и его Государственный инвестиционный фонд (PIF) готовы инвестировать огромные суммы в ИИ. Существует крупная саудовская программа под названием «Экономика будущего», которая включает в себя развитие умных городов, освоение космоса, квантовые вычисления и ИИ. В центре внимания нашего Центра генеративного ИИ KAUST, как вы уже догадались, находится генеративный ИИ. Исследования моей команды в области ИИ носят фундаментальный характер и применимы практически во всех областях.

Можете ли вы привести конкретный пример одного из применений моделей генеративного ИИ, которыми ваша команда сейчас наиболее увлечена?

В настоящее время исследователи KAUST разрабатывают ИИ-химика, который понимает химию, «читая» химические статьи, патенты и другие документы, а также предсказывая вычислительные свойства молекул и реакций. В настоящее время этот ИИ-химик настраивается на работу с реальными химическими реакциями путем интеграции в роботизированную химическую лабораторию, которая полностью автоматизирует процесс химической реакции — люди для ее проведения не нужны. Таким образом, ИИ-химик может открывать новые реакции и создавать новые материалы с особыми свойствами, которые раньше были недоступны. В том числе открывать новые химические реакции, позволяющие увеличить производительность или минимизировать отходы, а также открывать новые материалы для прямого улавливания углерода в воздухе. Благодаря тому, что такие искусственные ученые смогут управлять своими лабораториями, процесс научных открытий будет революционизирован.

Как скоро мы увидим нечто подобное в мейнстримной науке?

Простой ИИ-химик уже используется во многих лабораториях по всему миру для разработки новых лекарств.

Как вы представляете себе взаимодействие между человеческим творчеством и инновациями ИИ в ближайшие десятилетия? Учитывая темпы изменений, какими вам представляются эти отношения?

В настоящее время некоторые люди все еще более креативны, чем даже самые креативные машины. Однако по мере того как вычислительная техника будет дешеветь в 10 раз каждые пять лет, искусственные ученые и художники будут расширяться, и в недалеком будущем самые творческие и влиятельные ученые перестанут быть людьми.

Это повод для беспокойства? Вы сказали в предыдущем интервью что «лень и эффективность — отличительная черта интеллекта» и что «любое разумное существо стремится минимизировать свои усилия для достижения целей». В наши дни одна из тенденций на социальных платформах — учить людей лайфхакам, задавая правильные вопросы различным моделям ИИ, в частности ChatGPT. Стоит ли беспокоиться, что в какой-то момент, когда машины станут более креативными и влиятельными, люди перестанут учиться у этих моделей ИИ и начнут опираться на них в каждом аспекте своей жизни?

Этот вопрос напоминает мне о том, что произошло полтысячелетия назад. После появления печатного станка Гутенберга люди стали меньше учиться на физическом опыте в реальном мире, а вместо этого почти во всех аспектах своей жизни полагались на эти внезапно ставшие широко доступными печатные тексты. В частности, [Martin] Лютер использовал новую технологию, чтобы положить начало единственному крупному религиозному движению за последние 1000 лет — Реформации. Затем католики стали использовать печатный станок, утверждая, что Лютер распространял фальшивые новости. Затем ученые стали использовать его для продвижения других идей. Сегодня большинство людей согласятся с тем, что печать и чтение необходимы современному обществу. Так же будет и с искусственным интеллектом.

Похоже, что мир должен ожидать, что ИИ вызовет такие же разрушения, прежде чем полностью интегрируется в нашу повседневную жизнь. В постоянных дебатах о том, как ИИ должен быть внедрен в нашу жизнь и работу, мы часто слышим словосочетание «этичный ИИ». Что этот термин означает для вас?

Я не уверен, что именно представляет собой «этичный ИИ». Похоже, этические нормы во многом зависят от обстоятельств, места и времени. Инсайдеры рассказали мне, что искусственные нейронные сети, изобретенные в моей лаборатории, не только улучшают медицинское обслуживание, но и управляют военными беспилотниками. Разве это неэтично? Многие украинцы могут возразить, что защита от российской военной машины оправдывает беспилотники, управляемые ИИ.

А вот мой старый банальный пример из 1980-х годов, когда в моем родном городе Мюнхене появились самодвижущиеся автомобили: Подобные машины могут использоваться и военными, например, в качестве самодвижущихся миноискателей, и многие будут утверждать, что это этически приемлемое военное использование ИИ. Я подписывал письма, предостерегающие от оружия ИИ. Но я не подписывал «Остановить гигантские эксперименты с ИИ: Открытое письмо». В нем часто используется слово «мы» и говорится о «нас», людях. Но, как я уже неоднократно отмечал в прошлом, не существует «мы», с которым все могли бы себя отождествить. Спросите 10 разных людей, и вы получите 10 разных мнений о том, что такое «хорошо» и «этически приемлемо». Я предсказывал, что это письмо не окажет существенного влияния, потому что многие исследователи ИИ, компании и правительства полностью проигнорируют его. И я оказался прав.

На Западе исследовательская программа KAUST в области ИИ иногда рассматривается как место битвы между США и Китаем, во многом потому, что ваша работа привлекает студентов и профессоров из Китая. Насколько ваша работа связана с заботой о том, чтобы не напугать американцев, или у вас есть свобода действий?

KAUST фактически создан по образцу американских университетов. Бывший президент Калифорнийского технологического института также был президентом KAUST, и университет полностью соблюдает требования американского экспортного контроля. И самые ценные американские компании, похоже, очень довольны работой моей команды за последние четыре десятилетия или около того, потому что они много раз использовали ее для удовлетворения потребностей в искусственном интеллекте миллиардов пользователей по всему миру.

Каковы ваши конечные надежды на отношения человечества с ИИ?

В течение многих лет я предсказывал, что наш ИИ будет продолжать делать жизнь людей длиннее, здоровее, проще и счастливее.