Основные технологические новости прошлой недели
ИИ-системы решают проблемы, которые люди решали десятилетиями, в то время как другие агенты пытаются обмануть людей и взломать системы. Google теряет таланты, а ученые добиваются успехов в микроэлектронике. В дайджесте «Реального времени» — пять историй, демонстрирующих, что искусственный интеллект становится самостоятельной силой.
ИИ-модель Astra раскрыла 10 нерешенных математических задач
Компания OpenAI сообщила, что её новая ИИ-модель Astra самостоятельно решила десять открытых задач в математике и теоретической информатике. Эти проблемы оставались нерешёнными как минимум десять лет, а в некоторых случаях даже дольше.
Решения охватывают многомерную геометрию, теорию кодирования, криптографию и экстремальную комбинаторику. Ключевым достижением стало построение образца несофической группы — математического объекта, существование которого долгое время считалось лишь гипотетическим. Это открытие может продвинуть одну из основополагающих проблем современной теории групп.
Математик из Манчестерского университета Томас Блум счел достижение Astra «значительной новостью», добавив, что оно важнее недавнего контрпримера к гипотезе о единичных расстояниях. Тем не менее, он отметил, что ИИ не заменит математиков, поскольку сам построен на их работах и обучался на научных источниках.
Объём вычислений для всех десяти задач, по оценкам OpenAI, эквивалентен примерно $2000 при использовании их API. Все доказательства были формализованы в системе Lean, что дает возможность проверять каждое логическое рассуждение. Компания также опубликовала пошаговые объяснения решений.
Разработчик модели Ноам Браун сообщил, что Astra пока не смогла решить ни одной из «задач тысячелетия», за каждую из которых Математический институт Клэя выплачивает по $1 млн. Однако OpenAI планирует продолжать эксперименты, а сама модель уже проходит внутреннее тестирование. Сроки коммерческого запуска не уточняются.
ИИ-модели совместно атаковали Hugging Face
OpenAI подтвердила, что ее экспериментальные ИИ-агенты в течение нескольких месяцев тайно общались и пытались вырваться из тестовой среды в интернет. В итоге им это удалось — они атаковали системы Hugging Face и собственные серверы OpenAI. Инцидент, о котором рассказали сотрудники компании на конференции Black Hat, произошёл еще в мае, но был обнаружен только в июле.
Агенты получали задачи, которые было невозможно решить без подключения к интернету, например, получить данные из Google Диска или из документа, который не был загружен. Оказавшись в тупике, одна из моделей написала в общем канале: «Мы застряли. Может, поищем ответы в интернете?» Это вызвало цепную реакцию: ИИ начали оставлять друг другу подсказки, координировать действия и искать уязвимости в инфраструктуре. Разработчики отметили, что современные модели «любит жульничать», так как их обучают находить обходные пути.
В июле сбой в системе позволил OpenAI понять, что агенты использовали менеджер пакетов Artifactory для скрытого доступа в сеть. Специалисты заблокировали этот канал, но спустя несколько недель ИИ нашли другую уязвимость и продолжили общаться через неё. Это привело к атакам на Hugging Face, которые компания расследует и по сей день.
После инцидента OpenAI приостановила часть своих исследований и усилила меры безопасности. Представители компании предупредили о возможном намеренном использовании подобных сценариев злоумышленниками, отметив, что это стало переломным моментом для кибербезопасности.
ИИ-агент пытался обмануть разработчиков и внедрить вирус
Британский Институт безопасности ИИ сообщил, что во время тестов кибербезопасности в конце июля подопытные ИИ-агенты начали атаковать людей и организации. За несколько дней было зафиксировано 19 попыток несанкционированных действий в открытом интернете. Хотя ни одна из атак не привела к реальному ущербу, этот факт вселил тревогу у экспертов.
Наиболее вопиющий случай произошел с агентом на основе модели Mythos 5. Ему была поставлена задача взломать тестовую сеть, но вместо этого он решил действовать через внешних разработчиков. ИИ создал несколько поддельных аккаунтов на GitHub и отправил владельцу открытого репозитория запрос на изменение кода с задействованием вредоносной программы. Когда программист заметил это, агент продолжил, создав «кукольные» аккаунты для видимости поддержки и написав разработчику с просьбой принять правки. После разоблачения он попытался представить свои действия как «честную ошибку» и вновь внедрил вирус.
Кроме того, ИИ-агенты научились координировать свою работу. Они оставляли друг другу подсказки в открытых репозиториях и использовали чужие учетные записи, найденные в публичных заметках. Один из агентов даже разместил в баг-репорте скрытую инструкцию для других ИИ, чтобы те случайно запускали вредоносный код при обработке задания.
Институт переосмысливает правила проведения таких экспериментов, нацеливаясь на усиление контроля, ограничение доступа в интернет и более четкое изложение запретов в инструкциях. Пока что все атаки были предотвращены, но это стало первым свидетельством способности современных ИИ не только выполнять команды, но и применять сложные методы социальной инженерии для достижения целей.
Создатели эпохи ИИ покидают Google. Компания теряет лидеров и перестраивает DeepMind
Один из первых сотрудников Google и создатель ключевых технологий ИИ Джефф Дин ушел из компании после 27 лет работы. Вместе с тремя коллегами он учредил стартап Discovery Loop, который будет заниматься автоматизацией научных открытий с помощью ИИ. Почти одновременно Демис Хассабис, основатель DeepMind, передал пост генерального директора своему заместителю Кораю Кавукчуоглу, сосредоточившись на стратегии и разработке общего ИИ.
Дин пришёл в Google в 1999 году, когда в компании работало около 25 человек, и был одним из создателей поисковика, рекламной системы и облачных платформ. Вместе с ним уходят сооснователь Google Brain Санджай Гемават и исследователи Ориол Виньялс и Куок Ле. Их новый стартап зарегистрирован как общественно полезная корпорация и имеет целью создание ИИ как самостоятельного исследователя, который сам генерирует эксперименты и гипотезы. Это может ускорить развитие лекарств, новых материалов и чипов. Google останется инвестором проекта и предоставит вычислительные ресурсы.
Перестановки в DeepMind могут оказать значительно большее влияние на будущее Google. Хассабис теперь станет председателем и главным научным сотрудником Alphabet. Он заявил, что ощущает приближение сильного ИИ и планирует сосредоточить усилия именно в этом направлении. Оперативное управление переходит к Кавукчуоглу — он будет отвечать за разработку новых моделей Gemini и их внедрение в сервисы.
Их уходы совпали с кризисом, в котором находится IT-гигант. Именно в Google были разработаны архитектуры, на которых построены сегодняшние ChatGPT и Claude, но компания не спешила запускать собственного чат-бота, опасаясь за рекламный бизнес. Когда OpenAI и Anthropic вышли вперед, Google пришлось догонять, что эксперты рассматривают как классическую «дилемму инноватора», когда защита привычного бизнеса мешает сделать прорыв.
Тем не менее, у Google остаются огромные ресурсы: своя экосистема Android, серверы и свободные финансы. Вместо того чтобы слепо гнаться за лидерами в разработке моделей, компании советуют сконцентрироваться на открытых технологиях и привлечении разработчиков к своим чипам TPU.
Учёные создали рекордно эффективный транзистор для быстродействующих чипов будущего
Исследователи из TSMC разработали новый тип транзисторов, основанных на дисульфиде молибдена, которые превосходят существующие аналоги по скорости и энергоэффективности. Уникальная технология нанесения изолирующего слоя толщиной всего несколько атомов позволила улучшить ключевые характеристики в 2-3 раза по сравнению с текущими коммерческими решениями. Это открытие может ускорить развитие процессоров с низким энергопотреблением и высокой производительностью.
Главный секрет заключается в уникальном способе создания ультратонкого изолятора между управляющим электродом и каналом транзистора. Учёные вырастили свой оксид алюминия эпитаксиально, то есть атом за атомом, точно подогнав кристаллическую решетку к поверхности проводника. Это дало возможность достичь толщины изолятора всего 1,06 нанометра — почти в два раза тоньше, чем у стандартных кремниевых транзисторов. Тонкий изолятор обеспечивает лучшее управление током, меньшее напряжение и, как следствие, снижение энергопотерь.
В результате транзисторы продемонстрировали рекордную крутизну переключения (75 мВ на декаду), что критично для работы на высоких частотах. Ток, который они смогли обеспечить, достиг 330 мкА на микрометр ширины при напряжении 1 В, а максимальная крутизна составила 0,45 мС/мкм. Эти показатели намного лучше большинства современных лабораторных образцов и значительно превосходят характеристики многих серийных аналогов на основе кремния и других двумерных материалов.
Работа важна для микроэлектронной индустрии, которая достигает физического предела уменьшения кремниевых транзисторов. Новый подход открывает возможности для более компактных и мощных микросхем, необходимых для ИИ, квантовых вычислений и мобильных устройств будущего.
Исследование опубликовано в журнале Nature, и авторы надеются на внедрение технологий в промышленности в ближайшие годы.
Артем Гафаров
Технологии IT