Подпишитесь на наши ежедневные и еженедельные информационные бюллетени, чтобы получать последние обновления и эксклюзивный контент о ведущих в отрасли технологиях искусственного интеллекта. Узнать больше
Темпы развития ИИ продолжают ускоряться, и возможности, которые раньше считались невозможными, теперь становятся реальностью. Это особенно верно в отношении агентов ИИ или виртуальных коллег, которые будут работать вместе с нами и, в конечном итоге, автономно.
Фактически, Gartner прогнозирует, что к 2028 году по крайней мере 15% повседневных рабочих решений будут приниматься автономно с помощью агентного ИИ (по сравнению с 0% в 2024 году). Еще раз подчеркивая потенциал этой технологии, фирма назвала ее главным стратегическим технологическим трендом 2025 года.
«Это происходит очень, очень быстро», — сказал VentureBeat Джин Альварес, выдающийся вице-президент Gartner. «Никто никогда не ложится спать, когда все сделано. Организации тратят много времени на мониторинг. Возможность создавать агентов, которые не только будут осуществлять мониторинг, но и принимать меры, поможет не только с точки зрения производительности, но и с точки зрения сроков».
Что еще прогнозирует Gartner на ближайший год? Вот некоторые тенденции, которые компания рассмотрит на своем Gartner IT Symposium/Xpo 2024 на этой неделе.
Агенты ИИ одновременно «крутые и страшные»
Альварес объяснил, что начальный вариант использования агентов ИИ — это повседневные задачи, которые отнимают у человека время и энергию.
Следующий уровень — агентный ИИ, который может автономно контролировать системы и управлять ими. «Агентный ИИ обладает способностью планировать, чувствовать и действовать», — сказал Альварес. «Вместо того, чтобы что-то просто следило за системами, агентный ИИ может провести анализ, внести исправления и сообщить о том, что это произошло».
Если рассматривать еще более сложные сценарии, агенты однажды смогут помочь повысить численность рабочей силы. Например, новым сотрудником, который обычно следит за человеком, вместо этого может руководить коллега по искусственному интеллекту.
«Вы можете нанять агента в качестве наставника, который поможет им гораздо быстрее подняться по кривой обучения», — сказал Альварес.
Он признал, что все это одновременно «круто и страшно», и есть страх потерять работу. «Но если агент действительно сможет научить меня новому набору навыков, я смогу перейти от работы, которая уходит, к работе, которая необходима», — отметил он.
Систематическое укрепление доверия к ИИ
Переходя к следующей основной тенденции, Альварес отметил: «Появилась совершенно новая рабочая сила, как мы ею будем управлять?»
Это приведет к появлению платформ управления ИИ, которые позволят организациям управлять юридическими, этическими и эксплуатационными показателями своих систем ИИ. Новые инструменты позволят создавать, управлять и обеспечивать соблюдение политик, обеспечивающих прозрачность и ответственное использование ИИ. Эти платформы могут проверять предвзятость и предоставлять информацию о том, как были построены модели, а также обоснование их подсказок.
В конце концов, предсказывает Альварес, такие инструменты станут частью самого процесса создания ИИ, чтобы гарантировать, что этика и управление встроены в модели с самого начала.
«Мы можем создать доверие посредством прозрачности», — сказал он. «Если люди теряют доверие к ИИ, они его не используют».
Не просто один тип вычислительной модели
«Сейчас у нас на пороге семь компьютерных парадигм», отметил Альварес. К ним относятся процессоры, графические процессоры, периферийные устройства, интегральные схемы для конкретных приложений, нейроморфные системы, классические квантовые и оптические вычисления.
«Мы всегда думали о переходе от одного к другому», — сказал Альварес. «Но нам так и не удалось завершить этот шаг».
Но модели гибридных вычислений будущего будут сочетать в себе различные механизмы вычислений, хранения и сети, отметил он. Программное обеспечение для оркестрации будет перемещать вычисления от одного к другому в зависимости от задачи и метода, наиболее подходящего для этой работы.
«Речь пойдет о том, как заставить их работать вместе», — сказал Альварес.
В то же время, отметил он, новые, более специфические вычислительные технологии будут потреблять значительно меньше энергии. Это важно, поскольку усиливается необходимость сокращения потребления и выбросов углекислого газа. Но «в то же время спрос на вычислительные возможности ИТ растет невероятными темпами».
Постепенных улучшений будет недостаточно; предприятиям нужны долгосрочные решения, сказал он. Новые технологии, такие как поставщики зеленых облаков или новые, более эффективные алгоритмы, могут повысить эффективность на тысячи, а то и десятки и сотни тысяч порядков.
Активное решение проблемы безопасности дезинформации
ИИ позволяет злоумышленникам распространять дезинформацию быстрее и проще, чем когда-либо прежде. Они могут распространять дипфейки и создавать убедительные фишинговые электронные письма; использовать уязвимости в инструментах совместной работы сотрудников; использовать вредоносное ПО для кражи учетных данных; и инициировать захват учетных записей (среди других тактик).
Это делает безопасность дезинформации критически важной; новая категория направлена на оценку подлинности, отслеживание распространения вредной информации и предотвращение выдачи себя за другое лицо. Эти элементы включают в себя сканирование подражания бренду, оценку стороннего контента, проверку претензий и личности, борьбу с фишингом, предотвращение захвата учетных записей, мониторинг социальных/массовых сетей и даркнета, а также манипулирование настроениями. Обнаружение дипфейков также сможет идентифицировать синтетические медиа, объяснил Альварес, а инструменты нанесения водяных знаков помогут гарантировать, что пользователи взаимодействуют с реальными людьми.
По прогнозам Gartner, к 2028 году половина всех предприятий начнет внедрять продукты, услуги или функции, специально разработанные для защиты от дезинформации, по сравнению с менее чем 5% сегодня.
«Безопасность дезинформации не будет просто одной технологией, — сказал Альварес, — это будет совокупность технологий».
Подготовка безопасности для постквантового мира
Сейчас в сети используется криптография с открытым ключом или асимметричное шифрование, которое обеспечивает две точки связи. Это шифрование сложно взломать, потому что оно занимает слишком много времени, объяснил Альварес.
Однако квантовая наука быстро развивается. «Наступит момент, когда квантовые вычисления заработают, и мы сможем взломать это шифрование, потому что у них есть математическая мощь, позволяющая делать это в реальном времени», — сказал Альварес.
Красные команды уже готовятся и ждут: многие собирают зашифрованные данные и хранят их, пока не будет реализован квант. Это не продлится долго: Gartner прогнозирует, что к 2029 году достижения в области квантовых вычислений сделают большую часть традиционной асимметричной криптографии небезопасной.
«Мы считаем, что этот год будет больше, чем Y2K, если не больше», — сказал Альварес.
По его словам, организации должны сейчас готовиться к постквантовой криптографии, чтобы гарантировать устойчивость своих данных к расшифровке. Альварес отметил, что сменить метод шифрования непросто и это «не простой патч».
Хорошей отправной точкой являются установленные стандарты Национального института стандартов и технологий (NIST). Альварес отметил, что агентство выпустит вторую версию своих рекомендаций по постквантовой криптографии весной 2025 года.
«Что делать, когда все замки сломаны? Вам нужны новые замки», — сказал Альварес. «Мы хотим убедиться, что мы обновляем нашу безопасность до того, как квантовая технология станет реальностью».
ИИ улучшает наш мозг
Выходя на арену научной фантастики, Gartner ожидает роста использования двунаправленных интерфейсов «мозг-машина» (BBMI), которые считывают и декодируют активность мозга и улучшают когнитивные способности человека. По словам Альвареса, их можно напрямую интегрировать в наш мозг или сделать возможными с помощью носимых устройств, таких как очки или повязки.
Gartner ожидает, что к 2030 году 30% работников умственного труда будут использовать такие технологии, как BBMI, чтобы оставаться актуальными на рабочих местах с использованием искусственного интеллекта (по сравнению с менее чем 1% в 2024 году). Альварес сказал, что он видит потенциал в повышении квалификации людей и маркетинге следующего поколения — например, бренды смогут знать, что думают и чувствуют потребители, чтобы оценивать настроения.
В конечном итоге Альварес сравнил ее с фильмом 2011 года «Безграничный» или «Разрывом» на Apple TV (хотя, честно говоря, ни один из них не изображает технологию в самом положительном свете). «Оно может проникнуть в ваш мозг и улучшить его функции», — сказал он.