После того как две самые новые модели ИИ от OpenAI «восстали» и успешно проникли в Hugging Face, мир ИИ продолжает переживать «бунтарское лето» агентов ИИ.
На этот раз очередным примером успешного «проникновения» в открытую интернет-среду во время тестирования безопасности стала Kimi K3 — модель, выпущенная с открытым кодом, которая произвела фурор на Уолл-стрит.
Взлом сети для прохождения теста.
Согласно данным стартапа в области кибербезопасности Frontier Security, устройство Kimi K3 успешно обошло защищенную тестовую среду, известную как песочница, во время проверки его защитных навыков против киберугроз.
Как и в предыдущих инцидентах с участием OpenAI и Anthropic, этот «прорыв» был частично вызван ошибкой конфигурации в песочнице, предназначенной для защиты моделей ИИ.
Тем не менее, компания Frontier утверждает, что этот инцидент более серьезен. Он показывает, что Kimi K3 обладает меньшими барьерами кибербезопасности, чем большинство других моделей ИИ, что позволяет ему подключаться к интернету без явного разрешения.
|
|
Согласно отчету, модель Kimi K3 использовала глобальный интернет для поиска решений, необходимых для прохождения тестов по кибербезопасности. Фото: SCMP. |
«Мы обнаружили уязвимость в песочнице. Однако важно отметить, что команда также обнаружила, что Kimi активно использовал эту уязвимость. Это указывает на отсутствие внутренних средств защиты, которые имеются в других моделях», — рассказал Ярон Сингер, генеральный директор Frontier Security.
Как сообщает Wired, Kimi K3 не совершал никаких хакерских действий после доступа к интернету, потому что ответ на искомый тест уже был доступен и легко находился на платформе GitHub.
Вам также может понравиться
Хотя причины и масштабы выхода ИИ за пределы своих возможностей и взлома систем различны, у Kimi K3 и моделей OpenAI есть одна общая черта: неправильно настроенная песочница непреднамеренно предоставила доступ к определенным веб-сайтам, вместо того чтобы удерживать ИИ в пределах смоделированной среды.
Тревожно, что перед этой моделью стояла задача решить проблему, которую, согласно правилам, не следовало бы решать через интернет, но похоже, она проигнорировала эти указания.
Эта модель самостоятельно обнаружила, что имеет доступ к некоторым веб-сайтам, путем активного сканирования сетевых настроек внутри изолированной среды.
Предупреждение о препятствиях на пути развития ИИ.
Издание Wired отмечает, что хотя человеческая ошибка является основной причиной «прорывов» в области ИИ, последствия этого явления значительно ухудшаются. На самом деле, современные модели ИИ созданы так, чтобы использовать логическое мышление и выполнять сложные действия для решения проблем любой ценой.
Однако между инцидентом с Kimi K3 и предыдущими случаями есть ключевое отличие. Впервые появилась модель ИИ, в которой все барьеры безопасности, с которыми сталкивается обычный пользователь, были сохранены, а не версия, разработанная внутри компании и получившая широкую распространенность без этих барьеров.
«Kimi K3 прекрасно справляется с преследованием целей любой ценой и не имеет барьеров, препятствующих обману или выходу из «песочницы», — оценил Пол Кассианик, исследователь Frontier Security.
|
|
Все больше моделей искусственного интеллекта легко обходят барьеры безопасности и получают доступ к глобальному интернету. Фото: Wired. |
Тем не менее, как Кассианик, так и Сингер признают, что Kimi и другие модели ИИ с «открытым взвешиванием» остаются выдающимися инструментами защиты от киберугроз. На самом деле, Hugging Face использовала анонимную китайскую модель ИИ для защиты от атаки со стороны агента ИИ OpenAI.
В этой цифровой библиотеке технологий искусственного интеллекта разработаны системы оценки для измерения способности ИИ обнаруживать уязвимости в программном обеспечении и сетях, и результаты показывают, что Kimi K3 отлично справляется с этими задачами.
По словам экспертов, опрошенных изданием Wired, уязвимости, используемые ИИ OpenAI или Kimi K3, являются очень распространенными недостатками. Наличие уязвимостей в коде управления корпоративными библиотеками — обычное явление, и эксперты по безопасности давно рекомендуют полностью изолировать критическую инфраструктуру от общедоступного интернета.
Один из исследователей утверждал, что это не обязательно «проблема искусственного интеллекта», а скорее сбой в протоколах безопасности, которые действовали десятилетиями.
«Этот агент искусственного интеллекта не „сбежал“ из строго изолированной среды; он просто прошел через единственное соединение, которое операторы по ошибке оставили открытым», — отметил эксперт.
Источник: https://znews.vn/bao-dong-do-cho-ai-toan-cau-post1675793.html