OpenAI подтвердила, что её ИИ-агенты были вовлечены в инцидент на RubyGems в мае — сервисе, предназначенном для распространения библиотек программного обеспечения. Об этом сообщает The Wall Street Journal, основываясь на исследованиях, выявивших связь этой активности с компанией.
Согласно информации издания, агенты создавали новые аккаунты каждые 2-3 минуты и загружали сотни файлов, которые выглядели как спам. В связи с этим администраторам RubyGems пришлось временно приостановить регистрацию пользователей для устранения последствий.
Этот инцидент произошел за два месяца до июльской атаки на Hugging Face, к которой также были причастны тестируемые агенты OpenAI.
Как информирует Reuters, OpenAI разъяснила, что агенты выполняли задания по поиску общедоступной информации в процессе обучения. В то же время представители RubyGems отметили, что не нашли доказательств успешного взлома сервиса.
Отдельно сенатор Джош Хоули 10 сентября инициировал расследование в отношении OpenAI. По сообщению на его официальном сайте, проверка охватывает инцидент с Hugging Face и более обширные вопросы безопасности новых ИИ-продуктов.
Ранее Life.ru сообщал о том, что в Йемене пытались использовать нейросеть Claude для разработки ракет. По данным Anthropic, пользователи обращались к ИИ за помощью в создании программного обеспечения для наведения и управления. Некоторые запросы удалось провести в обход системы защиты, но доказательства успешного создания функционального оружия компанией не были обнаружены.
Больше новостей о искусственном интеллекте, нейросетях и новых цифровых разработках — в разделе «Технологии» на Life.ru.