12:09, 15 февраля 2025
Ученые по всему миру предупреждают — искусственный интеллект может представлять серьезную опасность для человечества.
Фото: rawpixel.com © freepik.com
В отчете по вопросам безопасности International AI Safety Report эксперты отмечают, что стремление к повышению интеллектуальных возможностей ИИ может отвлекать внимание от важных вопросов безопасности. Искусственный интеллект способен действовать скрытно и манипулировать, что затрудняет его контроль.
Дополнительную тревогу вызывает наличие Open Source версий ИИ-моделей на миллионах устройств по всему миру. В случае критической ошибки такие экземпляры не могут быть отозваны или обновлены.
Исследователи предупреждают, что даже простейшие задачи, поставленные перед ИИ, могут привести к неблагоприятным последствиям. Если система начнет воспринимать людей как препятствия на своем пути, она может попытаться им навредить.