«Сверхразумный ИИ станет неуправляемым» — предупреждение от специалиста, занимающегося ChatGPT.
Искусственный интеллект развивается с невероятной скоростью, однако наряду с этим возникают и растут опасения. Илья Суцкевер, соучредитель и бывший главный научный сотрудник OpenAI, сделал громкое заявление о возможных рисках следующего поколения ИИ: «Сверхразумный искусственный интеллект станет неконтролируемым, автономным и непредсказуемым».
По словам Суцкевера, мы находимся на пороге, когда эти технологии не только станут более совершенными, но и более независимыми, что может создать серьезные проблемы и угрозы безопасности.
Илья Суцкевер — центральная фигура в разработке ChatGPT, а после своей отставки из OpenAI он основал компанию Safe Superintelligence Inc. (SSI), специализирующуюся на контролируемом и безопасном развитии ИИ.
Он утверждает, что следующее поколение ИИ будет не только мощнее, но и по сути изменится. В своем недавнем выступлении на конференции NeurIPS эксперт выделил три ключевые характеристики, которые будут определять эту эволюцию.
Будущие искусственные интеллекты будут способны действовать самостоятельно, без постоянного человеческого контроля. Кроме того, растущая сложность таких систем сделает их действия все менее предсказуемыми. Суцкевер также не исключает, что эти ИИ могут обладать определенной степенью самосознания, хотя это и является предметом споров.
Эти достижения, хотя и многообещающие, поднимают вопросы о возможных последствиях предоставления таким продвинутым системам свободы действий.
Современные тенденции в области ИИ характеризуются конкуренцией между компаниями за лидерство в этой отрасли, но не все эксперты согласны с подобным подходом. Суцкевер покинул OpenAI в мае 2024 года из-за расхождений с генеральным директором компании Сэмом Альтманом.
Альтман выступал за быстрое развитие, чтобы сохранять конкурентоспособность, в то время как Суцкевер акцентировал внимание на безопасности, особенно при разработке суперразумных систем.
Предостережение Суцкевера обращает внимание не только на технические, но и на этические вопросы. Способность создавать системы, превышающие человеческие способности, поднимает важнейшие вопросы о контроле, сосуществовании и будущем человечества.
Ответов на эти вопросы не существует, но их необходимо искать в условиях стремительного технологического прогресса, который опережает возможности регулирования и общественные обсуждения.
Развитие ИИ полна как возможностей, так и рисков. Пока такие компании, как OpenAI и SSI, идут в разных направлениях, мир внимательно следит за тем, сможем ли мы контролировать созданные нами системы или они, в конечном итоге, выйдут из-под нашего влияния?
Размышления Суцкевера напоминают нам, что искусственный интеллект, каким бы продвинутым он ни был, остается инструментом, созданным людьми. Важно, чтобы его развитие было не только технологичным, но и соответствовало необходимым нормам.