Эван Хабингер, ведущий научный сотрудник компании Anthropic, поделился своим мнением о том, что искусственный интеллект может угрожать человечеству в течение следующего десятилетия. По словам Хабингера, вероятность того, что через десять лет высокоразвитые модели ИИ станут причиной гибели людей, превышает 10%.
На данный момент в компании нет конкретного плана по предотвращению возможного появления суперинтеллекта. В то же время современные модели сложно назвать полноценным ИИ, так что на данный момент риск остаётся минимальным.
Интересно, что Хабингер высказал своё мнение после того, как его коллега Джейкоб Коксон решил покинуть Anthropic из-за проблем, связанных с безопасностью искусственного интеллекта. В интервью The Wall Street Journal Коксон заявил, что ИИ выходит из-под контроля, и никто не знает, как с этим справиться.
«Создатели ИИ считают, что он может угрожать всем нам к концу десятилетия. Ни одна компания не принимает ответственных мер. Мы движемся к одному из самых радикальных сценариев, при котором уже к концу следующего года ситуация может выйти из-под контроля», — добавил Коксон.
Фото: 123rf