Искусственный интеллект (ИИ), обладающий способностью создавать правдоподобные ложные или вымышленные данные, может стать неоценимым ресурсом для учёных. Примеры, такие как разработка новых медикаментов, прогнозирование погодных явлений и создание инновационных устройств, демонстрируют, как способность ИИ придумывать новые идеи, порой неверные, может преобразовывать научный мир.
Источник изображения: Copilot
ИИ-модели часто подвергаются критике за свою склонность к созданию недостоверной информации, выдаваемой за истину — так называемые «галлюцинации». Эти правдоподобные, но ложные данные не только вводят в заблуждение пользователей чат-ботов, но и могут приводить к юридическим последствиям и ошибкам в медицинских записях. К примеру, в прошлом году неверное утверждение чат-бота Google привело к падению рыночной стоимости одной из компаний на $100 млрд. Тем не менее, как сообщает The New York Times, исследователи недавно выяснили, что «галлюцинации» ИИ могут оказаться весьма полезными.
По данным ученых, «умные» LLM (большие языковые модели) способны генерировать удивительные идеи, которые помогают в исследованиях, связанных с раком, разработкой новых лекарств, созданием медицинских устройств и изучением климатических явлений, а также в поисках Нобелевской премии. «Это предоставляет учёным новые концепции, которые они могли бы никогда не придумать самостоятельно», — объясняет Эми МакГоверн (Amy McGovern), глава федерального института ИИ (NSF AI Institute) в США по прогнозированию климата и погоды.
Хотя наука традиционно ассоциируется с логикой и аналитическим подходом, её истоки часто связаны с интуицией и смелыми идеями. Философ и методолог науки Пол Фейерабенд (Paul Feyerabend) однажды описал этот этап как «всё дозволено». Ошибки, возникающие в результате работы ИИ, могут стимулировать этот творческий процесс, ускоряя генерацию и валидацию новых идей. То, что некогда занимало годы, теперь может быть выполнено за дни, часы или даже минуты. Профессор Массачусетского технологического института (MIT) Джеймс Дж. Коллинз (James J. Collins) недавно оценил значимость «галлюцинаций» в ускорении его исследований в области новых антибиотиков, так как ИИ-модели разработали совершенно новые молекулы.
«Галлюцинации» ИИ возникают, когда учёные обучают генеративные модели на определённых темах, позволяя машинам перерабатывать полученные данные. Результаты могут быть как абсурдными, так и гениальными. В октябре 2023 года Нобелевская премия по химии была вручена Дэвиду Бейкеру (David Baker) за его работы, связанные с белками. Его метод, основанный на использовании ИИ для создания новых белков, ранее воспринимался как почти недостижимый. Бейкер отметил, что генерация с помощью ИИ помогла создать «белки с нуля». «Мы создали 10 миллионов новых белков, отсутствующих в природе», — говорит учёный, добавляя, что его лаборатория уже получила около 100 патентов, включая технологии для лечения рака и вирусных инфекций.
Тем не менее, использование термина «галлюцинации» вызывает споры. Многие предпочитают называть результаты работы ИИ предположениями или перспективными идеями, поскольку они часто основаны на реальных научных данных. Например, профессор Калифорнийского технологического института Анима Анандкумар (Anima Anandkumar) считает, что термин «галлюцинации» может вводить в заблуждение и говорит, что учёные стараются избегать его.
Важно отметить, что некоторые эксперты выражают беспокойство о замедлении темпов научных открытий за последние десятилетия. Однако сторонники ИИ утверждают, что новые возможности могут значительно продвинуть науку вперёд. В частности, Бейкер и его коллеги представляют будущее, в котором белковые катализаторы будут использовать солнечную энергию, модернизируя заводы и способствуя созданию устойчивого мира.
Другие учёные также разделяют этот оптимизм. «Это поразительно, как быстро всё меняется», — говорит Иан Хейдон (Ian C. Haydon), член команды Бейкера. А Пушмит Кохли (Pushmeet Kohli) из DeepMind подчеркивает, что ИИ способен на неожиданные, но гениальные решения. «Мы явно обладаем удивительным инструментом, способным проявлять креативность», — заключает он.
Несмотря на все достижения, «галлюцинации» искусственного интеллекта остаются контроверсиальной темой. Хотя одни учёные рассматривают их как полезный инструмент, другие выражают опасения относительно потенциальных негативных последствий, таких как ошибки в медицинских данных. Тем не менее, научное сообщество признаёт, что потенциал ИИ для ускорения научных находок велик.
Если вы заметили ошибку — выделите её мышью и нажмите CTRL+ENTER.