Открытие OpenAI и его технологии
OpenAI представила Whisper — инструмент для распознавания речи и транскрипции, который был запущен в 2022 году. Однако, как показали исследования, Whisper иногда «галлюцинирует» или выдает неверную информацию, что вызывает опасения у экспертов.
Результаты исследований
- Исследователь из Университета Мичигана обнаружил, что «галлюцинации» были найдены в 8 из 10 транскрипций, проверенных им в ходе изучения общественных встреч.
- Инженер, прослушавший 100 часов транскрипций, отметил наличие галлюцинаций примерно в 50% случаев.
- Другой разработчик нашел галлюцинации почти в каждой из 26,000 транскрипций, которые он сгенерировал с помощью Whisper.
Неправильные результаты могут быть опасны
Хотя ошибки в виде неверно написанных слов — это обычное дело для ИИ, исследователи отметили, что «никогда не видели, чтобы другой AI-инструмент для транскрипции галлюцинировал так сильно, как Whisper». Это вызывает серьезные опасения, особенно в медицине.
- Whisper используется в больницах для транскрипции консультаций врачей и пациентов.
- Некоторые транскрипции могут содержать расистские комментарии, насилие и даже вымышленные медицинские treatments.
Проблемы с точностью
Эксперты, такие как Алонда Нельсон из Института передового обучения, отмечают: «Никто не хочет ошибочного диагноза». Даже если OpenAI не поощряет использование Whisper в медицине, ошибки могут привести к серьезным последствиям.
Влияние ИИ на различные отрасли
Whisper широко интегрирован в различные области, включая:
- Обслуживание клиентов в колл-центрах.
- Ассистенты с голосовым управлением.
- Клуд-платформы от Oracle и Microsoft.
Такое распространение может привести к быстрому распространению неточной информации, что крайне опасно.
Отсутствие регуляции
Проблема заключается не только в Whisper, но и в недостаточной регуляции ИИ в США. Это вызывает беспокойство, поскольку многие инструменты выходят на рынок слишком рано с целью заработать деньги.
Рекомендации по использованию
OpenAI заверила, что изучает, как уменьшить количество «галлюцинаций», и активно использует отзывы в обновлениях моделей. В ожидании решения от OpenAI, пользователи могут попробовать Otter.ai, инструмент для транскрипции, которому доверяет множество журналистов.
Преимущества и недостатки Otter.ai
- Otter.ai недавно добавил шесть новых языков.
- Пользователи должны проверять и редактировать транскрипции для полной точности.
Хотя Otter.ai также не без ошибок, регулярные обновления делают его надежным альтернативным решением до тех пор, пока проблемы с Whisper не будут решены.
Заключение
Whisper от OpenAI может быть мощным инструментом, но количество «галлюцинаций» вызывает серьезные опасения об его надежности, особенно в критически важных областях, таких как медицина. Озабоченность активизирует необходимость в большем внимании к вопросам регуляции и ответственности в области ИИ.