Тони Фадел на TechCrunch Disrupt 2024
Создатель iPod, основатель Nest Labs и инвестор Тони Фадел высказался в адрес CEO OpenAI Сэма Олтмана во время активного интервью на TechCrunch Disrupt 2024 в Сан-Франциско. Он озвучил свои мысли о более широкой истории развития ИИ и серьезных проблемах, связанных с «галлюцинациями» больших языковых моделей (LLM).
Цитата Тони Фадела
Фадел заявил: “Я занимаюсь ИИ уже 15 лет, люди, я не просто бла-бла-бла. Я не Сэм Олтман, окей?” Это вызвало удивленный шепот и небольшой аплодисмент в толпе.
Основные темы обсуждения
Во время интервью Тони Фадел затронул множество тем:
- Кто может производить отличные продукты.
- Проблемы современных LLM.
Проблемы LLM
Хотя Фадел признал, что LLM “отличны для определенных задач”, он подчеркнул наличие серьезных вопросов, которые необходимо решить.
- LLM пытаются стать универсальными, что, по его мнению, не всегда оправдано.
- Фадел выразил отвращение к «знавшим всё» ИИ.
Предпочтение ИИ агентов
Фадел предложил использовать ИИ-агентов, которые обучены на конкретных задачах и более прозрачны в отношении своих ошибок и галлюцинаций. Он отметил:
- Я нанимаю их для обучения.
- Я нанимаю их как сопилотов.
- Я нанимаю их, чтобы они заменили меня.
Фадел добавил, что правительства должны вмешиваться, чтобы обеспечить такую прозрачность.
Риски использования ИИ
Он также отметил, что компании, использующие ИИ, ставят под угрозу свою репутацию, полагаясь на “недонадежные технологии”.
Фадел сказал:
“Сейчас мы все принимаем эту технологию, не зная, какие проблемы она вызывает.”
Он привел недавний отчет, согласно которому врачи, использующие ChatGPT для создания отчетов о пациентах, сталкивались с галлюцинациями в 90% случаев: “Это может убить людей,” — продолжил он.
Опыт работы с ИИ
Что касается личного опыта, Фадел напомнил, что его компания Nest начала использовать ИИ в термостатах еще в 2011 году:
“Мы не могли говорить об ИИ; мы не могли говорить о машинном обучении, потому что люди боялись. Теперь все хотят, чтобы ИИ был повсюду.”
Таким образом, Тони Фадел обратил внимание на важность прозрачности и ответственности в области ИИ, подчеркивая, что необходимо осознание того, как эти технологии работают, прежде чем их использовать.