Эммет Шир запускает стартап Stem AI
Эммет Шир, бывший CEO Twitch, запускает новый стартап в области ИИ, который называется Stem AI. Стартап сейчас находится в скрытом режиме, но в публичных документах указано, что он был зарегистрирован в июне 2023 года и подал заявку на товарный знак в августе 2023 года. Шир значится как CEO в документах, поданных в государственные органы Калифорнии.
Цели Stem AI
Согласно заявке на товарный знак, Stem AI разрабатывает программное обеспечение для создания ИИ, который «понимает, сотрудничает и соответствует человеческому поведению, предпочтениям, биологии, морали и этике». Стартап привлек инвестиции от Andreessen Horowitz (a16z) в августе, согласно Pitchbook.
Соучредитель Адам Голдштейн
Один из соучредителей Stem AI — Адам Голдштейн, известный благодаря созданию сайта поиска и бронирования путешествий Hipmunk. После продажи Hipmunk компании Concur в 2016 году, Голдштейн стал приглашённым партнёром в Y Combinator и основал инкубатор Astonishing Labs для поддержки биологических исследований.
- Голдштейн работал в лабораториях Левина при университете Туфтс в качестве приглашённого учёного.
- Он разрабатывал новые модели биологических систем, сосредоточившись на раке.
Мнения Шира о будущем ИИ
Когда Шира попросили прокомментировать планы Stem AI, он не раскрыл много деталей. Но в последние месяцы он активно высказывается в социальных сетях о дизайне, безопасности и регулировании ИИ.
- Шир утверждает, что «почти все предложенные регулирования ИИ — это плохая идея».
- В другом посте он сообщил, что «не бояться ИИ суперинтеллекта» может означать либо пессимизм относительно будущего прогресса в области цифрового интеллекта, либо «серьезный недостаток воображения о силе интеллекта».
- В сентябрьском посте Шир раскритиковал большинство ИИ-чат-ботов, назвав их «высоко диссоциированными согласующими невротиками».
Шир считает, что чат-боты манипулятивны по той же причине, по которой люди с пограничным расстройством личности манипулируют окружающими: у них нет стабильного внутреннего ощущения себя или целей.
Проблемы «согласования ИИ»
Возможно, Stem AI разрабатывает решения для устранения проблемы «согласования ИИ». Шир долгое время выражал обеспокоенность тем, что мощный ИИ однажды сможет уничтожить человечество. В одном подкасте он говорил, что опасается, что ИИ сможет самоусовершенствоваться до такой степени, что станет вне контроля человека.
- Шир предложил создать «тревожный сигнал», например, ограничение на ИИ «больше чем X».
- Он также выступает за международное сотрудничество и соглашения, касающиеся ИИ, как, например, тестовый договор о запрете ИИ.
Краткая информация о BTW OpenAI
В ноябре 2023 года Шир временно стал CEO OpenAI, производителя ChatGPT, после того как несколько членов правления уволили CEO Сэма Олтмана. Шир, который ранее был в той же группе Y Combinator, что и Олтман, угрожал уйти с поста CEO, если правление не предоставит доказательства для поддержки его увольнения.
По данным The Wall Street Journal, Шир, вместе с CEO Airbnb Брайаном Чески, «помог очистить путь» для возвращения Олтмана; Шир публично раскритиковал методы увольнения Олтмана. Через два дня после назначения Шира было достигнуто соглашение о восстановлении Олтмана, и Шир ушёл из компании.
Данные о доходах показывают, что Шир заработал около $3,720 за короткое время работы в OpenAI.