Компания CTGT, которая занимается внедрением искусственного интеллекта в высокорискованные области, объявила о важном обновлении своей платформы. Представленное 27 июня обновление позволяет сократить предвзятость, галлюцинации и другие нежелательные искажения в работе моделей ИИ, таких как DeepSeek и другие решения с открытым исходным кодом.
Обновленная платформа была продемонстрирована на конференции VentureBeat Transform 2025, прошедшей 24-25 июня в Сан-Франциско, где CTGT стала победителем конкурса VentureBeat Innovation Showcase, опередив шесть других финалистов.
Тестирование показало впечатляющие результаты: благодаря CTGT, модель DeepSeek начала правильно отвечать на 96% чувствительных вопросов, тогда как до обновления этот показатель составлял всего 32%. Это особенно важно на фоне нарастающей проблемы галлюцинаций в ИИ: согласно данным McKinsey, в 2024 году глобальные потери от этого феномена составили $67,4 миллиарда. Кроме того, Deloitte сообщает, что 47% корпоративных пользователей ИИ принимали важные решения, основываясь на ложной информации от моделей. Ситуация усугубляется новыми версиями некоторых моделей, например, ChatGPT 4.5, с показателем галлюцинаций в 30%, которые показывают даже худшие результаты, чем их предшественники. DeepSeek R1, в свою очередь, демонстрирует уровень галлюцинаций в 14,9%, при этом значительная часть дезинформации в этой модели, вероятно, была намеренно встроена — китайским правительством.
В условиях, когда правильность работы ИИ имеет огромное значение, доверие к таким моделям становится критически важным. CTGT, запущенная в феврале с инвестициями в $7 миллионов от Gradient (ранний фонд ИИ Google), General Catalyst, Y Combinator, Liquid 2, Deepwater и ряда известных инвесторов, включая Франсуа Шолле (Google, создатель Keras), Майкла Сейбела (Y Combinator, соучредитель Twitch) и Пола Грэма (Y Combinator), первоначально сосредоточила свои усилия на снижении затрат на обучение и развертывание моделей ИИ. Компания добилась серьезного прогресса, сократив вычислительные потребности на порядок, устранив необходимость в тонкой настройке, проектировании подсказок и обратном распространении ошибки.
«Запуск DeepSeek R1 привлек множество предприятий, которые обратились к нам за помощью, — говорит Сирил Горлла, соучредитель и генеральный директор CTGT. — Они хотели воспользоваться преимуществами низкой стоимости и скорости DeepSeek, но беспокоились о предвзятости. В ходе тестирования CTGT смогла выявить и устранить специфические особенности модели, вызывающие предвзятость, что позволило DeepSeek R1 работать без искажений. С тех пор мы провели аналогичные тесты и на других open-source моделях, включая Llama, подтвердив, что CTGT способна находить и устранять предвзятость, галлюцинации и другие артефакты за минуты, без трудоемкой и дорогостоящей тонкой настройки или переобучения». Эта функциональность теперь доступна всем предприятиям, использующим платформу CTGT.
Горлла также отметил, что надежность моделей ИИ является серьезным препятствием для получения компаниями отдачи от инвестиций в эту технологию. Накапливая опыт работы с крупными корпорациями, CTGT преобразовала свои наработки в коммерческий продукт, доступный широкому кругу пользователей. Платформа CTGT применяет инновационный математический метод, позволяющий автоматически и в реальном времени устранять галлюцинации, цензуру и предвзятость на уровне модели. Компании, использующие платформу CTGT, фиксируют повышение точности моделей, снижение вычислительных затрат и ускорение внедрения моделей в 500 раз.