Jev: новая AI-модель от создателя ChatGPT, которая считает вероятности вместо слов

Jev - это transformer-модель от стартапа TypeSafe AI. Её главная особенность в том, что она не сочиняет текст, а выдаёт вероятность: насколько тот или иной вариант подходит под запрос. Компания называет такой результат «калиброванным решением». Для разработчиков это означает дешёвый и быстрый способ встроить интеллект в код без риска выдуманных ответов.

Внимание к релизу оказалось настолько высоким, что TypeSafe AI ненадолго потеряла возможность обслуживать пользователей через API: серверы не справились с потоком запросов (TechCrunch).

Название модели связано с парадоксом Джевонса, о котором речь ниже. Коротко суть такая: удешевление технологии ведёт к росту её потребления, а не к сокращению.

Кто такой Диого Алмейда и при чём тут ChatGPT

Диого Алмейда работал исследователем в OpenAI, участвовал в создании ChatGPT и придумал RLHF. Расшифровывается это как reinforcement learning from human feedback, обучение с подкреплением на основе обратной связи от людей. Метод научил модели отвечать так, как нравится людям, и во многом определил нынешний бум AI (источник).

Два года назад Алмейда ушёл из OpenAI и основал TypeSafe AI. Стартап занялся ровно этой проблемой: сделать модели, которые не выдумывают.

Чем Jev отличается от ChatGPT: главное в одном абзаце

ChatGPT генерирует текст слово за словом и способен уверенно написать неправду. Jev выдаёт вероятность от 0 до 1 и выбирает только из вариантов, которые задал пользователь. Если сравнить с судом, ChatGPT - это писатель, который сочиняет показания, а Jev - судья, который оценивает, насколько вероятно то или иное событие внутри заранее известного списка.

Отсюда три практических следствия: модель дешевле, работает быстрее и не может выдумать сущность, которой нет во входных данных.

Как работает Jev: вероятности вместо слов

«Калиброванное решение» - это число от 0 до 1, показывающее уверенность модели. Ноль означает, что вариант маловероятен, единица - что модель почти уверена. Внутри Jev остаётся трансформером, то есть использует ту же архитектуру, что и языковые модели, но на выходе выдаёт не слова, а оценку.

Экономика устроена необычно. Выходные токены Jev бесплатны, а входные измеряются миллиардами, а не миллионами. Для бизнеса это значит: платить нужно за объём данных, который модель обрабатывает, а не за длину ответа. Другие способы снизить стоимость вычислений работают на уровне архитектуры: например, блоковая разреженность уменьшает размер нейросети в разы (как это устроено).

Почему Jev не может галлюцинировать

Галлюцинация - это когда модель придумывает факт, которого нет. Она возникает из-за самой механики: языковая модель предсказывает следующее слово, и ничто не мешает ей сложить правдоподобную, но ложную фразу. Jev не порождает текст, а оценивает варианты из заданного списка, поэтому выдумать новую сущность ей негде.

Оговорка важная. Отсутствие галлюцинаций не равно всегда правильному ответу. Армин Ронахер, технический директор Earendil, заметил, что модель частично перекладывает вопрос на пользователя: «Если вернулась вероятность 50%, может, это подбрасывание монеты, и я это игнорирую. Но если 95%, то с этим можно работать».

Что такое confidence scores и почему это важно

Confidence scores - это оценки уверенности. Их ценность в автоматизации: правило «при уверенности выше 95% действуем автоматически, иначе отправляем на ручную проверку» легко запрограммировать. Нихил Мудхолкар, технический директор Bryo AI, отметил, что Jev - единственная модель, которая возвращает реальную вероятность, и назвал это идеальным для автоматизации рабочих процессов.

Где Jev уже применяют: кейсы Vercel и Bryo AI

Наибольшую пользу Jev приносит в автоматизации программного обеспечения. Разработчики видят в ней более дешёвый и надёжный способ добавить интеллект в код (подробнее у TechCrunch).

Vercel: ускорение в 5-18 раз при большей точности

Пранит Шарма, инженер Vercel, рассказал, что компания использовала OpenAI ChatGPT Luna 5.6 для классификатора, который проверяет команды на безопасность. После замены Luna на Jev результаты стали приходить в 5-18 раз быстрее и при этом точнее. Это пример удачной замены большой языковой модели на специализированную там, где нужен не текст, а решение «да или нет».

Bryo AI: в 10-20 раз дешевле Gemini

Нихил Мудхолкар из Bryo AI сравнил Jev с Gemini на классификации деловых писем. Gemini оказался немного точнее, но стоил в 10-20 раз дороже. Для многих задач такая разница в цене перевешивает небольшое отставание в точности: письма нужно разложить по папкам, а не написать по ним эссе.

Jev и большие языковые модели: замена или дополнение?

Речь не о том, чтобы выбросить ChatGPT. Jev закрывает узкий класс задач, где нужна оценка, а не текст, и в остальных сценариях работает рядом с языковыми моделями.

Jev как контролёр для LLM: защита от джейлбрейков

Алмейда видит пользователей, которые применяют Jev, чтобы следить за трассировками LLM-агентов и предотвращать джейлбрейки. Джейлбрейк - это попытка обойти ограничения модели специально составленным запросом. Дешёвый контролёр проверяет поведение агента и сигнализирует, когда что-то идёт не так. Похожая логика прослеживается в том, как компании передают моделям целые рабочие процессы и оставляют человеку роль редкого проверяющего (пример такого перехода).

Маршрутизация моделей: как Jev экономит деньги

Маршрутизация - это выбор модели под задачу. Простой вопрос можно отдать дешёвой модели, сложный - дорогой. Проблема в том, что решать, к какой категории относится запрос, с помощью языковой модели дорого. Армин Ронахер из Earendil отметил, что низкая стоимость и скорость Jev делают такую сортировку возможной в реальном времени.

Парадокс Джевонса: почему удешевление AI ведёт к его росту

Модель названа в честь Уильяма Стэнли Джевонса, экономиста XIX века. Он заметил, что рост эффективности использования угля не сократил, а увеличил его потребление: техника стала дешевле, и её начали применять шире.

Алмейда переносит эту логику на интеллект. Если оценка вероятности стоит копейки, её выгодно встроить в каждое действие программы, а не только в чат. «Умный софт» распределится повсюду, как ранний интернет, проникавший в новые сферы по мере удешевления доступа.

Что это значит для вас: практические выводы

• Если вы автоматизируете рутину, посмотрите в сторону специализированных моделей. Там, где нужен ответ «да или нет», они дешевле и быстрее больших языковых моделей.
• Вероятностный подход снижает риск выдуманных ответов, что критично для проверок, модерации и классификации.
• Понимать суть Jev можно без технического бэкграунда: это оценка уверенности, а не генерация текста.
• Помните о границах. Даже дорогие модели проваливают сложные задачи: на бенчмарке Agents' Last Exam лучший результат составил 24%, а на самых трудных задачах - ноль (результаты теста).

Частые вопросы о Jev

Можно ли уже попробовать Jev?

Да, доступ открыт через API. Учтите: на старте компания ненадолго потеряла возможность обслуживать пользователей из-за высокого спроса.

Заменит ли Jev ChatGPT?

Нет. Jev решает узкий класс задач, где нужна вероятность, а не текст. В остальном она дополняет языковые модели: выступает контролёром и помогает с маршрутизацией.

Нужно ли быть программистом, чтобы использовать Jev?

Понять идею можно без кода. Для внедрения понадобятся разработчики: модель работает через API.

Насколько Jev точен?

Точность зависит от задачи. В тестах разработчиков модель показывала результаты на уровне Gemini или выше при кратно меньшей цене, но это отдельные замеры, а не универсальная гарантия.

Есть вопрос или заметили неточность? Напишите нам: мы обновляем материалы по мере появления новых данных.