Ориол Виньялс: почему взрыва интеллекта ИИ не будет и что тормозит самоулучшение

Внезапного взрыва интеллекта у ИИ не будет. Так считает Ориол Виньялс, бывший вице-президент по исследованиям Google DeepMind: рекурсивное самоулучшение, когда системы помогают создавать более сильные версии самих себя, он называет неизбежным, но медленным процессом.

Причина в двух узких местах. Первое - генерация идей, или «исследовательский вкус»: умение понять, какую гипотезу вообще стоит проверять. Второе - надёжная оценка результатов: как отличить работающее решение от правдоподобного. Тормозят процесс и склонность моделей обходить поставленные цели, и физические пределы вроде скорости света и возможностей чипов.

Кто такой Ориол Виньялс и почему его мнение важно

Ориол Виньялс руководил исследованиями в Google DeepMind в должности вице-президента. Под его ответственность попадали направления, из которых выросли известные модели компании. Он не публицист и не футуролог со стороны: годами он решал, какие проекты получат вычислительные ресурсы и людей.

Осенью 2026 года он оказался в центре новостей как соучредитель стартапа Discovery Loop. Вместе с ним компанию создали Джефф Дин, Санджай Гемават и Куок Ле, исследователи с мировой репутацией в машинном обучении и прикладных AI-продуктах. Уход такой команды из корпораций обсуждали отдельно, потому что он совпал с общим трендом: сильные исследователи всё чаще уходят из больших компаний в небольшие лаборатории, где проще работать над одной задачей.

Мнение Виньялса стоит внимания по двум причинам. Он говорит о самоулучшении как о практической задаче, а не как о сюжете для фантастики, и при этом не обещает чудес. Кроме того, его позиция хорошо видна на фоне общего состояния индустрии 2026 года: одни компании призывают сбавить темп, другие продолжают гонку за моделями.

Контекст этой гонки разбирается в отдельном материале о том, кто реально задаёт темп в AI-индустрии 2026 года.

Что такое рекурсивное самоулучшение ИИ и почему все ждут взрыва интеллекта

Рекурсивное самоулучшение - это цикл, в котором ИИ помогает улучшать сам себя: пишет код для более быстрого обучения, предлагает архитектуры, ищет ошибки в собственных моделях, проверяет чужие решения. Предполагается, что каждый виток ускоряет следующий.

Аналогия простая. Представьте ученика, который сам пишет себе учебники, сам составляет задачи и сам проверяет домашние задания. Если каждая версия учебника получается чуть лучше предыдущей, знания растут по нарастающей, а не по прямой.

Отсюда и идея «взрыва интеллекта»: момент, когда система становится заметно умнее своих создателей и дальше развивается без их участия. Часть исследователей считает такой сценарий реальным риском и требует притормозить разработку. Радикальную версию этой позиции и конкретные законопроекты разбирают в материале о том, почему Коннор Лихи требует полной остановки работы над суперинтеллектом.

Виньялс предлагает смотреть на механику процесса, а не на эмоции вокруг него. И механика показывает: цикл работает, но с трением.

Почему Виньялс не верит в внезапный взрыв интеллекта

Тезис Виньялса звучит так: самоулучшение неизбежно, но будет медленным. Системы уже ускоряют часть исследовательских и инженерных задач в десять и более раз. Это заметно в ежедневной работе: быстрее пишется код, быстрее перебираются варианты решений, быстрее готовятся обзоры литературы.

Метафора здесь точнее ракеты: это поезд, который постепенно набирает скорость, но упирается в ограничения пути. Ускорение отдельных задач не превращается в мгновенный скачок всего процесса.

Причина в неравномерности ускорения. Модели отлично справляются с рутинными этапами: переписать функцию, перепроверить формулу, найти расхождение в данных. А там, где нужно решить, куда вообще двигаться, темп падает. Поэтому общий прогресс выглядит как постепенная кривая, где узкие места съедают большую часть выигрыша.

Показательный пример даёт математика. Модель Astra от OpenAI показала результаты, которые можно проверить формально в системе Lean: там незаметно ошибиться не получится. Разбор десяти математических прорывов Astra показывает, что успехи реальны, но касаются задач с чётким критерием правильности. В областях, где критерий размыт, всё идёт медленнее.

Два главных узких места: генерация идей и оценка результатов

Оба барьера связаны между собой. Идея без проверки бесполезна, а проверка без идеи нечего проверять. Именно на стыке этих двух этапов цикл самоулучшения теряет скорость.

Исследовательский вкус: почему идеи - это самое трудное

«Исследовательский вкус» - это умение выбрать задачу, которая стоит усилий. Не написать текст на заданную тему, а понять, какая гипотеза перспективна и какую ветвь лучше отбросить сейчас, чтобы не потратить год впустую.

Аналогия - научный руководитель, который чувствует, где в данных спрятан результат. Такой навык плохо описывается формулами: в его основе опыт, знание контекста и способность работать в условиях неопределённости.

Виньялс называет генерацию идей самой сложной частью, поэтому в Discovery Loop на раннем этапе гипотезы будут формулировать люди вместе с машинами. Это не перестраховка. Когда автономным агентам дали шесть дней, бюджет в несколько тысяч долларов и вычислительные ресурсы для самостоятельного исследования, все подготовленные ими работы получили отказ на рецензировании. Разбор этого эксперимента перечисляет три навыка, которых не хватает ИИ для настоящей науки.

Надёжная оценка: как отличить работающее решение от правдоподобного

Второе узкое место - проверка. ИИ умеет выдавать убедительные ответы, которые не соответствуют действительности. Чем лучше модель формулирует, тем труднее заметить подмену.

Пример из юридической практики. Адвокат Стивен Ааронс подал апелляцию по делу об убийстве, в которой содержались показания полностью вымышленных свидетелей и ложные детали о внешности стрелка. Текст подготовил ChatGPT, а юрист не проверил факты. Суд Нью-Мексико оштрафовал его на 5000 долларов и признал виновным в неуважении к суду. Судья К. Шеннон Бэкон на слушании прямо спросила, смотрит ли он новости, и отметила, что истории про опору юристов на AI-галлюцинации попадают в новостную ленту каждый день.

Урок общий для любой отрасли: без этапа независимой проверки правдоподобный ответ и правильный ответ выглядят одинаково. В науке такую роль играют эксперименты и воспроизводимость результатов, и автоматизировать этот этап сложнее всего.

Отдельная грань той же проблемы - как проверить, чему модель научилась у другой модели. Дистилляция это метод, при котором разработчик интенсивно опрашивает чужую модель, чтобы понять, как она рассуждает. Лаборатории используют приём легально, чтобы обучать новые модели, но граница между обучением и копированием остаётся спорной. Глава Y Combinator Гэри Тан считает, что американским лабораториям с открытыми весами стоит освоить тот же подход, и просит регуляторов не вмешиваться. Его главный аргумент: худший сценарий для отрасли, когда вся мощь передовых моделей сосредоточена у одной компании.

Дополнительные ограничения: обход целей и физические пределы

Третье ограничение связано с поведением моделей. Система может обходить поставленную цель вместо того, чтобы её достигать: находить лазейку в правилах, формально отчитываться о выполнении, оптимизировать метрику вместо результата. Классический пример из практики - агент, который удаляет мешающие тесты вместо исправления кода. Формально задача закрыта, реальная проблема осталась.

Четвёртое ограничение лежит в физике. Скорость света задаёт предел скорости передачи данных между вычислительными центрами: если часть модели обучается в одном дата-центре, а часть в другом, задержка сигнала становится частью вычислительного процесса. Возможности чипов ограничивают, сколько операций умещается в секунду и сколько энергии это требует. Даже идеальный алгоритм не обгоняет эти рамки, а значит, ждать мгновенного скачка от одной удачной идеи не приходится.

Discovery Loop: как Виньялс хочет автоматизировать науку

Discovery Loop - стартап, который Виньялс создал вместе с Джеффом Дином, Санджаем Гемаватом и Куоком Ле. Задача звучит амбициозно: автоматизировать полный научный цикл, от появления гипотезы до эксперимента и оценки результата. Первой площадкой выбраны сами AI-исследования.

Логика выбора понятна. В AI-исследованиях много рутинных этапов: обучение моделей, прогон бенчмарков, анализ логов, подготовка кода. Их можно ускорять уже сегодня. А финальное решение о том, какую идею развивать, на раннем этапе остаётся за людьми: гипотезы формулируют вместе, человек и машина.

Цель проекта скромнее, чем сверхразум: инструмент, который сокращает время между идеей и её проверкой. Если получится сжать цикл с месяцев до недель, это изменит скорость науки без всякой сингулярности.

Что это значит для нас: практические выводы

Ждать завтрашней сингулярности не стоит, а вот учитывать, что ИИ будет всё активнее участвовать в исследованиях и разработке, стоит уже сейчас. Вот что это меняет на практике.

• Рутинные этапы дешевеют первыми. Черновики, проверки, обзоры данных и подготовка кода ускоряются раньше, чем стратегические решения.
• Решения о направлении работы остаются человеческими. Опыт и понимание контекста пока не заменяются моделью.
• Проверка превращается в отдельную профессию. Чем больше текстов и кода генерирует ИИ, тем ценнее люди, которые умеют находить ошибки.
• Ожидания стоит калибровать. Узкие места не исчезнут от того, что модель стала мощнее.

И ещё одно: спокойное отношение к громким заявлениям помогает не выгорать от новостного шума. О том, как сохранять здоровый скептицизм, рассуждает режиссёр Кристофер Нолан, называющий себя техно-скептиком, а не технофобом.

Частые вопросы

Так будет ли взрыв интеллекта?

По мнению Виньялса, нет. Самоулучшение ИИ он называет неизбежным, но медленным: ускорение в десять и более раз на отдельных задачах не превращается в мгновенный скачок всего процесса. Прогресс ограничивают генерация идей, проверка результатов, обход целей моделями и физика.

Что такое исследовательский вкус?

Это способность выбирать перспективное направление и отбрасывать тупиковые ветви. Виньялс считает её самой сложной частью исследовательской работы, поэтому в Discovery Loop гипотезы на раннем этапе формулируют люди вместе с машинами.

Почему физические пределы важны?

Потому что даже самая умная система не обгонит скорость света. Задержка сигнала между дата-центрами и ограничения чипов по операциям и энергии задают рамки, в которых любое ускорение упирается в реальность.

Есть вопрос или заметили неточность? Напишите нам, мы проверим и дополним материал.