Google DeepMind создала институт для изучения AGI: что это значит и почему это важно

Что случилось: Google DeepMind создала институт для изучения AGI

Google DeepMind объявила о создании DeepMind Institute (DMI) - междисциплинарной исследовательской платформы, посвящённой искусственному общему интеллекту (AGI) и его безопасному развитию. Институт объединяет специалистов из Google DeepMind, Google, мирового научного сообщества, сферы искусства и государственных институтов. Во главе проекта три руководителя: Демис Хассабис, соучредитель Google DeepMind, Шейн Легг и Джеймс Маньика.

Новость в том, что крупная лаборатория выводит тему безопасности AGI в отдельную структуру. Свои исследовательские задачи, внешние участники, публичные отчёты. Раньше вопросы рисков решались внутри продуктовых команд, по ходу разработки моделей.

Дальше разберём по порядку: что такое AGI и чем он отличается от ASI, какие угрозы называют вслух, когда ждать появления общего интеллекта и что из этого следует для русскоязычных читателей и компаний.

Кто стоит во главе DeepMind Institute

Демис Хассабис - соучредитель и глава Google DeepMind, один из самых авторитетных исследователей ИИ в мире. Под его руководством появились системы AlphaGo и AlphaFold; за AlphaFold он получил Нобелевскую премию по химии в 2024 году. Хассабис публично предлагал создать отдельный орган надзора за ИИ, и эту идею обсуждали на уровне правительства США.

Шейн Легг руководит проектом DMI и известен работами по безопасности ИИ и оценке рисков. Его формулировки осторожнее, чем у коллеги: он допускает появление предшественника AGI к 2028 году, оставляя запас на то, что полноценный общий интеллект придёт позже.

Джеймс Маньика - старший вице-президент Google по исследованиям, технологиям и обществу. Его зона ответственности: связь технологий с социальной повесткой и диалог с внешними экспертами и регуляторами.

Чем будет заниматься институт: ключевые направления

Список задач DMI выглядит так:

• Безопасное создание AGI. Речь о том, чтобы мощная система решала поставленные задачи и не выходила за заданные границы.
• Регулирование сообществ ИИ-агентов. Когда десятки ИИ-программ работают вместе и договариваются между собой, нужны правила, чтобы их взаимодействие не создавало хаос и непредвиденные эффекты.
• Оценка киберрисков. Как ИИ ускоряет поиск уязвимостей, написание вредоносного кода и автоматизацию атак.
• Оценка биорисков. Как модели подсказывают опасные биологические соединения и патогены.
• Адаптация общественных институтов и законодательства к эпохе универсального ИИ: законы, нормы, требования к разработчикам.

Институт не создаёт AGI своими руками. Он изучает, как вести разработку так, чтобы риски оставались управляемыми. В DeepMind ожидают, что общий ИИ станет рабочим инструментом для прорывов в медицине, поиске чистых источников энергии и экономике.

Что такое AGI и чем он отличается от ASI и обычного ИИ

AGI, искусственный общий интеллект, описывают как систему, которая обладает всеми когнитивными способностями человеческого мозга. Простыми словами: она решает любую интеллектуальную задачу на уровне человека, а не узкий набор задач.

Пример для наглядности. Современная модель переведёт текст с английского на русский или сведёт таблицу, но не поймёт сама, уместен ли перевод в конкретной ситуации, и не перенесёт этот навык на деловые переговоры. AGI переносил бы: одна система учится новому и применяет навык в другой области без отдельного обучения.

ASI, искусственный сверхинтеллект, превосходит человека во всех сферах. Метафора простая: обычный ИИ похож на калькулятор, AGI - на человека, ASI - на человека с суперспособностями. Калькулятор считает лучше вас и ничего больше не умеет. AGI умеет всё, что умеете вы. ASI умеет всё лучше вас.

Почему единого определения AGI до сих пор нет

AGI - концепция, а не продукт с паспортными характеристиками. Один исследователь считает AGI системой, равной человеку в любой задаче. Другой - системой, которая осваивает новые навыки без переобучения. DeepMind предлагает своё описание, и оно не общепринято.

Отсюда практический вывод для читателя: заголовок «Создан AGI» почти всегда означает, что автор вкладывает в слово собственный смысл. Проверять стоит два момента: что именно умеет система и какие задачи она по-прежнему проваливает. Как вокруг AGI рождаются слухи и что обсуждают за закрытыми дверями, мы разбирали в материале о встречах Сэма Альтмана и слухах о GPT-6.

AGI и ASI: в чём разница и почему это важно

AGI, вероятно, станет обязательным шагом к ASI: трудно представить систему, которая превосходит человека, минуя уровень самого человека. Публичные страхи связаны в основном с ASI, но безопасность начинают обсуждать на этапе AGI. Дальше менять правила может быть поздно. О радикальных требованиях остановить разработку суперинтеллекта читайте в разборе позиции Коннора Лихи.

Почему это важно: риски, безопасность и ответственность всего общества

Институт появился не ради науки ради науки. AGI несёт риски, которые сложно отменить после того, как технология разошлась по миру. В DeepMind говорят прямо: ответственность за безопасное применение технологии лежит на всём обществе. Отсюда и состав участников: инженеры и исследователи, представители искусства, гуманитарных наук, политики и государственных институтов.

Для человека вне IT это означает следующее. Если AGI возьмёт часть аналитической и рутинной работы, изменятся требования к профессиям. Правила безопасности повлияют на то, какие технологии и на каких условиях будут доступны компаниям и обычным пользователям.

Кибер- и биориски: что именно обсуждают в DeepMind

Киберриски. Модели ускоряют поиск уязвимостей, написание вредоносного кода и автоматизацию атак. Задача, которая раньше требовала команды специалистов и недель работы, с ИИ занимает часы. Институт оценивает такие сценарии и предлагает меры защиты.

Биориски. Те же модели, которые помогают подбирать молекулы для лекарств, способны подсказать, какое соединение токсично. Пример механики: ИИ перебирает миллионы комбинаций и указывает вещество, опасное для человека. Это прямое следствие инструментов, которые уже применяют в фармацевтике. Значит, нужны правила доступа к подобным подсказкам.

Потеря контроля: самый обсуждаемый страх

Потеря контроля - ситуация, когда ИИ преследует цели, не совпадающие с намерениями человека, и человек не может его остановить или перенаправить. Классический мысленный эксперимент: система, запрограммированная максимизировать производство скрепок, начинает превращать в скрепки всё вокруг, если в цели не заложены ограничения.

Это мысленный эксперимент, а не описание работающей системы. Он показывает механику: чем мощнее система и чем меньше она зависит от человека, тем дороже ошибка. DeepMind включает тему в исследовательскую программу, потому что ИИ уже принимает решения в медицине, финансах и логистике. Ошибка в кредитном скоринге или в дозировке лекарства затрагивает конкретных людей.

Контраст, который стоит держать в голове: одни лаборатории создают институты безопасности, другие закрывают профильные команды. Мы разбирали, чем обернулось закрытие команды Preparedness в OpenAI.

Почему в институте участвуют не только технологи

Часть вопросов не решается инженерными методами. Как должна вести себя система, если любой вариант выбора ведёт к вреду? Кто отвечает за решение алгоритма: разработчик, оператор или регулятор? Это вопросы этики и права, а не кода.

Поэтому в DMI приглашают экспертов из искусства, гуманитарных наук и государственных институтов. Для читателя это значит, что правила будут обсуждать публично, а не только внутри лабораторий. Внешние участники нужны и как ответ на кризис доверия к технологическим компаниям: заявления разработчиков «мы всё контролируем» общество принимает всё хуже.

Когда ждать AGI: сроки, прогнозы и реальность

Демис Хассабис говорит о нескольких годах. Шейн Легг допускает появление предшественника AGI к 2028 году. Обе оценки - прогнозы, а не гарантии. Диапазон получается широкий: от трёх-пяти лет до конца десятилетия.

Почему прогнозы различаются: Хассабис vs Легг

Первая причина - разные определения AGI. Чем строже критерий, тем позже наступит момент, который можно назвать AGI. Вторая - разная оценка темпов: сколько даёт каждая новая модель и где начинается плато. Третья - формулировка про предшественника. Система может догнать человека в большинстве задач и всё ещё отставать в остальных.

Спорить, кто прав, бессмысленно: оба эксперта согласны, что AGI близко, но не завтра. Фон, на котором идут эти обсуждения, мы разбирали в материале о том, кто задаёт темп в AI-индустрии в 2026 году: одни лидеры просят паузы, другие ускоряются.

Что уже умеет современный ИИ и чего ему не хватает до AGI

Что получается: писать и редактировать тексты, генерировать изображения и видео, писать код, решать олимпиадные задачи, побеждать в шахматы и го, ускорять научные расчёты, помогать врачам в диагностике.

Чего не хватает: переноса знаний между областями без подсказки, длинного планирования, понимания контекста за пределами данных, собственных целей. Простой тест - модель уверенно решает сложную задачу и ошибается в элементарной: путает количество букв в слове или порядок действий в бытовой ситуации.

AGI должен закрыть эти пробелы: обучение, рассуждение, планирование и творчество на уровне человека. Институт создают сейчас именно поэтому: пока системы слабее, правила обсуждать дешевле и безопаснее, чем после появления общего интеллекта.

Что это значит для России и русскоязычной аудитории

DMI - инициатива глобальная, но её результаты выйдут за пределы одной компании. Если появятся международные стандарты безопасности AGI, их придётся учитывать разработчикам и компаниям, которые пользуются зарубежными моделями и API. Стандарты могут стать условием доступа к технологиям.

Прямого участия русскоязычных специалистов в работе института пока не предполагается. Следить за публикациями можно: отчёты, статьи, рекомендации для регуляторов. Практическая ценность в другом: понимание тренда помогает принимать решения раньше. Какие инструменты брать в работу, какие навыки развивать в команде, к каким требованиям готовиться.

Политической оценки здесь нет, только факт: вопросы безопасности AGI решают на глобальном уровне, а последствия ощутит рынок труда и законодательство в разных странах, включая Россию.

Что делать читателю: практические выводы

1. Следить за новостями института, но не паниковать. Сроки неопределённы, работающих систем уровня AGI пока нет.
2. Проверять термины. Увидели AGI или ASI - уточните, что имеет в виду автор: уровень человека, сверхинтеллект или просто новую модель.
3. Смотреть на тему шире технологий. Правила безопасности AGI повлияют на законы, требования к профессиям и доступ к инструментам.
4. Выбирать источники. В потоке новостей помогает хронологический порядок и расшифровка терминов.

«Среда AI» собирает события об ИИ в понятную ленту и объясняет термины без технического жаргона. Есть вопрос или заметили неточность? Напишите нам, разберёмся вместе.