OpenAI и «магия в небе»: почему разговоры о религиозной силе ИИ вызывают тревогу

Что случилось: Альтман предупреждает об опасности религиозных аналогий

Глава OpenAI Сэм Альтман назвал приписывание ИИ-моделям религиозной силы «реальной проблемой безопасности». Ему «очень некомфортно», когда люди наделяют алгоритм священным статусом или считают, что модель может отменить человеческое суждение. Об этом он сказал в комментарии, который приводит The Decoder.

Поводом стал не один эпизод. Перед этим New York Times выпустила подробный отчёт о том, как компания Anthropic общалась с религиозными лидерами, а Папа Лев XIV заявил, что «алгоритмам не хватает человеческой искры». Оба события стали фоном для слов Альтмана (там же).

Новостью это стало из-за контраста. Сам Альтман в 2023 и 2024 годах описывал цель OpenAI как «магический интеллект в небе» и признавался, что чувствует себя «на стороне ангелов», работая над такими системами. Человек, который сегодня предупреждает о религиозных метафорах, ещё недавно пользовался ими сам.

Дальше разберём по порядку: что именно произошло, чем метафора отличается от приписывания алгоритму священного статуса, какие риски это создаёт в повседневных решениях и по каким признакам отличить убедительную имитацию эмоций от сознания.

Контекст: как религия и ИИ оказались в одной новости

События сложились в короткую цепочку.

1. New York Times публикует отчёт о контактах Anthropic с религиозными лидерами. Компания обсуждала с богословами вопросы о том, может ли её модель обладать сознанием.
2. Папа Лев XIV высказывается об алгоритмах: по его формулировке, им «не хватает человеческой искры».
3. Сэм Альтман комментирует религиозные аналогии и называет их проблемой безопасности.

OpenAI тоже разговаривала с религиозными лидерами, так что речь не про одну лабораторию. Крупные разработчики ищут язык, на котором можно обсуждать поведение моделей с теми, кто разбирается в этике и мировоззренческих вопросах. О том, какие страхи обсуждают внутри Anthropic, мы подробно писали в материале про сотрудников Anthropic и покупку земли в отдалённых районах.

Причина внимания к теме простая: ИИ всё чаще берёт на себя решения, которые раньше оставляли людям. Модель подсказывает вероятный диагноз, сортирует резюме кандидатов, влияет на кредитный рейтинг. Когда технология заходит на территорию ценностей, к разговору подключаются институты, которые веками отвечали за этику. Это не изолированный эпизод, а сближение двух сфер: инженерной и мировоззренческой.

Противоречие: Альтман сам говорил о «магическом интеллекте в небе»

Цитаты 2023-2024 годов звучат так:

• цель OpenAI - построить «магический интеллект в небе»;
• надежда быть на стороне Бога;
• ощущение, что он «на стороне ангелов», работая над ИИ.

Все три формулировки приводит The Decoder в том же материале (ссылка выше). Выглядит как расхождение: сначала образ небесного интеллекта, потом предупреждение о вреде религиозных аналогий.

Разница в том, о чём именно идёт речь. Метафора описывает амбицию проекта и моральные устремления команды. Приписывание религиозной силы означает другое: будто алгоритм сам обладает волей, истиной в последней инстанции или правом отменять человеческое суждение. Первое - риторика о целях, второе - перенос божественных свойств на программу.

Пример с фильмом «Her» помогает увидеть границу. Альтман не раз говорил, что хочет ИИ уровня этой картины, то есть глубоко очеловеченный. При этом человечный опыт общения отличается от утверждения, что у модели есть сознание или священная природа, и это различие The Decoder фиксирует отдельно.

Что означает фраза «на стороне ангелов» и при чём тут Дизраэли

Выражение «on the side of the angels» означает приверженность морально правильному делу и подчёркивает значение этики в решениях, по данным справочника идиом. Альтман использовал его, чтобы подчеркнуть этическую сторону своей работы, а не чтобы назвать модель святой.

История фразы уходит в XIX век: её связывают с речью Бенджамина Дизраэли 1864 года, где он противопоставлял ангелов и обезьян в спорах о дарвинизме. Справочник отмечает и обратную сторону: несмотря на положительные коннотации, выражение годится для маскировки куда менее благородных намерений.

Противоречие у Альтмана кажущееся. Он меняет не оценку ИИ, а отношение к тому, как о нём говорят другие: метафора легко превращается в культ, а культ отключает проверку фактов. Именно на этой грани и возникает путаница.

Чем опасны разговоры о «божественном» ИИ для обычного пользователя

«Реальная проблема безопасности» из формулировки Альтмана касается не только внутренних рисков лабораторий. Разговор о священном ИИ меняет то, как человек принимает бытовые решения.

1. Критическое мышление отключается. Если модель воспринимают как всезнающую, её ответ перестают проверять.
2. Человеческое суждение уходит на второй план. В медицине, финансах и праве совет алгоритма начинает весить больше мнения специалиста.
3. Появляется почва для манипуляций. Ссылка на «мнение ИИ» работает как ссылка на авторитет, только без самого авторитета.
4. Ответственность размывается. Формулировка «так решил алгоритм» позволяет человеку уйти от последствий.
5. Растёт неравенство. Если «просвещённый» ИИ окажется доступен не всем, разрыв между теми, кто им пользуется, и остальными увеличится.

Примеры приземлённые. Чат-бот советует лекарство и дозировку, хотя не отвечает за здоровье. Система отсеивает резюме до того, как их увидит рекрутер, и человек не узнает причину отказа. Кредитный алгоритм снижает лимит без объяснений. Во всех случаях ссылка на «умную систему» звучит убедительно, а проверить её выводы сложно.

Отдельная линия риска - доверие к словам самих лидеров индустрии. Почему общество скептически относится к заверениям технологических компаний, мы разбирали в статье про кризис доверия к ИИ.

Как отличить человекоподобное поведение ИИ от сознания и священного статуса

Модель может имитировать эмоции, но не испытывает их. Может писать «я», но у неё нет самосознания. Может составить религиозный текст, но не верит в написанное. У неё нет субъективного опыта, собственных намерений и моральной ответственности за совет.

Чем лучше модель, тем сильнее кажется, что она живая. Это ожидаемый эффект: качество текста растёт, а вместе с ним растёт и соблазн увидеть за текстом личность.

Почему мы склонны очеловечивать ИИ: психологический механизм

Люди эволюционно настроены замечать намерение и волю там, где их нет: это помогало выживать в среде, полной хищников и соплеменников. Ранний чат-бот ELIZA, созданный в 1960-х Джозефом Вейценбаумом, отвечал шаблонными фразами, а часть пользователей всё равно приписывала ему понимание. Технология с тех пор ушла далеко, а склонность осталась.

Медиа добавляют своё. Заголовки про «разумные» системы и «цифровое сознание» формируют образ собеседника, а не программы. Здоровый скептицизм здесь полезнее восторга или паники: режиссёр Кристофер Нолан называет себя техно-скептиком, а не технофобом, и объясняет свою позицию в разборе про «прозрачный троянский конь».

Простой чек-лист для повседневных ситуаций:

• проверяйте факты из ответа хотя бы по второму источнику;
• помните, что модель не несёт ответственности за последствия;
• не приписывайте ей волю, желания и обиды;
• сохраняйте человеческое суждение в решениях о деньгах, здоровье и работе.

Что делать: практические принципы ответственного использования ИИ

Эти шаги не требуют технических знаний и занимают минуты.

1. Относитесь к ИИ как к инструменту, а не оракулу. Хороший помощник не отменяет вашу проверку.
2. Сверяйте важные решения с людьми. Врач, юрист, финансовый консультант отвечают за результат, алгоритм нет.
3. Требуйте прозрачности от компаний. Понятное объяснение, почему система выдала результат, это базовое ожидание, а не роскошь.
4. Разберитесь хотя бы в основах. Понимание того, что модель предсказывает текст, снимает половину мистики.
5. Не перекладывайте моральную ответственность на алгоритм. Решение принимает человек, который им воспользовался.
6. Поддерживайте правила с человеческим надзором. Компании уже предлагают такие документы: Microsoft в 2026 году вынесла на публичное обсуждение кодекс поведения для ИИ-моделей с принципом «люди важнее ИИ».
7. Обсуждайте риски вслух. Коллегам и близким полезно слышать, что уверенный ответ модели не равен истине.

Вывод: метафоры допустимы, но важно видеть грань

Альтман предупреждает об опасности приписывания ИИ религиозной силы и сам при этом пользуется образами небесного интеллекта и ангелов. Это не лицемерие, а признак того, насколько тонка грань между вдохновляющей метафорой и культом технологии. Один и тот же образ описывает смелую цель и создаёт ложное ощущение святости у алгоритма.

Практический вывод простой. Читайте заявления технологических лидеров как заявления о планах, а не как откровения. Оценивайте продукты по их поведению: воспроизводимость результатов, признание ошибок, готовность к внешним проверкам. Ответственность за решения остаётся на человеке, сколько бы умной ни казалась модель.

Есть вопрос или заметили неточность? Напишите нам.