Сотрудники Anthropic покупают землю в глухих местах: что стоит за страхом «выхода ИИ из-под контроля»

По данным The Wall Street Journal, некоторые из самых давних сотрудников Anthropic рассматривают покупку земли в отдалённых частях США, чтобы иметь возможность переехать туда, если ИИ выйдет из-под контроля. Пересказ отчёта приводит издание The Decoder со ссылкой на WSJ. Речь идёт о рассмотрении и обсуждении внутри узкого круга давних работников, а не о подтверждённых сделках.

За последние несколько недель «некоторые из самых ранних сотрудников» Anthropic рассказали отраслевому коллеге, что рассматривают покупку земли в удалённых районах США, куда можно было бы переехать «если ИИ выйдет из-под контроля». Источник сведений - неназванные лица, а формулировки «рассматривают покупку» и «могут переехать» описывают намерения, а не завершённые действия.

Ценность новости не в масштабе возможных сделок, а в том, кто именно обсуждает такие планы. За абстрактными дискуссиями о рисках ИИ стоят конкретные люди, которые годами создают передовые модели, и их личные решения на случай худшего сценария.

Что произошло: сотрудники Anthropic и земля в отдалённых районах

Кто такие Anthropic и почему к ним приковано внимание

Anthropic - американская компания-разработчик искусственного интеллекта, создатель чат-бота и семейства моделей Claude. Компания публично делает ставку на безопасность ИИ: её направление по выравниванию (alignment, то есть согласование поведения модели с целями и ценностями людей) заметно в публичном поле. Репутация организации, которая серьёзно относится к рискам, и делает новость заметной: похожие планы сотрудников рядовой ИТ-компании прошли бы незамеченными.

Что именно сообщает WSJ и какие есть оговорки

Суть отчёта сводится к четырём пунктам. Источник - The Wall Street Journal. Речь идёт о «некоторых из самых давних сотрудников», то есть о небольшой части команды, а не о компании целиком. Сведения переданы через отраслевого коллегу, имена не называются. Формулировки говорят о намерениях, а не о состоявшихся сделках.

Подтверждённых данных о том, что земля куплена, нет. Неизвестны ни конкретные участки, ни их стоимость, ни число участников обсуждения. Любые утверждения вида «сотрудники Anthropic скупают землю» выходят за рамки того, что сообщает источник.

Откуда такие настроения: эффективный альтруизм и байэрийские «думеры»

WSJ прослеживает, как самые ранние сотрудники Anthropic и OpenAI связаны с субкультурой эффективного альтруизма (Effective Altruism, EA), а часть этого сообщества происходит из байэрийской сети «думеров», годами прорабатывавших сценарии конца света. Отчёт описывает это как историю происхождения кадров, а не как официальную позицию компаний.

Что такое эффективный альтруизм простыми словами

Эффективный альтруизм - подход, при котором благотворительность, карьеру и ресурсы оценивают по измеримому результату: сколько пользы приносит конкретное действие на затраченный час или доллар. Приоритет отдают самым масштабным и при этом недооценённым проблемам. В 2010-х внутри движения одним из главных приоритетов стала безопасность ИИ: сторонники EA рассуждали, что неконтролируемая мощная система способна нанести ущерб в масштабах, с которыми не сравнится ни одна другая известная угроза.

Кто такие «думеры» и почему их называют байэрийской сетью

Слово «думеры» происходит от английского doom, «гибель». Так называют людей, которые всерьёз готовятся к катастрофическим сценариям и обсуждают их как практическую вероятность. Байэрийская сеть - это сообщество в районе залива Сан-Франциско, где сосредоточены технологические компании, венчурные фонды и исследовательские группы.

До того как ИИ возглавил список угроз, эта группа сосредотачивалась на природных и космических катастрофах: падении астероидов, супервулканах, пандемиях. Смена фокуса показывает, как менялась повестка сообщества, а не степень маргинальности самой идеи.

Элиезер Юдковский: человек, который предупреждал об ИИ ещё в 2000-х

Элиезер Юдковский начал предупреждать о неконтролируемом ИИ ещё в середине 2000-х и считается интеллектуальным вдохновителем этой субкультуры. Его роль в сюжете проста: он заговорил об угрозе раньше других, когда тема ещё не попала в мейнстрим.

Идея «побега от ИИ» не нова. Она вызревала в этом сообществе годами, и текущие планы сотрудников Anthropic продолжают давнюю линию рассуждений, а не реагируют на одну свежую новость. Разговоры о земле в глухих местах стоит читать как часть длинной истории, а не как отдельный курьёз.

Сценарий в духе Манхэттенского проекта: что обсуждали на ужинах Anthropic

Бывшие сотрудники вспоминают, что ещё на ранних корпоративных ужинах Anthropic обсуждался сценарий в духе Манхэттенского проекта: сотрудников могут попросить переехать в пустыню и продолжать строить ИИ внутри экранированного от электромагнитного излучения государственного объекта.

Манхэттенский проект - программа США 1940-х годов по созданию атомной бомбы, для которой исследователей собрали в закрытом комплексе в Лос-Аламосе. Аналогия подразумевает похожую мобилизацию: специалистов изолируют и направляют на одну задачу государственного значения.

Важно разделять два разных сюжета. Покупка земли - личное решение конкретных людей и их собственный запасной вариант. Переезд в пустыню по государственной программе - сценарий на случай крайней необходимости, который обсуждали на словах. По воспоминаниям бывших сотрудников, это были разговоры, а не планы компании. The Decoder приводит оба сюжета рядом, но природа у них разная.

Насколько это реально: что подтверждено, а что - интерпретация

Полезно разделить три слоя информации.

Подтверждено отчётом: некоторые давние сотрудники Anthropic рассматривают покупку земли в отдалённых районах США; на ранних ужинах обсуждался сценарий в духе Манхэттенского проекта; кадровые связи ранних сотрудников Anthropic и OpenAI с субкультурой эффективного альтруизма.

Не подтверждено: сами сделки, конкретные локации, имена участников, суммы. Сведения идут от неназванных лиц через отраслевого коллегу.

Интерпретация: объяснение мотивов через EA и сеть «думеров» - трактовка издания, а не заявление компаний.

Спокойный вывод: перед нами индикатор настроений внутри узкого круга людей, которые лучше многих понимают, как устроены современные модели. Доказательства массового исхода сотрудников из Кремниевой долины из этого не следуют.

Что это говорит об индустрии ИИ и о нас с вами

Anthropic и OpenAI выросли из сообщества, которое всерьёз относится к рискам ИИ. Это влияет на продукты и на публичную коммуникацию: обе компании регулярно говорят о безопасности и проверках, а их сотрудники время от времени высказывают личные опасения публично. Один из таких эпизодов - уход исследователя с предупреждением о «самоулучшающемся сверхинтеллекте»: разбор заявления и реакции коллег внутри компании.

Практические выводы для читателя:

• Тема рисков ИИ перестала быть маргинальной: о ней говорят люди, создающие передовые модели.
• Паниковать и повторять «покупку земли» не нужно: отчёт описывает намерения небольшой группы, а не общий тренд.
• Стоит следить за тем, как меняется риторика компаний: она влияет на регулирование и на доверие. Спор о доверии к технологическим компаниям уже идёт открыто (позиция главы Anthropic в этом споре).
• Государство тоже включилось в тему: регуляторы обсуждают правила игры с разработчиками, и часть переговоров проходит за закрытыми дверями (что обсуждают на таких встречах).

Коротко: главное о новости про Anthropic и землю

• По данным The Wall Street Journal, некоторые давние сотрудники Anthropic рассматривают покупку земли в отдалённых районах США.
• Причина - опасения, что ИИ выйдет из-под контроля.
• WSJ связывает такие настроения с субкультурой эффективного альтруизма и байэрийской сетью «думеров».
• Интеллектуальным вдохновителем сообщества называют Элиезера Юдковского, который предупреждал о неконтролируемом ИИ с середины 2000-х.
• Подтверждённых сделок нет: речь о намерениях и обсуждениях.

Мы в «Среде AI» ведём такие сюжеты хронологической лентой, чтобы картина складывалась из последовательности событий, а не из отдельных громких заголовков. Есть вопрос или заметили неточность? Напишите нам.