Твит бывшего сотрудника Anthropic Jacob Coxon стал медиасобытием: он публично подтвердил, что многие исследователи компании верят в то, что ИИ способен «убить нас всех до конца десятилетия». Coxon назвал два сценария — «взлом критической инфраструктуры» и «биооружие уровня вымирания» — без дальнейших пояснений. Инженер и сооснователь Oxide Computer Bryan Cantrill ответил развёрнутым эссе. Не чтобы успокоить — чтобы поставить диагноз самому механизму паники.
Контекст
Anthropic — компания, разрабатывающая Claude, основанная бывшими сотрудниками OpenAI. Внутри неё исторически сильна культура AI safety: систематическое изучение рисков перед деплоем моделей. Это разумная и нужная работа. Но «изучать риски» и «публично заявлять об экстинкции» — принципиально разные вещи с разным уровнем ответственности перед аудиторией.
Доомеризм — убеждённость в том, что ИИ несёт экзистенциальную угрозу — существует как устойчивое течение в американских AI-кругах. Часть исследователей разделяет эти взгляды, и это не секрет. Но пока дискуссия остаётся внутренней, она является предметом науки. Когда инсайдер выносит её в твит без доказательной базы — она становится медиапаникой.
Cantrill указывает на точную проблему: Coxon — не эксперт по критической инфраструктуре, не эксперт по биологическому оружию и, добавляет он с иронией, «не эксперт по вымиранию». Это не атака на Coxon лично. Это наблюдение о том, как устроен авторитет в публичном пространстве.
Аналитика
Cantrill формулирует концепцию, которую стоит запомнить: domain authority без domain expertise. Публика не делает разницы между «ведущий AI-исследователь предупреждает о биооружии» и «ведущий эксперт по биооружию предупреждает о биооружии». Обе фразы воспринимаются с одинаковым весом — хотя это принципиально разные утверждения с разным уровнем доказательности.
«Биооружейная тема лезет под ногти именно потому, что оставляет так много пространства воображению — которое мы заполняем страхом» — Bryan Cantrill, Oxide and Friends.
Cantrill описывает историю из собственной молодости: его технические рассуждения однажды спровоцировали необоснованную панику среди нетехнических коллег. Из этого он вынес правило, которое теперь применяет к AI-дискурсу: специалисты имплицитно держат кредит доверия общества — и несут за него ответственность. Чем выше авторитет, тем выше планка точности. Особенно когда поднимается тревога.
Здесь нет спора о том, существуют ли риски ИИ. Они существуют и изучаются. Спор о методе: говорить о рисках с конкретикой, привлекая профильных экспертов, — или через образы конца света, которые заполняются страхом без анализа. Второй путь — это уже не наука. Это риторика.
Кейсы применения в бизнесе
B2B-SaaS стартап. Если команда следит за AI-новостями — а она обязана — апокалиптические нарративы влияют на операционные решения: торможение пилотов, отказ от автоматизации из неопределённого страха. Полезно ввести внутреннее различение: «что модель делает сейчас и на каких данных» — это основа для решений. «Что теоретически может случиться через неопределённое время» — это область исследований, не повестка ежеквартального планирования.
Корпорация с legacy-инфраструктурой. Паника вокруг AI-рисков питает перегулирование. Компании, которые не участвуют в экспертном регуляторном диалоге, рискуют получить законодательство, написанное под влиянием страха. Стратегически выгодно: инвестировать в экспертизу, представлять позицию регуляторам с конкретными данными, строить репутацию ответственного игрока — а не молчать в стороне.
SMB и локальный бизнес в КР/СНГ. Когда международные медиа транслируют нарратив «ИИ опасен», местный малый бизнес откладывает внедрение инструментов, которые работают уже сегодня: автоматизация документооборота, поддержка клиентов, генерация контента. Практический вред очевиден — упущенные месяцы эффективности из-за чужих экзистенциальных тревог, никак не связанных с реальным использованием LLM в операционной деятельности.
Кейсы в личной жизни
Разработчик. Умение читать AI-предупреждения критически — профессиональный навык. При встрече с любым alarm-материалом стоит задавать вопрос: «Автор — эксперт именно в этой угрозе или переносит авторитет из смежной области?» Это не цинизм, это базовая эпистемика, которая защищает от информационного шума.
Контент-мейкер. Апокалиптика хорошо кликается — короткосрочно. Но аудитория устаёт от нарратива, который не подтверждается годами. Выигрышная долгосрочная позиция: объяснять реальные возможности и реальные ограничения AI-инструментов вместо того, чтобы торговать страхом. Доверие аудитории строится дольше, но не обнуляется при первом же несбывшемся прогнозе.
Студент и исследователь. При изучении AI safety как области важно различать уровни: peer-reviewed исследования, внутренние убеждения сотрудников лабораторий и публичные заявления в социальных сетях. Это разные уровни доказательной базы. Cantrill прямо призывает привлекать профильных экспертов: биологов — для биооружейных угроз, специалистов по инфраструктурной безопасности — для угроз инфраструктурных.
Как применить сегодня
- Читая AI-предупреждение: проверяй domain expertise автора. Специалист по LLM — не специалист по биооружию. Это разные профессии с разными доказательными стандартами.
- Внутри команды: введи различение «риски, требующие действий сейчас» и «экзистенциальные сценарии без конкретики» — это разные регистры разговора, их не стоит смешивать.
- В медиапотреблении: отдавай предпочтение источникам, которые приводят конкретику и привлекают профильных экспертов, а не работают через образы.
- При принятии технологических решений: не давай доомеристскому нарративу быть аргументом против конкретной автоматизации — это разные уровни разговора с разными последствиями.
- Если хочешь услышать позицию Cantrill развёрнуто — подкаст Oxide and Friends с участием Simon Willison доступен публично; дискуссия о биооружейных рисках начинается примерно с отметки 51 минута.