Публицист и экономист Ной Смит опубликовал материал с пугающим сценарием: в 2029 году подросток-одиночка просит ИИ разработать летальный вирус, запускает его в мир и убивает 90% человечества. В ответ биолог-вычислитель — человек, который реально проектировал вирусы в лаборатории и сейчас разрабатывает ИИ-системы для дизайна белков и пептидов — объяснил, почему подобный сценарий не просто маловероятен, а биологически несостоятелен. И почему публичная паника вокруг ИИ-биооружия отвлекает от угроз, которые уже убивают людей прямо сейчас.
Контекст
Дискуссия о биорисках ИИ существует несколько лет. Сторонники нарратива об «экзистенциальной угрозе» утверждают, что мощные языковые модели и специализированные биоинформатические инструменты снижают барьер для создания патогенов до уровня одиночки без профильной подготовки. Этот нарратив охотно подхватывают медиа, политики и инвесторы — особенно те, чья экспертиза далека от молекулярной биологии. Эффект Gell-Mann amnesia здесь работает в полную силу: репутация эксперта в одной области создаёт иллюзию компетентности в совершенно другой.
Автор разбираемого материала — не теоретик. Его лаборатория работала с реальными вирусами: в 2012 году они одновременно вводили до 182 мутаций в бактериофаг T7, исследуя контролируемое снижение вирулентности в контексте разработки вакцин. Сегодня он разрабатывает и оценивает ИИ-системы для проектирования белков и пептидов. Именно практический опыт показывает, насколько вычислительный дизайн биологических систем далёк от сценария «подросток плюс чат-бот равно конец человечества».
Важен масштаб сложности: аспиранты 2026 года, работающие с самыми современными ИИ-инструментами, тратят месяцы и годы, чтобы разработать простой пептидный байндер, ингибирующий один фермент. Большинство дизайнов не работают, не экспрессируются или токсичны. Смит предполагает, что подросток без биологического образования решит задачу в тысячи раз сложнее.
Аналитика
Центральный аргумент — фундаментальный биологический компромисс между летальностью и контагиозностью. Высококонтагиозные вирусы редко убивают много заражённых: жертва должна оставаться на ногах и продолжать распространять вирус. Корь — один из самых заразных вирусов на планете, один больной заражает в среднем более десяти человек, вирус сохраняется в воздухе до двух часов. Но летальность — около одного случая на тысячу. Высоколетальные вирусы передаются плохо именно потому, что тяжелобольные изолируются сами. Эбола с летальностью до 90% требует контакта с биологическими жидкостями и не становится пандемией. HIV — редкое исключение с долгим инкубационным периодом и почти стопроцентной летальностью без лечения, но его трансмиссия крайне ограничена. Вируса, который одновременно распространялся бы как респираторный и убивал как Эбола, не существует в природе.
Когда люди верят, что ИИ сам по себе — без масштабных дорогостоящих базовых экспериментов — сможет обойти эти фундаментальные биологические компромиссы, они покидают область науки и переходят в то, что можно описать только как религию.
Ближайший реальный аналог «идеального» пандемического вируса — COVID-19. Асимптоматическая передача, умеренная летальность, достаточно тяжёлые случаи для перегрузки систем здравоохранения. COVID находился в «золотой зоне» для пандемического распространения. И при всей своей разрушительности он не уничтожил цивилизацию. Более летальный, но менее заразный аналог не сделал бы хуже. А значит, если кто-то действительно создаст ИИ-разработанный вирус — что автор считает практически невозможным — его максимальный ущерб вряд ли превысит ущерб от COVID. Это трагедия, но не апокалипсис.
Кейсы применения в бизнесе
B2B-SaaS стартап в сфере кибербезопасности или compliance. Если вы оцениваете AI-риски для клиентов, не включайте «ИИ-биооружие» в топ угроз своих risk-assessment продуктов без глубокой доменной экспертизы. Это репутационная ловушка. Опирайтесь на задокументированные, верифицированные векторы. Для специфических биорисков привлекайте практикующих биологов, а не перефразируйте медийные нарративы. Одна точная оценка стоит дороже десяти громких.
Корпорация в фармацевтике, agri-tech или food-tech. Инвестиции в реальную биобезопасность — эпидемиологический мониторинг, ускорение разработки вакцин, улучшение систем вентиляции — дают конкретный и измеримый ROI. Отслеживайте реальные вспышки: они влияют на цепочки поставок, персонал, логистику. Это управление риском, а не паника по медийным сценариям.
SMB и локальный бизнес в КР/СНГ. Самый практичный вывод для небольших компаний: не тратьте бюджет на страховку от биоапокалипсиса. Реальный операционный риск — сезонные вирусные вспышки, которые влияют на явку сотрудников и работу с клиентами. Протоколы гигиены, чёткая политика удалённой работы при заболевании, мониторинг локальных вспышек — рабочие и дешёвые инструменты.
Кейсы в личной жизни
Разработчик или AI-специалист. Именно вам важнее всего понимать эффект Gell-Mann amnesia в собственном потреблении информации. То, что LLM хорошо пишут код, не означает, что они решают задачи молекулярной биологии, требующие экспериментальной верификации. Следите за реальными бенчмарками ИИ в биологии и их ограничениями — это честнее, чем экстраполировать успехи в одной области на все остальные.
Контент-мейкер или журналист. Страшилки об ИИ продают трафик. Но публикация непроверенных экзистенциальных сценариев от авторов не в своей области компетенции — это репутационный риск долгосрочно. Перед тем как усилить нарратив об AI-угрозе, проверяйте: есть ли среди источников практикующие эксперты именно в этой области?
Студент или исследователь. Статья — хорошая иллюстрация научного скептицизма в действии. Когда читаете пугающий сценарий о технологии X, задайте вопрос: «Что конкретно должно произойти на каждом шаге этого сценария?» Декомпозиция разрушает большинство апокалиптических нарративов раньше, чем они успевают напугать.
Как применить сегодня
- При любом пугающем AI-сценарии — ищите авторов с практическим опытом именно в этой области, не смежной. Репутация экономиста ≠ компетентность в вирусологии.
- Декомпозируйте сценарий по шагам: «что должно произойти на шаге 1, шаге 2, шаге 3?». Для «подросток создаёт ИИ-супервирус» таких шагов десятки, и каждый невозможен на текущем уровне технологий.
- Следите за реальными биорисками: вспышки инфекций, резистентность к антибиотикам, снижение охвата вакцинацией — это задокументированные угрозы с измеримым ущербом, а не сценарии из будущего.
- Если строите продукт или стратегию вокруг AI-рисков — проконсультируйтесь с доменными экспертами до публичного запуска. Особенно если область далека от вашей основной.
- Помните об эффекте Gell-Mann amnesia при чтении: хорошая репутация в одной области не распространяется автоматически на все остальные — ни у авторов, ни у AI-моделей.