Политический аналитический центр CASP выпустил доклад о том, как нигерийская группировка Boko Haram использует современные AI-системы — так называемые frontier models. Публикация вызвала дискуссию в технологическом сообществе: тема оказалась неудобной, но неизбежной. Двойное использование мощных языковых моделей — это не завтрашняя проблема, это сегодняшняя.
Контекст
Экстремистские организации исторически быстро адаптируют новые коммуникационные технологии. ISIS в своё время превратил YouTube, Telegram и мессенджеры в инструменты вербовки задолго до того, как платформы научились их блокировать. Сейчас та же логика работает с генеративным AI: доступность, скорость, масштаб.
Boko Haram — одна из крупнейших джихадистских группировок в Западной Африке, ответственная за тысячи жертв и миллионы перемещённых лиц. Группировка активно производит видеопропаганду, вербует через социальные сети и привлекает финансирование через разнообразные каналы. Точно те же задачи, которые frontier AI решает для легального бизнеса — создание контента, перевод, персонализация сообщений — оказываются применимы и здесь.
Важный контекст: доклад CASP появляется на фоне активных дискуссий в AI-сообществе о так называемых dual-use рисках. Anthropic, OpenAI, Google DeepMind публикуют политики допустимого использования и инвестируют в системы выявления злоупотреблений. Но реальная скорость внедрения средств защиты существенно отстаёт от скорости распространения самих инструментов.
Аналитика
Базовый сценарий выглядит так: крупные открытые и условно-открытые модели (Qwen, LLaMA, Mistral и другие) доступны без жёсткой верификации пользователя. Их можно запустить локально. Инструкции по fine-tuning общедоступны. Это означает, что любая организация с минимальными техническими ресурсами может адаптировать модель под свои нужды — в том числе для генерации пропагандистских текстов на хауса, фула или арабском языке с высоким качеством, перевода вербовочных материалов, автоматизации ответов потенциальным рекрутам.
Второй пласт — обход контент-модерации. Frontier-модели с выровненными предохранителями (RLHF, Constitutional AI) сложнее эксплуатировать напрямую. Но модели без alignment или с ослабленным фильтрингом дают существенно больше пространства. Именно поэтому в сообществе AI Safety идут острые споры о том, насколько открытость весов моделей безопасна.
Третий аспект — информационные операции. Генерация правдоподобных fake-новостей, дипфейки видео с «атаками» или «победами», автоматические аккаунты для усиления нарратива — это уже задокументированные паттерны у разных акторов. Для небольших, но технически адаптивных группировок AI снижает порог входа до минимума.
Кейсы применения в бизнесе
B2B-SaaS стартап, работающий с контентом: если вы строите платформу генерации текста или автоматизации коммуникаций — уже сейчас необходимо внедрять классификаторы вредоносного контента и процедуры KYC при онбординге. Это не только этика, но и требование со стороны инвесторов и партнёров. Сценарий: подключить модерационный слой (например, через Anthropic или Azure Content Safety API) перед любым публичным выходом генерируемого контента.
Корпорация с legacy-инфраструктурой: риск здесь — не прямой, а репутационный и регуляторный. Если ваши API или облачные сервисы используются как прокси для злоупотреблений, последствия могут быть серьёзными. Необходима политика мониторинга аномального использования и чёткая цепочка ответственности при инцидентах.
SMB и локальный бизнес в КР/ЦА: для большинства компаний региона прямой риск невысок, но косвенный существенен — рост регуляторного давления на AI-инструменты в ответ на подобные угрозы. Страны, где правительства напуганы dual-use рисками, могут быстро ограничить доступ к инструментам или ввести лицензирование. Следить за позицией регуляторов КР по AI — уже сейчас рабочая задача.
Кейсы в личной жизни
Разработчик: если вы публикуете открытые AI-проекты или fine-tuned модели — стоит задуматься о политике использования. Даже небольшой проект на HuggingFace может оказаться в руках нежелательных акторов. Минимальный шаг — добавить явный запрет на использование в пропаганде и насилии в лицензии.
Контент-мейкер: дипфейки и AI-генерированный видеоконтент становятся оружием дезинформации. Разбираться в признаках синтетического медиа — не паранойя, а базовая медиаграмотность. Инструменты детекции: Hive Moderation, Reality Defender, встроенные детекторы в крупных платформах.
Студент или исследователь: тема AI Safety и dual-use — одна из самых востребованных в академии и политике прямо сейчас. Доклады CASP, работы Центра управления AI (CAIF), публикации Anthropic об ответственном развитии моделей — полезное чтение для понимания, как будет выглядеть регулирование AI в ближайшие годы.
Как применить сегодня
- Если строите AI-продукт — добавьте явный слой content moderation перед любым публичным output. Anthropic, Azure, AWS предоставляют готовые API классификации вредоносного контента.
- Изучите раздел Usage Policy выбранного AI-провайдера: что конкретно запрещено, какова процедура репортинга злоупотреблений.
- Для работы с пользовательским контентом — внедрите минимальный KYC при регистрации, даже на уровне подтверждения email. Анонимный доступ к генерации контента в 2026 году — повышенный риск.
- Следите за обновлениями от CASP, Center for AI Safety, AI Now Institute — они публикуют конкретные рекомендации для разработчиков.
- Обсудите с командой внутреннюю политику: что вы делаете, если обнаружили злоупотребление вашим продуктом? Иметь ответ на этот вопрос заранее — дешевле, чем разбираться во время инцидента.
Граница между «полезным инструментом» и «оружием» определяется не технологией, а доступом и намерением. Ни одна компания не застрахована от того, что её продукт окажется не там, где планировалось.