Эдинбургский, Кембриджский и Стратклайдский университеты опубликовали совместное исследование, в котором проанализировали 97 895 обсуждений, связанных с ИИ, на форумах киберпреступников — с момента запуска ChatGPT в конце 2022 года до конца 2024-го. Вывод нетривиальный: участники закрытых площадок, где обсуждают атаки, малварь и мошенничество, всё активнее жалуются на AI-слоп. Те самые поверхностные посты с пустыми объяснениями, которые засоряют Reddit и LinkedIn, теперь засоряют и хакерские форумы.
Контекст
ChatGPT дал любому пользователю возможность генерировать тонны текста нажатием кнопки. Открытые платформы почувствовали это почти сразу: SEO-фермы, мусорные блоги, бесконечные карусели с советами. Но исследователи обратили внимание на другое: та же волна накрыла закрытые форумы с высоким барьером входа — туда, где репутация традиционно строится на демонстрации реальных навыков.
Hack Forums, BreachForums и аналогичные площадки — не анонимные имиджборды. Там есть иерархия, репутационные очки, менторство. Участники платят за верификацию, доказывают компетентность, выстраивают долгосрочные связи. В такой среде пост, написанный GPT без редактуры, считывается мгновенно — и вызывает не просто раздражение, а социальное отторжение.
Бен Кольер из Эдинбургского университета, один из авторов исследования, подчёркивает: для этих сообществ важна не только прикладная польза, но и человеческое общение внутри группы. Это та часть, которую AI пока не воспроизводит органично.
Аналитика
Здесь есть любопытное противоречие. Растущее раздражение от AI-контента — и одновременно устойчивый рост интереса к использованию LLM в самих атаках. Начинающие хакеры применяют генеративные модели для написания скриптов, генерации фишинговых писем, поиска уязвимостей. Продвинутые знают слабые места защитных механизмов коммерческих моделей и умеют их обходить. Иэн Грей из Flashpoint указывает на любопытный нюанс: опытные злоумышленники с подозрением относятся к AI-generated инструментам, которые продаются на форумах, — такие продукты могут содержать уязвимости, раскрывающие инфраструктуру самого покупателя.
Это говорит о зрелости аудитории: она умеет различать инструмент и его применение. AI как средство атаки — да. AI как замена собственной экспертизы в публичной коммуникации — нет. То же разграничение, которое делают хорошие разработчики: Copilot для ускорения, но не вместо понимания.
Для рынка информационной безопасности вывод следующий: LLM снизили барьер входа для новичков, но одновременно подняли барьер доверия внутри профессионального сообщества. Это напряжение будет нарастать по мере того, как модели становятся мощнее и доступнее.
«Я вижу, что многие используют ИИ для своих тем и постов, и это бесит. Они не в состоянии даже пару простых предложений написать сами» — участник Hack Forums, из исследования
Кейсы применения в бизнесе
B2B-SaaS стартап в сфере threat intelligence: если даже сами участники форумов отмечают рост AI-постов, классические keyword-сигнатуры для мониторинга угроз теряют точность — слишком много шума. Стоит добавить в пайплайн детектор AI-контента — не для блокировки, а для снижения приоритета пустых постов и фокуса на подлинных технических дискуссиях, где реальные эксплойты и реальные люди.
Корпоративная служба ИБ с legacy-инфраструктурой: используйте вывод «снижение барьера входа для новичков» как аргумент для апгрейда фильтрации фишинга. Если LLM пишет убедительные письма за секунды, объём попыток вырастает кратно при том же качестве. Автоматический разбор входящих с LLM-классификатором — не роскошь, а базовая гигиена.
SMB-бизнес в КР и СНГ: AI-слоп уже активен на русскоязычных форумах, включая площадки с мошенническими схемами. Конкретный шаг — 15-минутный брифинг для команды: поверхностный текст без конкретики, идеально гладкий стиль, отсутствие личного опыта — признаки AI-генерации, и в контексте коммерческих предложений или «техподдержки» это красный флаг.
Кейсы в личной жизни
Разработчик: если вы участвуете в профессиональных форумах или Stack Overflow — это прямой сигнал. Сообщества уже стигматизируют AI-посты без добавленной ценности. Используйте AI для структурирования мысли, но пишите от себя: разница в тоне и конкретике считывается мгновенно.
Контент-мейкер: исследование подтверждает то, что аудитория чувствует интуитивно — человеческий голос ценится выше машинного даже там, где люди технически грамотны и циничны. Хакерское сообщество — предельный тест-кейс. Если там не работает, то в вашей нише тем более. Короткое, но своё, лучше длинного, но пустого.
Студент или начинающий специалист в ИБ: не заменяй практику и репутацию AI-постами. Сообщество распознаёт. Задавай конкретные вопросы, показывай собственные попытки и ошибки. Это быстрее строит доверие, чем объёмный GPT-текст без личного следа.
Как применить сегодня
- Проверьте последние 10 публикаций команды: сколько написано AI без редактуры? Именно эта доля коррелирует с вовлечённостью сильнее всего — и сейчас эта зависимость только усиливается.
- Для команд ИБ: добавьте детекцию AI-паттернов в threat intelligence мониторинг. Снизит шум, повысит точность сигналов с форумов.
- Обучите сотрудников базовым маркерам AI-фишинга: общие фразы, нет конкретики, нет имён и дат, идеально гладкий стиль без разговорных оборотов.
- Если публикуете в профессиональных сообществах через AI — добавляйте личный опыт, конкретные примеры, собственную точку зрения. Без этого пост окажется в категории слопа — даже если написан на правильную тему.
- Опытным командам по безопасности: скептицизм к AI-generated инструментам с тёмных маркетплейсов теперь задокументирован в исследованиях — это аргумент для внутренних политик по проверке стороннего кода независимо от источника.