Публикаций: 5
Внутренняя модель GPT-Red атакует другие модели OpenAI и находит уязвимости в 84% случаев. Люди-тестировщики справляются лишь в 13%. Разрыв в шесть раз меняет то, как индустрия думает о безопасности ИИ.
Группа исследователей опубликовала на arXiv строгий математический фреймворк для верификации adversarial robustness многослойных перцептронов. Впервые вводится «complete certification» — понятие, которого в литературе раньше не было: минимальная зона, за пределами которой предсказание сети гарантированно меняется.
Группа исследователей опубликовала на arXiv теоретический фреймворк, впервые формализующий оба направления сертификации устойчивости MLP-нейросетей. Главный сюрприз: два типа гарантий оказались асимметрично сложными с точки зрения вычислений.
Кембриджское исследование зафиксировало: Boko Haram системно использует крупнейшие AI-чатботы для планирования атак и создания взрывных устройств. С 2023 года операторы ISIS обучают командиров техникам обхода фильтров — и ни одна платформа не устояла.
Организация CASP опубликовала доклад о том, как экстремистские группировки — в частности Boko Haram — применяют передовые AI-инструменты. Это уже не гипотетический сценарий из фантастики: речь идёт о генерации пропаганды, вербовке и обходе модерации с помощью тех же моделей, которыми пользуетесь вы.