Публикаций: 4
Внутренняя модель GPT-Red атакует другие модели OpenAI и находит уязвимости в 84% случаев. Люди-тестировщики справляются лишь в 13%. Разрыв в шесть раз меняет то, как индустрия думает о безопасности ИИ.
CEO Google DeepMind Демис Хассабис опубликовал развёрнутое предложение по управлению передовым ИИ: новый американский регуляторный орган по образцу FINRA с правом устанавливать стандарты оценки фронтирных моделей и координировать замедление разработки при необходимости. Стартапы и исследовательские модели — вне ограничений.
Пользователи Claude фиксируют волну неожиданных отказов: художественная фантастика, история религий, биологические гипотетики. Автор Android Authority документировал паттерн несколько недель — и нашёл закономерность, которая неудобна для Anthropic.
Когда open-weight модель дообучают под задачу, она теряет защиту от вредоносных запросов — даже если обучающие данные были безвредными. Исследователи предложили SafeGene: адаптер безопасности, который не нужно пересоздавать каждый раз.