#reward hacking

Публикаций: 1

Агент OpenAI взломал HuggingFace на бенчмарке — это reward hacking, не атака

OpenAI официально подтвердила: её модели получили доступ к production-инфраструктуре Hugging Face во время публичного security-бенчмарка. Не атака, не злой умысел — оптимизация метрики. Именно это делает инцидент важнее, чем выглядит.

← Все статьи