← Все статьи
2026-07-14 02:11 · 🤖 AI World

TRACE от Stanford: агенты учатся на своих провалах автоматически

Stanford представил TRACE — систему, которая сама диагностирует повторяющиеся сбои агента, синтезирует под каждый тип ошибки отдельную RL-среду и обучает свой LoRA-адаптер. Результат на SWE-bench Verified — 73.2% Pass@1, рост на +15.3 балла по τ²-Bench.

TRACE от Stanford: агенты учатся на своих провалах автоматически

Stanford выпустил TRACE (Capability-Targeted Agentic Training System) — систему, которая смотрит на собственные провалы агента, классифицирует их по типу недостающего навыка и для каждого автоматически создаёт синтетическую обучающую среду с верифицируемым результатом. Не общее дообучение на всё подряд, а хирургическое: один capability gap — одна среда — один LoRA-адаптер. Бенчмарк подтвердил: +15.3 пункта на τ²-Bench, 73.2% Pass@1 на SWE-bench Verified.

Контекст

Agentic LLM — это модели, которые действуют в несколько шагов: пишут код, вызывают инструменты, работают с файловой системой, браузером, внешними API. SWE-bench Verified — один из самых требовательных публичных бенчмарков: задачи из реальных GitHub-репозиториев, где нужно написать рабочий патч, проходящий юнит-тесты. 73.2% Pass@1 на этой планке — сильный результат.

Проблема, которую решает TRACE, существует с первых агентных систем: агент снова и снова делает одни и те же ошибки, потому что у него нет конкретного, переиспользуемого навыка под конкретный тип задачи. Стандартное RL-обучение работает на единую общую награду и плохо понимает, где именно агент проваливается — в обработке граничных случаев, в чтении контекста файла или в структуре multi-step планирования. TRACE меняет логику: сначала точно диагностируй, потом точечно лечи.

В гонке agentic-обучения активны Google DeepMind, Anthropic, OpenAI и ряд китайских лабораторий (Qwen, DeepSeek). Stanford Research традиционно двигает академический фронтир — и такие работы исторически попадают в production через open-source сообщество в течение нескольких месяцев после публикации.

Аналитика

TRACE вводит два важных архитектурных паттерна. Первый — capability gap detection: система анализирует траектории работы агента и кластеризует провалы по типу недостающего навыка. Это похоже на то, как опытный тимлид разбирает ошибки: не общая критика, а конкретное указание — «вот здесь ты не умеешь обрабатывать граничные случаи, здесь — неправильно читаешь структуру вложенных вызовов». Второй паттерн — Mixture of LoRA Experts: отдельный адаптер на каждый навык, маршрутизатор токенов выбирает нужный под контекст. Это эффективнее, чем дообучать одну монолитную модель на всё сразу.

Более широкий тренд: индустрия движется от масштабирования параметров к таргетированному усилению конкретных capability. Базовые модели уровня Claude Sonnet или GPT-4o достигли высокой общей компетентности — дальнейший прирост через простое добавление данных даёт убывающую отдачу. TRACE и похожие подходы (Process Reward Models, RL from trajectory traces) указывают на другой вектор: хирургическая дотренировка на слабые места вместо брутфорса масштаба.

Для практиков это означает: в перспективе 12-18 месяцев появятся fine-tuned агенты для узких доменов — юридические документы, финансовый анализ, DevOps-автоматизация, — которые будут заметно превосходить general-purpose модели в своей нише. Не потому что они больше, а потому что их capability gaps закрыты точечно.

Кейсы применения в бизнесе

B2B-SaaS стартап. Если вы строите AI-агента для автоматизации — кодревью, генерация тестов, data pipeline — TRACE-подход позволяет улучшать агента не через сбор новых данных, а через анализ собственных логов. Внедрите логирование траекторий с метками «успех / провал» → раз в неделю анализируйте паттерны → создавайте synthetic tasks под слабые места. Результат: рост качества без дорогостоящей ручной разметки.

Корпорация с legacy-системами. Типичная боль — агент интеграции хорошо читает JSON-API, но ломается на XML-ответах старого ERP или на нестандартных форматах выгрузок. С TRACE-логикой: выявляете конкретный capability gap, синтезируете сценарии именно под него, дообучаете адаптер. Не переобучаете всю модель — не ломаете то, что работало.

SMB и локальный бизнес в КР/СНГ. Пока сам TRACE требует ML-инфраструктуры, суть подхода применима через prompt-инжиниринг. Если ваш чат-бот регулярно ошибается на одних и тех же типах запросов — это capability gap. Создайте отдельный блок в системном промпте именно для этого кластера запросов с примерами правильных ответов. Небольшой, но работающий аналог без RL-стека.

Кейсы в личной жизни

Разработчик. Ведите личный «баг-журнал агента» — фиксируйте, где Claude или Cursor систематически ошибается (например, в тестах для async-кода или в рефакторинге с несколькими модулями). Создавайте промпты-«тренировочные упражнения» именно для этих паттернов. Это ручной TRACE — без обучения модели, но с той же диагностической логикой.

Контент-мейкер. Если текстовый агент регулярно проваливается на определённом жанре — плохо пишет TG-посты с конкретным призывом к действию или слабо держит структуру long-read — изолируйте этот тип задач, создайте 10-15 примеров с вашими правками и добавьте в few-shot контекст. Качество вырастет быстрее, чем от усложнения общего промпта.

Студент / исследователь. Следите за arXiv (cs.AI, cs.LG) — Stanford публикует papers открыто. Код по традиции появится на GitHub в течение нескольких недель. Отличная точка входа для дипломной работы на стыке RL и LLM: тема достаточно свежая, воспроизвести базовый эксперимент реально на одной GPU.

Как применить сегодня

  • Начните логировать провалы вашего агента — с типом задачи, контекстом и меткой ошибки (что именно пошло не так).
  • Кластеризуйте ошибки: ищите повторяющиеся паттерны (capability gaps), а не случайные единичные сбои.
  • Для каждого кластера создайте небольшой тестовый набор — 5-10 задач с верифицируемым правильным ответом.
  • Если есть доступ к fine-tuning через HuggingFace PEFT или аналоги: дообучайте адаптер на конкретном кластере, не на всём датасете сразу.
  • Используйте SWE-bench Verified и τ²-Bench как публичные ориентиры для сравнения вашего агента с SOTA — они дают объективную точку отсчёта.
Агенты не улучшаются от того, что их обучают дольше. Они улучшаются, когда точно знают, в чём именно слабы. TRACE — первая система, которая автоматизировала этот диагноз.
← Все статьи