#memory poisoning

Как один вредоносный запрос ломает память AI-агента навсегда

Исследователи из arXiv опубликовали первую систематическую классификацию атак на память LLM-агентов. Один заражённый input — и агент будет вести себя неправильно во всех будущих сессиях.