Публикаций: 8
Google разрабатывает серверный чип Frozen v2, в котором архитектура Gemini встроена непосредственно в кремний. По данным внутренних источников, он может быть в 6–10 раз эффективнее нынешних TPU — и должен появиться к 2028 году.
Исследование CogniConsole на arXiv доказывает: большинство сбоев LLM — не вопрос мощности модели. Виноват слой, который управляет инференсом — как сформулирована задача и что попало в контекст.
GPT-5.6 Sol вышел с пятью уровнями «глубины рассуждений» — от лёгкого Light до тяжёлого xhigh — плюс режимы Max и Ultra с параллельными суб-агентами. Сотрудник OpenAI Вайбхав Сриваставе дал простое правило: стартуй снизу и повышай уровень только по необходимости.
NVIDIA выпустила Nemotron-Labs-3-Puzzle-75B-A9B — сжатый вариант Nemotron-3-Super, который на одном узле 8×B200 даёт в 2.03× больший серверный throughput при той же пользовательской скорости. На одном H100 число одновременных запросов с 1M-токенным контекстом выросло с 1 до 8.
Проект tiny-vLLM — это одновременно рабочий inference-сервер для Llama 3.2 и курс, который ведёт через каждую строчку кода. Автор строит то, что обычно скрыто за абстракциями фреймворков: от чтения Safetensors до FlashAttention-подобных CUDA-ядер.
Frontier-лабы поднимают цены быстрее, чем обещали их снизить. Инженер в дешёвой стране + открытая модель уже сегодня бьют GPT или Claude по соотношению цены и результата.
Команда исследователей из UMD, Google и Meta позволила Claude Code самостоятельно искать алгоритмы масштабирования тест-тайм вычислений. За 160 минут и $40 агент нашёл алгоритм, который режет compute на 70% без потери точности.
NVIDIA выпустила семейство диффузионных языковых моделей Nemotron-Labs Diffusion — 3B, 8B и 14B параметров с коммерческой лицензией. Главное отличие от обычных LLM: токены генерируются блоками параллельно и могут исправляться итеративно, а не фиксироваться навсегда.