Bonsai 27B: мощный reasoning-LLM, который помещается в iPhone
PrismML сжала 27-миллиардную reasoning-модель до менее 4 ГБ — она запускается прямо на iPhone без облака. Apple, по имеющимся данным, уже тестирует технологию сжатия.
#on-device AI
Публикаций: 4
AR-очки требуют постоянной слежки — и это не баг
Редактор The Verge Nilay Patel сказал вслух то, что индустрия предпочитает замалчивать: AR-очки в нормальном формфакторе физически невозможны без постоянной облачной обработки всего, что вы видите. Это не вопрос будущего — это архитектурное ограничение прямо сейчас.
Siri AI на WWDC 2026: Gemini внутри, vision-LLM для экрана и Core AI на PyTorch
Apple наконец показала Siri AI с реальной начинкой: лицензированная модель на базе Gemini, vision-LLM для чтения экрана и новый Core AI-фреймворк поверх PyTorch. Но рынок держит скептицизм — слишком больно обожглись на обещаниях WWDC 2024.
Gemma 4 теперь влезает в телефон: Google DeepMind выпустила QAT-чекпоинты
Google DeepMind опубликовала QAT-чекпоинты для Gemma 4 — формат Q4_0 и новый мобильный вариант, которые радикально снижают потребление памяти при on-device инференсе. Граница между облачным и локальным ИИ становится тоньше.