#Triton

Публикаций: 1

Пишем Flash Attention с нуля: tile-программирование GPU, которое двигает LLM

Flash Attention, fused GELU, tiled матмул — не магия, а конкретные tile-паттерны работы с GPU-памятью. TileGym оборачивает cuTile-backend и Triton-fallback в единый Colab-воркфлоу и делает уровень GPU-ядер доступным любому ML-инженеру с ноутбуком.

← Все статьи