Hugging Face показала, как «упаковать» экспертизу по CUDA в skill, чтобы кодовые агенты (Claude/Codex) могли генерировать производственные CUDA-ядра и биндинги для PyTorch — с бенчмарками и проверкой ускорения на реальных моделях.
- Skill «cuda-kernels» входит в библиотеку kernels: его можно установить в окружение агента и давать задачи вроде «сделай RMSNorm под H100 для Qwen3-8B».
- Внутри — подсказки по архитектурам (H100/A100/T4), шаблоны ядер, паттерны интеграции с transformers/diffusers и примеры бенчмарков.
- В демонстрации агент собрал набор ядер для diffusers-пайплайна LTX-Video и RMSNorm для Qwen3-8B в transformers; в микробенчмарках RMSNorm ускорялся примерно в 1.6–2.5 раза, а end-to-end ускорение на пайплайне составило около 6%.
Почему это важно
Если это станет нормой, кастомные оптимизации перестанут быть «магией для избранных»: команды смогут быстрее получать ускорения под свои модели и пайплайны, а Kernel Hub упростит распространение готовых ядер.
Источник: https://huggingface.co/blog/custom-cuda-kernels-agent-skills
Материал подготовлен с помощью ИИ.
