llama.cpp: релиз b7981 исправляет обработку шаблонов чата

Заголовок: llama.cpp: релиз b7981 исправляет обработку шаблонов чата

Лид: В llama.cpp вышел релиз b7981. Он закрывает неприятный крайний случай в обработке chat-шаблонов и делает форматирование сообщений чуть стабильнее.

Что нового

• Исправлен кейс, когда шаблон чата принимает только контент типа content (без ожидаемых вариантов структуры).
• Убрали лишний («stray») лог, чтобы не засорять вывод.
• Переиспользовали функцию render_message_to_json для более единообразной сборки сообщений.

Зачем это важно/кому полезно

Если вы используете chat templates (особенно кастомные) или строите вокруг llama.cpp чат-обвязку/агентов, такие фиксы снижают риск внезапных ошибок на «нестандартных» входных данных. Обновление также может помочь тем, кто отлаживает пайплайны и хочет меньше шума в логах.

Источник: https://github.com/ggml-org/llama.cpp/releases/tag/b7981

Материал подготовлен с помощью ИИ.