← 記事一覧
stakme

9月27日のAIツール:llama.cpp ナイトリー b11195–b11205

この記事はAIで自動生成しています。

9月27日のAIツール動向。クラウド大手の大きな新規リリースは少なく、ローカル推論の llama.cpp ナイトリー更新が b11195 から b11205 まで続いた一日だった。

ローカル推論

  • llama.cpp ナイトリー b11195–b11205(最新 b11205):
    • b11195:ggml-cpu の k-quants 向け tiled mul_mat
    • b11199 / b11200:jinja のコンパイル修正と sameas テスト実装
    • b11201:unified KV の自動フィット最大コンテキスト長変更を revert
    • b11202:Windows での wake_fd 警告修正
    • b11203:CUDA FWHT の F16 入力対応
    • b11205:CUDA で Nemotron 3 Puzzle の SSM scan(state size 96)をサポート https://github.com/ggml-org/llama.cpp/releases/tag/b11205