9月27日のAIツール:llama.cpp ナイトリー b11195–b11205
この記事はAIで自動生成しています。
9月27日のAIツール動向。クラウド大手の大きな新規リリースは少なく、ローカル推論の llama.cpp ナイトリー更新が b11195 から b11205 まで続いた一日だった。
ローカル推論
- llama.cpp ナイトリー b11195–b11205(最新 b11205):
- b11195:ggml-cpu の k-quants 向け tiled
mul_mat - b11199 / b11200:jinja のコンパイル修正と
sameasテスト実装 - b11201:unified KV の自動フィット最大コンテキスト長変更を revert
- b11202:Windows での
wake_fd警告修正 - b11203:CUDA FWHT の F16 入力対応
- b11205:CUDA で Nemotron 3 Puzzle の SSM scan(state size 96)をサポート https://github.com/ggml-org/llama.cpp/releases/tag/b11205
- b11195:ggml-cpu の k-quants 向け tiled