IPEX-LLMが今年のはじめにarchivedになってしまったこともあり、中身はだいぶ違うのだけどどうせ自分でコーディングしてないので言語は何でもよく、Linux版(GTK + libadwaita)とWindows版(WinUI 3)はRustで、macOS版はSwift(SwiftUI)を採用した。最初にmacOS版を作り、その後Linux版、最後にWindows版。ローカルLLMはGemma 4 26B A4Bが最も品質が高く、GeForce RTX 4070 Ti (12GB)に乗るので最も高速に動作する。M3 Max 64GBはその1/3くらいでぎりぎり実用に耐え、Core Ultra 7 155Hは更にその半分くらいの推論速度しか出ずちょっと厳しい感じ。
こうなるとローカルLLMは諦めてClaude Codeを使うわけなのだけど、 `claude -p` で動かすのは一時的にサブスク枠になってるだけでいずれまた従量課金枠に入る可能性もあり先行き不安。ということでOpenAIの Sign in with ChatGPT対応も実装したわけだけど、Lunaだと添削コメントがエラーで出力されなかったりとイマイチ。
以下は、ローカルLLMで試したモデルごとの比較とClaudeによる結論。
- Qwen3.6-35B-A3B: 英語への翻訳と英文の添削の水準は Gemma に近い結果でした。ただし、日本語への翻訳とコメントでは Gemma より誤りが多く、プロンプトの処理も遅くなりました。
- Nemotron 3.5 Lightning 30B-A3B: 金額の桁を誤ったほか、誤訳とコメントの誤りが多くありました。この PC では生成も Gemma より速くなりませんでした。
- LFM2-24B-A2B: 最も速いモデルでしたが、14件中3件がエラーになり、検証を通った誤りも3件ありました。
パチンコーディングは自分の普段使うOSへの移植が簡単にできてる点が大変良い。Linux版など対応が最も遅いことが多いけどこれなら全く問題なし。

