katago-1.17.2 TensorRT版エンジンの高速起動版(プランキャッシュ)です。 https://drive.google.com/file/d/1XkoysIEUjs5Qs8AOUw4-_3CcHmMu5GzJ/view?usp=sharing 作成環境(CUDA 13.2 / TensorRT 10.16.1.11) この系列の各dllを各自用意してください。
私の環境だと、初回起動時は45秒程度、2回目以降は5秒程度で起動します。 作成されるキャッシュファイルは以前は1つでしたが、今回は2つ作成されるようです。 どちらもサイズは「160 MB」程度です。
katagoのコンパイルは以前プランキャッシュが話題になった時に完全独力で挑戦したことがあったのですが、その時はあまりの難しさに挫折しました。 今回はAIの力を借りることで、何とか最後まで完走することができました。 |