情報有難うございます！

hope366さん、いろいろ検証していただきありがとうございます。
LizzieYzy2.6.1はKataGoの各種CUDAを１つのフォルダ（ディリクトリ）にまとめたので、関係するすべてのCUDA関係のファイルを入れました。
それが偶然にもベンチマークテストが成功した原因になったようです。
KataGoの起動とベンチマークテストは別ものということは知りませんでした。勉強になりました。

内容が間違っていたので、約7時間前の私の投稿は削除しました。

問題は解決したのですが、調べていく中で分かったことがありました。
まず、私の環境でベンチマークテストがおかしかった原因は、次の3つのファイルが不足していたことでした。

cudnn 9.24.0の中の
cudnn_adv64_9.dll
cudnn_engines_tensor_ir64_9.dll
cudnn_heuristic64_9.dll

これまでは、次の6つのファイルだけでした。これでLizzieYzyやSabakiは動いていました。

cudnn 9.24.0の中の
cudnn_cnn64_9.dll
cudnn_engines_precompiled64_9.dll
cudnn_engines_runtime_compiled64_9.dll
cudnn_graph64_9.dll
cudnn_ops64_9.dll
cudnn64_9.dll

ところが、ベンチマークテストを行うためには、この6つだけでは不十分で、上の3つも必要だった、というわけです。
TensorRT関連でもそうなのですが、私はdllファイルを配置する際に、必要なものと不要なものを見極めて、必要なものだけを持ってくる、というやり方を普段から採用していました。
動かない場合は、コマンドラインから起動させてやれば、不足しているdllを教えてくれるので問題なかったのです。
しかし、どんな場合でも必ず「不足しているdllを教えてくれる」わけではない、ということが分かりました。
CUDAはインストール系なので問題ないのですが、cudnnとTeonsorRTに関しては手動でファイルを持ってくる必要があるので注意が必要です。
Ebaさんのように、フォルダ内の全てのdllファイルを持ってくる、という方式が無難かもしれません。

それから、今回の問題を調べていく中で、ひとつ分かったことがありました。
情報掲示板でEbaさんは、cudnn 9.24.0のファイルを使用している、と書かれていますが、LizzieYzy-2.6.1の中にあるcudnnのdllファイルは、9.24.0のものではなくて、9.8と8.9.7のものでした。
9.24.0ビルドのkatagoは9.8のファイルでも動くようです（8.9.7のファイルは除外しても動きました）

hope366さん、検証ありがとうございます。
KataGoの起動に必要なファイルだけでは最適なパフォーマンスを調べるベンチマークテストには足りないということですね。

なお、私がcudnn 9.24.0のファイルを使ったというのは間違いでした。見直してみたら、これをダウンロードしていたときに失敗していたのを知らずにcudnn 9.8.0のファイルを使っていたようです。偶然成功したからいいようなものを失敗していたら悩んだかもしれません。
それからcudnn_engines_tensor_ir64_9.dllが足りなかったとありますが、LizzieYzy-2.6.1には入れてありません。

＞cudnn_engines_tensor_ir64_9.dllが足りなかったとありますが、LizzieYzy-2.6.1には入れてありません。

さすがに注意深く観察されていますね。

確かにLizzieYzy-2.6.1にはcudnn_engines_tensor_ir64_9.dllはありません。
ここが少し難しいところなのですが、cudnn 9.8にはそもそもcudnn_engines_tensor_ir64_9.dllが存在しません。
cudnn_engines_tensor_ir64_9.dllは、cudnn 9.24.0にだけあります。

LizzieYzy-2.6.1では、cudnn_engines_tensor_ir64_9.dllが無くても動くのだから、cudnn_engines_tensor_ir64_9.dllは不要・・と推測したくもなるのですが、そうではないです。

cudnn 9.8で動かす場合は、cudnn_engines_tensor_ir64_9.dllが不要なのですが（そもそも存在しない）、cudnn 9.24.0で動かす場合は、cudnn 9.24.0内のcudnn 9.8と同名ファイル全てに加えて、cudnn_engines_tensor_ir64_9.dllも必要、ということです。

ファイル名に関して、cudnn 9.24.0にあってcudnn 9.8にないファイルは、cudnn_engines_tensor_ir64_9.dllの他にあと1つ「cudnn_ext64_9.dll」というのがあります。
これが無くても今のところ不具合は起きませんが、サイズもたいしたことないし、これも含めてフォルダ内の全てのdllファイルを一括でコピペするのが無難そうです。

このスレッドの主旨とは違う内容で恐縮ですが、情報として掲示します。
私の設置している LizzieYzy-2.6.1 は、できるだけ多くの各種KataGoエンジンを１つのフォルダにまとめて、全体のボリウムを減らすことを目的としています。
そのため、各種DLLファイルを画像にしました。
１図は各エンジンをまとめて収納したフォルダ(katago_engine)に入れたDLLファイル
２図は各種CUDAのDLLファイル
３図は各種TrtのDLLファイル
この結果、１つのフォルダ(katago_engine)にまとめることのできたのは、Eigen, Eigenavx2, OpenCL, 各CUDA, trt10.9.0-cuda12.8のエンジンです。
trt10_16_1 と trt10_2_0 はまとめることができなかったので、それぞれ独立したフォルダに入れました。
これによりLizzieYzy-2.6.1 は以前の 6.3Gbから5.9Gbまでボリウムが減りました。
グーグルドライブにアップロードしてあります。
https://drive.google.com/drive/folders/1Uu5gFPAjY-_yPz-laBsHq9uYv2OTy1gF

全ての起動ファイルをベンチマークテストしたので、結果を掲載します。私の環境(RTX2080)でのものですから参考程度にご覧ください。

Ebaさん
各種情報、有難うございます。
EbaさんのLizzieYzy-2.6.1のおかげで、今回の問題を無事解決することができました。
また、問題に向き合う中でいろいろ試行錯誤したこともよい経験となりました。

Ebaさんへ　LizzieYzy-2.6.1 8月3日ver公開ありがとうございました
但し 私の3台のPCの中でRyzen7 1700/RTX2080機で起動エラーが発生しました
原因は初期起動に設定されているtrt10.16.1-cuda13.2のkatagoに対応できてないことでした
私は常に初期起動をオフにしていますが 初期起動を設定するならcpu版かopcl版にした方がいいと思います

追記 i7-14700/RTX4060Ti機でも起動エラーが発生 RTX3070機のみ正常起動

odagaki0621さん、ご指摘ありがとうございます。
いつもはEigen.exeを初期設定しているのですが、今回は急いでいて私個人の設定のまま公開してしまいました。
差し換えておきます。