LLM Check

そのGPUで、そのモデルは動く?

実用判断(AIの所見)

実際に動くか

実際に動かしたときの想定速度
—

左の「判定して、AIの所見を聞く」を押すと、ソフトウェア対応や実行環境の制約まで含めた見立てをここに出します。

AIの回答は推測であり、動作保証ではありません。計算上の試算は下の「計算上の判定」にあります。

計算上の判定(根拠となる試算)


必要メモリ
使えるメモリ(概算)
推定速度

使い方

  1. 左でGPU(または機器)、枚数、LLM、量子化、コンテキスト長を選ぶ。「計算上の判定」はその場で更新される。これはメモリと帯域だけの試算で、根拠にすぎない。
  2. 「判定して、AIの所見を聞く」を押すと、組み合わせと試算をOpenRouterの無料モデルに送り、ソフトウェア対応や実行環境まで含めた「実際に動かしたときの想定速度」の見立てを一番上に出す。AIの回答も推測で、動作保証ではない。
  3. 「詳細を見る」で、量子化ごとの必要メモリと推定速度の一覧を見る。

計算式と前提

どれも概算で、実測ではない。

APIキー

既定のキーは公開用で、OpenRouter側で上限 0.1 USD に固定してある。無料モデルは 0 USD で動くが、1日あたりのリクエスト数に上限がある。枠が尽きたら自分のキーを入れる。キーはこのブラウザの localStorage にだけ保存する。

無料モデルへの送信内容はOpenRouterと提供元に記録される。個人情報は送らない。