MCP.so
ログイン

FitLLM MCP Server

@click6067-ship-it

基本情報

カテゴリ

開発者ツール

ライセンス

MIT

作者

click6067-ship-it

投稿者

Yo

FitLLM MCP Server について

Will this LLM fit on your GPU, multi-GPU rig or Mac? Exact VRAM & KV-cache math. Remote server: https://fitllm.run/api/mcp

#llm#vram#gpu#hardware#apple-silicon#quantization#multi-gpu#calculator

FitLLM MCP Server の設定

以下の設定を使って、このサーバーを MCP 対応クライアントに追加してください。

{
  "mcpServers": {
    "fitllm": {
      "url": "https://fitllm.run/api/mcp"
    }
  }
}

FitLLM MCP Server のツール

ツール一覧はまだありません

この掲載には表示できるツール一覧がまだありません。サーバーにツールがないという意味ではありません。対応機能はプロジェクトのドキュメントをご確認ください。

上のボタンでサーバーのエンドポイントに接続し、ツール一覧を取得できます。

概要

FitLLM MCP

Read-only, architecture-aware memory estimates for local LLMs on GPUs, multi-GPU rigs, and Apple Silicon Macs. The public server is stateless and requires no login.

Remote MCP

{"mcpServers":{"fitllm":{"url":"https://fitllm.run/api/mcp"}}}

Tools

  • check_llm_fit checks one model and returns a fit, tight, or no-fit verdict with a memory breakdown.
  • what_fits_on_hardware ranks supported models for a specified GPU, rig, or Mac.
  • list_supported lists accepted built-in model and hardware names.

Evidence and limits

Results are estimates computed by the open MIT-licensed engine from modeled architecture fields and documented hardware data. Actual use varies by runtime, quantization, driver, and OS state. Unsupported architectures fail closed instead of publishing a guess.

Source and reproducible tests: https://github.com/click6067-ship-it/fitllm-engine Interactive calculator: https://fitllm.run

コメント

「開発者ツール」の他のコンテンツ