Inferbench

Name: Inferbench
Author: JoniMartin27

@JoniMartin27

InferBench's MCP server lets coding agents run, serve and benchmark local LLMs (text + image, llama.cpp + Stable Diffusion) on your own hardware on demand. Measures real tokens/sec, picks the optimal quant for your GPU, and exposes a 124-model catalog. Local-first, no cloud requi

その他 #llm #local-llm #benchmark #llama-cpp #inference #image-generation

リポジトリ

サーバー設定

{
  "mcpServers": {
    "inferbench": {
      "command": "C:\\Users\\<user>\\AppData\\Local\\Programs\\InferBench\\resources\\sidecar\\inferbench-backend.exe",
      "args": [
        "--mcp"
      ]
    }
  }
}

基本情報

トランスポート: stdio
公開者: JoniMartin27
投稿者: Jonathan Martin Paez

「その他」の他のコンテンツ

Awesome Mcp Servers

punkpeye

昨年に追加

90.5K

Servers

modelcontextprotocol

昨年に追加

88.2K

Sequential Thinking

modelcontextprotocol

昨年に追加

88.2K

EverArt

modelcontextprotocol

2 年前に追加

88.1K

Reactive Resume

amruthpillai

一昨日に追加

39.5K

Inferbench

コメント

「その他」の他のコンテンツ

Awesome Mcp Servers

Servers

Sequential Thinking

EverArt

Reactive Resume