Eval Runner или LLM Eval Harness
Eval Runner: пакет плагинов для ИИ-инструментов разработки, издатель danielrosehill. Витрин, которые мы читаем и где он опубликован: 1 (Community GitHub marketplaces). LLM Eval Harness: MCP-сервер, издатель razilzul. Витрин, которые мы читаем и где он опубликован: 1 (Official MCP Registry). Данные нашего прохода по витринам на 2026-10-23. Эту пару выбрал читатель, а не наше правило сравнений, поэтому поисковикам предложено не индексировать страницу.
Где опубликован каждый
| Витрина |  Eval Runner |  LLM Eval Harness |
|---|---|---|
| Маркетплейс сообщества danielrosehill/claude-code-plugins | Опубликован Версия: 0.1.0 Форки (GitHub): 0 Звёзды (GitHub): 4 Не помечен · Впервые замечен |
Нет на витрине |
| Official MCP Registry | Нет на витрине | Опубликован Версия: 1.0.0 Форки (GitHub): 0 Звёзды (GitHub): 0 Не помечен · Впервые замечен |
Каждое число принадлежит своей витрине и никогда не складывается с числами других витрин. Если витрина число не публикует, мы его не показываем: нет числа не значит ноль.
Факты рядом
| Факт | Eval Runner | LLM Eval Harness |
|---|---|---|
| Витрины, где он есть | 1 | 1 |
| Звёзды (GitHub) (различается) | 4 (лучше) | 0 (хуже) |
| Форки (GitHub) | 0 | 0 |
| Последний релиз | Не опубликовано | Не опубликовано |
| Где работает (различается) | Ставится как пакет плагинов | На вашем компьютере (ghcr.io/razilzul/llm-eval-harness:1.0.0) |
| Транспорт (различается) | Не указано | stdio |
| Объявляет инструментов | Не опубликовано | Не опубликовано |
| Просит переменных окружения (различается) | Не опубликовано | 2, из них секретов: 2 |
| Части набора (различается) | 14 | Не набор |
| Лицензия (различается) | MIT | Не указано |
| Репозиторий (различается) | github.com/danielrosehill/claude-eval-runner-plugin | github.com/razilzul/llm-eval-harness |
| Изменения за последние 7 дней (различается) | 0 | 2 |
| Впервые замечен (различается) | 2026-10-15 | 2026-10-18 |
Строки, где значения различаются, выделены фоном и жирным. Где сами данные говорят, какое значение лучше (больше витрин, большая цифра одной и той же витрины, более свежий релиз, отметка verified на витрине, где есть оба), лучшее дополнительно отмечено зелёным и ▲, худшее красным и ▼. Где работает, транспорт, инструменты, настройки, hooks, части набора, лицензия и изменения за неделю отмечены только как различие: больше или меньше само по себе не лучше.
Что каждый говорит о себе
Eval Runner
Scaffolding, running, documenting, and publishing AI evaluations. Ships skills and commands for setting up eval workspaces, creating custom evals (or adapting existing frameworks/benchmarks), running them, and publishing evals or datasets. Bundles a curated ground-truth list of open-source eval tools and benchmarks as a reference data source.
LLM Eval Harness
Run a golden set and gate LLM model swaps on accuracy, with latency and cost per request.
Как запустить каждый
Eval Runner Как плагин Claude Code
/plugin marketplace add danielrosehill/claude-code-plugins
/plugin install eval-runner@danielrosehillLLM Eval Harness Как локальный MCP-сервер: образ Docker
claude mcp add --env "ANTHROPIC_API_KEY=<YOUR_ANTHROPIC_API_KEY>" --env "GEMINI_API_KEY=<YOUR_GEMINI_API_KEY>" --transport stdio llm-eval-harness -- docker run -i --rm -e ANTHROPIC_API_KEY -e GEMINI_API_KEY ghcr.io/razilzul/llm-eval-harness:1.0.0Требует: ANTHROPIC_API_KEY (секрет), GEMINI_API_KEY (секрет)
Команды построены только из того, что объявляют витрины; полный набор для всех клиентов есть на карточке каждого.
Какие инструменты объявляет каждый
Витрины ни одного из них не публикуют список инструментов, сравнивать нечего.
Какие настройки просит каждый
Витрины Eval Runner не публикуют, какие настройки он просит, поэтому настройки не сравниваем.
Что умеет: Eval Runner · Что умеет: LLM Eval Harness · Сравнить два других плагина
Данные витрины Community GitHub marketplaces. Данные витрины Official MCP Registry. Числа взяты из наших регулярных обходов витрин, последняя проверка . Контакты издателей плагинов мы не публикуем.