Eval Runner
Scaffolding, running, documenting, and publishing AI evaluations. Ships skills and commands for setting up eval workspaces, creating custom evals (or adapting existing…
Lot de plugins · par danielrosehill
Aperçu
Eval Runner est un lot de plugins pour les outils de code IA publié par danielrosehill. Places de marché que nous lisons et qui le référencent : 1 (Community GitHub marketplaces). Nous l'avons vu pour la première fois le 2026-10-15 et n'avons enregistré aucun changement depuis. Selon notre passage sur les places de marché du 2026-10-16.
Scaffolding, running, documenting, and publishing AI evaluations. Ships skills and commands for setting up eval workspaces, creating custom evals (or adapting existing frameworks/benchmarks), running them, and publishing evals or datasets. Bundles a curated ground-truth list of open-source eval tools and benchmarks as a reference data source.
Ce qu'il demande
- S'installe comme lot de plugins
Aucune des places de marché que nous lisons ne publie ses outils ni les réglages qu'il demande.
Ce qu'il déclare, demande et exécute, en détail
N’installez que des plugins de développeurs en qui vous avez confiance. Nous reprenons ce que publient les places de marché et ne testons pas les plugins.
Fonctionne avec
- Claude Code
D'après les marketplaces qui le listent et le transport MCP qu'il déclare, tels que chaque client les documente. Nous ne testons pas les plugins.
Connecter
Commandes et configurations construites uniquement à partir de ce que déclarent ses places de marché. Nous ne les exécutons pas pour vous et ne testons pas les plugins.
En plugin Claude Code
Construit à partir de ce que déclare Community GitHub marketplaces.
/plugin marketplace add danielrosehill/claude-code-plugins
/plugin install eval-runner@danielrosehillOù il est publié
| Place de marché | Statut | Version | Chiffres | Vérifié | Vu pour la première fois |
|---|---|---|---|---|---|
| Place de marché communautaire danielrosehill/claude-code-plugins (Ouvrir la source sur GitHub) | Référencé | 0.1.0 | Forks (GitHub): 0 Étoiles (GitHub): 4 |
Non marqué |
Chaque chiffre est celui de la place de marché et n'est jamais additionné entre places de marché. Une place de marché qui ne publie pas de chiffre n'en affiche aucun : pas de nombre ne veut pas dire zéro.
Listé dans une place de marché communautaire
| Place de marché | Dépôt | Étoiles (GitHub) |
|---|---|---|
| danielrosehill | danielrosehill/claude-code-plugins | 31 |
Quelles places de marché nous lisons et comment nous les vérifions
Ce que contient le lot
Tel que publié sur Community GitHub marketplaces.
Skills: 6
create-evalnew-workspacepublish-datasetpublish-evalrun-evalsetup-eval
Commandes: 7
create-evaldocument-evalnew-workspacepublish-datasetpublish-evalrun-evalsetup-eval
Agents: 1
eval-engineer
Ce qui a changé
- Est devenu un produit que nous suivons
- Community GitHub marketplaces: apparu
Plugins similaires
Produits dont les noms, descriptions, outils et skills sont les plus proches de celui-ci par le sens, sur toutes les places de marché que nous lisons. La proximité n'est classée qu'à l'intérieur de cette liste.
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
Decide, design, gate, judge, and defend evaluations for LLM, agent, and retrieval systems. Not ordinary unit tests.
-
Skills that take a coding agent from your first trace to evals you can trust: error analysis, datasets, validated graders, eval runs, and production monitoring.
-
AI agent evaluation sandbox for Claude Code. Holdout scenario testing with Doer/Judge/Adversary/Observer roles, probabilistic satisfaction scoring, and append-only JSONL audit…
-
Configures and runs LLM evaluation using Promptfoo framework. Use when setting up prompt testing, creating evaluation configs (promptfooconfig.yaml), writing Python custom…
-
Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.
-
Generate LLM evaluation and benchmarking
-
evalview-mcp io.github.hidai25/evalview-mcp
Regression testing for AI agents. Golden baselines, CI/CD, LangGraph, CrewAI, OpenAI, Claude.
-
Read and score Opik traces, experiments, datasets and prompts from your AI assistant.
-
IA-QA — 130+ QA & Dev Tools for AI Agents
130+ QA & dev tools for AI agents: prompt injection, RAG testing, VLM eval, guardrails. Free.
Plugins similaires par place de marché
La même question posée à chaque place de marché séparément : y a-t-il là un équivalent de ce plugin ?
Référencé sur Claude Code: claude-plugins-community (5)
-
AI agent evaluation sandbox for Claude Code. Holdout scenario testing with Doer/Judge/Adversary/Observer roles, probabilistic satisfaction scoring, and append-only JSONL audit…
-
evalview-mcp io.github.hidai25/evalview-mcp
Regression testing for AI agents. Golden baselines, CI/CD, LangGraph, CrewAI, OpenAI, Claude.
-
Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.
-
Skills to streamline adoption and usage of Giskard products (OSS, Hub, Guards) for testing, evaluating, and red-teaming AI agents.
-
Teaches AI coding agents to create and maintain promptfoo eval suites. Encodes best practices like deterministic assertions first, file-based test organization, correct…
Référencé sur Claude Code: claude-plugins-official (5)
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.
-
Skills for tracing, evaluating, and improving AI agents with MLflow. Supports the full agent improvement loop: instrument → trace → evaluate → iterate → validate.
-
DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…
-
Output.ai workflow development toolkit for Claude Code. Adds 5 specialist agents (planner, builder, debugger, prompt writer, quality reviewer), 40+ slash-command skills covering…
Référencé sur Claude: knowledge-work-plugins (5)
-
Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.
-
DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…
-
AI-first project auditor and re-engineer based on the 9 design principles and 7 design patterns from the TechWolf AI-First Bootcamp
-
Build multimodal AI applications with Pixeltable -- tables, computed columns, embedding search, UDFs, tool-calling agents, and 25+ AI provider integrations.
-
A suite of agent skills for the full GrowthBook feature flag and experimentation lifecycle.
Référencé sur Codex: openai-curated (openai/plugins) (5)
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Build with OpenAI APIs, Agents SDK, and ChatGPT Apps, and create and save OpenAI API keys from Codex.
-
Skills for NVIDIAs ecosystem spans GPU acceleration, CUDA, AI agents, inference, robotics, Physical AI, Omniverse, and simulation. This plugin helps you understand the pieces…
-
Answer product and business questions with data
-
CrowdStrike Falcon Foundry development skills for building cybersecurity applications on the Falcon platform. Includes UI development, collections, functions, workflows, API…
Référencé sur Community GitHub marketplaces (5)
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
Decide, design, gate, judge, and defend evaluations for LLM, agent, and retrieval systems. Not ordinary unit tests.
-
Skills that take a coding agent from your first trace to evals you can trust: error analysis, datasets, validated graders, eval runs, and production monitoring.
-
Configures and runs LLM evaluation using Promptfoo framework. Use when setting up prompt testing, creating evaluation configs (promptfooconfig.yaml), writing Python custom…
-
Generate LLM evaluation and benchmarking
Référencé sur Copilot CLI: github/awesome-copilot (5)
-
Run a lightweight, role-separated AI development team with flexible tools, developer-selected models, proportionate planning, and optional QA.
-
Microsoft Copilot Studio plugins for AI coding agents
-
Task Researcher and Task Planner for intermediate to expert users and large codebases - Brought to you by microsoft/edge-ai
-
Goal-driven task orchestration with independent verification. Interviews the user to define a clear goal, then loops between a Builder subagent (does the work) and an Inspector…
-
Three-layer verification pipeline for AI output. Extracts claims, finds sources, and flags hallucination risks so humans can verify before acting.
Référencé sur Copilot CLI: github/copilot-plugins (5)
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
Build and manage Microsoft Dataverse solutions using natural language. Includes table/column creation, solution lifecycle, data operations, and MCP server configuration.
-
model-apps
Build and deploy Power Apps generative pages for model-driven apps with specialist agents for planning, entity creation, and parallel code generation. Requires PAC CLI >= 2.7.0…
-
workiq
Query Microsoft 365 data with natural language — emails, meetings, documents, Teams messages, and more.
-
workiq-productivity
WorkIQ productivity skills powered by the local WorkIQ CLI — read-only insights across email, meetings, calendar, Teams, SharePoint, projects, and people.
Référencé sur Cursor: cursor/plugins (5)
-
Fan large tasks out across parallel cloud agents with planners, workers, verifiers, and structured handoffs.
-
Iterative self-referential AI loops using the Ralph Wiggum technique.
-
Build apps, scripts, and automations with the TypeScript SDK.
-
CLI-backed repo compatibility scans plus agents that audit startup, validation, and docs against reality.
-
Consult a stronger model before major decisions, when stuck, and before declaring done.
Référencé sur Docker MCP Catalog (5)
-
Read and score Opik traces, experiments, datasets and prompts from your AI assistant.
-
Wayfound’s MCP server allows business users to govern, supervise, and improve AI Agents.
-
Bridges multiple AI models and CLIs, enabling orchestrated workflows across Claude Code, Gemini CLI, Codex CLI, and other AI development tools.
-
Analyze documents, images, videos, and audio.
-
testkube-mcp io.github.kubeshop/testkube-mcp
MCP server for Testkube - Manage test workflows, executions, and artifacts via AI assistants
Référencé sur Official MCP Registry (5)
-
Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.
-
evalview-mcp io.github.hidai25/evalview-mcp
Regression testing for AI agents. Golden baselines, CI/CD, LangGraph, CrewAI, OpenAI, Claude.
-
Read and score Opik traces, experiments, datasets and prompts from your AI assistant.
-
IA-QA — 130+ QA & Dev Tools for AI Agents
130+ QA & dev tools for AI agents: prompt injection, RAG testing, VLM eval, guardrails. Free.
-
Prompt evals over MCP: run a prompt on your dataset, score each output 1-5 with an LLM judge.
Trouvés par le sens, et non par un code ou un dépôt commun : les plugins similaires restent des produits distincts, et ceci n'est ni un avis ni une recommandation.
Vous voulez cette marque pour votre plugin dans notre catalogue ?
Prouvez que vous le maintenez avec un fichier dans son dépôt, un fichier sur votre domaine ou un enregistrement DNS, et vous pourrez afficher cette marque sur la fiche, avec des bannières à jour pour votre site et votre README. Comment se passe la vérification
Vous recevez aussi des alertes quand une marketplace le publie, le retire, change sa marque vérifiée ou ce qu'il demande, et son endpoint distant est surveillé comme un service web.
Données issues de Community GitHub marketplaces. Les chiffres proviennent de nos propres passages réguliers sur les places de marché, dernière lecture le . Nous ne publions aucune coordonnée des éditeurs de plugins.