AI Eval
Evaluate AI models for a real job, starting from start-eval: define the objective and workload, draw candidates from the live OpenRouter catalogue, and run wide and shallow (many…
Plugin-Paket · von danielrosehill
Überblick
AI Eval ist ein Plugin-Paket für KI-Coding-Tools von danielrosehill. Marktplätze, die wir lesen und die es listen: 1 (Community GitHub marketplaces). Wir haben es erstmals am 2026-11-04 gesehen und seither keine Änderung erfasst. Stand unseres Marktplatz-Durchlaufs vom 2026-11-06.
Evaluate AI models for a real job, starting from start-eval: define the objective and workload, draw candidates from the live OpenRouter catalogue, and run wide and shallow (many models, about two outputs each). Covers in-repo and agent-run eval spaces, framework CLIs, image, RAG, agent, speech and regression evals, private annotation and human feedback Spaces, and findings through to articles.
Was es abfragt
- Wird als Plugin-Paket installiert
Keiner der Marktplätze, die wir lesen, veröffentlicht seine Tools oder die abgefragten Einstellungen.
Was es deklariert, abfragt und ausführt, vollständig
Installieren Sie nur Plugins von Entwicklern, denen Sie vertrauen. Wir zeigen, was die Marktplätze veröffentlichen, und testen keine Plugins.
Funktioniert mit
- Claude Code
Nach den Marktplätzen, die ihn listen, und dem angegebenen MCP-Transport, wie jeder Client sie dokumentiert. Wir testen keine Plugins.
Verbinden
Befehle und Konfigurationen nur aus den Angaben der Marktplätze. Wir führen sie nicht für Sie aus und testen keine Plugins.
Als Claude-Code-Plugin
Erstellt aus den Angaben von Community GitHub marketplaces.
/plugin marketplace add danielrosehill/claude-code-plugins
/plugin install ai-eval@danielrosehillWo es veröffentlicht ist
| Marktplatz | Status | Version | Zahlen | Verifiziert | Erstmals gesehen |
|---|---|---|---|---|---|
| Community-Marktplatz danielrosehill/claude-code-plugins (Quelle auf GitHub öffnen) | Gelistet | 0.8.0 | Forks (GitHub): 0 Sterne (GitHub): 4 |
Nicht markiert |
Jede Zahl stammt vom jeweiligen Marktplatz und wird nie über Marktplätze hinweg addiert. Ein Marktplatz ohne veröffentlichte Zahl zeigt keine: keine Zahl ist nicht null.
In einem Community-Marktplatz gelistet
| Marktplatz | Repository | Sterne (GitHub) |
|---|---|---|
| danielrosehill | danielrosehill/claude-code-plugins | 31 |
Was das Paket enthält
So veröffentlicht auf Community GitHub marketplaces.
Skills: 34
add-promptsagent-evalanalyse-findingscreate-evaldefine-objectivedefine-workload-requirementsdeploy-arenadraft-articledraft-test-promptsfull-rungo-publicimage-gen-eval
Weitere anzeigen: 22
informal-image-evalinstall-eval-clinew-workspacepackage-resultsprobe-openrouterpublish-datasetpublish-evalpublish-runrag-evalregister-evalregression-evalrun-evalrun-framework-evalsetup-agent-eval-spacesetup-annotation-spacesetup-evalsetup-framework-evalsetup-human-feedback-spacesetup-repo-eval-spaceshortlist-candidatesspeech-evalstart-eval
Befehle: 7
create-evaldocument-evalnew-workspacepublish-datasetpublish-evalrun-framework-evalsetup-framework-eval
Agenten: 1
eval-engineer
Was sich geändert hat
- Wird seitdem als Produkt geführt
- Community GitHub marketplaces: erschienen
Ähnliche Plugins
Produkte, deren eigene Namen, Beschreibungen, Werkzeuge und Skills diesem der Bedeutung nach am nächsten sind, auf allen Marktplätzen, die wir lesen. Die Nähe ist nur innerhalb dieser Liste geordnet.
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
Create fine-tuned LLM-as-a-judge evaluators on the Plurai platform
-
Independent auditing for AI agents, open source. Claude discovers your setup, confirms the cost, and audits your agent against the one question other tools skip: is it doing the…
-
Set up evaluation of an OpenAI Java SDK tool-calling agent using Dokimos
-
Set up evaluation of AI agents with tool call validation, correctness checks, and task completion using Dokimos
-
Compare text LLMs across OpenRouter, Bedrock, Vertex AI and Foundry with automated grading.
-
Configures and runs LLM evaluation using Promptfoo framework. Use when setting up prompt testing, creating evaluation configs (promptfooconfig.yaml), writing Python custom…
-
ai
AI & LLM — Prompting, retrieval, evaluation, agents, and the production concerns of shipping a model.
Ähnliche Plugins nach Marktplatz
Dieselbe Frage an jeden Marktplatz einzeln: Gibt es dort ein Gegenstück zu diesem Plugin?
Gelistet auf Claude Code: claude-plugins-community (5)
-
AI agent evaluation sandbox for Claude Code. Holdout scenario testing with Doer/Judge/Adversary/Observer roles, probabilistic satisfaction scoring, and append-only JSONL audit…
-
Claude model selection advisor — recommends optimal model for each task via shell hook. Zero attack surface.
-
evalview-mcp io.github.hidai25/evalview-mcp
Regression testing for AI agents. Golden baselines, CI/CD, LangGraph, CrewAI, OpenAI, Claude.
-
Context engineering plugin for Claude Code — real-time prompt scoring, RLM adaptive weights, and token optimization. Scores every tool use across 5 dimensions (token utilization…
-
20 enterprise-grade skills for autonomous AI/ML research lab operations. Includes 10 custom gap-analysis skills (research-commander, agent-debugger, model-evaluator…
Gelistet auf Claude Code: claude-plugins-official (5)
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…
-
Build, train, and deploy AI models with deep AWS AI/ML expertise brought directly into your coding assistants, covering the surface area of Amazon SageMaker AI.
-
Output.ai workflow development toolkit for Claude Code. Adds 5 specialist agents (planner, builder, debugger, prompt writer, quality reviewer), 40+ slash-command skills covering…
-
Skills for tracing, evaluating, and improving AI agents with MLflow. Supports the full agent improvement loop: instrument → trace → evaluate → iterate → validate.
Gelistet auf Claude: knowledge-work-plugins (5)
-
DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…
-
AI-first project auditor and re-engineer based on the 9 design principles and 7 design patterns from the TechWolf AI-First Bootcamp
-
Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.
-
Build multimodal AI applications with Pixeltable -- tables, computed columns, embedding search, UDFs, tool-calling agents, and 25+ AI provider integrations.
-
Connects Claude Code to the Synthflow AI voice-agent platform through its hosted MCP server, with skills for reviewing calls and auditing agent prompts, plus a docs-search…
Gelistet auf Codex: openai-curated (openai/plugins) (5)
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Build with OpenAI APIs, Agents SDK, and ChatGPT Apps, and create and save OpenAI API keys from Codex.
-
Skills for NVIDIAs ecosystem spans GPU acceleration, CUDA, AI agents, inference, robotics, Physical AI, Omniverse, and simulation. This plugin helps you understand the pieces…
-
Answer product and business questions with data
-
An agentic skills framework & software development methodology that works: planning, TDD, debugging, and collaboration workflows.
Gelistet auf Community GitHub marketplaces (4)
-
Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.
-
Create fine-tuned LLM-as-a-judge evaluators on the Plurai platform
-
Independent auditing for AI agents, open source. Claude discovers your setup, confirms the cost, and audits your agent against the one question other tools skip: is it doing the…
-
Set up evaluation of an OpenAI Java SDK tool-calling agent using Dokimos
Gelistet auf Copilot CLI: github/awesome-copilot (5)
-
Run a lightweight, role-separated AI development team with flexible tools, developer-selected models, proportionate planning, and optional QA.
-
Multi-model council for Copilot CLI: three subagents on different model families (Anthropic, OpenAI, Google) answer independently, then build on each other or attack the leading…
-
Task Researcher and Task Planner for intermediate to expert users and large codebases - Brought to you by microsoft/edge-ai
-
Three-layer verification pipeline for AI output. Extracts claims, finds sources, and flags hallucination risks so humans can verify before acting.
-
crowdstrike-charlotte-ai-agentworks
CrowdStrike Charlotte AI AgentWorks skills for creating, managing, and invoking AI agents via external Falcon API Gateway endpoints. Includes agent lifecycle management…
Gelistet auf Copilot CLI: github/copilot-plugins (5)
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
model-apps
Build and deploy Power Apps generative pages for model-driven apps with specialist agents for planning, entity creation, and parallel code generation. Requires PAC CLI >= 2.7.0…
-
workiq
Query Microsoft 365 data with natural language — emails, meetings, documents, Teams messages, and more.
-
workiq-productivity
WorkIQ productivity skills powered by the local WorkIQ CLI — read-only insights across email, meetings, calendar, Teams, SharePoint, projects, and people.
-
Build Power Apps Canvas Apps using the Canvas Authoring MCP server.
Gelistet auf Cursor: cursor/plugins (5)
-
Iterative self-referential AI loops using the Ralph Wiggum technique.
-
Consult a stronger model before major decisions, when stuck, and before declaring done.
-
Incremental transcript-driven memory updates for AGENTS.md using high-signal bullet points only.
-
Fan large tasks out across parallel cloud agents with planners, workers, verifiers, and structured handoffs.
-
Ask Databricks Genie questions about your workspace's data in plain language.
Gelistet auf Docker MCP Catalog (5)
-
Read and score Opik traces, experiments, datasets and prompts from your AI assistant.
-
Wayfound’s MCP server allows business users to govern, supervise, and improve AI Agents.
-
Bridges multiple AI models and CLIs, enabling orchestrated workflows across Claude Code, Gemini CLI, Codex CLI, and other AI development tools.
-
Tools for interacting with Hugging Face models, datasets, research papers, and more.
-
Analyze documents, images, videos, and audio.
Gelistet auf Official MCP Registry (4)
-
Compare text LLMs across OpenRouter, Bedrock, Vertex AI and Foundry with automated grading.
-
Evaluate, benchmark, and simulate AI agents on the VerifyAX agent-evaluation platform.
-
Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.
-
Live prices, rankings, licences and privacy of AI models: best model per task, costs, alternatives.
Gelistet auf PyPI (MCP servers) (5)
-
Read and score Opik traces, experiments, datasets and prompts from your AI assistant.
-
Read, measure and explain LLM eval runs of a digline suite. Cannot promote a baseline.
-
air-blackbox-mcp io.github.airblackbox/air-blackbox-mcp
EU AI Act compliance scanner for Python AI agents. 14 tools across 6 articles.
-
offline-mcp io.github.gabrielmahia/offline-mcp
Local AI over Ollama for low connectivity: status, local inference, model and deployment guides.
-
local-delegate io.github.ZahiriNatZuke/local-delegate
Delegate mechanical text tasks to a local OpenAI-compatible LLM to save Claude quota.
Gelistet auf npm registry (MCP servers) (4)
-
Contextual prompts and agent skills for 140+ AI platforms.
-
Alibaba Cloud DashScope — Qwen
Alibaba Cloud DashScope MCP: Qwen chat, embeddings, and model discovery on your own account.
-
Intelligent CLI tool with AI-powered model selection that analyzes your hardware and recommends optimal LLM models for your system
-
rubber-duck io.github.nesquikm/rubber-duck
Bridge to multiple LLMs and CLI agents: councils, debates, voting, and more
Nach Bedeutung gefunden, nicht über gemeinsamen Code oder ein gemeinsames Repository: Ähnliche Plugins bleiben getrennte Produkte, und dies ist weder eine Bewertung noch eine Empfehlung.
Möchten Sie dieses Zeichen für Ihr Plugin in unserem Katalog?
Belegen Sie mit einer Datei im Repository, einer Datei auf Ihrer Domain oder einem DNS-Eintrag, dass Sie es pflegen, und Sie können dieses Zeichen auf der Karte zeigen, dazu Live-Banner für Ihre Website und Ihr README. So funktioniert die Verifizierung
Außerdem erhalten Sie Hinweise, wenn ein Marktplatz es aufnimmt, entfernt, sein Verified-Zeichen oder seine Anforderungen ändert, und sein Remote-Endpunkt wird wie ein Webdienst überwacht.
Daten von Community GitHub marketplaces. Die Zahlen stammen aus unseren eigenen regelmäßigen Durchläufen über die Marktplätze, zuletzt abgerufen am . Kontaktdaten von Plugin-Herausgebern veröffentlichen wir nicht.