Ext Ops Panel
Abrir o painel
Comparação

Eval Skills vs. Eval Engine API

Eval Skills não está mais listado em nenhum marketplace que lemos: estes são os últimos dados conhecidos, de 2026‑10‑27.

Eval Skills é um pacote de plugins para ferramentas de programação com IA publicado por Confident AI. Nenhum marketplace que lemos o lista mais. Eval Engine API é um servidor MCP publicado por invertedhoologan. Marketplaces que lemos e que o listam: 1 (Official MCP Registry). Conforme nossa passagem pelos marketplaces em 2026-10-28. Um plugin deste par não está mais listado em nenhum marketplace que lemos, por isso pedimos aos buscadores que não indexem a página.

Onde cada um é publicado

Onde cada um é publicado
MarketplaceEval SkillsEval Engine API
Marketplace da comunidade confident-ai/eval-skills Removido em 2026-10-27
Versão: 1.1.0
Forks (GitHub): 1
Estrelas (GitHub): 11
Sem marcação · Visto pela primeira vez
Não listado
Official MCP Registry Não listado Listado
Versão: 0.1.0
Nenhum número publicado
Sem marcação · Visto pela primeira vez

Cada número é do próprio marketplace e nunca é somado entre marketplaces. Um marketplace que não publica números não mostra nenhum: sem número não é zero.

Os fatos lado a lado

Eval Skills vs. Eval Engine API
FatoEval Skillsnão está mais listado · Eval Engine API
Marketplaces que o listam (diferente)01
Estrelas (GitHub) (diferente)11Sem número no GitHub
Forks (GitHub) (diferente)1Sem número no GitHub
Último releaseNão publicadoNão publicado
Onde roda (diferente)Instala-se como pacote de pluginsServidor remoto (eval.zuluworksai.com/mcp)
Transporte (diferente)Não informadoStreamable HTTP
Ferramentas que declaraNão publicadoNão publicado
Variáveis de ambiente que pedeNão publicadoNão publicado
Partes do pacote (diferente)10Não é um pacote
Licença (diferente)Apache-2.0Não informado
Repositório (diferente)github.com/confident-ai/eval-skillsNão informado
Mudanças nos últimos 7 dias (diferente)20
Visto pela primeira vez (diferente)2026-10-152026-10-11
Endpoint na última verificação (diferente)sem endpoint remoto que verificamosSem resposta desde 2026-10-16

As linhas em que os dois diferem têm fundo destacado e valores em negrito. Nenhum valor é marcado como melhor ou pior: um plugin que nenhum marketplace lista mais aparece com os últimos dados conhecidos, que não comparamos com números atuais.

O que usar no lugar de «Eval Skills»

Plugins ainda listados cujos nomes, descrições, ferramentas e skills são os mais próximos em significado. Comparáveis, não recomendados.

  • Plugin Eval

    Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.

    de OpenAI Codex · Pacote de plugins

    Listado em: Codex: openai-curated (openai/plugins) · Descreve quase a mesma tarefa

  • DeepEval

    Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.

    de confident-ai · Pacote de plugins

    Listado em: Claude Code: claude-plugins-official, Community GitHub marketplaces · Descreve quase a mesma tarefa

  • Eval Runner

    Scaffolding, running, documenting, and publishing AI evaluations. Ships skills and commands for setting up eval workspaces, creating custom evals (or adapting existing…

    de danielrosehill · Pacote de plugins

    Listado em: Community GitHub marketplaces · Descreve quase a mesma tarefa

  • eval-genius

    Decide, design, gate, judge, and defend evaluations for LLM, agent, and retrieval systems. Not ordinary unit tests.

    de Alex Greenshpun · Pacote de plugins

    Listado em: Community GitHub marketplaces · Descreve quase a mesma tarefa

  • memoriant-eval-sandbox-skill

    AI agent evaluation sandbox for Claude Code. Holdout scenario testing with Doer/Judge/Adversary/Observer roles, probabilistic satisfaction scoring, and append-only JSONL audit…

    de NathanMaine · Pacote de plugins

    Listado em: Claude Code: claude-plugins-community · Descreve quase a mesma tarefa

  • skill-picker

    Compare AI coding skills head-to-head to find which one works best for your task. Run controlled A/B tests: same model (Claude Code), same tasks, different skills. Each candidate…

    de qhuang20 · Pacote de plugins

    Listado em: Claude Code: claude-plugins-community · Descreve quase a mesma tarefa

A página dele, com plugins semelhantes por marketplace

O que cada um diz que faz

Eval Skills

Nas próprias palavras, em Community GitHub marketplaces:

Skills that take a coding agent from your first trace to evals you can trust: error analysis, datasets, validated graders, eval runs, and production monitoring.

Eval Engine API

Nas próprias palavras, em Official MCP Registry:

Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.

Como executar cada um

Eval Skills

Sem dados para um comando automático: o que os marketplaces declaram não diz de forma inequívoca como conectá-lo.

Eval Engine API Como servidor MCP remoto

Claude Code
claude mcp add --transport http eval-engine-mcp https://eval.zuluworksai.com/mcp

Comandos construídos apenas com o que os marketplaces declaram; o conjunto completo para cada cliente está no cartão de cada um.

Só Eval Engine API tem um endpoint remoto que verificamos. Como verificamos os endpoints

Ferramentas que cada um declara

Os marketplaces de nenhum dos dois publicam uma lista de ferramentas, então não há o que comparar.

Configurações que cada um pede

Os marketplaces de nenhum dos dois publicam as configurações que ele pede.

O que pode fazer: Eval Skills · O que pode fazer: Eval Engine API · Comparar outros dois plugins

Dados de Community GitHub marketplaces. Dados de Official MCP Registry. Os números vêm das nossas próprias passagens regulares pelos marketplaces, última leitura em . Não publicamos dados de contato dos editores de plugins.

De onde vêm os dados: como o catálogo é montado