Ext Ops Panel
Открыть панель

evals

Create fine-tuned LLM-as-a-judge evaluators on the Plurai platform

Пакет плагинов · от Plurai

Коротко

evals: пакет плагинов для ИИ-инструментов разработки, издатель Plurai. Витрин, которые мы читаем и где он опубликован: 1 (Community GitHub marketplaces). Последнее изменение мы зафиксировали 2026-11-05. Данные нашего прохода по витринам на 2026-11-06.

Что просит

  • Ставится как пакет плагинов

Ни одна из витрин, которые мы читаем, не публикует его инструменты или настройки, которые он просит.

Что объявляет, просит и запускает, полностью

Устанавливайте плагины только от разработчиков, которым доверяете. Мы показываем то, что публикуют витрины, и не проверяем плагины.

Работает с

  • Claude Code

По маркетплейсам, где он опубликован, и объявленному транспорту MCP, как их документирует каждый клиент. Плагины мы не тестируем.

Подключить

Команды и конфигурации собраны только из того, что объявляют витрины. Мы не запускаем их за вас и не проверяем плагины.

Как плагин Claude Code

Собрано из того, что объявляет Community GitHub marketplaces.

Claude CodeВнутри сессии Claude Code
/plugin marketplace add plurai-ai/plurai-plugins
/plugin install evals@plurai-plugins

Где опубликован

ВитринаСтатусВерсияЧислаПроверенВпервые замечен
Маркетплейс сообщества plurai-ai/plurai-plugins (Открыть исходники на GitHub) Опубликован 0.4.0 Форки (GitHub): 5
Звёзды (GitHub): 32
Не помечен

Каждое число принадлежит своей витрине и никогда не складывается с числами других витрин. Если витрина число не публикует, мы его не показываем: нет числа не значит ноль.

Есть в одном маркетплейсе сообщества
ВитринаРепозиторийЗвёзды (GitHub)
plurai-plugins plurai-ai/plurai-plugins 32

Какие маркетплейсы мы читаем и как их проверяем

Что входит в пакет

Так опубликовано на витрине Community GitHub marketplaces.

MCP-серверы: 1

  • plurai

Скиллы: 1

  • eval

Что менялось

  1. Стал продуктом, за которым мы следим
  2. Community GitHub marketplaces: появился

Похожие плагины

Продукты, чьи собственные названия, описания, инструменты и скиллы ближе всего по смыслу к этому, на всех витринах, которые мы читаем. Близость упорядочена только внутри этого списка.

  • Eval Engine API

    Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.

    от invertedhoologan · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

  • DeepEval

    Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.

    от confident-ai · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Community GitHub marketplaces · Решает почти ту же задачу

  • evaluate-openai

    Set up evaluation of an OpenAI Java SDK tool-calling agent using Dokimos

    от Dokimos Contributors · Пакет плагинов

    Опубликован: Community GitHub marketplaces · Решает почти ту же задачу

  • langsmith-skills

    Agent skills for observing and evaluating LLM applications with LangSmith

    от LangChain · Пакет плагинов

    Опубликован: Community GitHub marketplaces · Решает почти ту же задачу

  • evaluation

    LLM benchmarking and evaluation including lm-evaluation-harness, BigCode Evaluation Harness, and NeMo Evaluator. Use when benchmarking models or measuring performance.

    от orchestra-research · Пакет плагинов

    Опубликован: Community GitHub marketplaces · Решает почти ту же задачу

  • promptfoo-evaluation

    Configures and runs LLM evaluation using Promptfoo framework. Use when setting up prompt testing, creating evaluation configs (promptfooconfig.yaml), writing Python custom…

    от daymade · Пакет плагинов

    Опубликован: Community GitHub marketplaces · Решает почти ту же задачу

  • EvalForge Lite

    Compare text LLMs across OpenRouter, Bedrock, Vertex AI and Foundry with automated grading.

    от thejaredchapman · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

Похожие плагины по витринам

Тот же вопрос к каждой витрине по отдельности: есть ли там аналог этого плагина?

Есть на витрине Claude Code: claude-plugins-community (5)
  • memoriant-eval-sandbox-skill

    AI agent evaluation sandbox for Claude Code. Holdout scenario testing with Doer/Judge/Adversary/Observer roles, probabilistic satisfaction scoring, and append-only JSONL audit…

    от NathanMaine · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-community · Решает почти ту же задачу

  • contextstellar

    Context engineering plugin for Claude Code — real-time prompt scoring, RLM adaptive weights, and token optimization. Scores every tool use across 5 dimensions (token utilization…

    от sunnypatneedi · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-community · Решает почти ту же задачу

  • model-advisor

    Claude model selection advisor — recommends optimal model for each task via shell hook. Zero attack surface.

    от Jaace · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-community · Решает почти ту же задачу

  • langfuse

    Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.

    от langfuse · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Claude Code: claude-plugins-community · Решает почти ту же задачу

  • evalview-mcp io.github.hidai25/evalview-mcp

    Regression testing for AI agents. Golden baselines, CI/CD, LangGraph, CrewAI, OpenAI, Claude.

    от hidai25 · MCP-сервер

    Опубликован: Official MCP Registry, Claude Code: claude-plugins-community · Решает почти ту же задачу

Есть на витрине Claude Code: claude-plugins-official (5)
  • DeepEval

    Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.

    от confident-ai · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Community GitHub marketplaces · Решает почти ту же задачу

  • langfuse

    Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.

    от langfuse · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Claude Code: claude-plugins-community · Решает почти ту же задачу

  • datarobot-agent-skills

    DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…

    от datarobot-oss · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Community GitHub marketplaces · Решает похожую задачу

  • MLflow Skills

    Skills for tracing, evaluating, and improving AI agents with MLflow. Supports the full agent improvement loop: instrument → trace → evaluate → iterate → validate.

    от mlflow · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official · Решает похожую задачу

  • outputai

    Output.ai workflow development toolkit for Claude Code. Adds 5 specialist agents (planner, builder, debugger, prompt writer, quality reviewer), 40+ slash-command skills covering…

    от growthxai · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude Code: claude-plugins-community, Community GitHub marketplaces · Решает похожую задачу

Есть на витрине Claude: knowledge-work-plugins (5)
  • langfuse

    Skills for working with Langfuse, the open-source LLM engineering platform for tracing, prompt management, and evaluation.

    от langfuse · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Claude Code: claude-plugins-community · Решает почти ту же задачу

  • datarobot-agent-skills

    DataRobot skills for AI/ML workflows — model training, deployment, predictions, feature engineering, monitoring, explainability, data preparation, App Framework CI/CD, and…

    от datarobot-oss · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Community GitHub marketplaces · Решает почти ту же задачу

  • AI-Firstify

    AI-first project auditor and re-engineer based on the 9 design principles and 7 design patterns from the TechWolf AI-First Bootcamp

    от techwolf-ai · Пакет плагинов

    Опубликован: Claude: knowledge-work-plugins, Claude Code: claude-plugins-community, Community GitHub marketplaces · Решает почти ту же задачу

  • Pixeltable

    Build multimodal AI applications with Pixeltable -- tables, computed columns, embedding search, UDFs, tool-calling agents, and 25+ AI provider integrations.

    от pixeltable · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins · Решает почти ту же задачу

  • Synthflow

    Connects Claude Code to the Synthflow AI voice-agent platform through its hosted MCP server, with skills for reviewing calls and auditing agent prompts, plus a docs-search…

    от SynthFlowAI · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Claude: knowledge-work-plugins, Claude Code: claude-plugins-community · Решает почти ту же задачу

Есть на витрине Codex: openai-curated (openai/plugins) (5)
  • Plugin Eval

    Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.

    от OpenAI Codex · Пакет плагинов

    Опубликован: Codex: openai-curated (openai/plugins) · Решает почти ту же задачу

  • OpenAI Developers

    Build with OpenAI APIs, Agents SDK, and ChatGPT Apps, and create and save OpenAI API keys from Codex.

    от OpenAI · Пакет плагинов

    Опубликован: Codex: openai-curated (openai/plugins) · Решает почти ту же задачу

  • NVIDIA

    Skills for NVIDIAs ecosystem spans GPU acceleration, CUDA, AI agents, inference, robotics, Physical AI, Omniverse, and simulation. This plugin helps you understand the pieces…

    от NVIDIA · Пакет плагинов

    Опубликован: Codex: openai-curated (openai/plugins) · Решает почти ту же задачу

  • Data Analytics

    Answer product and business questions with data

    от Data Analytics Maintainers · Пакет плагинов

    Опубликован: Codex: openai-curated (openai/plugins) · Решает похожую задачу

  • crowdstrike-falcon-foundry

    CrowdStrike Falcon Foundry development skills for building cybersecurity applications on the Falcon platform. Includes UI development, collections, functions, workflows, API…

    от CrowdStrike · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Codex: openai-curated (openai/plugins), Copilot CLI: github/awesome-copilot, Community GitHub marketplaces, Claude Code: claude-plugins-community · Решает похожую задачу

Есть на витрине Community GitHub marketplaces (2)
  • DeepEval

    Skills for adding DeepEval evaluations, tracing, datasets, Confident AI reports, and iterative improvement loops to AI applications.

    от confident-ai · Пакет плагинов

    Опубликован: Claude Code: claude-plugins-official, Community GitHub marketplaces · Решает почти ту же задачу

  • evaluate-openai

    Set up evaluation of an OpenAI Java SDK tool-calling agent using Dokimos

    от Dokimos Contributors · Пакет плагинов

    Опубликован: Community GitHub marketplaces · Решает почти ту же задачу

Есть на витрине Copilot CLI: github/awesome-copilot (5)
  • ai-team-orchestration

    Run a lightweight, role-separated AI development team with flexible tools, developer-selected models, proportionate planning, and optional QA.

    от Denis Evdokimov · Пакет плагинов

    Опубликован: Copilot CLI: github/awesome-copilot · Решает почти ту же задачу

  • agentcouncil

    Multi-model council for Copilot CLI: three subagents on different model families (Anthropic, OpenAI, Google) answer independently, then build on each other or attack the leading…

    от Sentry01 · Пакет плагинов

    Опубликован: Copilot CLI: github/awesome-copilot · Решает почти ту же задачу

  • doublecheck

    Three-layer verification pipeline for AI output. Extracts claims, finds sources, and flags hallucination risks so humans can verify before acting.

    от Awesome Copilot Community · Пакет плагинов

    Опубликован: Copilot CLI: github/awesome-copilot · Решает почти ту же задачу

  • edge-ai-tasks

    Task Researcher and Task Planner for intermediate to expert users and large codebases - Brought to you by microsoft/edge-ai

    от Awesome Copilot Community · Пакет плагинов

    Опубликован: Copilot CLI: github/awesome-copilot · Решает почти ту же задачу

  • agent-council

    A runtime-portable 5-agent quality gate that adjudicates text artifacts before they ship. Five role-conditioned LLM deliberators run a 2-round async protocol with cross-read…

    от Avyayalaya · Пакет плагинов

    Опубликован: Copilot CLI: github/awesome-copilot · Решает почти ту же задачу

Есть на витрине Copilot CLI: github/copilot-plugins (5)
  • microsoft-365-agents-toolkit

    Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.

    от microsoft · Пакет плагинов

    Опубликован: Copilot CLI: github/copilot-plugins · Решает почти ту же задачу

  • workiq

    Query Microsoft 365 data with natural language — emails, meetings, documents, Teams messages, and more.

    от microsoft · Пакет плагинов

    Опубликован: Copilot CLI: github/copilot-plugins, npm registry (MCP servers) · Решает почти ту же задачу

  • workiq-productivity

    WorkIQ productivity skills powered by the local WorkIQ CLI — read-only insights across email, meetings, calendar, Teams, SharePoint, projects, and people.

    от microsoft · Пакет плагинов

    Опубликован: Copilot CLI: github/copilot-plugins · Решает почти ту же задачу

  • model-apps

    Build and deploy Power Apps generative pages for model-driven apps with specialist agents for planning, entity creation, and parallel code generation. Requires PAC CLI >= 2.7.0…

    от microsoft · Пакет плагинов

    Опубликован: Copilot CLI: github/copilot-plugins · Решает почти ту же задачу

  • advanced-security

    Advanced Security plugin for GitHub Copilot.

    от github · Пакет плагинов

    Опубликован: Copilot CLI: github/copilot-plugins · Решает похожую задачу

Есть на витрине Cursor: cursor/plugins (5)
  • Ralph Loop

    Iterative self-referential AI loops using the Ralph Wiggum technique.

    от Cursor · Пакет плагинов

    Опубликован: Cursor: cursor/plugins · Решает почти ту же задачу

  • Advisor

    Consult a stronger model before major decisions, when stuck, and before declaring done.

    от Cursor · Пакет плагинов

    Опубликован: Cursor: cursor/plugins · Решает почти ту же задачу

  • Continual Learning

    Incremental transcript-driven memory updates for AGENTS.md using high-signal bullet points only.

    от Eric Zakariasson · Пакет плагинов

    Опубликован: Cursor: cursor/plugins · Решает почти ту же задачу

  • Databricks Genie One

    Ask Databricks Genie questions about your workspace's data in plain language.

    от Cursor · Пакет плагинов

    Опубликован: Cursor: cursor/plugins · Решает почти ту же задачу

  • Profound

    Track AI visibility, sentiment, and citations.

    от Cursor · Пакет плагинов

    Опубликован: Cursor: cursor/plugins · Решает почти ту же задачу

Есть на витрине Docker MCP Catalog (5)
  • Opik

    Read and score Opik traces, experiments, datasets and prompts from your AI assistant.

    от comet-ml · MCP-сервер

    Опубликован: Official MCP Registry, Docker MCP Catalog, PyPI (MCP servers) · Решает почти ту же задачу

  • Wayfound

    Wayfound’s MCP server allows business users to govern, supervise, and improve AI Agents.

    от docker · MCP-сервер

    Опубликован: Docker MCP Catalog · Решает почти ту же задачу

  • Hugging Face

    Tools for interacting with Hugging Face models, datasets, research papers, and more.

    от docker · MCP-сервер

    Опубликован: Docker MCP Catalog · Решает похожую задачу

  • Zen

    Bridges multiple AI models and CLIs, enabling orchestrated workflows across Claude Code, Gemini CLI, Codex CLI, and other AI development tools.

    от BeehiveInnovations · MCP-сервер

    Опубликован: Docker MCP Catalog · Решает похожую задачу

  • AWS Bedrock Data Automation

    Analyze documents, images, videos, and audio.

    от awslabs · MCP-сервер

    Опубликован: Docker MCP Catalog · Решает похожую задачу

Есть на витрине Official MCP Registry (4)
  • Eval Engine API

    Pay-per-call AI evaluation MCP server. Score LLM outputs against benchmark rubrics via Workers AI.

    от invertedhoologan · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

  • EvalForge Lite

    Compare text LLMs across OpenRouter, Bedrock, Vertex AI and Foundry with automated grading.

    от thejaredchapman · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

  • CompletionKit

    Prompt evals over MCP: run a prompt on your dataset, score each output 1-5 with an LLM judge.

    от completionkit.com · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

  • LLM Eval Harness

    Run a golden set and gate LLM model swaps on accuracy, with latency and cost per request.

    от razilzul · MCP-сервер

    Опубликован: Official MCP Registry · Решает почти ту же задачу

Есть на витрине PyPI (MCP servers) (5)
  • Opik

    Read and score Opik traces, experiments, datasets and prompts from your AI assistant.

    от comet-ml · MCP-сервер

    Опубликован: Official MCP Registry, Docker MCP Catalog, PyPI (MCP servers) · Решает почти ту же задачу

  • digline

    Read, measure and explain LLM eval runs of a digline suite. Cannot promote a baseline.

    от digline.dev · MCP-сервер

    Опубликован: Official MCP Registry, PyPI (MCP servers) · Решает почти ту же задачу

  • air-blackbox-mcp io.github.airblackbox/air-blackbox-mcp

    EU AI Act compliance scanner for Python AI agents. 14 tools across 6 articles.

    от airblackbox · MCP-сервер

    Опубликован: Official MCP Registry, PyPI (MCP servers) · Решает почти ту же задачу

  • local-delegate io.github.ZahiriNatZuke/local-delegate

    Delegate mechanical text tasks to a local OpenAI-compatible LLM to save Claude quota.

    от ZahiriNatZuke · MCP-сервер

    Опубликован: Official MCP Registry, PyPI (MCP servers) · Решает почти ту же задачу

  • gut

    Judgment calls on small, cheap models: is this spam, which team, how urgent. YES, NO or UNSURE.

    от Kungie · MCP-сервер

    Опубликован: Official MCP Registry, PyPI (MCP servers) · Решает похожую задачу

Есть на витрине npm registry (MCP servers) (4)
  • Entroly

    Context Assurance for AI agents: context engineering, AI cost optimization, verification.

    от juyterman1000 · MCP-сервер

    Опубликован: Official MCP Registry, npm registry (MCP servers), Community GitHub marketplaces · Решает почти ту же задачу

  • Alibaba Cloud DashScope — Qwen

    Alibaba Cloud DashScope MCP: Qwen chat, embeddings, and model discovery on your own account.

    от nirholas · MCP-сервер

    Опубликован: Official MCP Registry, npm registry (MCP servers) · Решает почти ту же задачу

  • Prompeteer

    Contextual prompts and agent skills for 140+ AI platforms.

    от prompeteer · MCP-сервер

    Опубликован: Official MCP Registry, npm registry (MCP servers) · Решает почти ту же задачу

  • rubber-duck io.github.nesquikm/rubber-duck

    Bridge to multiple LLMs and CLI agents: councils, debates, voting, and more

    от nesquikm · MCP-сервер

    Опубликован: Official MCP Registry, npm registry (MCP servers) · Решает почти ту же задачу

Найдено по смыслу, а не по общему коду или репозиторию: похожие плагины остаются разными продуктами, и это не обзор и не рекомендация.

Хотите такой знак у своего плагина в нашем каталоге?

Докажите, что поддерживаете его, файлом в репозитории, файлом на вашем домене или DNS-записью, и сможете показать этот знак на карточке, а ещё живые баннеры для сайта и README. Как проходит подтверждение

Ещё вы будете получать уведомления, когда витрина добавит плагин, снимет его, изменит отметку verified или список того, что он просит, а его удалённый endpoint встанет на мониторинг как веб-сервис.

Данные витрины Community GitHub marketplaces. Числа взяты из наших регулярных обходов витрин, последняя проверка . Контакты издателей плагинов мы не публикуем.

Откуда данные: как устроен каталог