Agent Crawl Readiness
Bounded crawl-readiness check for agent access: robots.txt, sitemap.xml, llms.txt, homepage.
MCP-Server · von sadri-dridi
Überblick
Agent Crawl Readiness ist ein MCP-Server von sadri-dridi. Marktplätze, die wir lesen und die es listen: 1 (Official MCP Registry). Wir haben es erstmals am 2026-10-11 gesehen und seither keine Änderung erfasst. Stand unseres Marktplatz-Durchlaufs vom 2026-10-15.
Was es abfragt
- Läuft entfernt
Keiner der Marktplätze, die wir lesen, veröffentlicht seine Tools oder die abgefragten Einstellungen.
Was es deklariert, abfragt und ausführt, vollständig
Installieren Sie nur Plugins von Entwicklern, denen Sie vertrauen. Wir zeigen, was die Marktplätze veröffentlichen, und testen keine Plugins.
Funktioniert mit
- Claude Code
- Codex
- Cursor
- VS Code
- Copilot CLI
Ein Ein-Klick-Link öffnet den Client, der vor dem Hinzufügen des Servers um Bestätigung bittet.
Nach den Marktplätzen, die ihn listen, und dem angegebenen MCP-Transport, wie jeder Client sie dokumentiert. Wir testen keine Plugins.
Verbinden
Befehle und Konfigurationen nur aus den Angaben der Marktplätze. Wir führen sie nicht für Sie aus und testen keine Plugins.
Als entfernter MCP-Server
Erstellt aus den Angaben von Official MCP Registry.
claude mcp add --transport http agent-crawl-readiness https://agent-observatory-sensor.nolimit-observatory.workers.dev/s/agent-crawl-readiness/mcp[mcp_servers.agent-crawl-readiness]
url = "https://agent-observatory-sensor.nolimit-observatory.workers.dev/s/agent-crawl-readiness/mcp"{
"mcpServers": {
"agent-crawl-readiness": {
"url": "https://agent-observatory-sensor.nolimit-observatory.workers.dev/s/agent-crawl-readiness/mcp"
}
}
}Wo es veröffentlicht ist
| Marktplatz | Status | Version | Zahlen | Verifiziert | Erstmals gesehen |
|---|---|---|---|---|---|
| Official MCP Registry (Eintrag in der Registry öffnen) | Gelistet | 1.0.0 | Forks (GitHub): 0 Sterne (GitHub): 0 |
Nicht markiert |
Jede Zahl stammt vom jeweiligen Marktplatz und wird nie über Marktplätze hinweg addiert. Ein Marktplatz ohne veröffentlichte Zahl zeigt keine: keine Zahl ist nicht null.
Was sich geändert hat
Bei diesem Plugin hat sich nichts bewegt, seit wir es beobachten.
Ähnliche Plugins
Produkte, deren eigene Namen, Beschreibungen, Werkzeuge und Skills diesem der Bedeutung nach am nächsten sind, auf allen Marktplätzen, die wir lesen. Die Nähe ist nur innerhalb dieser Liste geordnet.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Audit any site for 50+ AI crawlers, generate llms.txt, robots.txt and schema, track AI mentions.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
-
Live web checks for AI agents: sitemaps, robots.txt, URL status, broken links, feeds, citations.
-
AI visibility checker: GPTBot vs OAI-SearchBot, robots.txt audit, raw-HTML schema. 165 crawlers.
-
robots-txt-ai-crawler-audit io.github.jmshinhwa/robots-txt-ai-crawler-audit
Checks robots.txt line by line and says what each AI crawler token actually controls - training, AI
-
ai-visibility com.lastminutedealshq/ai-visibility
AI-search-visibility tools: check crawler access, generate llms.txt, lint robots.txt, census data.
-
agent-ready-kit com.mudko/agent-ready-kit
Agent-readiness scanner (0-5 score), robots.txt + llms.txt generators, managed agent enablement.
-
Can GPTBot, ClaudeBot and PerplexityBot reach a site? Real fetch per crawler, firewall/CDN blocks.
Ähnliche Plugins nach Marktplatz
Dieselbe Frage an jeden Marktplatz einzeln: Gibt es dort ein Gegenstück zu diesem Plugin?
Gelistet auf Claude Code: claude-plugins-community (5)
-
A Claude Code plugin that gives Claude direct access to the Browserless.io REST APIs: scrape webpages, take screenshots, generate PDFs, search the web, map site structures, and…
-
Audits public-facing websites across accessibility, SEO, GEO (AI search readiness), and usability -- evaluates 17 checks, assigns a letter grade, and generates a client-ready PDF…
-
Skyvern browser automation skills for web scraping and interaction via remote MCP.
-
Data freshness and endpoint liveness verification for AI agents. Probes external APIs and endpoints before agents act on their data, returning deterministic FRESH/STALE/UNKNOWN…
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
Gelistet auf Claude Code: claude-plugins-official (5)
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
Web scraping and crawling powered by Firecrawl. Turn any website into clean, LLM-ready markdown or structured data. Scrape single pages, crawl entire sites, search the web, and…
Gelistet auf Claude: knowledge-work-plugins (5)
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
The complete web toolkit for your agent. Search the web and get answers in milliseconds. Fetch any URL and get clean markdown content back. Send a browser agent to navigate sites…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
Exa AI web search, deep research, and content extraction. Provides MCP tools and research skills for comprehensive web search, people discovery, company research, academic papers…
-
Nimble web data toolkit — search, extract, map, crawl the web and work with structured data agents
Gelistet auf Codex: openai-curated (openai/plugins) (5)
-
Cloudflare platform plugin with curated skills for Workers, Wrangler, and Agents SDK plus the official Cloudflare API MCP server.
-
Codex Security workflows for security scans, analysis, and investigation.
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Work with SharePoint using the configured Microsoft SharePoint app connector.
-
CrowdStrike Falcon Fusion skills for authoring, deploying, and executing Fusion workflows. Includes live action discovery, YAML authoring with schema validation, workflow import…
Gelistet auf Community GitHub marketplaces (5)
-
SEO audits and AI crawler checks. Honest findings only; no invented scores.
-
Browser automation and web page analysis skills using playwright-cli: connect via CDP, probe bot protection, dismiss overlays, capture DOM trees, reduce pages to skeletons…
-
A Claude Code plugin that gives Claude direct access to the Browserless.io REST APIs: scrape webpages, take screenshots, generate PDFs, search the web, map site structures, and…
-
Scrape, crawl, map, search, parse, extract, and change-track the web with fastCRW, the open-source, self-hostable Firecrawl alternative. Single Rust binary, ~6.6 MB idle RAM…
-
AI browser agent: browses, clicks, types, and reads real web pages from plain-English instructions.
Gelistet auf Copilot CLI: github/awesome-copilot (5)
-
Helps devs extract data from any website with thousands of trusted scrapers, crawlers, and automations from Apify Store. Integrate ready-made Actors to access all popular social…
-
MCP server for Chrome DevTools
-
Safe BLE diagnostics, evidence workflows, and guarded automation for AI agents.
-
Three-layer verification pipeline for AI output. Extracts claims, finds sources, and flags hallucination risks so humans can verify before acting.
-
Drive Microsoft AgentRC from Copilot chat: assess AI readiness, generate Copilot instructions (flat or nested with applyTo globs for monorepos), and manage policies. Produces a…
Gelistet auf Copilot CLI: github/copilot-plugins (5)
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
Advanced Security plugin for GitHub Copilot.
-
mcp-apps
Generate MCP App widgets for MCP tools. Produces self-contained HTML widgets using the MCP Apps protocol.
-
workiq
Query Microsoft 365 data with natural language — emails, meetings, documents, Teams messages, and more.
-
Build Power Apps Canvas Apps using the Canvas Authoring MCP server.
Gelistet auf Cursor: cursor/plugins (5)
-
Browse and automate the web with TinyFish: run multi-step web automations, search the web, extract clean page content, and drive remote stealth browser sessions.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
CLI-backed repo compatibility scans plus agents that audit startup, validation, and docs against reality.
-
Search docs, read pages, and update tables.
-
Scaffold and validate new agent plugins.
Gelistet auf Docker MCP Catalog (5)
-
🔥 Official Firecrawl MCP Server - Adds powerful web scraping and search to Cursor, Claude and any other LLM clients.
-
oxylabs-mcp io.oxylabs/oxylabs-mcp
Fetch and process content from specified URLs & sources using the Oxylabs Web Scraper API.
-
scrapegraph-mcp io.github.ScrapeGraphAI/scrapegraph-mcp
AI-powered web scraping and data extraction capabilities through ScrapeGraph API
-
Apify is the world's largest marketplace of tools for web scraping, data extraction, and web automation. You can extract structured data from social media, e-commerce, search…
-
mcp-server-browserbase io.github.browserbase/mcp-server-browserbase
MCP server for AI web browser automation using Browserbase and Stagehand
Gelistet auf Official MCP Registry (5)
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Audit any site for 50+ AI crawlers, generate llms.txt, robots.txt and schema, track AI mentions.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
-
Live web checks for AI agents: sitemaps, robots.txt, URL status, broken links, feeds, citations.
Nach Bedeutung gefunden, nicht über gemeinsamen Code oder ein gemeinsames Repository: Ähnliche Plugins bleiben getrennte Produkte, und dies ist weder eine Bewertung noch eine Empfehlung.
Möchten Sie dieses Zeichen für Ihr Plugin in unserem Katalog?
Belegen Sie mit einer Datei im Repository, einer Datei auf Ihrer Domain oder einem DNS-Eintrag, dass Sie es pflegen, und Sie können dieses Zeichen auf der Karte zeigen, dazu Live-Banner für Ihre Website und Ihr README. So funktioniert die Verifizierung
Außerdem erhalten Sie Hinweise, wenn ein Marktplatz es aufnimmt, entfernt, sein Verified-Zeichen oder seine Anforderungen ändert, und sein Remote-Endpunkt wird wie ein Webdienst überwacht.
Daten von Official MCP Registry. Die Zahlen stammen aus unseren eigenen regelmäßigen Durchläufen über die Marktplätze, zuletzt abgerufen am . Kontaktdaten von Plugin-Herausgebern veröffentlichen wir nicht.