io.github.jmshinhwa/robots-txt-ai-crawler-audit
Checks robots.txt line by line and says what each AI crawler token actually controls - training, AI
MCP-Server · von jmshinhwa
Überblick
io.github.jmshinhwa/robots-txt-ai-crawler-audit ist ein MCP-Server von jmshinhwa. Marktplätze, die wir lesen und die es listen: 1 (Official MCP Registry). Die letzte erfasste Änderung war am 2026-10-27. Stand unseres Marktplatz-Durchlaufs vom 2026-10-28.
Was es abfragt
- Läuft auf Ihrem Rechner
Keiner der Marktplätze, die wir lesen, veröffentlicht seine Tools oder die abgefragten Einstellungen.
Was es deklariert, abfragt und ausführt, vollständig
Installieren Sie nur Plugins von Entwicklern, denen Sie vertrauen. Wir zeigen, was die Marktplätze veröffentlichen, und testen keine Plugins.
Paket
npm @readystack/robots-txt-ai-crawler-audit (@readystack/robots-txt-ai-crawler-audit auf npm)
- npm-Downloads pro Woche: 36 (2026-10-27)
- npm-Downloads pro Monat: 597 (2026-10-27)
- Neueste Version auf npm: 0.1.8, veröffentlicht am 2026-09-29
- Die neueste Version ist auf npm als veraltet markiert
- Die angegebene Version 0.1.3 ist auf npm als veraltet markiert
Keine bekannten Schwachstellen in OSV für 0.1.3 (geprüft am 2026-10-23)
Die npm-Angaben stammen aus dem öffentlichen npm-Register (registry.npmjs.org, api.npmjs.org). Jede Zahl gehört ihrem Register und wird nie mit einer anderen addiert. Ein Register, das keine Zahl veröffentlicht, zeigt keine: keine Zahl ist nicht null. Die Schwachstelleneinträge stammen von OSV.dev (CC BY 4.0) und betreffen nur die angegebene Version; ein Eintrag ohne Version erhält keine Antwort. Wir scannen keinen Code.
Funktioniert mit
- Claude Code
- Codex
- Cursor
- VS Code
- Copilot CLI
Ein Ein-Klick-Link öffnet den Client, der vor dem Hinzufügen des Servers um Bestätigung bittet.
Nach den Marktplätzen, die ihn listen, und dem angegebenen MCP-Transport, wie jeder Client sie dokumentiert. Wir testen keine Plugins.
Verbinden
Befehle und Konfigurationen nur aus den Angaben der Marktplätze. Wir führen sie nicht für Sie aus und testen keine Plugins.
Als lokaler MCP-Server: npm-Paket
Erstellt aus den Angaben von Official MCP Registry.
claude mcp add --transport stdio robots-txt-ai-crawler-audit -- npx -y @readystack/robots-txt-ai-crawler-audit --mcp
[mcp_servers.robots-txt-ai-crawler-audit]
command = "npx"
args = ["-y", "@readystack/robots-txt-ai-crawler-audit", "--mcp"]
{
"mcpServers": {
"robots-txt-ai-crawler-audit": {
"command": "npx",
"args": [
"-y",
"@readystack/robots-txt-ai-crawler-audit",
"--mcp"
]
}
}
}
Wo es veröffentlicht ist
| Marktplatz | Status | Version | Zahlen | Verifiziert | Erstmals gesehen |
|---|---|---|---|---|---|
| Official MCP Registry (Eintrag in der Registry öffnen) | Gelistet | 0.1.3 | Downloads pro Monat (npm): 597 Downloads pro Woche (npm): 36 Forks (GitHub): 1 Sterne (GitHub): 1 |
Nicht markiert |
Jede Zahl stammt vom jeweiligen Marktplatz und wird nie über Marktplätze hinweg addiert. Ein Marktplatz ohne veröffentlichte Zahl zeigt keine: keine Zahl ist nicht null.
Wie sich die Zahlen entwickelt haben
- 2026-10-171,6 Tsd.
- 2026-10-27597
- 2026-10-1743
- 2026-10-2736
Jeder Punkt ist ein Tag, an dem wir eine andere Zahl gelesen haben; flache Abschnitte sind Tage ohne Veränderung. Zahlen verschiedener Marktplätze werden nie addiert.
Was sich geändert hat
Bei diesem Plugin hat sich nichts bewegt, seit wir es beobachten.
Ähnliche Plugins
Produkte, deren eigene Namen, Beschreibungen, Werkzeuge und Skills diesem der Bedeutung nach am nächsten sind, auf allen Marktplätzen, die wir lesen. Die Nähe ist nur innerhalb dieser Liste geordnet.
-
Generate, validate and check robots.txt rules for AI crawlers. Free; optional Pro key.
-
robotstxt-ai io.github.sharozdawa/robotstxt-ai
Analyze and generate robots.txt with AI crawler detection for 20+ bots like GPTBot and ClaudeBot.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
Robots.txt & AI Crawler Checker
robots.txt tester (RFC 9309), AI crawler access (GPTBot, ClaudeBot...) and sitemap check.
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Check what AI crawlers may read and what a page permits, generate llms.txt and schema.
-
{"jsonrpc":"2.0","id":1,"method":"tools/call","params":{"name":"whoami","arguments":{}}} free no key
-
tdm-reservation-lint io.github.jmshinhwa/tdm-reservation-lint
Finds the robots.txt lines that reserve nothing — retired crawler tokens, shadowed groups, rules abo
-
ai-visibility com.lastminutedealshq/ai-visibility
AI-search-visibility tools: check crawler access, generate llms.txt, lint robots.txt, census data.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
Ähnliche Plugins nach Marktplatz
Dieselbe Frage an jeden Marktplatz einzeln: Gibt es dort ein Gegenstück zu diesem Plugin?
Gelistet auf Claude Code: claude-plugins-community (5)
-
Skyvern browser automation skills for web scraping and interaction via remote MCP.
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
Audit your Claude plugins, skills, and coding agents against the SOSA methodology — Supervised Orchestrated Secured Agents. Scans your entire plugin ecosystem and evaluates each…
-
Audits your app's Privacy Policy, ToS, Cookie Policy and DPA against its actual codebase. Scans your dependencies, DB schema, and API routes to find undisclosed data collection…
-
Full Apify web scraping platform integration for Claude. Run Actors, manage datasets, key-value stores, schedules, webhooks, and tasks — all from within Claude. Includes 27 tools…
Gelistet auf Claude Code: claude-plugins-official (5)
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
Automate API security directly in Claude Code with 42Crunch - automatically audit OpenAPI specs, detect vulnerabilities aligned with OWASP API Security risks (including…
Gelistet auf Claude: knowledge-work-plugins (5)
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
The complete web toolkit for your agent. Search the web and get answers in milliseconds. Fetch any URL and get clean markdown content back. Send a browser agent to navigate sites…
-
Configure, run, and interpret HawkScan DAST results inside Claude Code. Generates stackhawk.yml configs, runs scans via CLI or Docker, and transforms security findings into…
-
AI-first project auditor and re-engineer based on the 9 design principles and 7 design patterns from the TechWolf AI-First Bootcamp
Gelistet auf Codex: openai-curated (openai/plugins) (5)
-
Cloudflare platform plugin with curated skills for Workers, Wrangler, and Agents SDK plus the official Cloudflare API MCP server.
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Codex Security workflows for security scans, analysis, and investigation.
-
Skills for NVIDIAs ecosystem spans GPU acceleration, CUDA, AI agents, inference, robotics, Physical AI, Omniverse, and simulation. This plugin helps you understand the pieces…
-
CrowdStrike Falcon Foundry development skills for building cybersecurity applications on the Falcon platform. Includes UI development, collections, functions, workflows, API…
Gelistet auf Community GitHub marketplaces (5)
-
Stealth browser automation skill using Pydoll, specialized in bypassing Cloudflare WAF, Turnstile CAPTCHA, and other bot detection systems.
-
Stealth browser automation skill using Pydoll, specialized in bypassing Cloudflare WAF, Turnstile CAPTCHA, and other bot detection systems.
-
Browser automation and web page analysis skills using playwright-cli: connect via CDP, probe bot protection, dismiss overlays, capture DOM trees, reduce pages to skeletons…
-
Up-to-date action manuals for browser automation. Get verified CSS/XPath selectors for any website directly into your agent context.
-
Generate robots.txt and sitemap files for SEO
Gelistet auf Copilot CLI: github/awesome-copilot (5)
-
Helps devs extract data from any website with thousands of trusted scrapers, crawlers, and automations from Apify Store. Integrate ready-made Actors to access all popular social…
-
Safe BLE diagnostics, evidence workflows, and guarded automation for AI agents.
-
Record your screen doing a manual process, drop the video on your Desktop, and let Copilot CLI analyze it frame-by-frame to build working automation scripts. Supports narrated…
-
MCP server for Chrome DevTools
-
See a live map of the Copilot agents on your computer, their sub-agents, their commands, and where their data goes.
Gelistet auf Copilot CLI: github/copilot-plugins (5)
-
Advanced Security plugin for GitHub Copilot.
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
Bring Azure DevOps work-item, repository, and pull-request workflows into GitHub Copilot.
-
Build Power Apps Canvas Apps using the Canvas Authoring MCP server.
-
mcp-apps
Generate MCP App widgets for MCP tools. Produces self-contained HTML widgets using the MCP Apps protocol.
Gelistet auf Cursor: cursor/plugins (5)
-
Browse and automate the web with TinyFish: run multi-step web automations, search the web, extract clean page content, and drive remote stealth browser sessions.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Let Grok Bot reach MCP servers on your private Tailscale network: connect your own tailnet, or your team's company tailnets turned on by a team admin, with each member using their…
-
Build apps, scripts, and automations with the TypeScript SDK.
-
Fan large tasks out across parallel cloud agents with planners, workers, verifiers, and structured handoffs.
Gelistet auf Docker MCP Catalog (5)
-
Official Firecrawl MCP server, the context API for AI agents: search, scrape, and interact with the web, plus parse, crawl, map, Agent and Monitor, from any MCP client.
-
Apify is the world's largest marketplace of tools for web scraping, data extraction, and web automation. You can extract structured data from social media, e-commerce, search…
-
scrapegraph-mcp io.github.ScrapeGraphAI/scrapegraph-mcp
AI-powered web scraping and data extraction capabilities through ScrapeGraph API
-
oxylabs-mcp io.oxylabs/oxylabs-mcp
Fetch and process content from specified URLs & sources using the Oxylabs Web Scraper API.
-
Browser automation and web scraping using Puppeteer.
Gelistet auf Official MCP Registry (5)
-
Generate, validate and check robots.txt rules for AI crawlers. Free; optional Pro key.
-
robotstxt-ai io.github.sharozdawa/robotstxt-ai
Analyze and generate robots.txt with AI crawler detection for 20+ bots like GPTBot and ClaudeBot.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
Robots.txt & AI Crawler Checker
robots.txt tester (RFC 9309), AI crawler access (GPTBot, ClaudeBot...) and sitemap check.
Gelistet auf PyPI (MCP servers) (5)
-
Screaming Frog SEO Spider MCP Server (headless)
Headless Screaming Frog SEO Spider via its CLI: run crawls, export and filter data, no GUI needed.
-
firecrawl com.mcparmory/firecrawl
Scrape, crawl, and extract structured data from websites at scale
-
scrapingant com.mcparmory/scrapingant
Scrape webpages, handle JavaScript and CAPTCHA, extract structured data
-
apify com.mcparmory/apify
Build, deploy, and run web scraping and automation actors in the cloud
-
parallel com.mcparmory/parallel
Search the web, extract content, and run distributed tasks with AI-powered automation
Gelistet auf npm registry (MCP servers) (5)
-
Analyse robots.txt content and report whether a path may be crawled.
-
ainative-browser-mcp io.github.AINative-Studio/ainative-browser-mcp
AI-powered browser automation MCP — 6 tools for web interaction, extraction, and validation.
-
real-browser io.github.ofershap/real-browser
MCP server + Chrome extension for AI browser control with real sessions.
-
scrapercity-cli io.github.scrapercity/scrapercity-cli
B2B lead generation MCP server - 20+ scrapers, email finder, skip trace, and more.
-
browser io.github.cherchyk/browser
MCP server for loading authenticated web pages using Chrome DevTools Protocol
Nach Bedeutung gefunden, nicht über gemeinsamen Code oder ein gemeinsames Repository: Ähnliche Plugins bleiben getrennte Produkte, und dies ist weder eine Bewertung noch eine Empfehlung.
Möchten Sie dieses Zeichen für Ihr Plugin in unserem Katalog?
Belegen Sie mit einer Datei im Repository, einer Datei auf Ihrer Domain oder einem DNS-Eintrag, dass Sie es pflegen, und Sie können dieses Zeichen auf der Karte zeigen, dazu Live-Banner für Ihre Website und Ihr README. So funktioniert die Verifizierung
Außerdem erhalten Sie Hinweise, wenn ein Marktplatz es aufnimmt, entfernt, sein Verified-Zeichen oder seine Anforderungen ändert, und sein Remote-Endpunkt wird wie ein Webdienst überwacht.
Daten von Official MCP Registry. Die Zahlen stammen aus unseren eigenen regelmäßigen Durchläufen über die Marktplätze, zuletzt abgerufen am . Kontaktdaten von Plugin-Herausgebern veröffentlichen wir nicht.