io.github.jmshinhwa/robots-txt-ai-crawler-audit
Checks robots.txt line by line and says what each AI crawler token actually controls - training, AI
Serveur MCP · par jmshinhwa
Aperçu
io.github.jmshinhwa/robots-txt-ai-crawler-audit est un serveur MCP publié par jmshinhwa. Places de marché que nous lisons et qui le référencent : 1 (Official MCP Registry). Le dernier changement enregistré date du 2026-10-27. Selon notre passage sur les places de marché du 2026-11-02.
Ce qu'il demande
- S'exécute sur votre machine
Aucune des places de marché que nous lisons ne publie ses outils ni les réglages qu'il demande.
Ce qu'il déclare, demande et exécute, en détail
N’installez que des plugins de développeurs en qui vous avez confiance. Nous reprenons ce que publient les places de marché et ne testons pas les plugins.
Paquet
npm @readystack/robots-txt-ai-crawler-audit (@readystack/robots-txt-ai-crawler-audit sur npm)
- Téléchargements npm par semaine: 36 (2026-10-27)
- Téléchargements npm par mois: 597 (2026-10-27)
- Dernière version sur npm : 0.1.8, publiée le 2026-09-29
- La dernière version est marquée obsolète sur npm
- La version déclarée 0.1.3 est marquée obsolète sur npm
Aucune vulnérabilité connue dans OSV pour 0.1.3 (vérifié le 2026-10-23)
Les données npm proviennent du registre public npm (registry.npmjs.org, api.npmjs.org). Chaque chiffre est celui du registre et ne s'additionne jamais à un autre. Un registre qui ne publie pas de chiffre n'en affiche aucun : pas de chiffre ne veut pas dire zéro. Les entrées de vulnérabilités proviennent d'OSV.dev (CC BY 4.0) et ne concernent que la version déclarée ; une fiche sans version déclarée n'obtient pas de réponse. Nous n'analysons pas le code.
Fonctionne avec
- Claude Code
- Codex
- Cursor
- VS Code
- Copilot CLI
Un lien en un clic ouvre le client, qui demande une confirmation avant d'ajouter le serveur.
D'après les marketplaces qui le listent et le transport MCP qu'il déclare, tels que chaque client les documente. Nous ne testons pas les plugins.
Connecter
Commandes et configurations construites uniquement à partir de ce que déclarent ses places de marché. Nous ne les exécutons pas pour vous et ne testons pas les plugins.
En serveur MCP local : paquet npm
Construit à partir de ce que déclare Official MCP Registry.
claude mcp add --transport stdio robots-txt-ai-crawler-audit -- npx -y @readystack/robots-txt-ai-crawler-audit --mcp[mcp_servers.robots-txt-ai-crawler-audit]
command = "npx"
args = ["-y", "@readystack/robots-txt-ai-crawler-audit", "--mcp"]{
"mcpServers": {
"robots-txt-ai-crawler-audit": {
"command": "npx",
"args": [
"-y",
"@readystack/robots-txt-ai-crawler-audit",
"--mcp"
]
}
}
}Où il est publié
| Place de marché | Statut | Version | Chiffres | Vérifié | Vu pour la première fois |
|---|---|---|---|---|---|
| Official MCP Registry (Ouvrir la fiche du registre) | Référencé | 0.1.3 | Téléchargements par mois (npm): 597 Téléchargements par semaine (npm): 36 Forks (GitHub): 1 Étoiles (GitHub): 1 |
Non marqué |
Chaque chiffre est celui de la place de marché et n'est jamais additionné entre places de marché. Une place de marché qui ne publie pas de chiffre n'en affiche aucun : pas de nombre ne veut pas dire zéro.
Évolution de ses chiffres
- 2026-10-171,6 k
- 2026-10-27597
- 2026-10-1743
- 2026-10-2736
Chaque point est un jour où nous avons lu un autre nombre ; les paliers sont des jours sans changement. Les chiffres de places de marché différentes ne sont jamais additionnés.
Ce qui a changé
Rien n'a bougé sur ce plugin depuis que nous le suivons.
Plugins similaires
Produits dont les noms, descriptions, outils et skills sont les plus proches de celui-ci par le sens, sur toutes les places de marché que nous lisons. La proximité n'est classée qu'à l'intérieur de cette liste.
-
Generate, validate and check robots.txt rules for AI crawlers. Free; optional Pro key.
-
robotstxt-ai io.github.sharozdawa/robotstxt-ai
Analyze and generate robots.txt with AI crawler detection for 20+ bots like GPTBot and ClaudeBot.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
Robots.txt & AI Crawler Checker
robots.txt tester (RFC 9309), AI crawler access (GPTBot, ClaudeBot...) and sitemap check.
-
{"jsonrpc":"2.0","id":1,"method":"tools/call","params":{"name":"whoami","arguments":{}}} free no key
-
tdm-reservation-lint io.github.jmshinhwa/tdm-reservation-lint
Finds the robots.txt lines that reserve nothing — retired crawler tokens, shadowed groups, rules abo
-
ai-visibility com.lastminutedealshq/ai-visibility
AI-search-visibility tools: check crawler access, generate llms.txt, lint robots.txt, census data.
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Check what AI crawlers may read and what a page permits, generate llms.txt and schema.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
Plugins similaires par place de marché
La même question posée à chaque place de marché séparément : y a-t-il là un équivalent de ce plugin ?
Référencé sur Claude Code: claude-plugins-community (5)
-
Skyvern browser automation skills for web scraping and interaction via remote MCP.
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
Audit your Claude plugins, skills, and coding agents against the SOSA methodology — Supervised Orchestrated Secured Agents. Scans your entire plugin ecosystem and evaluates each…
-
Audits your app's Privacy Policy, ToS, Cookie Policy and DPA against its actual codebase. Scans your dependencies, DB schema, and API routes to find undisclosed data collection…
-
Full Apify web scraping platform integration for Claude. Run Actors, manage datasets, key-value stores, schedules, webhooks, and tasks — all from within Claude. Includes 27 tools…
Référencé sur Claude Code: claude-plugins-official (5)
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
Automate API security directly in Claude Code with 42Crunch - automatically audit OpenAPI specs, detect vulnerabilities aligned with OWASP API Security risks (including…
Référencé sur Claude: knowledge-work-plugins (5)
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
The complete web toolkit for your agent. Search the web and get answers in milliseconds. Fetch any URL and get clean markdown content back. Send a browser agent to navigate sites…
-
Configure, run, and interpret HawkScan DAST results inside Claude Code. Generates stackhawk.yml configs, runs scans via CLI or Docker, and transforms security findings into…
-
AI-first project auditor and re-engineer based on the 9 design principles and 7 design patterns from the TechWolf AI-First Bootcamp
Référencé sur Codex: openai-curated (openai/plugins) (5)
-
Cloudflare platform plugin with curated skills for Workers, Wrangler, and Agents SDK plus the official Cloudflare API MCP server.
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Codex Security workflows for security scans, analysis, and investigation.
-
Skills for NVIDIAs ecosystem spans GPU acceleration, CUDA, AI agents, inference, robotics, Physical AI, Omniverse, and simulation. This plugin helps you understand the pieces…
-
Build with OpenAI APIs, Agents SDK, and ChatGPT Apps, and create and save OpenAI API keys from Codex.
Référencé sur Community GitHub marketplaces (5)
-
Free AI search audits with no account: which AI crawlers your robots.txt lets in, and whether your llms.txt is present and well formed.
-
Stealth browser automation skill using Pydoll, specialized in bypassing Cloudflare WAF, Turnstile CAPTCHA, and other bot detection systems.
-
Stealth browser automation skill using Pydoll, specialized in bypassing Cloudflare WAF, Turnstile CAPTCHA, and other bot detection systems.
-
Browser automation and web page analysis skills using playwright-cli: connect via CDP, probe bot protection, dismiss overlays, capture DOM trees, reduce pages to skeletons…
-
Up-to-date action manuals for browser automation. Get verified CSS/XPath selectors for any website directly into your agent context.
Référencé sur Copilot CLI: github/awesome-copilot (5)
-
Helps devs extract data from any website with thousands of trusted scrapers, crawlers, and automations from Apify Store. Integrate ready-made Actors to access all popular social…
-
Safe BLE diagnostics, evidence workflows, and guarded automation for AI agents.
-
Record your screen doing a manual process, drop the video on your Desktop, and let Copilot CLI analyze it frame-by-frame to build working automation scripts. Supports narrated…
-
MCP server for Chrome DevTools
-
See a live map of the Copilot agents on your computer, their sub-agents, their commands, and where their data goes.
Référencé sur Copilot CLI: github/copilot-plugins (5)
-
Advanced Security plugin for GitHub Copilot.
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
Bring Azure DevOps work-item, repository, and pull-request workflows into GitHub Copilot.
-
Build Power Apps Canvas Apps using the Canvas Authoring MCP server.
-
mcp-apps
Generate MCP App widgets for MCP tools. Produces self-contained HTML widgets using the MCP Apps protocol.
Référencé sur Cursor: cursor/plugins (5)
-
Browse and automate the web with TinyFish: run multi-step web automations, search the web, extract clean page content, and drive remote stealth browser sessions.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Build apps, scripts, and automations with the TypeScript SDK.
-
Fan large tasks out across parallel cloud agents with planners, workers, verifiers, and structured handoffs.
-
Let Grok Bot reach MCP servers on your private Tailscale network: connect your own tailnet, or your team's company tailnets turned on by a team admin, with each member using their…
Référencé sur Docker MCP Catalog (5)
-
Official Firecrawl MCP server, the context API for AI agents: search, scrape, and interact with the web, plus parse, crawl, map, Agent and Monitor, from any MCP client.
-
Apify is the world's largest marketplace of tools for web scraping, data extraction, and web automation. You can extract structured data from social media, e-commerce, search…
-
scrapegraph-mcp io.github.ScrapeGraphAI/scrapegraph-mcp
AI-powered web scraping and data extraction capabilities through ScrapeGraph API
-
oxylabs-mcp io.oxylabs/oxylabs-mcp
Fetch and process content from specified URLs & sources using the Oxylabs Web Scraper API.
-
Browser automation and web scraping using Puppeteer.
Référencé sur Official MCP Registry (5)
-
Generate, validate and check robots.txt rules for AI crawlers. Free; optional Pro key.
-
robotstxt-ai io.github.sharozdawa/robotstxt-ai
Analyze and generate robots.txt with AI crawler detection for 20+ bots like GPTBot and ClaudeBot.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
Robots.txt & AI Crawler Checker
robots.txt tester (RFC 9309), AI crawler access (GPTBot, ClaudeBot...) and sitemap check.
Référencé sur PyPI (MCP servers) (5)
-
Screaming Frog SEO Spider MCP Server (headless)
Headless Screaming Frog SEO Spider via its CLI: run crawls, export and filter data, no GUI needed.
-
firecrawl com.mcparmory/firecrawl
Scrape, crawl, and extract structured data from websites at scale
-
scrapingant com.mcparmory/scrapingant
Scrape webpages, handle JavaScript and CAPTCHA, extract structured data
-
apify com.mcparmory/apify
Build, deploy, and run web scraping and automation actors in the cloud
-
parallel com.mcparmory/parallel
Search the web, extract content, and run distributed tasks with AI-powered automation
Référencé sur npm registry (MCP servers) (5)
-
Analyse robots.txt content and report whether a path may be crawled.
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Check what AI crawlers may read and what a page permits, generate llms.txt and schema.
-
mcp io.github.crawlbrulee/mcp
EU-native web scraping for AI agents. scrape pages, map sites, run background jobs, check usage.
-
zenrows-mcp io.github.ZenRows/zenrows-mcp
Zenrows MCP server: Fetch, Extract, Batch, and Browser Sessions for AI agents
-
ainative-browser-mcp io.github.AINative-Studio/ainative-browser-mcp
AI-powered browser automation MCP — 6 tools for web interaction, extraction, and validation.
Trouvés par le sens, et non par un code ou un dépôt commun : les plugins similaires restent des produits distincts, et ceci n'est ni un avis ni une recommandation.
Vous voulez cette marque pour votre plugin dans notre catalogue ?
Prouvez que vous le maintenez avec un fichier dans son dépôt, un fichier sur votre domaine ou un enregistrement DNS, et vous pourrez afficher cette marque sur la fiche, avec des bannières à jour pour votre site et votre README. Comment se passe la vérification
Vous recevez aussi des alertes quand une marketplace le publie, le retire, change sa marque vérifiée ou ce qu'il demande, et son endpoint distant est surveillé comme un service web.
Données issues de Official MCP Registry. Les chiffres proviennent de nos propres passages réguliers sur les places de marché, dernière lecture le . Nous ne publions aucune coordonnée des éditeurs de plugins.