io.github.sharozdawa/robotstxt-ai
Analyze and generate robots.txt with AI crawler detection for 20+ bots like GPTBot and ClaudeBot.
Serveur MCP · par sharozdawa
Aperçu
io.github.sharozdawa/robotstxt-ai est un serveur MCP publié par sharozdawa. Places de marché que nous lisons et qui le référencent : 1 (Official MCP Registry). Nous l'avons vu pour la première fois le 2026-10-11 et n'avons enregistré aucun changement depuis. Selon notre passage sur les places de marché du 2026-10-14.
Ce qu'il demande
- S'exécute sur votre machine
Aucune des places de marché que nous lisons ne publie ses outils ni les réglages qu'il demande.
Ce qu'il déclare, demande et exécute, en détail
N’installez que des plugins de développeurs en qui vous avez confiance. Nous reprenons ce que publient les places de marché et ne testons pas les plugins.
Paquet
npm robotstxt-ai-mcp (robotstxt-ai-mcp sur npm)
- Téléchargements npm par semaine: 28 (2026-10-13)
- Téléchargements npm par mois: 151 (2026-10-13)
- Dernière version sur npm : 1.0.1, publiée le 2026-03-21
Aucune vulnérabilité connue dans OSV pour 1.0.1 (vérifié le 2026-10-14)
Les données npm proviennent du registre public npm (registry.npmjs.org, api.npmjs.org). Chaque chiffre est celui du registre et ne s'additionne jamais à un autre. Un registre qui ne publie pas de chiffre n'en affiche aucun : pas de chiffre ne veut pas dire zéro. Les entrées de vulnérabilités proviennent d'OSV.dev (CC BY 4.0) et ne concernent que la version déclarée ; une fiche sans version déclarée n'obtient pas de réponse. Nous n'analysons pas le code.
Fonctionne avec
- Claude Code
- Codex
- Cursor
- VS Code
- Copilot CLI
Un lien en un clic ouvre le client, qui demande une confirmation avant d'ajouter le serveur.
D'après les marketplaces qui le listent et le transport MCP qu'il déclare, tels que chaque client les documente. Nous ne testons pas les plugins.
Connecter
Commandes et configurations construites uniquement à partir de ce que déclarent ses places de marché. Nous ne les exécutons pas pour vous et ne testons pas les plugins.
En serveur MCP local : paquet npm
Construit à partir de ce que déclare Official MCP Registry.
claude mcp add --transport stdio robotstxt-ai -- npx -y robotstxt-ai-mcp[mcp_servers.robotstxt-ai]
command = "npx"
args = ["-y", "robotstxt-ai-mcp"]{
"mcpServers": {
"robotstxt-ai": {
"command": "npx",
"args": [
"-y",
"robotstxt-ai-mcp"
]
}
}
}Où il est publié
| Place de marché | Statut | Version | Chiffres | Vérifié | Vu pour la première fois |
|---|---|---|---|---|---|
| Official MCP Registry (Ouvrir la fiche du registre) | Référencé | 1.0.1 | Téléchargements par mois (npm): 151 Téléchargements par semaine (npm): 28 Forks (GitHub): 0 Étoiles (GitHub): 1 |
Non marqué |
Chaque chiffre est celui de la place de marché et n'est jamais additionné entre places de marché. Une place de marché qui ne publie pas de chiffre n'en affiche aucun : pas de nombre ne veut pas dire zéro.
Ce qui a changé
Rien n'a bougé sur ce plugin depuis que nous le suivons.
Plugins similaires
Produits dont les noms, descriptions, outils et skills sont les plus proches de celui-ci par le sens, sur toutes les places de marché que nous lisons. La proximité n'est classée qu'à l'intérieur de cette liste.
-
ai-visibility com.lastminutedealshq/ai-visibility
AI-search-visibility tools: check crawler access, generate llms.txt, lint robots.txt, census data.
-
Fetch a public robots.txt and return group counts only.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
-
AI visibility checker: GPTBot vs OAI-SearchBot, robots.txt audit, raw-HTML schema. 165 crawlers.
-
robots-txt-ai-crawler-audit io.github.jmshinhwa/robots-txt-ai-crawler-audit
Checks robots.txt line by line and says what each AI crawler token actually controls - training, AI
-
{"jsonrpc":"2.0","id":1,"method":"tools/call","params":{"name":"whoami","arguments":{}}} free no key
-
ai-crawler-readiness com.lumnika/ai-crawler-readiness
Can AI crawlers read this site? GPTBot/ClaudeBot verdicts, robots vs edge blocking, 47k-domain index
-
crawl-readiness io.github.Grubbomatic/crawl-readiness
Audit any site for 50+ AI crawlers, generate llms.txt, robots.txt and schema, track AI mentions.
-
Check which AI crawlers a site allows and see pages the way AI crawlers do. Free, read-only.
Plugins similaires par place de marché
La même question posée à chaque place de marché séparément : y a-t-il là un équivalent de ce plugin ?
Référencé sur Claude Code: claude-plugins-community (5)
-
Skyvern browser automation skills for web scraping and interaction via remote MCP.
-
Full Apify web scraping platform integration for Claude. Run Actors, manage datasets, key-value stores, schedules, webhooks, and tasks — all from within Claude. Includes 27 tools…
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
A Claude Code skill that lets Claude drive the browser-act CLI from natural-language prompts — navigating, interacting with, extracting from, and screenshotting webpages…
Référencé sur Claude Code: claude-plugins-official (5)
-
Web scraping skills for Claude Code powered by the Zyte API — scrape sites, generate and run Scrapy spiders, define extraction schemas, and ship to Scrapy Cloud.
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Web scraping and crawling powered by Firecrawl. Turn any website into clean, LLM-ready markdown or structured data. Scrape single pages, crawl entire sites, search the web, and…
Référencé sur Claude: knowledge-work-plugins (5)
-
Web scraping, Google search, structured data extraction, and MCP server integration powered by Bright Data. Includes 7 skills: scrape any webpage as markdown (with bot…
-
Give Claude a real browser — your Chrome or a Browser Use Cloud browser. Use it whenever a task involves a website or web app: browsing, scraping and data extraction, filling…
-
The complete web toolkit for your agent. Search the web and get answers in milliseconds. Fetch any URL and get clean markdown content back. Send a browser agent to navigate sites…
-
Exa AI web search, deep research, and content extraction. Provides MCP tools and research skills for comprehensive web search, people discovery, company research, academic papers…
-
Free AI-powered SEO toolkit — audit websites, plan content strategy, optimize pages, generate schema markup, cluster keywords, and track AI visibility. Works with any website or…
Référencé sur Codex: openai-curated (openai/plugins) (5)
-
Cloudflare platform plugin with curated skills for Workers, Wrangler, and Agents SDK plus the official Cloudflare API MCP server.
-
Evaluate Codex skills and plugins from chat with a beginner-friendly start command, local-first reports, token budget explanations, and guided benchmarking.
-
Codex Security workflows for security scans, analysis, and investigation.
-
Build with OpenAI APIs, Agents SDK, and ChatGPT Apps, and create and save OpenAI API keys from Codex.
-
Inspect repositories, triage pull requests and issues, debug CI, and publish changes through a hybrid GitHub connector and CLI workflow.
Référencé sur Community GitHub marketplaces (5)
-
SEO audits and AI crawler checks. Honest findings only; no invented scores.
-
Browser automation and web page analysis skills using playwright-cli: connect via CDP, probe bot protection, dismiss overlays, capture DOM trees, reduce pages to skeletons…
-
Scrape, crawl, map, search, parse, extract, and change-track the web with fastCRW, the open-source, self-hostable Firecrawl alternative. Single Rust binary, ~6.6 MB idle RAM…
-
Read any page past its anti-bot wall, crawl sites, search without an API key, and answer captchas locally. Installs the binary, wires up the MCP server, and ships the skills.
-
Scrape, crawl, batch-scrape, map, and search the web through the hosted pline.ai API.
Référencé sur Copilot CLI: github/awesome-copilot (5)
-
Helps devs extract data from any website with thousands of trusted scrapers, crawlers, and automations from Apify Store. Integrate ready-made Actors to access all popular social…
-
Record your screen doing a manual process, drop the video on your Desktop, and let Copilot CLI analyze it frame-by-frame to build working automation scripts. Supports narrated…
-
Three-layer verification pipeline for AI output. Extracts claims, finds sources, and flags hallucination risks so humans can verify before acting.
-
Keep your coding agent up to date with the latest web best practices
-
Inspect a repository, improve Tiny Tool Town readiness, submit its listing issue, and launch remediation work.
Référencé sur Copilot CLI: github/copilot-plugins (5)
-
Toolkit for building Microsoft 365 Copilot declarative agents — scaffolding, JSON manifest development, and capability configuration.
-
Advanced Security plugin for GitHub Copilot.
-
workiq
Query Microsoft 365 data with natural language — emails, meetings, documents, Teams messages, and more.
-
Bring Azure DevOps work-item, repository, and pull-request workflows into GitHub Copilot.
-
Build Power Apps Canvas Apps using the Canvas Authoring MCP server.
Référencé sur Cursor: cursor/plugins (5)
-
Browse and automate the web with TinyFish: run multi-step web automations, search the web, extract clean page content, and drive remote stealth browser sessions.
-
playwright-mcp io.github.microsoft/playwright-mcp
Playwright Tools for MCP
-
Analyze website traffic, audiences, and competitors.
-
Research keywords, backlinks, rankings, and site health.
-
Iterative self-referential AI loops using the Ralph Wiggum technique.
Référencé sur Docker MCP Catalog (5)
-
Apify is the world's largest marketplace of tools for web scraping, data extraction, and web automation. You can extract structured data from social media, e-commerce, search…
-
🔥 Official Firecrawl MCP Server - Adds powerful web scraping and search to Cursor, Claude and any other LLM clients.
-
mcp-server-browserbase io.github.browserbase/mcp-server-browserbase
MCP server for AI web browser automation using Browserbase and Stagehand
-
oxylabs-mcp io.oxylabs/oxylabs-mcp
Fetch and process content from specified URLs & sources using the Oxylabs Web Scraper API.
-
scrapegraph-mcp io.github.ScrapeGraphAI/scrapegraph-mcp
AI-powered web scraping and data extraction capabilities through ScrapeGraph API
Référencé sur Official MCP Registry (5)
-
ai-visibility com.lastminutedealshq/ai-visibility
AI-search-visibility tools: check crawler access, generate llms.txt, lint robots.txt, census data.
-
Fetch a public robots.txt and return group counts only.
-
Analyse robots.txt content and report whether a path may be crawled.
-
ActableSite AI Crawler Monitor
Check AI crawler robots.txt policy and monitor public-site policy, sitemap, and llms.txt changes.
-
AI visibility checker: GPTBot vs OAI-SearchBot, robots.txt audit, raw-HTML schema. 165 crawlers.
Trouvés par le sens, et non par un code ou un dépôt commun : les plugins similaires restent des produits distincts, et ceci n'est ni un avis ni une recommandation.
C'est votre plugin ?
Ajoutez-le à vos projets et prouvez que vous le maintenez : un fichier dans son dépôt, un fichier sur votre domaine ou un enregistrement DNS. Vous recevez des alertes quand une marketplace le publie, le retire, change sa marque vérifiée ou ce qu'il demande, et son endpoint distant est surveillé comme un service web.
Données issues de Official MCP Registry. Les chiffres proviennent de nos propres passages réguliers sur les places de marché, dernière lecture le . Nous ne publions aucune coordonnée des éditeurs de plugins.