Kunnen AI-assistenten je site lezen?
Controleer de robots.txt-regels, noindex- en noai-signalen en HTTP-antwoorden voor je site.
Gratis, zonder account of e-mailadres. De controle duurt enkele seconden.
Deze gratis checker voor AI-crawlers leest robots.txt, controleert meta robots- en X-Robots-Tag-signalen en verstuurt verzoeken met de user agents van AI-crawlers. Elke rij toont de toepasselijke regel en het HTTP-antwoord. De resultaten ‘toegestaan’, ‘geblokkeerd’ en ‘onduidelijk’ beschrijven wat onze server heeft waargenomen. Ze bewijzen niet dat een echte crawler hetzelfde antwoord krijgt.
Hoe deze controle werkt
- robots.txt
- De robots.txt van de site wordt één keer gelezen. Daarna worden de regels voor elke crawler op de pagina toegepast volgens RFC 9309: de groep die de crawler bij naam noemt, gaat boven de groep voor alle crawlers.
- Een verzoek als elke crawler
- De pagina wordt opgevraagd met de user agent van elke crawler. De tabel toont de HTTP-status, eventuele verificatie en de verzonden user-agentstring. Google-Extended en Applebot-Extended zijn besturingstokens waarvoor geen apart verzoek wordt verstuurd. Googlebot en Bingbot worden alleen in robots.txt gecontroleerd.
- Controleverzoek
- De pagina wordt ook opgevraagd als een gewone browser. Als ook dat verzoek wordt geweigerd, zeggen de crawlerverzoeken niets over crawlers in het bijzonder en beoordelen we alleen robots.txt.
- De beperking
- Onze verzoeken komen vanaf ons eigen adres. Een firewall die de gepubliceerde IP-adressen van een crawler controleert, kan ons verzoek weigeren en de echte crawler toch toelaten. Daarom beoordelen we Googlebot en Bingbot alleen op basis van robots.txt.
Elke crawler in de tabel heeft een eigen pagina in de lijst met AI-crawlers.
Stel een volledig AI robots.txt-bestand samen · Controleer de lengte van je titel en beschrijving
Vragen over AI-crawlers
Ontdek wat assistenten over je zeggen
De gratis scan leest je site, controleert dezelfde crawlers en stelt assistenten de vragen die je potentiële klanten stellen.