Generator robots.txt dla AI
Wybierz, które roboty AI mogą czytać twoją stronę. Zacznij od gotowych ustawień, zmień reguły dla dowolnego robota i pobierz część pliku robots.txt dotyczącą AI. Bezpłatnie i bez zakładania konta.
Bezpłatnie i bez rejestracji. Wybrane ustawienia zapisują się w adresie URL tej strony, więc możesz je udostępnić.
Twoje reguły robots.txt dla AI
# aigrow.gg/tools/ai-robots-txt
User-agent: OAI-SearchBot
User-agent: ChatGPT-User
User-agent: Claude-SearchBot
User-agent: Claude-User
User-agent: PerplexityBot
User-agent: Perplexity-User
User-agent: Applebot
User-agent: DuckAssistBot
User-agent: MistralAI-User
User-agent: MistralAI-Index
User-agent: Meta-ExternalFetcher
User-agent: Amzn-SearchBot
User-agent: Amzn-User
User-agent: YouBot
Allow: /
User-agent: GPTBot
User-agent: ClaudeBot
User-agent: Google-Extended
User-agent: Applebot-Extended
User-agent: MistralAI-Training
User-agent: Meta-ExternalAgent
User-agent: Amazonbot
User-agent: CCBot
User-agent: Bytespider
User-agent: cohere-ai
Disallow: /
Umieść te reguły w pliku robots.txt w katalogu głównym witryny i zachowaj istniejącą grupę User-agent: *, jeśli ją masz.
Ten bezpłatny generator robots.txt tworzy reguły dla robotów z katalogu AIGROW. Domyślnie zezwala robotom wyszukującym i otwierającym strony na żądanie na dostęp, a blokuje roboty zbierające dane treningowe. Wybierz inny gotowy zestaw reguł lub zmień ustawienia poszczególnych robotów, dodaj ścieżki do wykluczenia, a następnie skopiuj lub pobierz reguły dla swojej strony.
Jak to działa
- Wybierz ustawienia początkowe
- Domyślne ustawienia zezwalają na dostęp robotom wyszukującym oraz tym, które otwierają stronę na żądanie użytkownika, a blokują roboty zbierające dane do trenowania. Możesz zezwolić na dostęp wszystkim robotom, zablokować wszystkie lub ustawić reguły osobno dla każdego z nich.
- Jedna grupa dla tych samych reguł
- Roboty objęte tymi samymi regułami trafiają do jednej grupy z kilkoma wierszami User-agent. Ich nazwy pochodzą z katalogu robotów AI. Pomijamy Googlebot i Bingbot, ponieważ indeksują strony także na potrzeby Google Search i Bing.
- Ścieżki obowiązują w każdej grupie
- Robot wymieniony w grupie nie dziedziczy reguł z grupy User-agent: *, zgodnie z RFC 9309. Dodatkowe ścieżki Disallow są dodawane do każdej grupy robotów AI. Pozostałe ścieżki pozostają dostępne dla robotów, którym zezwolisz na dostęp.
- Zachowaj pozostałą część pliku
- Generator tworzy tylko grupy dotyczące AI. Zachowaj istniejącą grupę User-agent: * i pozostałe wpisy, w tym linki do map witryny. Zastąp stare grupy wymieniające te same roboty i przenieś ścieżki, które nadal chcesz wykluczać.
Pytania o roboty AI
Czy asystenci AI mogą czytać strony twojej firmy?
Uruchom bezpłatny skan, aby sprawdzić dostęp i zobaczyć, co asystenci mówią o twojej firmie.