Přeskočit na obsah
SocionetMake a wish

Vidí váš web ChatGPT?

Napište adresu. Zjistíme, jestli OAI-SearchBot, robot, díky kterému se weby dostávají do vyhledávání v ChatGPT, smí na váš web a jestli ho server pustí. Když ne, dostanete řádky do robots.txt ke zkopírování.

ChatGPT

  • OAI-SearchBot
  • ChatGPT-User
  • GPTBot

Název ChatGPT patří společnosti OpenAI a slouží jen k označení služby. Kontrolu provozuje Socionet, OpenAI ji nevydává ani nedoporučuje.

Adresu pošleme na náš server, který web otevře jako návštěvník SocionetWebCheck a pak ještě jednou jménem každého robota. Výsledek držíme 24 hodin zašifrovaný klíčem odvozeným z adresy, adresu ani vaši IP v čitelné podobě neukládáme.

Všechny nástroje zdarma

Stačí napsat firma.cz. Podrobnosti o tom, co se s adresou děje, jsou v zásadách ochrany osobních údajů.

Tady se objeví odpověď: Ano, Částečně, nebo Ne, proč, a co přesně opravit, s řádky ke zkopírování.

Jak ChatGPT hledá a cituje

Podle nápovědy OpenAI ChatGPT vyhledává na webu, když se mu zdá, že otázka potřebuje aktuální informace, nebo když vyhledávání zapne uživatel. Otázku přepíše na jeden či více cílených dotazů a pošle je vyhledávačům. Po prvních výsledcích může poslat další, konkrétnější. Nápověda mezi partnery jmenuje Microsoft a Shopify. Pro řízení vyhledávání OpenAI doporučuje právě OAI-SearchBot.

Odpověď s vyhledáváním může obsahovat citace: kliknutím se otevře zdroj a tlačítko Sources ukáže citované zdroje i další odkazy. OpenAI sama upozorňuje, že citace mohou být neúplné nebo zastaralé. U místních dotazů ChatGPT použije přibližnou polohu z IP adresy a radí do otázky napsat město, čtvrť nebo PSČ. Místní firma proto udělá dobře, když má město a obor napsané přímo v textu stránky.

Tři roboty OpenAI, tři role

Každý robot má v robots.txt nastavení zvlášť a OpenAI to píše výslovně: OAI-SearchBot můžete povolit a GPTBot zakázat. Když pustíte oba, může OpenAI použít výsledky jednoho průchodu pro obě použití, aby nestahovala totéž dvakrát.

  • OAI-SearchBot rozhoduje o vyhledávání. Kdo ho zakáže, v odpovědích vyhledávání se podle OpenAI nezobrazí, nanejvýš jako obyčejný odkaz. OpenAI doporučuje povolit ho v robots.txt a pustit i její zveřejněné IP rozsahy (soubor openai.com/searchbot.json).
  • GPTBot sbírá obsah, který může sloužit k trénování modelů. Zákaz je vaše rozhodnutí a na vyhledávání nemá vliv.
  • ChatGPT-User přijde, když uživatel nebo vlastní GPT požádá o konkrétní stránku. Je to akce uživatele, takže pravidla robots.txt se na něj nemusí vztahovat. O zobrazení ve vyhledávání podle OpenAI nerozhoduje.

Příklad: truhlářství po spuštění webu

Vymyšlený příklad. Truhlářství z Plzně spustí nový web, ale ve složce zůstane robots.txt ze zkušební verze se dvěma řádky: „User-agent: *“ a „Disallow: /“. Majitel se pak zeptá ChatGPT na truhláře v Plzni a svůj web mezi odpověďmi nenajde.

Kontrola u OAI-SearchBot ukáže Ne a řádek, který robota zavírá ven. GPTBot a ChatGPT-User se objeví jen jako informace: první je volba, druhý smí pravidla ignorovat. Oprava jsou dva řádky navíc: skupina „User-agent: OAI-SearchBot“ s řádkem „Allow: /“. Konkrétnější skupina má přednost před obecnou, ostatní roboty tím tedy nepustíte. Nebo zákaz smažte úplně, když web zavřený být nemá.

Pak počítejte zhruba s 24 hodinami, než OpenAI změnu zohlední. Kdyby kontrola dál hlásila Částečně, protože server robota odmítá podle jména, je překážka ve firewallu nebo hostingu. Tam pomůže povolit zveřejněné IP rozsahy OAI-SearchBot.

Co kontrola u ChatGPT změří

Kontrola čte robots.txt podle pravidel RFC 9309 zvlášť pro OAI-SearchBot, ChatGPT-User a GPTBot a pak se serveru představí jménem každého z nich. Rozhoduje OAI-SearchBot: jeho zákaz znamená Ne, zákaz zbylých dvou odpověď nezhorší. Soubory llms.txt a Markdown zkouší jen jako bonus, protože je OpenAI mezi pravidly pro své roboty nezmiňuje.

Neumí zjistit, jestli váš web mají v indexu partnerské vyhledávače, které ChatGPT využívá, ani co udělá server se skutečným OAI-SearchBot z IP adres OpenAI. Slib to není: jestli vás ChatGPT v odpovědi ukáže, rozhoduje on.

Časté dotazy

Musím pustit GPTBot, aby mě ChatGPT našel?

Ne. Podle OpenAI jsou nastavení nezávislá: GPTBot se týká trénování modelů, zobrazení ve vyhledávání ChatGPT řídí OAI-SearchBot. Můžete tedy OAI-SearchBot povolit a GPTBot zakázat.

Zakáže robots.txt i ChatGPT-User?

Nemusí. OpenAI píše, že protože tyto návštěvy spouští uživatel, pravidla v robots.txt se na ně nemusí vztahovat. U tohoto robota proto kontrola jen ukáže, co robots.txt říká, a nehodnotí to.

Odkud ChatGPT bere odkazy v odpovědi?

Podle nápovědy OpenAI přepíše otázku na cílené dotazy a pošle je vyhledávačům, mezi partnery jmenuje Microsoft a Shopify. Odpověď pak může mít citace a tlačítko Sources s odkazy. Že OAI-SearchBot smí na váš web, je základ, ne záruka.

Mám psát do textu webu město?

Je to praktická rada, ne pravidlo. OpenAI píše, že u místních dotazů používá přibližnou polohu z IP adresy a uživatelům radí uvést město, čtvrť nebo PSČ. Město a obor proto pište do textu stránky, ne jen do obrázku.

Jak dlouho trvá, než se změna projeví?

OpenAI uvádí, že se změna v robots.txt do vyhledávání promítne zhruba za 24 hodin. Stav webu po opravě vám ale ukážeme hned. Stačí pod výsledkem kliknout na „Zkontrolovat znovu, bez paměti“, což se počítá do limitu deseti různých webů za hodinu z jedné sítě.

Jak poznám OAI-SearchBot v logu serveru?

Podle user agenta: obsahuje „OAI-SearchBot/1.4“ a odkaz openai.com/searchbot (číslo verze se může měnit). Když robot stahuje robots.txt, přidává do user agenta slovo „robots.txt“, takže poznáte i tyto požadavky. OpenAI zveřejňuje také IP adresy robota v souboru openai.com/searchbot.json.

A co OAI-AdsBot? Ptá se na něj kontrola?

Ne. OAI-AdsBot podle OpenAI kontroluje jen stránky, které někdo odeslal jako reklamu v ChatGPT, a data z něj se netrénují modely. S vyhledáváním v ChatGPT podle popisu OpenAI nesouvisí, proto ho kontrola vynechává.

Když je u ChatGPT Ano, objevím se v odpovědi?

Není to jisté. Ano znamená, že OAI-SearchBot smí dovnitř a server ho pustí. Které zdroje do odpovědi zařadí, rozhoduje ChatGPT sám a OpenAI sama připouští, že citace mohou být neúplné. Skutečný robot chodí z IP adres OpenAI a jak s ním naloží váš firewall, poznat neumíme.

Přečtěte si k tomu

Máte nápad, co v nástroji zlepšit?

Něco chybí, něco je nejasné, nebo to nefunguje, jak byste čekali? Napište nám. Čteme to a podle toho nástroj vylepšujeme.

Nejde o poptávku a nikdo se vám sám neozve. Odpovíme jen tehdy, když nám necháte e‑mail.

Zprávu čteme jen my. E‑mail je nepovinný a použijeme ho jen k odpovědi, ne k reklamě ani k novinkám. Zprávu i s e‑mailem uchováváme nejdéle 12 měsíců. Podrobnosti v zásadách ochrany osobních údajů.