Skip to main content
Baza Wiedzy

Blog HumanKey

Eksperckie artykuły o ruchu AI, monetyzacji treści i zgodności z RODO dla wydawców.

crawlery-airobots-txtlicencjonowanie

RSL: druga linia w robots.txt, wskazująca na dokument, który sam hostujesz

Nowa dyrektywa w robots.txt pozwala wskazać crawlerom dokument z warunkami licencyjnymi zamiast samej reguły allow/deny. Wyjaśniamy, co dokładnie robi, czym różni się od deklaracji praw — i szczerze mówiąc, czy jakikolwiek crawler AI już z niej korzysta.

Rob, CEO & Founder
crawlery-airobots-txtzgodność

Nie zablokujesz crawlera AI przed odczytaniem strony. Możesz zadeklarować, co wolno mu z tym zrobić.

robots.txt zawsze kontrolował tylko to, czy crawler odwiedza stronę. Nowsza, osobna deklaracja odpowiada na inne pytanie: co wolno mu zrobić z tym, co przeczytał? Oto unijny mechanizm prawny za tym stojący — i dlaczego 'zadeklaruj' jest właściwym słowem, a nie 'zablokuj'.

Rob, CEO & Founder
cloudflareruch-botowcrawlery-ai

60% ruchu w internecie to już boty. Co to znaczy dla Twojej strony?

Dane Cloudflare z 2026 pokazują, że boty odpowiadają za 57,5% zapytań HTML w sieci. Co oznacza ten moment przełomowy dla Twojej strony i jak sprawdzić, kto naprawdę ją odwiedza.

HumanKey Team
crawlery-airobots-txttransparentność

Twoja rekomendacja robots.txt powinna wymieniać każdego crawlera AI — nie tylko te, które już widziałeś

Rekomendacja kontroli crawlerów, która wymienia jedynie boty obecne już w Twoich logach, jest z założenia niekompletna. Oto dlaczego proponujemy jawną regułę dla każdego crawlera AI, którego śledzimy — również dla tych, które jeszcze Cię nie odwiedziły.

HumanKey Team