Google

El rastreador de siempre. Lo que recoge también alimenta los AI Overviews.

Cómo identificarlo en tus logs

Buscá esta cadena en el User-Agent de las peticiones a tu servidor:

Googlebot

Cómo saber si el que entró era el de verdad

El User-Agent lo escribe cualquiera. Un scraper que quiere pasar desapercibido se presenta como Googlebot justamente porque casi nadie verifica, y porque casi nadie bloquea a un bot conocido. El nombre no prueba nada: lo que prueba es la IP de origen.

Google publica sus rangos. Si la IP de la petición no está en esta lista, el bot no es suyo:

https://developers.google.com/static/search/apis/ipranges/googlebot.json

Permitirlo en robots.txt

User-agent: Googlebot
Allow: /

Bloquearlo en robots.txt

User-agent: Googlebot
Disallow: /

Ojo: robots.txt es una convención, no una barrera técnica. Los rastreadores de las grandes plataformas la respetan; si necesitás una barrera de verdad, va del lado del servidor.

Documentación oficial de Google: developers.google.com

Otros bots de Google

Se controlan por separado: bloquear uno no bloquea a los demás, y ahí está la decisión fina — se puede salir del entrenamiento sin salir de las respuestas.