Anthropic
ClaudeBot
EntrenamientoRastrea contenido público para el entrenamiento de los modelos de Anthropic.
Cómo identificarlo en tus logs
Buscá esta cadena en el User-Agent de las peticiones a tu servidor:
ClaudeBot
Cómo saber si el que entró era el de verdad
El User-Agent lo escribe cualquiera. Un scraper que quiere pasar desapercibido se presenta como ClaudeBot justamente porque casi nadie verifica, y porque casi nadie bloquea a un bot conocido. El nombre no prueba nada: lo que prueba es la IP de origen.
Anthropic publica sus rangos. Si la IP de la petición no está en esta lista, el bot no es suyo:
https://claude.com/crawling/bots.json
Permitirlo en robots.txt
User-agent: ClaudeBot Allow: /
Bloquearlo en robots.txt
User-agent: ClaudeBot Disallow: /
Ojo: robots.txt es una convención, no una barrera técnica. Los rastreadores de las grandes plataformas la respetan; si necesitás una barrera de verdad, va del lado del servidor.
Otros bots de Anthropic
Se controlan por separado: bloquear uno no bloquea a los demás, y ahí está la decisión fina — se puede salir del entrenamiento sin salir de las respuestas.