Prima di leggere una pagina, un robot di IA legge un file che dice cosa ha il diritto di farne. Quel file esiste sulla maggior parte dei siti. Questa rilevazione guarda cosa risponde, e soprattutto chi lo ha scritto.
L 85,3 % dei siti rilevati pubblica un robots.txt. Quel file ha una storia: è stato scritto per i motori di ricerca, in un tempo in cui la domanda era quali pagine sarebbero state indicizzate. Metà di questi file sta in un solo gruppo di istruzioni, e quel gruppo si rivolge a tutti insieme.
I robot di IA leggono lo stesso file e vi cercano il proprio nome. Non lo trovano sul 97 % dei siti. Non è un rifiuto, non è un permesso ponderato: è una domanda che non è ancora stata posta, su un file che ha dieci anni più di lei.
Ogni robot ha il proprio gruppo in un robots.txt, quindi un sito risponde separatamente a OpenAI, a Google e a Common Crawl. La tabella legge queste risposte una per una.
| Robot | Gestito da | Cosa ne fa | Siti che lo rifiutano |
|---|---|---|---|
| CCBot | Common Crawl | Addestra un modello | 2,0 % |
| GPTBot | OpenAI | Addestra un modello | 2,0 % |
| Bytespider | ByteDance | Addestra un modello | 1,8 % |
| ClaudeBot | Anthropic | Addestra un modello | 1,8 % |
| Google-Extended | Addestra un modello | 1,8 % | |
| Meta-ExternalAgent | Meta | Addestra un modello | 1,7 % |
| Applebot-Extended | Apple | Addestra un modello | 1,6 % |
| ChatGPT-User | OpenAI | Va a leggere la pagina quando qualcuno pone la domanda | 0,3 % |
| PerplexityBot | Perplexity | Alimenta un motore di risposta | 0,1 % |
| OAI-SearchBot | OpenAI | Alimenta un motore di risposta | 0,1 % |
Lo scarto è netto e sta in piedi da solo: i robot che addestrano modelli sono rifiutati attorno al 2 %, quelli che vanno a prendere una pagina per rispondere a una domanda venti volte meno. Il parco francese accetta di essere citato e rifiuta di essere appreso.
Rifiutare l'addestramento protegge un contenuto che un'impresa ha pagato per produrre. È una decisione difendibile, e il 2,2 % dei siti l'ha presa esplicitamente.
Chiudere la porta ai motori di risposta ne produce un altra: il vostro sito smette di essere una fonte citabile nel momento preciso in cui i vostri clienti pongono le loro domande a una IA anziché a un motore di ricerca. Il 3,1 % dei siti rilevati si trova in questo caso senza averlo voluto, per una istruzione scritta per tutti i robot molto prima che questi esistessero.
Le due decisioni si prendono nello stesso file, in tre righe. Resta da poterlo scrivere.
Un robots.txt è servito dalla macchina che serve il sito. Quando quel sito vive su una piattaforma chiusa, è la piattaforma a redigerlo, ad applicarlo a tutti i suoi clienti insieme e ad aggiornarlo quando lo decide.
Abbiamo riletto 2 500 dei file della rilevazione per vedere quali portassero la firma di un modello di piattaforma. La tabella qui sotto dà ciò che ciascuna risponde per i suoi clienti.
| Piattaforma | Siti del sorteggio | Gruppi di istruzioni |
|---|---|---|
| Shopify | 57 | 2 |
| WordPress.com | 13 | 1 |
| Squarespace | 11 | 30 |
| Wix | 3 | 0 |
| Webflow | 1 | 0 |
| File senza firma di piattaforma | 2410 | 1 |
Squarespace serve ai suoi clienti un file che nomina una trentina di robot, tra cui tutti quelli della tabella precedente, e non ne rifiuta nessuno. Shopify ne serve uno che non ne nomina nessuno. In entrambi i casi la risposta è la stessa per migliaia di siti, e il proprietario di uno di quei siti non ha scritto quella risposta né ha i mezzi per cambiarla.
È ciò che distingue un sito che si possiede da un sito che si occupa. La questione dei robot di IA è arrivata in due anni; la prossima arriverà altrettanto in fretta, e si regolerà nello stesso posto, in un file che qualcuno deve poter scrivere per voi.
Serenity è un sito web creato, ospitato, messo in sicurezza e tenuto aggiornato da Simafri, che crea, ospita e mantiene siti di imprese dal 2002. Il nome a dominio è registrato a nome del cliente, e un account Simafri Suite è incluso.
Quadro di sorteggio: i 4 590 553 domini .fr attivi del file di dati aperti di Afnic Afnic, fichier des domaines .fr actifs. Da esso viene sorteggiato un paniere di 15 000 domini, ordinati per impronta sha256 di ciascun nome, il che permette a chiunque di ricostruire lo stesso paniere a partire dal seme pubblicato. Il paniere resta lo stesso da una rilevazione all altra.
Catena di lettura: il 3 settembre 2026, 10 301 di questi domini hanno servito una pagina. Per ciascuno il file robots.txt è stato chiesto nella stessa conversazione. Il 98 % ha reso una politica stabilita, cioè un file leggibile o una risposta che dice che non ce n è, il che autorizza tutto. Le cifre riguardano quelli.
Cosa conta come rifiuto: un robot è rifiutato quando il suo proprio gruppo di istruzioni gli vieta la radice del sito. Un gruppo che si rivolge a tutti i robot insieme è rilevato a parte, perché riguarda la scansione in generale e non dice nulla dell IA. Un sito la cui piattaforma nomina dei robot dentro quel gruppo generale non conta quindi come avere preso una decisione.
Cosa non è stato letto: nulla che richieda un accesso al sito, alla sua amministrazione o al suo hosting. Una richiesta per la pagina, una per il file.
Portata: il paniere sorteggia nell insieme dei domini .fr attivi, imprese, associazioni e privati insieme, senza qualificazione tramite numero d impresa, a differenza delle nostre altre due rilevazioni. Le cifre descrivono quindi il parco francese nel suo insieme. La lettura delle piattaforme riguarda 2 500 siti sorteggiati tra quelli che servono un file.
Le cifre del parco vengono da un indice pubblico che pubblica il suo metodo, il suo paniere datato e la sua serie settimanale, letto il 3 settembre 2026. La serie è servita in JSON, robot per robot, e si rigioca.
Vedere l'indice e il suo metodo (Stileex)
Il paniere è rilevato ogni settimana, il che dirà se il parco si muove su questa questione e in quale senso.
Simafri è l'alleato tecnico della vostra impresa dal 2002: creiamo il vostro sito, lo ospitiamo, lo manteniamo e lo teniamo aggiornato, con il vostro nome a dominio registrato a vostro nome. Voi decidete chi può apprendere dalle vostre pagine e chi può citarle, noi facciamo il gesto. Scriveteci, guardiamo insieme il vostro caso.
Simafri
Parliamo del vostro progetto
Diteci in due parole ciò che vi serve: vi rispondiamo rapidamente.
Preferite l'email? Scriveteci a support@simafri.com.
Il modulo non si vede? Scriveteci direttamente:
support@simafri.com