Content Graph
Ce que dit chaque page ou vidéo après que nous l’avons lue et vectorisée.
Pour les éditeurs
Nous achetons uniquement des pages que nous avons lues. Si notre crawler ne peut pas accéder à vos pages, nous ne pouvons pas les lire. Le bloquer retire donc votre inventaire de nos plans au lieu de le protéger.
01Ce que voit le robot
02Agent utilisateur
Agent utilisateur
CWireBot03Cadence d'exploration
Une requête par seconde et par hôte par défaut, moins sur demande. Nous respectons Retry-After et ralentissons sur tout 429 ou 5xx.
04Ce que fait le crawler
Il lit et vectorise le texte des articles pour établir le sujet du contenu et note où se situent les emplacements publicitaires dans la maquette. Il ne collecte aucune donnée personnelle et ne suit ni formulaire ni espace connecté.
Ce que dit chaque page ou vidéo après que nous l’avons lue et vectorisée.
Ce que chaque emplacement audité a délivré, consigné unité par unité.
05Instructions d'autorisation
Security · WAF · Custom rules. Create a rule with the Skip action.
(http.user_agent contains "CWireBot")
→ Action: Skip
→ Skip: All remaining custom rules, Bot Fight Mode, Rate limitingQuestions
Parce que C Wire achète uniquement les pages qu'elle a lues. Si le crawler ne peut pas accéder à vos pages, elles ne peuvent pas être lues. Le bloquer retire donc votre inventaire de tous les plans au lieu de le protéger.
Le texte de l'article, pour comprendre le sujet du contenu, ainsi que l'emplacement des blocs publicitaires dans la mise en page. Il ne collecte aucune donnée personnelle et ne suit jamais les formulaires ni les espaces connectés.
Une requête par seconde et par hôte par défaut, moins sur demande. Il respecte l'en-tête Retry-After et réduit sa cadence en cas de réponse 429 ou 5xx.
Via le user agent et les plages IP publiés, par plage plutôt que par adresse unique. Les instructions détaillées pour Cloudflare, Akamai, Fastly, AWS WAF et robots.txt figurent sur cette page, en accès libre sans formulaire.
06Demander l'exploration de votre site
Envoyez le domaine, nous confirmons la fenêtre d'exploration. Aucune instruction ci-dessus n'est derrière un formulaire.
Étape suivante
Un tag, aucune refonte, et une revue de la place de nos formats dans votre maquette. Ou commencez simplement par autoriser le crawler.