Extraire les People Also Ask de Google en masse

Récupérer les People Also Ask sur un mot clé, c'est facile, plein de sites, d'extensions chrome ou firefox le proposent. Là ou ça se complique, c'est si on veut en extraire sur un grand nombre de mots clés.

Pour ça, on peut passer par l'indispensable Screaming Frog !

Ils ont, en 2019, publié une méthode pour le faire avec leur crawler, mais depuis Google a changé et elle ne fonctionne plus telle quelle

Pour vous simplifier la vie, j'ai adapté la méthode pour qu'en ce jour, 27 avril de l'an de grâce 2021, vous puissiez le faire sans trop vous prendre la tête.

Comment scrapper les PAA sans se donner trop de mal ?

  1. Téléchargez cette archive et dézippez-la
  2. Construisez vous un listing d'URL de requêtes Google, de type https://www.google.fr/search?q=motInterrogatif+mot+cle

    Ca se fait très bien avec un outil comme Excel et de la concaténation, ou mieux, ce fichier Excel (inclus dans le ZIP) :
    Il permettra, en deux coups de cuiller à pot, de générer des [dizaines|centaines|milliers] d'URL de ce type sur la base de vos expressions-clé

  3. Ouvrez le fichier Screaming Frog qui y est inclus (version 15.1 de Screaming Frog requise minimum) puis, en mode "Liste", collez votre listing d'URL. Tout y est déjà paramétré.
  4. Lancez le crawl, attendez
  5. Exportez le tout. Vous obtiendrez, dans les colonnes "PAA", l'extraction des People Also Ask de Google.

Note : Google change fréquemment sa page de résultat, ce qui nécessite des mises à jour du fichier de crawl. Suivre les meta refresh, faire du rendering javascript, modifier le user agent, bref ... si ça ne fonctionne pas, bidouillez !