En quelques mots
- Google déploie les AI Overviews aux États-Unis lors de son I/O du 14 mai 2024.
- Les réponses aberrantes des premières semaines conduisent à un billet correctif de Liz Reid le 30 mai.
- Point décisif : les hallucinations sont rares, l'erreur vient de la sélection des sources.
- L'encart se place au-dessus des annonces : le sujet concerne aussi les acheteurs média.
Ce qui a été lancé, et d'où cela vient
Ce n'est pas une nouveauté sortie de nulle part. Google expérimentait depuis 2023 sous le nom de Search Generative Experience, dans son programme Labs, en réaction à ChatGPT et à l'intégration de l'IA dans Bing.
Ce qui change en mai 2024, c'est le passage de l'expérimentation au déploiement général pour tous les utilisateurs américains, avec une extension mondiale annoncée pour la fin de l'année. On passe d'un laboratoire à des centaines de millions de personnes.
Le format lui-même : un encart de synthèse généré, placé au-dessus des résultats classiques et même des annonces, accompagné de quelques liens vers les sources retenues.
Les semaines difficiles, et ce qu'elles révèlent
Les réponses aberrantes ont fait le tour du monde. Le système a recommandé de manger des cailloux, produit des explications inventées pour des expressions qui n'existent pas, et repris des contenus satiriques au premier degré.
Le 30 mai, Liz Reid a publié un billet reconnaissant les problèmes tout en défendant la technologie. Le document est instructif, et je recommande de le lire plutôt que d'en lire les commentaires. Elle y distingue trois catégories de défaillances.
Les requêtes absurdes, d'abord : le système tente de satisfaire toute demande plutôt que de reconnaître qu'aucune réponse sensée n'existe. Les lacunes documentaires ensuite : sur un sujet peu couvert, il se rabat sur des sources marginales ou satiriques. L'interprétation contextuelle enfin : l'ironie et le second degré lui échappent.
Le point que je trouve le plus important dans ce billet, et le moins commenté : Reid insiste sur le fait que les hallucinations pures sont rares, parce que le système s'appuie sur l'index de Google. Les erreurs viennent donc moins de l'invention que de la sélection des sources. Cela déplace complètement le problème, et notre travail avec lui.