Google Tweaks Super Bowl AD qui a montré que son IA donnait une réponse incorrecte sur le fromage Gouda
Google a peaufiné l’une de ses annonces du Super Bowl publiées sur YouTube après que l’IA y figurait affiché une statistique de fromage inexacte.
La vidéo originale montrant les offres Gemini de Google dans Workspace a été publiée il y a cinq jours et a montré que l’IA générant une réponse pour un propriétaire de petite entreprise dans le Wisconsin. Dans la réponse, Gemini affirme que Gouda représente « 50 à 60% de la consommation de fromage mondiale ».
L’annonce éditée montre désormais une réponse Gemini qui dit que Gouda « est l’un des fromages les plus populaires du monde ».
Un porte-parole de Google a déclaré à Trading Insider qu’il avait consulté le propriétaire de l’entreprise à partir de l’annonce sur la façon dont il gérerait la situation « après la question de la statistique de Gouda ».
« Suite à sa suggestion pour que Gemini réécrivait la description du produit sans la statistique, nous avons mis à jour l’interface utilisateur pour refléter ce que l’entreprise ferait », a déclaré le porte-parole.
Un rapport sur la part de marché du fromage publié par la société mondiale de conseil en gestion IMARC Group a déclaré que le cheddar fromage « explique la majorité du marché à environ 32,4% ». Gouda n’a pas été inclus dans les cinq premiers du rapport par part de marché.
Andrew Novakovic, le professeur d’économie agricole UV Baker UV à l’Université Cornell, a déclaré au Verge que Gouda « n’était presque assurément pas le fromage » le plus largement consommé à l’échelle mondiale.
Jerry Dischler, président des applications cloud chez Google Cloud, a répondu à un message de l’utilisateur qui a appelé la statistique « sans équivoque ». Dischler a déclaré que la réponse de Gemini n’était « pas une hallucination » et qu’elle était « fondée sur le Web ».
« Dans ce cas, plusieurs sites sur le Web incluent la statistique de 50 à 60% », a déclaré Dischler. « Gouda News: Beaucoup aiment ce fromage! Bada News: Tout le monde ne pense pas que c’est aussi grinçant. »
L’incident souligne qu’en plus des risques d’hallucination à l’échelle de l’industrie, les produits d’IA qui sont formés ou extrait les informations du Web ne fournissent pas nécessairement des réponses à vérification des faits. La statistique Gouda, par exemple, existe sur un site Web appelé Cheese.com.
Ce n’est pas la première fois que Google affiche des informations incorrectes dans une vidéo favorisant son IA. Le printemps dernier, le géant de la technologie a publié une vidéo promotionnelle dans laquelle Gemini a fourni une liste de solutions à un photographe traitant des problèmes de caméra. L’une des solutions suggérées aurait détruit les photos du photographe.
De même, en 2023, une vidéo de démonstration Google montrant son chatbot Bard a indiqué à tort que le télescope spatial James Webb a été le premier à photographier un Exoplanet. Il a en fait été pris par un télescope exploité par l’Observatoire du Sud européen, selon la NASA.
Le géant de la technologie a également fait la une des journaux en raison d’inexactitudes générées par sa fonction de vue d’ensemble de l’IA, qui apparaît en haut de certaines requêtes de recherche. L’année dernière, cela a provoqué un remorqueur en ligne lorsqu’il a dit de mettre de la colle dans la sauce à la pizza pour empêcher le fromage de tomber.
L’annonce du Super Bowl de Google est un bon rappel des conseils à feuilles persistantes qui s’appliquent à toute personne utilisant des outils d’IA: ce n’est pas parce qu’une IA dit quelque chose en toute confiance, cela ne signifie pas que c’est vrai.
