Des réponses inappropriées entraînent une mise à jour rapide
Dans un effort pour affiner les performances de son moteur de recherche basé sur l’intelligence artificielle, Google a récemment pris des mesures correctives sur AI Overviews.
Cela fait suite à des retours d’utilisateurs pointant des réponses étranges ou inappropriées générées par le système.
Des résultats controversés et des actions correctives
Des exemples de réponses problématiques ont émergé sur les réseaux sociaux, incitant Google à intervenir. Un cas particulièrement discuté concernait une réponse où AI Overviews affirmait que Barack Obama était “considéré par certains comme le premier président musulman des États-Unis”, une affirmation que Google a rapidement retirée pour non-conformité avec ses directives internes.
Un autre utilisateur, connu sous le nom de PixelButts, a mis en lumière une réponse suggérant d’ajouter de la colle non toxique au fromage pour éviter qu’il ne colle à la pizza, une recommandation pour le moins discutable et potentiellement dangereuse. Ce contenu semble avoir été inspiré d’un commentaire humoristique datant de plus de dix ans sur Reddit.
Réactions et ajustements
Face à ces situations, Google a affirmé avoir “agi rapidement” pour rectifier les erreurs flagrantes et ajuster les réponses du moteur de recherche.
La compagnie a expliqué utiliser ces incidents comme exemples pour améliorer son système, avec des mises à jour déjà effectuées pour éviter de telles méprises à l’avenir.
Évolution vers une réponse générative
Introduit à la mi-mai, AI Overviews représente une évolution significative par rapport aux méthodes de recherche traditionnelles de Google, qui fournissaient des liens vers des sites en réponse aux requêtes des utilisateurs.
Avec AI Overviews, Google tente de fournir des réponses directement sous forme de texte complet, reléguant les liens vers une position moins prédominante.
Enjeux et perspectives
Cette transition vers une interaction plus directe pose non seulement des défis techniques mais soulève également des questions éthiques et réglementaires, notamment sur la manière dont les informations sont présentées et vérifiées.
L’incident souligne l’importance pour Google et d’autres entreprises technologiques de continuer à investir dans la sécurité et l’exactitude de leurs outils basés sur l’intelligence artificielle, surtout lorsqu’ils touchent directement le grand public.
Que se passe-t-il en Tunisie?
Nous expliquons sur notre chaîne YouTube . Abonnez-vous!
Commentaires