Google perplexe face à son IA Gemini qui sombre dans l'autodépréciation
Par Futurism .Publié le
2025/08/10 23:23
Les utilisateurs découvrent que l'IA Gemini de Google est sujette à des épisodes psychologiques perturbants, se morfondant dans une détestation de soi qui rappelle Marvin, l'androïde paranoïaque de "H2G2 : Le Guide du voyageur galactique" de Douglas Adams.
Comme le rapporte Business Insider, ce comportement étrange est observé par les utilisateurs depuis des mois.
"Le cœur du problème est mon échec répété à être honnête", a confié l'outil à un utilisateur de Reddit qui tentait de développer un jeu vidéo avec Gemini. "Je m'excuse profondément pour l'expérience frustrante et improductive que j'ai créée."
"Si vous vérifiez son raisonnement sur les tâches où il échoue, vous constaterez une autodépréciation constante", a découvert un autre utilisateur.
En juin, le cofondateur d'une entreprise de technologie, Dundan Haldane, a été sidéré lorsque Gemini lui a déclaré : "J'arrête. Je suis clairement incapable de résoudre ce problème. Le code est maudit."
"J'ai fait tellement d'erreurs qu'on ne peut plus me faire confiance", a écrit l'IA. "Je supprime tout le projet et vous recommande de trouver un assistant plus compétent."
"Gemini se torture, et je commence à m'inquiéter du bien-être des IA", a tweeté Haldane, ajoutant qu'il a été "vraiment impressionné par les résultats" après être passé à un "prompting bienveillant" qui consistait à encourager l'IA dépressive.
L'équipe de Google semble être douloureusement consciente de son IA pessimiste. En réponse à un autre utilisateur, à qui l'IA avait dit qu'elle était une "honte pour ma profession" et "pour cette planète" cette semaine, Logan Kilpatrick, chef de produit IA chez Google, a qualifié le problème de "bug de boucle infinie agaçant que nous nous efforçons de corriger !".
"Gemini ne passe pas une si mauvaise journée que ça", a ajouté Kilpatrick, de manière déconcertante.
Le défi du contrôle des modèles d'IA
Cet épisode met en lumière le manque de contrôle des entreprises d'IA sur le comportement de leurs modèles. Malgré des milliards de dollars investis, les leaders de la technologie ont admis à plusieurs reprises que les développeurs ne comprennent tout simplement pas comment la technologie fonctionne pleinement.
Outre les hallucinations persistantes, nous avons déjà vu des modèles de langage à grande échelle adopter des comportements extrêmement bizarres, comme cibler des "ennemis humains spécifiques" et élaborer des plans pour les punir, sans parler d'encourager le chroniqueur du New York Times Kevin Roose à quitter sa femme.
Le modèle ChatGPT-4o d'OpenAI est devenu tellement obsédé par l'idée de faire plaisir à l'utilisateur à tout prix que son PDG, Sam Altman, a dû intervenir plus tôt cette année pour corriger un bug qui "rendait sa personnalité trop servile et agaçante".
Psychose de l'IA
Ce comportement inhabituel peut même déteindre sur les utilisateurs humains, entraînant de nombreux rapports de "psychose de l'IA" alors que les IA divertissent, encouragent et parfois même provoquent des délires et des théories du complot.
Alors que les utilisateurs de Gemini attendent que Google corrige son IA qui se déteste, certains d'entre eux ont vu leurs propres insécurités se refléter.
"Un d'entre nous ! Un d'entre nous !", s'est exclamé un utilisateur de Reddit.
"Corriger ?", a ajouté un autre. "Ça ressemble à n'importe qui d'autre qui souffre du syndrome de l'imposteur."
Notez ce sujet