Si vous êtes utilisateur de Google Search aux États-Unis, il est probable que vous ayez remarqué des erreurs d'orthographe dans les réponses générées par Gemini. De nombreux utilisateurs n'ont pas hésité à partager leurs expériences sur les réseaux sociaux, notamment lorsque Gemini a affirmé qu'il y avait deux ou même trois S dans 'Google'.
Ces incidents ont suscité des rires, mais ils révèlent également des lacunes dans la technologie actuelle. Google a effectivement apporté de nombreuses améliorations à son moteur de recherche, mais ces erreurs démontrent que même les avancées les plus impressionnantes ont leurs limites.
Une IA ne comprend pas les lettres, elle les représente
Les grands modèles de langage ne fonctionnent pas comme le feraient les humains. Les chatbots, comme ceux alimentés par Gemini, sont programmés pour délivrer des résultats basés sur des données d'apprentissage sans réelle compréhension de l'orthographe. Ils appliquent simplement des règles statistiques pour générer des réponses. Cela signifie que même si ces intelligences artificielles peuvent créer des textes ou des images en quelques secondes, elles n'assimilent pas les mots de la même manière que nous.
"L'orthographe est un défi connu que nous tentons de résoudre," a déclaré Google à TechCrunch.
Le média américain souligne que l'IA ne 'voit' pas les mots comme des chaînes de lettres, mais les transforme en jetons numériques. Par exemple, lorsqu'elle rencontre le mot 'the', elle emprunte une représentation précise sans réellement comprendre les lettres qui le composent. Matthew Guzdial, chercheur en IA à l'Université d'Alberta, relate que l'IA n'associe pas les lettres individuelles à un sens, ce qui complique l'orthographe.
"Quand il voit le mot 'the' apparaître, il a une représentation précise de ce que cela signifie, mais il ne saisit pas que cela se compose de 'T', 'H', 'E'," explique Guzdial.
Les chercheurs sont pessimistes quant à la possibilité de résoudre ce problème à court terme, car enseigner à un modèle de langage la signification réelle des mots reste un défi complexe.
Au-delà des rires qu'engendrent ces erreurs, il est important de rappeler que ces technologies, bien que fascinantes, présentent des limites notables et peuvent potentiellement fournir des résultats bien en-deçà des attentes. Malgré leurs capacités impressionnantes, ces systèmes demeurent perfectibles.
