L'intelligence artificielle est présente dans un nombre croissant de domaines de notre vie quotidienne. Réussirait-elle l'examen du permis de conduire ?

Mercedes-Benz veut tester l'intelligence artificielle (IA) dans la production automobile. Bosch souligne que la voiture d'aujourd'hui est le véritable nerd, car l'IA apprend trois fois plus vite que l'homme au volant. Pour le streaming musical, la navigation ou les assistants vocaux numériques, elle est depuis longtemps à bord, et la conduite autonome n'est pas envisageable sans IA. Devons-nous nous habituer au passager qui sait tout mieux et peut tout faire mieux que nous ?

 

Reconnaître les piétons

Le professeur Simon Burton, Scientific Director Safety Assurance, Fraunhofer IKS Munich, sait que l'IA est d'une importance capitale pour la conduite autonome et hautement automatisée, "car les systèmes basés sur l'IA permettent aux véhicules autonomes de faire face aux scénarios complexes de la circulation routière". Pour cela, les véhicules autonomes doivent percevoir leur environnement et y réagir de manière appropriée. Il est par exemple important que les piétons soient détectés sans erreur à tout moment et que la réaction adéquate en soit déduite.

Sûr à tout moment ?

Mais en ce qui concerne l'utilisation de l'IA dans les véhicules autonomes, le professeur Burton pose la question suivante : "Peut-on prouver que l'IA est suffisamment sûre pour être utilisée dans un domaine critique pour la sécurité, comme la circulation routière ?" Après tout, il n'est pas facile de savoir comment les systèmes d'IA parviennent à une conclusion et même de légères modifications, par exemple dans les données d'entrée, conduisent à un résultat complètement différent. "Dans le trafic routier, les décisions de l'IA doivent cependant être compréhensibles et la sécurité fonctionnelle (Safety) doit être garantie à tout moment", exige l'homme de Fraunhofer.

 

 

L'intelligence artificielle démontre aujourd'hui ses capacités dans l'automobile et dans de nombreux domaines d'application : dans l'industrie pour la commande d'appareils et de machines, dans la robotique, dans les processus d'automatisation, jusqu'à la médecine, où elle offre aux médecins une aide précieuse, notamment en matière de diagnostic. Ou sous la forme d'applications de santé, qui font déjà partie du style de vie de certaines personnes. Parallèlement, les discussions sur les limites, mais aussi les risques de l'IA continuent de prendre de l'ampleur.

Reconnaître où elle échoue

Dans un essai publié dans le dernier numéro 619 de la revue spécialisée "Nature", Celeste Biever discute de la manière dont les LLM (large language models) basés sur l'IA échouent à des tâches relativement simples issues de tests d'intelligence standardisés. Le fait que des modèles qui réussissent sans peine les examens d'entrée d'universités renommées et maîtrisent en un temps record des exigences compliquées dans de nombreux domaines, échouent régulièrement à des tâches d'abstraction simples, fait sensation. Son plaidoyer dans ce contexte : "Nous devons fondamentalement comprendre ce dont ils sont capables et où ils échouent". En arrière-plan se pose ici la question de savoir si les systèmes d'IA doivent être considérés comme "géniaux" de manière illimitée ou si les capacités de l'intelligence artificielle ne sont pas limitées.

 

Les deux, selon le professeur Marco Barenkamp, expert en IA et vice-président du conseil de surveillance et fondateur de la société LMIS AG à Osnabrück, spécialisée dans l'application de l'IA dans l'industrie.

ChatGPT vs. humain

Le professeur Barenkamp souligne l'importance de ce développement : "ChatGPT de la start-up américaine OpenAI ou Bard de Google, mais aussi d'autres LLM, maîtrisent certaines capacités qui auraient été saluées il y a quelques années encore comme une étape importante de l'intelligence artificielle : les bots répondent avec éloquence aux questions et étonnent par leurs connaissances générales étonnantes. Toutefois, le modèle de transformation "Chat Generative Pre-trained Transformer", c'est ainsi que ChatGPT est désigné en toutes lettres, rencontre déjà des difficultés considérables avec de simples énigmes logiques visuelles, alors que les humains maîtrisent généralement de telles tâches sans effort. C'est une caractéristique que le conducteur normal devrait craindre.

Évaluer l'IA de manière réaliste

Dans ce contexte, les scientifiques se demandent actuellement comment évaluer de manière réaliste les capacités de ChatGPT. Le professeur Barenkamp fait référence à une étude qui a récemment attiré l'attention du monde universitaire et qui est également à la base de l'essai de Celeste Biever : une équipe dirigée par Melanie Mitchell du Santa Fe Institute avait soumis au modèle linguistique GPT 4 tâches dans lesquelles des blocs de couleur devaient être disposés dans une grille. Il s'agissait de déduire la règle sous-jacente à partir de plusieurs exemples et de prédire comment les blocs allaient ensuite changer.

 

"La plupart des gens résolvent ce genre de tâches sans effort", explique le professeur Barenkamp. GPT 4, en revanche, n'a réussi à résoudre correctement qu'un tiers d'une catégorie et n'a atteint que trois pour cent dans d'autres. D'autres systèmes d'IA spécialement développés pour ce type d'énigmes ont certes obtenu de meilleurs résultats, mais toujours nettement moins bons que les humains.

 

L'étude montre que les systèmes artificiels ont actuellement encore du mal à reconnaître les concepts sous-jacents et à en tirer des enseignements, résume l'expert Barenkamp. Or, l'une des caractéristiques de l'intelligence humaine est justement sa capacité d'abstraction et de transfert à de nouvelles situations, souligne-t-il.

 

 

Apprendre différemment de l'homme

Comment se fait-il que les systèmes d'IA soient encore si nettement inférieurs aux humains dans ces compétences de base, alors qu'ils étonnent parfois par leur éloquence surprenante dans les conversations ? Le professeur Barenkamp explique cela par le fait que les applications d'IA apprennent différemment des humains. Ainsi, les grands modèles linguistiques comme GPT 4 sont entraînés en parcourant d'énormes quantités de textes. L'IA reconnaît les corrélations statistiques entre les mots, comme l'explique le professeur Barenkamp, afin de déterminer le mot suivant probable lors d'une saisie. En revanche, les êtres humains font l'expérience concrète d'objets et de situations dès leur enfance, construisent leur propre image (représentation) du monde et développent des capacités cognitives telles que la capacité d'abstraction et la pensée logique.

 

Du point de vue de l'expert en IA Barenkamp, cela peut expliquer pourquoi GPT 4 est certes capable de produire des textes de haute qualité, comme ceux rédigés par des humains, mais échoue à des tests visuels simples : parce que l'entraînement repose dans ce cas exclusivement sur le langage et non sur des expériences réelles ainsi que sur la nécessité de relier le langage à des choses concrètes et vécues. Certains chercheurs supposent donc que les systèmes d'IA ne "comprennent" pas non plus les mots comme nous, les humains, car cela les empêche de développer une véritable conceptualisation du monde.

 

Par sarcasme, on peut donc dire que l'IA peut nous dire beaucoup de choses, mais que les processus dans la circulation pourraient être encore trop complexes pour elle. Ainsi, dans les années à venir, les automobilistes découvriront probablement l'IA plutôt dans le domaine du confort de l'infodivertissement et des systèmes d'assistance. Le chemin vers la conduite entièrement automatisée est sans doute plus long que ne le pensaient les responsables de San Francisco, qui ont autorisé l'utilisation de taxis autonomes et qui doivent maintenant lutter contre les embouteillages à cause des taxis automatiques.

 

(aum)

 

Liens complémentaires :

Société des études pour l'intelligence artificielle

Moto autonome