La DARPA une agence du département de la Défense des États-Unis chargée de la recherche et développement des nouvelles technologies destinées à un usage militaire mise sur une intelligence artificielle qui communique avec l’homme

L’agence de recherche de la défense américaine a missionné une équipe de professeurs en informatique pour développer un système permettant aux intelligences artificielles d’expliquer leur comportement à l’homme.

Au fur et à mesure que les systèmes d’intelligence artificielle deviennent plus fonctionnels et plus répandus, une grande partie du public est relativement lent dans la confiance donnée à la technologie. Une étude très médiatisée l’année dernière portait sur les voitures autonomes. Celle-ci a débouché sur le fait que la plupart des gens ne souhaitent pas rouler avec ces voitures car ils ne font pas confiance aux systèmes électroniques qui prennent les décisions.

intelligence-artificielle-darpa-1

C’est l’une des raisons pour lesquelles la Defense Advanced Research Projects Agency (DARPA) a récemment remis à huit professeurs d’informatique de l’Université d’Etat d’Oregon une subvention de recherche de 6,5 millions de dollars pour travailler sur un projet visant à rendre les robots, les voitures et autres technologies alimentées par les IA plus dignes de confiance pour les sceptiques.

« La réussite de la branche des neurones artificiels a permis d’importantes avancées au sein de systèmes autonomes capables de percevoir, d’apprendre, de décider et d’agir par eux-mêmes. Mais leur problème reste leur fonctionnement en boîte noire. Avec le deep learning, en lieu et place d’humains qui codent de manière explicite le comportement du système en recourant à la programmation traditionnelle, le programme informatique apprend de lui-même grâce à de nombreux exemples. Cette dépendance à un système que même les développeurs ne comprennent pas entièrement fait émerger des dangers potentiels », précise l’équipe de chercheurs.

Ainsi, le programme OSU financé par DARPA vise à ouvrir cette boîte pour plus de personnes. Il durera quatre ans, en mettant l’accent sur l’illustration de la façon dont les machines prennent des décisions. « Au final, nous voulons que ces explications restent naturelles, en traduisant ces décisions de neurones profonds en phrases et en visualisations », précise Alan Fern, directeur associé de la filière de robotique et de systèmes intelligents de l’établissement.

intelligence-artificielle-darpa-2

Pour développer le système, les chercheurs vont brancher les joueurs équipés d’IA dans des jeux de stratégie en temps réel comme Star Craft. Les bots seront formés pour expliquer leurs décisions dans le jeu aux joueurs humains. Une fois que la recherche initiale aura établi les bases du projet, les résultats seront appliqués à d’autres projets de la DARPA, de la robotique aux véhicules aériens sans pilote en passant par les drones.

La DARPA est loin d’être la seule à tenter d’humaniser les systèmes automatisés. Certaines entreprises travaillent en effet sur la mise en place de leurs plateformes alimentées par IA avec une couche communicative supplémentaire à leur technologie. A l’instar de la startup californienne Drive.ai qui développe actuellement une ligne de voitures autonomes qui peuvent interagir avec d’autres voitures et piétons grâce à des signaux audio-visuels.

Parmi les autres projets autour du cerveau connecté, citons notamment Neuralink développé par le milliardaire sud-africain Elon Musk, créateur entre autres de la voiture électrique Tesla. Ce dernier souhaite augmenter les capacités cognitives de l’homme avec des greffes d’implants dans le cerveau. Côté R&D, des chercheurs coréens ont mis au point l’an dernier des synapses artificielles capables de rivaliser avec les synapses du cerveau humain. Une grande avancée pour les nano-technologies.

Tout cela pour dire qu’une fois que nous ferons confiance aux processus de prise de décision qui conduisent les systèmes d’IA, il sera plus facile d’accepter ses applications dans notre quotidien. La société bouge. Et le futur, c’est maintenant.