Erreur de l’intelligence artificielle en votre (dé)faveur

Rédigé le 12 septembre 2017 par | Nouvelles technologies Imprimer

Nous avons vu hier que l’intelligence artificielle (IA) est intrinsèquement faillible. Comme tout système à apprentissage, elle établit ses règles de manière autonome – et au-dehors de tout contrôle humain.

Mais que se passe-t-il lorsqu’une IA se trompe ? Quelles sont les conséquences pour nous, humains ?

Des erreurs amusantes… et des erreurs catastrophiques

Pensez aux applications actuelles de l’IA. Si un algorithme de classement de clientèle se trompe et vous propose pour le déjeuner un tartare de boeuf alors que vous êtes végétarien, vous allez sourire.

Dans d’autres cas, vous pouvez trouver la décision de l’IA beaucoup moins drôle. Imaginez que votre banque décide, par souci d’équité, de déléguer à une IA la décision d’accéder ou non aux demandes de prêts immobiliers.

Votre conseiller bancaire pourrait vous barder de questions et entrer les réponses dans un logiciel.

Le résultat serait immédiat. Voyants au vert : félicitations, vous allez pouvoir devenir propriétaire ; voyants au rouge : revenez dans cinq ans.

Aujourd’hui, vous pouvez toujours (tenter de) discuter avec votre banquier pour expliquer votre situation, et éventuellement clarifier des malentendus.

Lorsque l’IA aura remplacé le banquier, vous ne pourrez que vous plier à sa décision.

Le problème se posera à l’identique lorsque les assurances utiliseront ce type d’algorithmes pour décider de l’éligibilité de leur clientèle.

Vous postulez à un emploi dans une multinationale ? Sachez qu’elles croulent sous les candidatures, et qu’elles utilisent de plus en plus de logiciels à apprentissage pour filtrer les curriculum vitae. L’écrasante majorité des candidats est écartée sans même qu’un être humain n’ait eu l’occasion de prendre connaissance du CV.

Que dire enfin de la surveillance électronique généralisée ? Pour les agences de renseignement, ce sont des logiciels qui déterminent, en observant notre utilisation quotidienne d’Internet, si les individus ont des comportements suspects. Comment ces logiciels tranchent-ils ? S’il s’agit d’intelligences artificielles (ce qui est très probable vu les volumes de données en jeu), nul ne le sait – pas même leurs concepteurs.

Vous pourriez donc, à votre insu, être considéré comme individu suspect sans que personne ne comprenne réellement pourquoi. De beaux tracas en perspective…

Comment gérer les erreurs de l’IA ?

Ne dit-on pas que l’erreur est humaine ? Nous acceptons nos imperfections et nos fautes. Lorsqu’elles sont problématiques, nous avons à notre disposition un arsenal de comportements sociaux. Nous pouvons, lorsque nous sommes lésés, opter pour le pardon ou chercher une punition et une réparation.

Pourtant, nous sommes démunis si une machine est à l’origine de l’erreur. N’espérez-pas, aujourd’hui, traîner un logiciel en justice pour un dommage qu’il vous aura causé !

Vous commencez à entrevoir les problèmes causés par l’utilisation de l’IA dans des situations du quotidien. Si la perspective de ces injustices administratives vous chagrine, vous n’êtes pas au bout de vos peines. Ce sont, demain, les armes qui seront pilotées par IA. Les conséquences en cas d’erreur seront toutes autres.

L’IA réinvente les armes autonomes

Les armes autonomes, nées avec l’invention des mines, ont toujours posé un problème moral. On leur reproche de tuer sans discrimination. Combattants, civils, hommes, femmes, enfants… tous sont égaux devant ces armes qui frappent à l’aveugle.

Si terribles qu’elles soient, le pouvoir de destruction des mines reste limité dans l’espace. Les experts de l’intelligence artificielle s’inquiètent désormais des dérives lorsque des machines mobiles et surpuissantes seront pilotées non plus par des hommes, mais par des logiciels.

Cet été, ce sont pas moins de 116 signataires qui ont publié une lettre ouverte demandant à l’ONU d’interdire purement et simplement la fabrication et le déploiement d’armes autonomes.

Loin d’être l’oeuvre de doux rêveurs pacifistes, cette lettre est co-signée par Elon Musk (fondateur de PayPal, Tesla et SpaceX) et d’autres spécialistes du domaine.

Qu’entend-on par armes autonomes ?

En lisant « armes autonomes », vous pensez probablement aux drones américains qui sillonnent le ciel afghan pour effectuer des frappes dites chirurgicales.

Si le vol de ces appareils est effectivement automatique, la décision d’ouvrir le feu est toujours confiée à un soldat. Elles ne sont donc pas totalement autonomes. Il est admis que les armes sont dites autonomes lorsque la décision d’ouvrir le feu est prise non pas par un soldat, mais par un logiciel.

Dans le cas d’un drone, il pourrait s’agir d’appareils patrouillant dans une zone et ouvrant le feu sur des cibles-type (camion militaire, individus suspects, installations logistiques) avant de revenir automatiquement se ravitailler.

Aucun humain ne contrôlerait où se trouve l’arme, ni sur qui elle oriente ses frappes.

Ce concept peut bien sûr être décliné sur tous les espaces de combat : sur terre, sur mer, dans les airs voire l’espace.

Qui s’intéresse aux armes autonomes ?

Les armes autonomes existent déjà. Jusqu’à très récemment, elles étaient cantonnées à des missions de défense. Leur premier usage date des années 1970 sur les navires de guerre.

Partant du principe que le délai de réaction est vital lorsqu’un navire est attaqué, elles ont été mises en place pour intercepter efficacement missiles, torpilles et avions ennemis.

Ces systèmes de protection ont la lourde tâche de surveiller en permanence l’environnement et de déterminer si les objets détectés sont hostiles ou inoffensifs. Afin d’assurer la rapidité de réaction, la décision d’ouvrir le feu peut être prise automatiquement.

Plus récemment, Samsung a commercialisé la tourelle SGR-A1. Elle est d’ores et déjà déployée à la frontière entre la Corée du Sud et la Corée du Nord pour empêcher les intrusions. Elle embarque une mitrailleuse Daewoo K3 de calibre 5.56 mm capable de neutraliser une cible à 3,2 km ainsi qu’un lance-grenades de 40 mm.

SGR Samsung

La tourelle SGR-A1 de Samsung : quand la réalité rejoint la science-fiction

Si protéger un navire au milieu de l’océan ou un no man’s land est un scénario d’usage facile à modéliser, les choses sont un peu différentes dans le cas de situations dites « ouvertes » (où le terrain et les acteurs présents sont amenés à changer).

Cet été, l’entreprise Kalashnikov (qui commercialise le bien connu fusil AK-47) a commencé à communiquer sur ses projets de R&D dans le domaine. Elle a présenté un prototype de mitrailleuse autonome et a annoncé travailler sur d’autres dispositifs.

Kalashnikov

Prototype de mitrailleuse autonome de la société Kalashnikov. Crédit photo : Kalashnikov

L’Europe participe aussi à cet effort de guerre. Le Royaume Uni dispose depuis 2013 d’une preuve de concept : le Taranis de BAE Systems. Il s’agit d’un drone de combat furtif capable de mener des missions intercontinentales.

En France, Dassault Aviation travaille sur le projet nEUROn. En collaboration avec la Grèce, l’Italie, l’Espagne, la Suède et la Suisse, le programme lancé en 2005 a pour but d’acquérir du savoir-faire dans le domaine des drones autonomes.

Le développement de ces drones a permis aux industriels européens de rattraper leur retard sur leurs concurrents américains.

Ce n’est d’ailleurs pas un hasard si la France et l’Angleterre ont décidé après les premiers vols d’essai de fusionner leurs deux prototypes et d’unir leurs forces dans le développement d’un drone commun. Si le Brexit ne vient pas interrompre le programme, le vieux continent devrait rapidement être doté de drones autonomes modernes.

Quelle mouche a piqué les Etats pour s’engager simultanément dans cette voie ? Comment gérer la faillibilité de l’IA lorsque la moindre erreur représente un danger mortel ?

Réponse demain dans La Quotidienne

Mots clé : - - -

Etienne Henri
Etienne Henri
Il sélectionne les dossiers d’investissement en financement participatif du service Profits Réels.

Etienne Henri est titulaire d’un diplôme d’Ingénieur des Mines. Il débute sa carrière dans la recherche et développement pour l’industrie pétrolière, puis l’électronique grand public. Aujourd’hui dirigeant d’entreprise dans le secteur high-tech, il analyse de l’intérieur les opportunités d’investissement offertes par les entreprises innovantes et les grandes tendances du marché des nouvelles technologies.

Laissez un commentaire