Brève

Vers une intelligence artificielle éthique et certifiée

Par
Publié le 22/04/2021
IA

IA
Crédit photo : SPL/PHANIE

Ainsi, l'Europe va « Ouvrir la voie à une technologie éthique », a affirmé Margrethe Vestager, la vice-présidente exécutive de la Commission européenne le 21 avril, lors de la présentation de son projet de réglementation d'encadrement de l'intelligence artificielle, une première dans le monde. Ce principe de garantie humaine est introduit à l'article 14 du projet. En France, il était déjà reconnu dans les avis 129 et 130 du CCNE et dans l'article 11 du projet de loi de bioéthique.

Supervision humaine

Selon Ethik IA qui en portait l'initiative depuis 2017, ce nouveau principe « induit pour tous les utilisateurs et concepteurs de solutions d'IA en santé la mise en oeuvre d'une information préalable du patient sur le recours à l'IA dans sa prise en charge. » Il autorise aussi le déploiement d'une supervision humaine de la solution d'IA  « en vie réelle » dans des conditions de traçabilité. Avec comme enjeu la transparence totale, Ethik IA cite plusieurs objectifs, à savoir comprendre entièrement les capacités et limites du système de l'IA et pouvoir surveiller en temps réel l'opération pour détecter les risques d'anomalies et de dysfonctionnement. Il nous faut aussi être conscient des risques liés aux IA d'aide à la décision. Enfin, l'Homme doit pouvoir garder la main, soit être toujours en capacité d'interpréter correctement le résultat de l'IA à haut risque. C'est toute la problématique de la boîte noire des algorithmes soulevée par nombre d'experts éthiciens : il doit pouvoir ne pas tenir compte du résultat du calcul de l'IA, ou même être en mesure de remplacer le système, voire l'ignorer ou bien encore l'interrrompre à tout moment.

Amendes jusqu'à 4% du chiffre d'affaires

Outre les contrôles et les certifications qui sont rendues obligatoires obligatoires dans ce projet, à l’instar de ce qui se fait avec les produits matériels qui doivent répondre aux normes UE, il y aura des sanctions qui pourront aller jusqu’à 4% du chiffre d’affaires des entreprises (plafonnée à 20 millions d’euros). Au final, alors qu'aucune Gafa européenne n'a émergé, l'UE réussit à imposer peu à peu une règlementation globale de l’IA au niveau mondial. Comment vont réagir les Américains et les Chinois ?


Source : decision-sante.com