Intelligence artificielle : Crazy Canucks

23.05.2019
  • Montreal

L’université de Montréal (Canada) s’est investie dans la coconstruction d’un processus démocratique relatif à l’usage éthique de l’intelligence matricielle sur la base d’une délibération citoyenne articulée autour de quinze ateliers. Un petit RIC, un RICIKI en somme. La France, ce grand pays qui a tout pour réussir, en a rêvé, le Canada, ce petit pays, l’a fait.

Pour la première fois dans l’histoire de l’humanité, il est possible de créer des systèmes autonomes capables d’accomplir des tâches complexes que l’on croyait réservées à l’intelligence naturelle : traiter de grandes quantités d’informations, calculer et prédire, apprendre et adapter ses réponses aux situations changeantes, et reconnaître et classer des objets.

En raison de la nature immatérielle des tâches qu’ils réalisent, et par analogie avec l’intelligence humaine, on désigne ces systèmes très divers par le terme général d’intelligence artificielle. Elle constitue un progrès scientifique et technologique majeur qui peut engendrer des bénéfices sociaux considérables en améliorant les conditions de vie, la santé et la justice, en créant de la richesse, en renforçant la sécurité publique ou en maîtrisant l’impact des activités humaines sur l’environnement et le climat.

Les machines intelligentes ne se contentent pas de mieux calculer que les êtres humains, elles peuvent interagir avec les êtres sensibles, leur tenir compagnie et s’occuper d’eux. Le développement de l’intelligence artificielle présente cependant des défis éthiques et des risques sociaux majeurs. En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecter les écosystèmes, l’environnement et le climat. Bien qu’il n’y ait pas de progrès scientifique ni de vie sociale sans risque, il appartient aux citoyens de déterminer les finalités morales et politiques qui donnent un sens aux risques encourus dans un monde incertain.

Les bénéfices de l’intelligence artificielle seront d’autant plus grands que les risques liés à son déploiement seront faibles. Or le premier danger que présente le développement de l’intelligence artificielle consiste à donner l’illusion que l’on maîtrise l’avenir par le calcul. Réduire la société à des nombres et la gouverner par des procédures algorithmiques est un vieux rêve qui nourrit encore les ambitions humaines. Mais dans les affaires humaines, demain ressemble rarement à aujourd’hui, et les nombres ne disent pas ce qui a une valeur morale, ni ce qui est socialement désirable.

Les principes de la Déclaration de Montréal sont les directions d’une boussole éthique qui permet d’orienter le développement de l’intelligence artificielle vers des finalités moralement et socialement désirables. Ils offrent aussi un cadre éthique qui permet de promouvoir les droits humains reconnus internationalement dans les domaines concernés par le déploiement de l’intelligence artificielle. Pris dans leur ensemble, les principes formulés posent enfin les bases de la confiance sociale envers les systèmes artificiellement intelligents.

Les principes de la présente Déclaration reposent sur l’idée commune que les êtres humains cherchent à s’épanouir comme êtres sociaux doués de sensations, d’émotions et de pensées, et qu’ils s’efforcent de réaliser leurs potentialités en exerçant librement leurs capacités affectives, morales et intellectuelles. Il incombe aux différents acteurs et décideurs publics et privés, au niveau local, national et international, de s’assurer que le développement et le déploiement de l’intelligence artificielle soient compatibles avec la protection et l’épanouissement des capacités humaines fondamentales. C’est en fonction de cet objectif que les principes proposés doivent être interprétés de manière cohérente, en tenant compte de la spécificité des contextes sociaux, culturels, politiques et juridiques de leur application. 

La Déclaration de Montréal sur les systèmes d’intelligence artificielle (SIA)

Principe de bien-être

Le développement et l’utilisation des systèmes d’intelligence artificielle doivent permettre d’accroître le bien-être de tous les êtres sensibles.

Principe de respect d l’autonomie

Les SIA doivent être développés et utilisés dans le respect de l’autonomie des personnes et dans le but d’accroître le contrôle des individus sur leur vie et leur environnement.

Principe de protection de l’intimité et de la vie privée

La vie privée et l’intimité doivent être protégées de l’intrusion de SIA et de systèmes d’acquisition et d’archivage des données personnelles (SAAD).

Principe de solidarité

Le développement de SIA doit être compatible avec le maintien de liens de solidarité entre les personnes et les générations.

Principe de participation démocratique

Les SIA doivent satisfaire les critères d’intelligibilité, de justiciabilité et d’accessibilité, et doivent pouvoir être soumis à un examen, un débat et un contrôle démocratiques.

Principe d’équité

Le développement et l’utilisation des SIA doivent contribuer à la réalisation d’une société juste et équitable.

Principe d’inclusion de la diversité

Le développement et l’utilisation des SIA doivent être compatibles avec le maintien de la diversité sociale et culturelle et ne doivent pas restreindre l’éventail des choix de vie et des expériences personnelles.

Principe de prudence

Toutes les personnes impliquées dans le développement des SIA doivent faire preuve de prudence en anticipant autant que possible les conséquences néfastes de l’utilisation des SIA et en prenant des mesures appropriées pour les éviter.

Principe de responsabilité

Le développement et l’utilisation des SIA ne doivent pas contribuer à une déresponsabilisation des êtres humains quand une décision doit être prise.

Principe de développement soutenable

Le développement et l’utilisation des SIA doivent se réaliser de manière à assurer une soutenabilité écologique forte de la planète.

Si une telle déclaration, pavées de bonnes intentions, a peu de chance de se voir appliquée dans un avenir proche, elle marque la direction du futur et rejoint en cela la vague éthique qui se lève contre l’usage erratique et cynique que font certains mercantiles ou totalitaires des SIA. Ce ne sont pas toujours ceux qu’on croit.

Jean-Pierre Blum
Source : Decision-sante.com

A LA UNE

add
Frédéric Valletoux
Brève

FHFMa Santé 2022, une réforme systémique au départ, une réformette à l'arrivée ?

C'était il y a un juste un an. L'ensemble des professionnels, y compris les hospitaliers, saluaient le discours d'Emmanuel Macron annonçant le lancement de Ma Santé 2022. Un an plus tard, la FHF paraît dégrisée. Et s'interroge... Commenter

ÉVÉNEMENTS

ÉVÉNEMENTS

Retrouvez tous les événements organisés par Décision Santé

Formations

Abonnement

Accédez à l’intégralité de votre magazine en version numérique ou papier

COUPs DE GRIFFE/CŒUR

COUPs DE GRIFFE/CŒUR

Vous souhaitez vous exprimer surl’actualité de votre profession ? Publiez dès maintenant votre courrier en ligne.

KIOSQUE

KIOSQUE

Retrouvez l’édition numérique de votre magazine.