Tim Cook (Apple) : « Les ragots ne sont plus la ressource des oisifs et des méchants, mais un commerce »

08.11.2018
  • Cook

Dans le cadre de la 40e Conférence internationale des commissaires à la protection des données et de la vie privée (ICDPPC), le successeur de Steve Jobs, emblématique patron d’Apple, Tim Cook a fustigé ce qu’il nomme le « complexe industriel de données » - faisant sans doute référence au « complexe militaro-industriel » dans le discours de fin de mandat du Président Eisenhower le 17 janvier 1961. Cet appel à la protection de la vie privée des citoyens et du libre arbitre, de la part du dirigeant de la première entreprise mondiale (1 billion USD de capitalisation boursière) et leader de la technologie planétaire, est un signal fort pour l’avenir. Ethique, marketing ou facilité concurrentielle ? A vous de juger.

 

Prenez garde

« Nous voyons très clairement - douloureusement - comment la technologie peut nuire plutôt que d'aider. Les plates-formes et les algorithmes qui promettaient d'améliorer nos vies peuvent en fait amplifier nos pires tendances humaines. Des acteurs malhonnêtes et des gouvernements ont profité de la confiance des utilisateurs pour approfondir les divisions, inciter à la violence et même miner notre sens commun de ce qui est vrai et ce qui est faux. Cette crise est réelle. Elle n'est ni imaginée, ni exagérée, ni folle. Et ceux d'entre nous qui croient au potentiel de la technologie pour le bien ne doivent pas rétrécir à partir de maintenant. Aujourd'hui plus que jamais, en tant que dirigeants de gouvernements, décideurs du monde des affaires et citoyens, nous devons nous poser une question fondamentale : Dans quel genre de monde voulons-nous vivre ? Nous devons faire en sorte que la technologie soit conçue et développée pour servir l'humanité, et non l'inverse. Chez Apple, nous croyons que la vie privée est un droit humain fondamental. Mais nous reconnaissons aussi que tout le monde ne voit pas les choses comme nous. D'une certaine façon, le désir de faire passer les profits avant la vie privée n'est pas nouveau. Dès 1890, le futur juge de la Cour suprême Louis Brandeis publiait un article dans la Harvard Law Review, plaidant en faveur d'un " droit à la vie privée " aux États-Unis. Il a prévenu : "Les ragots ne sont plus la ressource des oisifs et des méchants, mais un commerce. Les informations personnelles sont armées contre nous avec une efficacité militaire. Chaque jour, des milliards de dollars changent de mains et d'innombrables décisions sont prises en fonction de nos goûts et de nos aversions, de nos amis et de nos familles, de nos relations et de nos conversations. Nos souhaits et nos craintes, nos espoirs et nos rêves. Ces bouts de données, assez inoffensifs chacun pour soi, sont soigneusement assemblés, synthétisés, échangés et vendus. Votre profil est ensuite soumis à des algorithmes qui peuvent servir des contenus de plus en plus extrêmes, transformant nos préférences inoffensives en convictions inébranlables. La vente d'annonces publicitaires contre des données personnelles est devenue un « complexe industriel de données ». Note : la référence à Facebook et Google dans ces critiques est nette car ce sont les deux plus grandes entreprises qui gagnent de l'argent en vendant des annonces. Poussé à l'extrême, ce processus crée un profil numérique durable et permet aux entreprises de mieux vous connaître que vous ne le faites vous-même. Votre profil est ensuite exécuté à l'aide d'algorithmes qui peuvent servir des contenus de plus en plus extrêmes, transformant nos préférences inoffensives en convictions endurcies. Si le vert est votre couleur préférée, vous pouvez vous retrouver à lire beaucoup d'articles - ou à regarder beaucoup de vidéos - sur la menace insidieuse des gens qui aiment l'orange. Dans l'actualité presque tous les jours, nous sommes témoins des effets néfastes, voire mortels, de ces visions du monde rétrécies. Nous ne devrions pas minimiser les conséquences. C'est de la surveillance. Et ces stocks de données personnelles ne servent qu'à enrichir les entreprises qui les collectent. Cela devrait nous mettre très mal à l'aise. Cela devrait nous déstabiliser ».

RGPD

« Cette année, vous – l’union Européenne - avez montré au monde que de bonnes politiques et une volonté politique peuvent s'unir pour protéger les droits de tous. Nous devrions célébrer le travail de transformation des institutions européennes chargées de la mise en œuvre réussie du RGPD. Nous célébrons également les nouvelles mesures prises, non seulement ici en Europe, mais dans le monde entier. Singapour, au Japon, au Brésil, en Nouvelle-Zélande et dans bien d'autres pays, les organismes de réglementation posent des questions difficiles et élaborent des réformes efficaces. Il est temps que le reste du monde - y compris mon pays d'origine - suive votre exemple. Nous soutenons sans réserve une loi fédérale complète sur la protection de la vie privée aux États-Unis. Là et partout, elle doit s'enraciner dans quatre droits essentiels :

Tout d'abord, le droit à la minimisation des données personnelles. Les entreprises devraient se mettre au défi de dépersonnaliser les données des clients - ou de ne pas les collecter en premier lieu. Deuxièmement, le droit au savoir. Les utilisateurs doivent toujours savoir quelles données sont collectées et pour quoi elles sont collectées. C'est la seule façon d'habiliter les utilisateurs à décider ce qui est légitime et ce qui ne l'est pas. Moins que ça, c'est de la frime. Troisièmement, le droit d'accès. Les entreprises devraient reconnaître que les données appartiennent aux utilisateurs et nous devrions tous faciliter l'accès des utilisateurs à une copie, à la rectification et à la suppression de leurs données personnelles. Et quatrièmement, le droit à la sécurité. La sécurité est le fondement de la confiance et de tous les autres droits à la vie privée.

Il y a ceux qui préféreraient que je n'aie pas dit tout ça. Certains s'opposent à toute forme de législation sur la protection de la vie privée. D'autres approuveront la réforme en public, puis résisteront et la mineront derrière des portes closes. Ils vous diront peut-être : « Nos entreprises n'atteindront jamais le véritable potentiel de la technologie si elles sont limitées par la réglementation sur la protection de la vie privée. » Mais cette notion n'est pas seulement fausse, elle est destructrice. Le potentiel de la technologie est, et doit toujours être, enraciné dans la confiance que les gens ont en elle, dans l'optimisme et la créativité qu'elle suscite dans le cœur des individus, dans sa promesse et dans sa capacité à faire du monde un endroit meilleur. Il est temps de regarder les choses en face. Nous n'atteindrons jamais le véritable potentiel de la technologie sans la pleine foi et la confiance des gens qui l'utilisent.

Le respect de la vie privée - et une saine suspicion d'autorité - ont toujours été dans notre circulation sanguine. Nos premiers ordinateurs ont été construits par des inadaptés, des bricoleurs et des rebelles - pas dans un laboratoire ou une salle de réunion, mais dans un garage de banlieue. Nous avons présenté le Macintosh avec une célèbre publicité télévisée diffusée sur la chaîne de télévision George Orwell's 1984 - un avertissement de ce qui peut arriver lorsque la technologie devient un outil de pouvoir et perd le contact avec l'humanité. Et en 2010, Steve Jobs a dit en termes très clairs : « La vie privée signifie que les gens savent pour quoi ils s'engagent, dans un langage simple et répété. » Il vaut la peine de se souvenir de la prévoyance et du courage qu'il a fallu pour faire cette déclaration. Lorsque nous avons conçu cet appareil, nous savions qu'il pouvait mettre plus de données personnelles dans votre poche que la plupart d'entre nous n'en gardent dans nos maisons. Nous avons subi d'énormes pressions pour que nous modifiions nos valeurs et que nous partagions librement cette information. Mais nous avons refusé tout compromis. En fait, nous n'avons renforcé notre engagement qu'au cours de la décennie qui a suivi. Des percées matérielles qui chiffrent les empreintes digitales et les visages en toute sécurité - et uniquement - sur votre appareil, aux notifications simples et puissantes qui indiquent clairement à chaque utilisateur ce qu'il partage et quand il le partage ».

Au nom des enjeux et de la soutenabilité éthiques

« Nous ne sommes pas des absolutistes et nous ne prétendons pas avoir toutes les réponses. Au lieu de cela, nous essayons toujours de revenir à cette simple question : Dans quel genre de monde voulons-nous vivre ? À chaque étape du processus créatif, nous nous engageons dans un débat éthique ouvert, honnête et solide sur les produits que nous fabriquons et l'impact qu'ils auront. Cela fait partie de notre culture. Nous ne le faisons pas parce que nous le devons. On le fait parce qu'on doit le faire. Les valeurs qui sous-tendent nos produits sont aussi importantes pour nous que n'importe quelle caractéristique. Nous comprenons que les dangers sont réels - des cybercriminels aux États nations voyous. Nous ne sommes pas prêts à laisser nos utilisateurs se débrouiller seuls. Et nous avons montré que nous défendrons ces principes quand ils sont contestés.

Ces valeurs - cet engagement à l'égard d'un débat réfléchi et de la transparence - ne feront que gagner en importance. Au fur et à mesure que les progrès s'accélèrent, ces choses devraient continuer à nous enraciner et à nous relier, d'abord et avant tout, aux gens que nous servons. L'intelligence artificielle est un domaine auquel je pense beaucoup. De toute évidence, c'est aussi dans l'esprit d'un grand nombre de mes pairs. Au fond, cette technologie promet d'apprendre des gens individuellement pour notre bénéfice à tous. Pourtant, faire progresser l'IA en recueillant d'énormes profils personnels, c'est de la paresse et non de l'efficacité. Pour que l'intelligence artificielle soit vraiment intelligente, elle doit respecter les valeurs humaines, y compris la vie privée. Si nous nous trompons, les dangers sont profonds. Nous pouvons atteindre à la fois une grande intelligence artificielle et de grandes normes de protection de la vie privée. Ce n'est pas seulement une possibilité, c'est une responsabilité. Dans la poursuite de l'intelligence artificielle, nous ne devons pas sacrifier l'humanité, la créativité et l'ingéniosité qui définissent notre intelligence humaine.

Au milieu du XIXe siècle, le grand écrivain américain Henry David Thoreau s'est tellement lassé du rythme et de l'évolution de la société industrielle qu'il s'est installé dans une cabane dans les bois près de Walden Pond. C’était le premier nettoyage numérique. Pourtant, même là, là où il espérait trouver un peu de paix, il pouvait entendre un bruit lointain et le sifflement d'une machine à vapeur qui passait. « Nous ne prenons pas le chemin de fer, a-t-il dit. Il chevauche sur nous ».

Ceux d'entre nous qui ont la chance de travailler dans la technologie ont une énorme responsabilité. Ce n'est pas pour plaire à tous les Thoreau grincheux. C'est une norme déraisonnable, et nous ne la respecterons jamais. Nous avons cependant la responsabilité de reconnaître que les dispositifs que nous fabriquons et les plateformes que nous construisons ont des effets réels, durables, voire permanents sur les individus et les communautés qui les utilisent. Nous ne devons jamais cesser de nous demander dans quel genre de monde nous voulons vivre. La réponse à cette question ne doit pas être une réflexion après coup, elle doit être notre première préoccupation. Nous pouvons – et devons - fournir ce qu'il y a de mieux à nos utilisateurs tout en traitant leurs données personnelles comme la précieuse cargaison qu'elles sont. Et si nous pouvons le faire, alors tout le monde peut le faire. Nous avons votre exemple devant nous, votre engagement envers la possibilité d'une technologie centrée sur l'être humain et pour votre ferme conviction que nos meilleurs jours sont possibles ».

Ite missa est.

Jean-Pierre Blum
Source : Decision-sante.com

A LA UNE

add
silence
Brève

BilletFaut-il transfuser le malade hôpital ?

Tout avait si bien commencé. Une ancienne PU-PH, hématologue de formation, à la tête du ministère de la Santé, allait enfin soigner l'hôpital. Accusé de mauvaise gestion, rétif au changement, contraint à la cure d'amaigrissement... Commenter

  • Brève

    La citation de la semaine

    Ferry

    « Une compétition a été organisée entre une machine et 52 dermatologues experts. La machine a gagné très largement : 92 % de bonnes réponses... Commenter

  • Brève

    Le chiffre de la semaine40

    antibiorésistance

    C'est en millions d'euros la somme qui sera consacrée à un programme de lutte contre la résistance aux antibiotiques (dirigé par l'Inserm),... Commenter

  • Entretien avec Pierre-André JuvenLa faillite impossible des CHU

    visuel couv livre

    Alors que la situation budgétaire de certains hôpitaux publics suscite l'inquiétude, sont-ils menacés pour autant de faillite comme toute... Commenter

ÉVÉNEMENTS

ÉVÉNEMENTS

Retrouvez tous les événements organisés par Décision Santé

Formations

Abonnement

Accédez à l’intégralité de votre magazine en version numérique ou papier

COUPs DE GRIFFE/CŒUR

COUPs DE GRIFFE/CŒUR

Vous souhaitez vous exprimer surl’actualité de votre profession ? Publiez dès maintenant votre courrier en ligne.

KIOSQUE

KIOSQUE

Retrouvez l’édition numérique de votre magazine.