Enjeux éthiques des algorithmes et de l’intelligence artificielle

Comment permettre à l’Homme de garder la main ? Rapport sur les enjeux éthiques des algorithmes et de l’intelligence artificielle
15 décembre 2017

La CNIL publie le rapport de synthèse du débat public qu’elle a animé sur les enjeux éthiques des algorithmes et de l’intelligence artificielle. Isabelle FALQUE-PIERROTIN, présidente de la CNIL, le présente aujourd’hui en présence de Mounir MAHJOUBI, Secrétaire d’Etat chargé du Numérique et de Cédric VILLANI, Député, chargé par le gouvernement d’une mission sur l’intelligence artificielle.

Pour Isabelle Falque-Pierrotin, Présidente de la CNIL :

«  L’objectif de ce débat est de garantir que l’intelligence artificielle augmente l’homme plutôt qu’elle ne le supplante et participe à l’élaboration d’un modèle français de gouvernance éthique de l’intelligence artificielle. Nous devons collectivement faire en sorte que ces nouveaux outils soient à la main humaine, à son service, dans un rapport de transparence et de responsabilité »

Quelles réponses  éthiques au développement des algorithmes et de l’intelligence artificielle ?
..........
Les problématiques soulevées par les algorithmes et l’IA
..........

Le reste à lire là :
https://www.cnil.fr/fr/comment-permettre-lhomme-de-garder-la-main-rapport-sur-les-enjeux-ethiques-des-algorithmes-et-de

ça, ils n'en parlent pas ans le rapport  (après l'avoir simplement cité en fin de page d'accueil...
https://www.scienceshumaines.com/l-impact-psychologique-des-mondes-virtuels_fr_34830.html

ils mélangent
a) les logiciels explicitement écrits pour manipuler des données conformément (idéalement...) à des lois, à des règles, à des principes édictés par une autorité humaine (une administration comme les Impôts, un vendeur ou un patron -une société anonyme- comme amazon.com ou Wolkswagen.....
dedans c'est codé explicitement que.....

si commande < 20 à il paye les frais de port.....
sinon frais de port= 0 .....

pour moi CE N'EST PAS de l'intelligence artificielle.... c'est simplement l'intelligence (ou la bêtise) du maître d'ouvrage qui est dans le programme.


b) l'autre chose, c'est la vraie IA, que ce soit la 'faible" ou la "forte": ici un programme génère un réseau neuronal artificiel (programma parfois qualifié de 'connexioniste) que tourne l'ordinateur sur des [masses de] données fournies par l'homme.
L'intervention humaine se limite à décider de l'architecture du réseau (à choisir selon le domaine d'application....), puis d'entrer des exemples, associés à la réponse attendue (apprentissage supervisé).
Le réseau 'apprend' puis on lui refile les cas réels, et pour chaque cas il se démm.... plus ou moins bien pour fournir une réponse, conforme à ce que dirait 1 humains.... ou tout à fait originale (non supervisée).

exemple: la reconnaissance automatique des adresses manuscrites écrites sur les lettres de La Poste. Dans ce cas ça fait aussi bien que le postier du centre de tri.....
Pourtant jamais il n'y a dans le code la règle 'le O est une courbe fermée sans rie dedans' ou 'le I est une barre verticale'. Ces règles algorithmiques sont inadaptées à la lecture des lettres réelles.... le réseau neuronal lui est capable de classifier les dites lettres sans faire appel à notre logique, notre raisonnement et nos capacités d'analyse...



Après, c'est quand même intéressant que la CNIL donne la liste des applications informatiques (avec algorithmes conventionnels le + souvent ) dans les domaines de l'activité administrative et sociale....
déjà ça, ça structure énormément notre environnement.....
Ils omettent quand même tout le domaine technique et productif, de nos gadgets 'connectés' aux bagnoles, aux réseaux électriques, trains, avions, échanges commerciaux [ils ont par contre traité le domaine bancaire]....  et rien sur les conséquences sur  la vie physique et intellectuelle des zanimaux à 2 pattes et sur leur avenir....

Quand à maîtriser ces évolutions......

Après les annonces de Mr Macron , un commentaire sur le site la Robolution :

Citation :

Les fêtes de Pâques sont passées, et avec la chasse aux oeufs. Pour le secteur de l’Intelligence Artificielle, cette chasse a été excellente au regard des annonces de notre président Emmanuel Macron.

Mais le chocolat a un petit goût amer, un petit goût de brûlé qui chatouille le palais de manière désagréable. Commençons par les bonnes choses. Macron l’a annoncé lui-même jeudi dernier, la France veut devenir un hub de recherche au meilleur niveau mondial en Intelligence Artificielle.

Pour cela, son plan de développement comprend un fonds de 1,5 milliards d’euros dont 400 millions consacrés à des appels à projets innovants et en rupture. Un fond qui fait partie d’un fonds plus large destiné à l’innovation et l’industrie d’un total de 10 milliards d’euros.

L’autre bonne nouvelle, c’est que notre Président a très bien compris les enjeux de ce développement et compte bien s’appuyer sur l’Europe. Et c’est dans les colonnes du magasine WIERD que Macron a disserté sur ces enjeux, et en particulier ceux de l’IA.

Il a aussi concédé que ce domaine soulèverait beaucoup de questions éthiques et de société tout en montrant sa prudence sur la question des données : « Nous allons ouvrir nos données en France. […]

Mais le jour où vous ouvrez ces données et dévoilez des informations personnelles, vous ouvrez une boîte de Pandore, avec des utilisations potentielles qui ne profiteront pas au bien commun ». Une vision réaliste, comme celle de transparence des algorithmes même si l’on peut légitimement douter que ce soit réellement possible, mais j’avoue que je m’interroge sur ce sujet tout de même au regard des annonces qui ont succédé aux propos de l’Elysée, suite à la présentation du plan d’Emmanuel Macron et du rapport de Cédric Villani.

Dans la foulée, plusieurs groupes ont fait des séries d’annonces sur le développement de centres de recherches en France. Samsung a dit vouloir faire de Paris son troisième plus important centre de recherche d’IA au monde avec un objectif d’une cinquantaine de chercheurs d’ici à la fin de l’année.

Même refrain chez IBM qui souhaite recruter au moins 400 experts, pour Fujitsu qui veut installer en région parisienne son centre européen de recherche. Microsoft parie aussi sur la France avec un objectif de formation de 400 000 personnes (oui, on ne rigole pas) sur trois ans, tout comme Google et sa cousine DeepMind  qui recruteront aussi des chercheurs.

Oui, pas une entreprise française bien entendu et si vous croyez que tous ces chercheurs vont ensuite rester en France et travailler pour nos entreprises, c’est que vous imaginez que les poules en chocolat de Pâques ont des dents !

Un petit goût amer, je vous le disais.
Il n’est pas trop tard…Mais presque !

https://www.larobolution.com/intelligence-artificielle-les-chocolats-de-macron-ont-un-petit-gout-amer/

Concrètement des exemples de projets de l’entreprise  « BA Systemes » en Ille-et-Vilaine qui se donne pour mission de «  développer des solutions robotiques mobiles toujours plus innovantes pour répondre aux enjeux stratégiques de l’Usine du Futur. » : https://www.basystemes.com/fr/projets-rd/

https://www.francetvinfo.fr/replay-radio/un-monde-d-action/alain-connes-mon-pave-2018-ne-vendons-pas-notre-ame-a-lintelligence-artificielle_2720136.html

Le mathématicien Alain Connes est l’invité ce mardi 8 mai d’Olivier de Lagarde. Son pavé 2018 consiste à dénoncer les dangers potentiels de l’intelligence artificielle.

Olivier de Lagarde : Vous avez l’impression qu’on vend notre âme à l’intelligence artificielle ?

Alain Connes : On dit que c’est formidable pourquoi ? Parce que ça gagne au go (un jeu de société venu de Chine gagné en 2016 par un ordinateur face au champion du monde ndlr). Mais quand on fouille un petit peu, on s’aperçoit que la machine qui a gagné elle a fait l’équivalent de quelqu’un qui joue 300 ans au go contre lui-même donc ça ne m’impressionne pas. Vers quoi va-t-on avec l’intelligence artificielle ? On va vers l’enrégimentement des gens. Et c’est pas par hasard si l’un des organismes à l’origine de percées dans l’intelligence artificielle, notamment en matière de voiture autonome, c’est Darpa. Et le D de Darpa, c’est défense. C’est donc un organisme qui veut développer des procédés à des buts militaires. Mon avis est totalement nuancé sur cette espèce d’engouement dans lequel les gens se plongent sans réfléchir.

Est-ce qu’on peut résister à l’intelligence artificielle ?

Non, mais on peut réfléchir. Et quand je vois le rapport Villani, je suis vraiment effrayé. Parce que ça veut dire qu’on va créer un biais et qu’on va attirer les gens les plus intelligents, les chercheurs etc vers l’intelligence artificielle au lieu de profiter de la recherche pure. Ça parait absurde. Finalement, le big data va remplacer l’homme parce que pour contrôler une immensité de données quels sont les buts ? De manipuler la société. Pour lui retirer de l’argent, la faire voter pour Trump, il y a quantité de buts possibles. C’est ça qui m’effraie.

Vous pensez que l’intelligence artificielle va changer l’homme et les relations entre les hommes ?

Non mais elle va l’obliger à se débrouiller au milieu d’un espèce de chaos qu’il n’avait pas prévu et qui sera de plus en plus contraire à la liberté individuelle. Elle va changer les relations entre les hommes puisqu’elle va les uniformiser. L’individualité en grande partie commence à disparaître. Cette liberté individuelle qui était quelque chose de fondamental est en train de se dissoudre comme neige au soleil. Ce qui me frappe le plus c’est qu'Évariste Galois était capable de comprendre sans avoir à faire les calculs.

De mon point de vue on est en train de troquer le "comprendre sans avoir à faire" pour le "faire sans comprendre". Or l’essence de l’homme c’est de comprendre et ça c’est complètement hors de portée de l'intelligence artificielle.. Ce que je dis c’est que grâce à ce développement de la machine on va finir par comprendre ce qui singularise l’intelligence humaine par rapport à la machine. Pour l’instant l'intelligence artificielle il lui manque le bon sens et surtout le génie.

Et encore......
https://www.youtube.com/watch?v=DrjkjPVf7Bw&list=PLtzmb84AoqRTl0m1b82gVLcGU38miqdrC

No comment hélas