Algorithmes - Big Data

Une analyse de l’institut Goethe :

Citation :

«  ALGORITHMES ET LIBERTÉ DE DÉCISION : UN MOI CALCULÉ »

Des programmes informatiques produisent des profils d’utilisateurs et déterminent notre rôle et notre comportement sur la toile. Les algorithmes nous font-ils perdre notre liberté de décision ? Ce débat touche aussi en Allemagne les utilisateurs qui voient surtout les avantages de ceux-ci.

Les algorithmes - c’est-à-dire des programmes se basant sur les traces des données que nous laissons sur internet - calculent nos habitudes de consommation et nos comportements en matière de communication. Ils contrôlent les résultats des recherches effectuées sur la toile et influencent, au moyen de nos adresses qui apportent des informations assez probables sur notre situation financière, nos modes de paiement pour les produits achetés en ligne.

En Allemagne aussi, les discussions sur les effets des algorithmes n’en finissent pas. Beaucoup de gens se demandent en effet si les ordinateurs ne prennent pas les décisions à leur place. L’idée d’être influencé par quelque chose d’insaisissable et d’incompréhensible pour des non-professionnels est facteur d’inquiétude voire parfois de peur.

LES MACHINES PRENNENT PART À LA DÉCISION

Les algorithmes sont efficaces : au moyen de procédés mathématiques et statistiques et à partir des comportements des utilisateurs, il est possible de deviner l’attitude probable d’un individu sur un sujet quelconque. Ce que nous voyons sur Facebook, c’est ce que l’algorithme de Facebook a calculé pour nous – en fonction de la façon dont nous avons interagi sur la plateforme.

Ainsi, il serait même possible d’influencer les opinions politiques. On débat depuis longtemps déjà à propos de ce phénomène appelé Filterbubble, rendu célèbre par la thèse de l’Américain Eli Pariser, activiste sur la toile. Dans son livre de 2011, dont le titre reprend ce terme, Pariser constatait que les actualités personnalisées diffusées par Facebook présentaient surtout des reportages allant dans le sens de ses opinions politiques. De cette manière, l’utilisateur est isolé dans une « bulle » excluant toute information qui viendrait contredire ses opinions. L’influence des algorithmes va cependant encore plus loin : les machines effectuent déjà actuellement des prévisions pour déterminer si une personne est solvable ou non ou pour savoir le montant de la cotisation de son assurance. À partir du lieu d’habitation, on peut déduire le risque de défaut de paiement et à partir de l’état de santé le risque de maladie.
Mais faut-il vraiment s’en inquiéter ? Les individus auraient-ils perdu le contrôle sur leurs décisions ? Ce qui peut être calculé au moyen d’algorithmes, ce ne sont pas des choses certaines mais des probabilités. Les algorithmes ne reproduisent pas non plus le système complexe de valeurs qui est le nôtre et qui sous-tend notre prise de décision dans une situation donnée : ils restent au niveau des actions simples, comme lorsque nous cliquons sur un texte ou achetons un produit.

DEMANDE DE TRANSPARENCE

De la même façon, la réalité filtrée d’un flux Facebook n’est pas un problème que les algorithmes auraient créé. « Dans le fond, la Filterbubble n’est qu’une bulle parmi d’autres. Notre environnement social forme aussi notre perception d’une manière bien précise », dit Ben Wagner, directeur de recherche du département Internet et droits de l’Homme de l’université européenne Viadrina de Francfort/Oder. « Le point décisif est que nous en soyons conscients. » Néanmoins, beaucoup d’algorithmes, comme ceux de Facebook ou Google, ne sont pas transparents. Les utilisateurs de ces services ne savent pas comment la décision est prise à leur place, „en amont“. Actuellement, le danger d’exclure des groupes marginaux existe bien, par exemple des gens qui ne pourront contracter une assurance maladie en raison des données existantes sur leur santé », préviennent des scientifiques comme Ben Wagner. La demande pour plus de transparence demeure ainsi la mission principale d’une « éthique des algorithmes ».

UN DÉBAT ALLEMAND

Dans l’opinion allemande, les adversaires d’une « algorithmisation » des individus se font fortement entendre. Parmi les personnalités les plus célèbres qui ont averti l’opinion de ce problème, il y avait le journaliste co-éditeur du Frankfurter Allgemeine Zeitung, Frank Schirrmacher, décédé à l’été 2014. Dans ses best-sellers, Pay-Back (2009) et Ego (2013), il affirmait qu’internet était une drogue et que les ordinateurs modifiaient notre pensée. Depuis des années, les hommes politiques préviennent aussi du risque d’une « dictature des données ». Dans son livre, Finger weg von meinen Daten (Touche pas à mes données), paru en 2014, le député européen des Verts, Jan-Philipp Albrecht, voit l’individu de plus en plus placé sous leur tutelle et réduit à un système pouvant être auto-optimisé et mathématiquement calculé.

Face à ses positions critiques se font entendre des voix qui tentent de les interroger. Quelle est la véritable étendue du pouvoir des algorithmes ? Pourquoi nous orientons-nous, avec nos critiques, vers des évolutions soi-disant négatives mais qui, pour une part d’entre elles, n’ont pas encore été constatées dans la réalité, au lieu de souligner les aspects positifs de la numérisation, demande l’auteure Kathrin Passig dans le web-magazine culturel Berliner Gazette. L’historien des sciences Klaus Mainzer, professeur à l’Université Technique de Munich, est quant à lui favorable à une « détechnisation » du débat. Les algorithmes ne sont selon lui, ni une invention de la Silicon Valley ni quelque chose de « mauvais » en soi. Ils prennent leurs origines, dit-il dans son livre paru en 2014 Die Berechnung der Welt (le calcul du monde), dans une recherche de description mathématique des phénomènes et de théorisation du monde ; ce que pratiquent les Hommes depuis des millénaires.

On remarque en même temps que les citoyennes et les citoyens allemands se plaignent de Google et de Facebook mais qu’en même temps, ils utilisent de plus en plus leurs services. Ni une vaste prise de conscience envers les risques de ce phénomène ni même un mouvement politique ne sont en vue pour le moment. On a demandé à Indra Spiecker du Frankfurter Allgemeine Zeitung pourquoi il en était ainsi. Et telle fut sa réponse : « La technique est tout simplement trop belle. » Mais peut-être est-ce encore beaucoup plus simple : le besoin concret d’entretenir des contacts et des réseaux, facilement et à des distances éloignées, l’emporte pour beaucoup de gens sur une prise en compte de risques qui restent très abstraits.

AUTEUR
Christoph Kappes est conseiller dans le domaine des médias et publiciste. Il vit à Hambourg.
Traduction: Nathalie Huet
Copyright: Goethe-Institut e. V., Internet-Redaktion
Octobre 2015
Des questions sur cet article ? Écrivez-nous ! (en allemand ou en anglais, merci)

Streaming Egos © Goethe-Institut

https://www.goethe.de/ins/fr/fr/kul/mag/20628668.html

Citation :

Selon IBM, l'intelligence artificielle sera amenée à jouer un rôle central afin de surveiller notre santé mentale. En analysant le langage et les écrits, des systèmes cognitifs pourront dégager des schémas révélateurs du début de maladies mentales et neurologiques. IBM teste déjà cette solution qui s'appuie sur les big data. À partir d'interviews psychiatriques, les chercheurs font travailler une IA afin qu'elle identifie des signes permettant de déceler des troubles mentaux tels que la psychose, la schizophrénie et la dépression.
Actuellement, 300 mots suffisent pour « aider les cliniciens à prédire la probabilité de psychose chez un utilisateur ». Dans un futur proche, cette technique basée sur l’apprentissage automatique combinée à de l’imagerie médicale (IRM et EEG) pourrait contribuer au diagnostic et au traitement des personnes souffrant de Parkinson, d'Alzheimer, d'Huntington, du syndrome de stress post-traumatique ou même d'autisme.

http://www.futura-sciences.com/tech/actualites/electronique-ibm-5-innovations-changeront-nos-vies-5-prochaines-annees-65820/

Bien mieux que l'horoscope,la numérologie, la phrénologie, la graphologie de nos ancêtres, on va Tout savoir (ou tout inférer) sur chacun , et tout pister de nos actes.

Vive "l'internet des objets" avec les puces rfid -et leurs propriétés référencées dans des méga bases de données-
De crétins ont même imaginé de  se faire implanter 1 puce RFID dans le bras......
Vivent les "objets intelligents" .....  qui diront ce que nous faisons à des 'agents' qui stockeront ces résultats dans des bases de données ad hoc

Et pour notre bien, des systèmes 'intelligents' -pas avec des algorithmes simples, mais  plutôt des réseaux neuronaux savamment configurés- trouveront des 'régularités'   insoupçonnées dans ces masses de données, que des gens bien intentionnés    interpréteront dans notre intérêt  

Alors, quand on détectera un déviant.....  

Elections et modernité

On a eu les hologrammes, mais il y a aussi le big data ou comment les candidats ajustent leurs campagnes sur des données « ultra précises » :

Surveillance, la première boîte noire est née :
http://www.liberation.fr/france/2017/11/14/surveillance-la-premiere-boite-noire-est-nee_1609993

Citation :

Le président de la Commission de contrôle des techniques de renseignement a révélé que cet algorithme utilisé par les services de renseignement est mis en œuvre depuis plus d’un mois.
......
Prévus par l’article 851-3 du Code de la sécurité intérieure, ces dispositifs permettent de traiter de grandes quantités de données pour détecter des «signaux faibles» révélant une «menace terroriste». «L’algorithme seul accède aux données et sort les éléments qui méritent l’attention», a indiqué Delon. Les données moulinées ne relèvent pas du contenu des messages, mais de ce qui entoure les communications, les métadonnées (qui communique avec qui, quand, etc.). Ces «boîtes noires» constituent le dispositif de surveillance le plus massif déployé par les services de renseignement sur les communications des citoyens français.

La CNCTR a été saisie «avant l’été», a expliqué son président, et entamé un contrôle de l’algorithme à la fois sur le plan technique et sur la «proportionnalité» de cette mesure de surveillance indiscriminée. Un «travail de plusieurs mois» qui a nécessité de demander «au gouvernement de revoir sa copie», a précisé Delon. Au final, l’avis favorable a été rendu «début octobre». Impossible, par contre, de savoir chez quel acteur a été mise en place cette première «boîte noire» – le dispositif peut concerner aussi bien les fournisseurs d’accès à Internet que les hébergeurs internet.

Le gouvernement n’a pas encore saisi la CNCTR pour exploiter le résultat de cette traque aux «signaux faibles» et accéder à des données d’identification. Et pour que la «boîte noire» continue à être mise en œuvre, l’avis favorable devra être reconduit début décembre, puis à intervalles de quatre mois.

Francis Delon a par ailleurs vanté le contrôle, qu’il veut strict, exercé par sa commission. «Pour l’ensemble des techniques de renseignement, hors accès aux données de connexion, 6,9% des avis de la commission sont défavorables», a-t-il précisé. L’exécutif n’a eu recours qu’une seule fois à la procédure d’urgence absolue selon laquelle la CNCTR n’est consultée qu’après la mise en œuvre.

Enfin, le président de la CNCTR a annoncé que le contrôle a priori des mesures de surveillance des communications internationales – non prévu dans la loi d’octobre 2015, mais mis en place «à titre expérimental» en mai 2016 – a été, sans grande surprise, maintenu.

d'après le descriptif (qui communique avec qui, quand...) ça doivent être les fournisseurs d'accès internet qui sont concernés/ Ce doit être le routage des paquets IP qui est surveillé ..... ce qui peur entre autres dire si ça transite par des serveurs louches, comme ceux possédés par des organisations terroristes ou des pays dictatoriaux.....

cependant on ne peut pas être certain que l' IA ne scanne pas aussi le contenu des messages, texte et même images ! ! !
mais chuuuut! C'est pour une noble cause...... pour le moment........

Vraiment toutes nos vies à la disposition du fisc de façon systématique pour prédire une éventuelle fraude fiscale :

Citation :

Un algorithme qui analyse les milliers de données des contribuables, c'est la nouvelle arme de Bercy pour détecter la fraude fiscale, au moins provisoirement, car l'expérimentation doit durer 2 ans. Comment fonctionne cet algorithme ? Est-il vraiment efficace ? Quid de la protection de nos données personnelles ? L'analyse de Xavier Timbeau, directeur de l'OFCE. Ecorama du 20 novembre, présenté par David Jacquot sur boursorama.com

http://www.boursorama.com/actualites/voici-la-nouvelle-methode-du-fisc-pour-traquer-les-fraudeurs-fiscaux-3aafac86ed2b7bd3ba867758ffe6efb9

Dans un registre différent, c’était quoi ce film qui anticipait les crimes, avec Tom Cruise dans la distribution ?

mazel a écrit:

Dans un registre différent, c’était quoi ce film qui anticipait les crimes, avec Tom Cruise dans la distribution ?

Minority Report

http://www.allocine.fr/film/fichefilm_gen_cfilm=34917.html

https://www.msn.com/fr-fr/actualite/insolite/high-tech-passer-un-entretien-d’embauche-avec-un-avatar/ar-AAxCYvd?li=BBoJIji

Citation :

Le système doit permettre de faciliter la présélection de candidats pour des entreprises de plus de 1 000 personnes.

La Digital Room n’est ni une cabine téléphonique, ni un photomaton futuriste mais un espace individuel pour passer un entretien d’embauche avec Zara, un avatar doté d’intelligence artificielle. Les volontaires pourront le tester lors de leur passage sur le Lab #FutureofWork de ManpowerGroup, partenaire RH de Viva Tech pour la 3e année consécutive.


Développée par sa filiale Experis, cette bulle, désormais commercialisable, présentée au Forum de Davos en janvier, permet de faciliter la présélection de candidats pour des entreprises de plus de 1 000 personnes selon certains critères objectifs : tempérament, aptitude à savoir lire, parler anglais…

Une fois assis dans la Digital Room, Zara apparaît à l’écran, demande au candidat — technicien, installateur ou commercial — de s’enregistrer avant de passer aux choses sérieuses. Après deux séries de questions variées, l’avatar peut, grâce à un algorithme, analyser son attitude, sa connaissance du métier, sa capacité d’adaptation. À l’issue de cet entretien, ce dernier récupère l’intégralité de son échange et connaît son résultat par rapport au niveau d’aptitude observé. De son côté, et selon ce dernier, le recruteur donnera suite ou pas.

« La machine peut indiquer combien de fois le candidat a souri, ou détecter les intonations de voix par exemple, explique Raoul Mattei, directeur général d’Experis. Cela peut sembler idiot mais ce sont des critères objectifs qui permettent notamment de mesurer l’enthousiasme », poursuit-il.