20 Mi-ange mi-démon !

Mi-ange, mi-démon, comme toutes les technologies

6 mois déjà que je posais la question en évoquant des applications marquantes de l'IA et des TICs.

J'ai désespérément chercher quelque chose d'original à écrire : rien !

Ou plutôt, une évidence : les technologies ne sont pas bonnes ou mauvaises en soi : elles sont ce qu'en font les hommes. La fission nucléaire par exemple : on l'a utilisé pour faire des bombes et des réacteurs nucléaires pour produire de l'électricité. L'équilibre de la terreur a rangé les bombes dans les silos, au moins jusqu'à maintenant. Les réacteurs nucléaires continuent à produire leurs déchets radio-actifs et à fournir une électricité décarbonée (en faisant abstraction de la construction des centrales).

Reprenons certaines des "avancées" que nous avons évoquées dans l'article précédent.

Numérisation des services publics

Un gain de temps certain pour ceux qui savent bien se servir d'un ordinateur, un casse-tête pour les autres.  Une accélération, mais aussi des économies dans les traitements des dossiers si cela se traduit par des compressions de personnel. À moins que pour l'on décide de renforcer des accueils "humains" dans les services publics ou au moins de créer un "service public d'aide aux démarches". C'est un choix politique : en France on n'en prend pas le chemin, sauf dans certaines communes.

Robotisation dans l'industrie

Là encore, économie d'ouvriers, gain de productivité par employé, moins de pénibilité pour ceux qui restent. Se pose la question du partage de le rente au niveau micro-économique de l'entreprise et macro-économique des nations. Masse salariale en baisse, gains pour le capital, du moins dans l'économie "libérale" qui est la notre. Là encore, choix politique du partage de la rente ou des revenus.

Plate-formes d'intermédiation

Elles sont de tous les types et leur nombre explose.

Certaines paraissent au premier abord, un vrai progrès pour développer une économie circulaire ou au moins limiter le gaspillage des biens. LeBonCoin et les autres. Mais elles peuvent avoir aussi des effets négatifs, en particulier quand il s'agit d'offres de service : développement du travail au noir, concurrence déloyale de l'artisanat.

Un peu comme ce qui se passe avec des plate-formes comme AirBNB : une bonne idée a priori, sauf qu'elle contribue un peu partout dans le monde à la spéculation immobilière en centres ville et permet des revenus non assujettis aux taxes ou cotisations. Sauf si le "politique" parvient à encadrer cet usage, et introduit des modes de régulation, ce qui arrive progressivement en France ou ailleurs. Choix politiques ici aussi. 

Uber, Amazon

Uber restera dans l'histoire, certainement, plus par le terme "uberisation" que par les services rendus via la plate-forme : des hordes de chauffeurs ou de livreurs "micro-entrepreneurs", en fait des prolétaires mal payés, des journaliers ou des tâcherons, sans protection  sociale et avec l'angoisse du lendemain ou de la maladie qui les privera de tout revenu. Là aussi, évidemment, un problème de rapport de forces politique...

Le géant Amazon, dans sa partie commerce, crée aussi des hordes de livreurs et de magasiniers pour remplacer les employés du commerce qui périclite en centre-ville ou ceux des grandes surfaces qui faisaient leur beurre à la périphérie. Pour l'instant Amazone crée effectivement des emplois mais travaille à fond pour automatiser ses dépôts et et créer des robots ou des drones de livraison autonomes, qui lui permettront de réduire sa main-d’œuvre. Là aussi il y a des choix politiques à faire, au moins pour rendre la concurrence plus loyale en améliorant le statut des livreurs, en améliorant le rapport de force entre Amazon et "ses" producteurs au profit de ces derniers, en renforçant l'attractivité économique des commerces traditionnels...

Reconnaissance automatique des visages, des expressions, des plaques d'immatriculation...

La reconnaissance des formes a fait d'énormes progrès.

Là aussi, ce peut-être la meilleure et la pire des choses : aggravation ou amélioration (?) du contrôle social et de la détection des déviances, au volant par exemple... À chacun de juger mais la législation en Europe et en France nous protège pour l'instant des excès.

Véhicules et robots autonomes, pilotage automatique... 

Livreurs robotisés, trains, avions sans conducteurs et sans pilotes : plus de régularité, moins de grèves. On verra comment ça tourne et au profit de qui.

Mais les robots tueurs, c'est autre chose, et même si les employés de Google ont refusé de travailler sur les armes, il y aura de nombreux docteurs Folamour pour le faire.

C'est déjà en œuvre :  les drones tueurs sont déjà semi-autonomes et dotés de capacités de reconnaissance des formes.

Exploitation des données personnelles

Là des choix européens et français, assez exemplaires... au moins sur le papier. Car les moyens réels de savoir ce que fabrique les GAFAM avec les données que nous leur confions, plutôt contraints et forcés, et les moyens de peser pour qu'ils respectent une certaine déontologie, sont faibles. Et Trump saura les protéger.

La morale de cette histoire, la notre... n'est pas encore écrite !

L'ultime espèce invasive, nous-mêmes, réussira-t-elle à éviter de s'autodétruire, avec son éco-système, la terre ? Notre capacité d'adaptation semble désespérément plus lente que l'évolution de notre technologie. Par exemple, nous sommes entrés dans un ère d'ubiquité virtuelle et de communication instantanée : saurons nous les vivre au mieux ?

Et même nos règles et nos lois arrivent toujours bien après les innovations techniques qui bouleversent nos équilibres sociaux. Et la maturité politique ne semble pas au rendez-vous.

19 Ange ou démon ?

Kaléidoscope de quelques aspects emblématiques des TICs.

Passés en revue, avec des arguments pros and cons, pros selon les uns, cons selon les autres, peut-être, et le tout sans prétention à l’exhaustivité. Pas de jugement de valeur dans cet article ... c'est dans le suivant que l'on parlera plus éthique et politique des TICs.

Dans la suite, des applications des technologies de l'informatique et des communications, plutôt que les technologies utilisées qui sont en générale multiples.

Numérisation des services, en particulier, publics

La "webisation" des services publics (ou privés) va bon train et bénéficie d'un soutien sans faille des gouvernements et d'une bonne part de la nomenklatura.

De mieux en mieux faits, même si l'accès et l'utilisation de certains services, est laborieuse, c'est souvent un gain de temps, par évitement des déplacements physiques et des queues aux guichets.

 

Mais c'est aussi un facteur d'exclusion pour une bonne part de la population, handicapée devant l'usage de l'informatique, par manque de formation, d'habitude, d’appétence, et peut-être d'aptitude.

Mais que celui qui n'est jamais resté perplexe devant les nouveaux de distributeurs des stations service, jette la première pierre !

Remplir certains formulaires, après avoir créé un compte, est un drôle de casse-tête quand on n'a pas l'habitude.

L'impact sur l'emploi est en général évident : diminution, voire disparition des agences de proximité, et même des centres d'appel (voir par exemple, les opérateurs de télécoms, la SNCF, les banques...).

En même temps, on éloigne, et pas seulement physiquement, les services publics et les services de base de l'usager ou des clients. Même si la connotation est négative, on peut parler de déshumanisation des services concernés.

Et la fois précédente, on a évoqué les gains en termes de vraie productivité (par rapport au travail) de la fourniture du service. Avec un effet paradoxal, c'est que la diminution des coûts ou des prix de service se traduit par une baisse du PIB, quand la demande de services reste stable ; c'est le cas de la plupart des services de base.

Robotisation

Les robots ne sont pas une invention récente, mais les progrès continus de la robotique ("intelligence", capteurs, effecteurs...) les rendent de plus en plus flexibles et adaptables à différents univers.
Certains emplois sont ainsi transformés, avec une pénibilité plus faible. L'efficacité des nouveaux postes de travail robotisés développe aussi la productivité rapportée au travail.
Autrement dit des emplois peu qualifiés sont supprimés au profit d'emplois de maintenance, mais certainement pas dans les mêmes proportions.

Tous les secteurs sont touchés : aidées par les progrès en biochimie, les analyses médicales, les analyses d'ADN se sont fortement automatisés. Là aussi, moins de laborantins, mais des analyses beaucoup plus efficaces et rapides qu'auparavant.

Véhicules ou robots autonomes

On peut considérer les véhicules autonomes comme un cas particulier du développement de la robotique.
Les champs d'application sont énormes : les trains ou métros automatiques existent depuis longtemps, mais maintenant outre le Graal de la voiture autonome, on parle de plus en plus de cargos automatiques, d'avions sans pilotes, du moins dans le cockpit. Les technologies sont là, reste à régler le problème de l'acceptabilité sociale.
Quant à l'armée, les recherches vont bon train : les robots tueurs ne sont pas loin. D'ailleurs les frappes par  drones pilotés à distance, mais semi automatiques, sont devenues monnaie courante : assassinats ciblés à distance, mais avec quelques dégâts collatéraux éventuels.

Mais on peut utiliser les drones non seulement pour de la surveillance policière mais aussi pour de la surveillance ou de la reconnaissance techniques.

Réseaux sociaux et GAFA

Il y a 15 ans, on ne parlait pas de Facebook, et Google n'avait guère plus de 5 ans.
Depuis c'est la croissance détonante de ces nouveaux géants.
D'énormes possibilités d'échange et de recherche d'informations.
Et des aspects qui peuvent plaire ou fortement déplaire.
Diffusion ultra-rapide des informations, quelques secondes ou minutes, qu'elles soient vraies... ou parfaitement fausses.
Une forme d'ubiquité donnée à l'humanité, grâce aux réseaux sociaux et à leurs messageries instantanées, mais qui favorise aussi un isolement physique, narcissique.

La possibilité d'accéder à des informations de toutes sortes, et sur n'importe qui ou presque, mais aussi un fichage généralisé et profond : vos données, vos photos, vos amis, vos actions, vos centres d'intérêt, vos déplacement, votre comportement...

Reconnaissance des images.

Aujourd'hui il est possible de chercher un individu dans des photos de foule, que ce soit pour des motifs policiers ou non. Vos photos sont automatiquement indexées selon les visages de vos supposés amis qu'elles contiennent.  Qui n'a pas été surpris de découvrir dans la galerie de portraits affichée par l'application, la tête que l'on pensait oubliée ? (Encore que le port de postiches, de barbes ou le lunettes garantit encore, pour peu de temps, une certaine forme d'anonymat).

Traduction automatique

Moins problématique au premier abord, la traduction automatique est entrée dans la vie courante. Babel c'est fini, ou presque.
Un européen et un asiatique qui ne connaissent que leur langue, mais qui ont sur leur smartphone l'application magique, peuvent presque dialoguer, s'écrire...

Plate-formes d'intermédiation

Qu'èsaco ? Ce sont tous les sites qui permettent de mettre en relation une offre et une demande, quasiment sans autre intermédiaire... que les plateformes elles-mêmes. Suivant les modèles, celles-ci se rémunèrent par la pub plus ou moins ciblée, le prix des annonces et/ou des abonnements payés par les offreurs et/ou les demandeurs.
Elles sont multiples : le Bon Coin, Amazon, Uber, Meetic ... et se multiplient dans tous les domaines, et particulièrement celui du commerce, où elles élargissent le concept de commerce en ligne.
La virtualisation des intermédiaires grâce à la plate-forme contribue à élargir considérablement l'offre ou la demande disponibles, de fluidifier le marché, de diminuer les coûts d'intermédiation, de gagner du temps. À condition de savoir se servir d'internet... voir discussion plus haut.
Comme indiqué dans l'article précédent, on constate des gains de la productivité réelle, même s'ils peuvent se traduire monétairement par une baisse apparente du PIB. La virtualisation de la rencontre entre offre et demande, se traduit par une diminution des déplacements, et contribue à réduire l'empreint écologique. Et encore plus quand elle permet de donner une nouvelle jeunesse à des produits qui auraient dormi dans un grenier ou fini à la déchetterie.
Mais évidemment, il y a d'autres conséquences.
La virtualisation des intermédiaires se traduit évidemment par une disparition des intermédiaires physiques traditionnels. Autrement dit, le petit commerce souffre, et les grandes surfaces ou les centres commerciaux fanent en périphérie des agglomérations.
D'où diminution des emplois dans le commerce physique, et, concomitamment, création d'emplois encore moins qualifiés de livreurs et de manutentionnaires. Avènement d'une nouvelle race de travailleurs, encensés en tant qu'auto-entrepreneurs (la fin du salariat, n'est-ce pas), mais qui rappelle furieusement les tâcherons et les journaliers d'antan, étroitement dépendants du donneur d'ordre.
Globalement, précarité accrue et disparition d'emplois intermédiaires aggravant la fracture sociale.

Automatisation du paiement en grande surface

Logiquement, les grandes surfaces réagissent et cherchent à réduire leurs coûts de différentes façons, et à réduire le temps passé par le client pour faire la queue et payer : il faut renforcer l'attractivité de ces hangars. D'où une débauche de recherche pour espionner le caddy du client, le faire casquer rien qu'en le reconnaissant en train de fourrager dans les étals ou sur le point de sortir. Vous êtes ponctionnés après reconnaissance de votre bonne mine !
Bien entendu, le nombre de caissières sera réduit, voire annulé, mais votre visage et vos habitudes d'achat seront archivés dans les serveurs du magasin.

Dans l'article suivant : si le pire n'est jamais sûr, il est néanmoins probable.

18 Productivité et TICs

Un article qui ne voulait pas accoucher, sur l’éthique des TICs, qui seraient à la fois les meilleures et les pires des choses.

Finalement 3 articles dont voici le premier : TICs et productivité.

Le suivant devrait traiter : « les TIC, l’IA : diaboliques, angéliques ? ».

Et enfin la rupture TIC du troisième millénaire conduira-t-elle à une nouvelle guerre du feu ?

Pour l’instant, parlons économie, et d’abord microéconomie.

Il y a eu une phase de doute sur le lien entre productivité et investissement dans les TIC aux alentours des années 2000. En fait aujourd’hui, le doute n’est plus de mise, en particulier parce que dans un même secteur on observe une corrélation forte entre investissements d’une entreprise dans les TICs et sa performance.

Mais il faut avoir en tête un certain nombre d’éléments. Les gains de productivité varient selon les secteurs d’activité et évoluent dans le temps. Dernièrement les gains semblent être surtout dans les services, par exemple bancaires.

Ensuite les projets TICs amènent rarement des gains s’ils ne sont pas inscrits dans une réingénierie des processus et des savoirs de l’entreprise. Dans le temps, l’idée que à laquelle je tiens, était justement que, côté métier, il n’y a pas de projets TICs : il n’y a que des projets « métier » avec une composante TIC. Faute de quoi l’échec ou le semi-échec sont garantis. Et les coûts d’investissement échoués font évidemment baisser les ratios de productivité des TICs.

Il faut pouvoir aussi mesurer la productivité ramenée par exemple à l’heure de travail : or une partie de la productivité se traduit par une plus grande flexibilité et une plus grande qualité de la production des biens ou des services : on ne sait pas très bien ni mesurer ni valoriser ces facteurs.

Et attention, on sait mesurer dans certains secteurs la baisse de main d’œuvre à production constante : mais si l’on mesure la productivité en la ramenant aux coûts salariaux, on risque d’être déçu. En effet les diminutions d’effectifs affectent essentiellement les salariés aux salaires inférieurs ou intermédiaires et l’on sait qu’une robotisation se traduit par des embauches de cadre et de techniciens plus diplômés, et donc payés plus cher : la masse salariale diminue mais moins relativement que le nombre d’heures de travail, toutes catégories confondues.

Autre point : les changements de paradigme permis par les nouvelles techniques compliquent aussi les analyses des gains en productivité. Ainsi si l’on prend le commerce, les gains permis par les TICs au niveau des commerces traditionnels sont très faibles. Cependant on assiste à une explosion de la vente en ligne : les gains de productivité ne peuvent être appréciés qu’en incluant ce nouveau paradigme dans l’analyse du secteur commerçant.

Je me suis intéressé essentiellement aux gains de productivité par rapport aux heures de travail. Mais les TICs permettent aussi des gains de productivité par rapport au capitale.  Par exemple, ils permettent de produire à flux tendus, ce qui permet d’éviter les stocks de biens intermédiaires et donc de baisser le capital circulant.

Côté macro-économie,

il y a un certain consensus aujourd’hui sur le fait que les TICs ont permis des gains de productivité, mais moins que ce que l’on attendrait.

S'il est déjà délicat de mesurer l’impact des TICs sur la productivité pour un secteur de production donnée, ça l’est encore plus au niveau global. On se heurte de plein fouet à l’ambiguïté du thermomètre PIB. Le plus souvent, en effet, les calculs sont faits grosso modo en divisant ce PIB par un nombre d’heures travaillées.

Or si la production des biens matériels est assez bien connue, une partie des services est peu ou mal mesurée. Par exemple, pour les services non-marchands, assurés par les collectivités et l’état, les montants sont évalués à leur coût de revient. Supposons qu’un coût de baguette magique Macronien permette de doubler les services rendus : à prix de revient équivalent, ça ne fera pas augmenter le PIB d’un iota. Et même plus, si l’on en profite pour réduire le nombre de fonctionnaires, le PIB baissera, et les gains de productivité... baisseront.

Globalement, en réalité, on retrouve les critiques qui sont faites au PIB quand il s’agit d’évaluer les coûts et les bénéfices des démarches environnementales. Exemple bien connu des Shadocks : pour augmenter le PIB il suffit de payer les uns pour faire des trous et les autres pour les boucher. Gaspiller fait monter le PIB, et encore plus si cela génère plus de déchets qu’il faudra traiter.

À l’inverse, si vous prenez des plates-formes d’intermédiation emblématiques comme BlaBlaCar ou Lebon Coin, la valorisation de leurs services se fait vraisemblablement au prix de vente de leurs services (abonnements, ou coûts des annonces).

Or leur valeur ajoutée n’est pas là et n’est pas comptabilisée : moins de transports traditionnels, une réutilisation massive de biens un peu défraîchis, utilisables, qui sans cela auraient fini au fond d’un grenier ou dans une benne à ordures.

Et non seulement ces économies ne sont pas comptabilisées, mais en plus elles contribuent à baisser le PIB et donc la productivité globale !

Autre point. En principe on raisonne à euros constants : on enlève l’inflation de l’augmentation du PIB. Et dans l’autre sens, mais pas toujours, on corrige, pour tenir compte de la baisse des biens ou services produits.

Mais très rarement tient-on compte des améliorations des produits ou services. Si l’on regarde les TICs, la puissance de calcul, ou le volume de données transmises, ramenés à l’euro

d’achat ont explosé en une génération. Les PCs d’aujourd’hui ont la puissance des gros bouzins d’antan pour un coût ridicule à l’aune des anciens monstres. Il est vrai que c’est moins marquant dans la plupart des autres secteurs, ce qui explique que les TICs sont quasiment le seul secteur économique ou quelques économistes ont tenté de tenir compte de cette véritable explosion.

Bref, ce n’est pas parce que le PIB stagne que le niveau de vie baisse ou que la productivité réelle n’augmente pas !

La suite au prochain numéro.

17 "Le numérique à l'origine d'une nouvelle fracture sociale"

Pour ceux que le sujet intéresse, je ne saurais trop vous recommander la lecture d'un article du Monde, intitulé : "Le numérique à l'origine d'une nouvelle fracture sociale"

Si, l'article est à mon sens assez objectif et équilibré, il explique bien mieux que je n'ai pu le faire dans mon blog, que si le numérique, incontestablement, crée de nouveaux emplois, il en supprime bien d'autres, essentiellement "intermédiaire". Des statistiques étayent cette thèse. Je me permets de citer trois passages,

S’il crée des emplois, le numérique en supprime aussi. Surtout, il a un autre effet pernicieux sur l’emploi : il le transforme, et pas forcément dans le bon sens. « Dans nombre d’entreprises du numérique, c’est 10 % d’emplois qualifiés et 90 % de gens qui font des cartons », rappelle abruptement Jean-Hervé Lorenzi, le président du Cercle des économistes.

« Extrême bipolarisation »

David Autor, professeur d’économie au Massachusetts Institute of Technology (MIT), a le premier théorisé ce phénomène, dans un article paru en 2013, « The Growth of Low-Skill Service Jobs and the Polarization of the US Labor Market ».
Il y explique en substance que la digitalisation supprime les emplois intermédiaires, remplacés par les robots ou des algorithmes, et crée un monde du travail « en sablier », avec, en bas, les emplois peu ou pas qualifiés (caissières, agents d’entretien, manutentionnaires dans les entrepôts, caristes…) et, en haut, les emplois à forte qualification (ingénieurs, développeurs, juristes, financiers…).

 Deuxième passage :

Autrement dit, le numérique, loin d’atténuer les inégalités, ne fait que les creuser, au détriment de la classe moyenne, déqualifiée et paupérisée. « La bipolarisation est extrême puisque à un emploi fortement qualifié peuvent être reliés jusqu’à cinq emplois peu qualifiés », souligne Patrick Artus, chef économiste chez Natixis.
Le mouvement se généralise. Aujourd’hui, il n’est pas beaucoup de métiers qui échappent au rouleau compresseur du digital. L’Organisation de coopération et de développement économiques (OCDE) a évalué le risque : moins de 10 % des emplois dans la zone OCDE pourraient, à court ou moyen terme, être totalement remplacés par des robots. Mais 25 % pourraient l’être partiellement. Entre 50 % et 70 % des tâches seraient réalisées par des machines ou des algorithmes, le reste du travail étant encore effectué par l’homme.

Lire aussi :   L’accès aux technologies et leur maîtrise, premier facteur d’exclusion

Troisième passage :

Emergence d’un « cybertariat »

Face à ce phénomène, certains n’hésitent pas à parler de l’émergence d’un « cybertariat » – une sorte de prolétariat de l’économie numérique. L’essor des plates-formes, dominées par les acteurs globaux que sont les GAFA (Google, Apple, Facebook, Amazon) et autres Uber, fait pencher davantage encore la balance en faveur du capital.
« Ces entreprises superstars sont très efficaces et, avec des rendements croissants, elles obtiennent des rentes de monopoles, analyse Patrick Artus. Les nouvelles technologies contribuent ainsi à la hausse des marges bénéficiaires des entreprises et à la baisse de la part des salaires dans le revenu national. »

Le dernier point me paraît crucial et rejoint les analyses de Picketty : la part des revenus du "capital" s'accroît au détriment des revenus du travail,  ce qui se traduit par une montée des inégalités de revenus, mais surtout des patrimoines. Ce qui est vrai en France, même si l'inégalité des revenus croît moins qu'ailleurs. Inutile de préciser que cette montée des inégalités, accrue par le développement non contrôlé du numérique, porte en germe une fracture sociale explosive, aussi bien au sein des pays qu'entre les pays.

16 Villani, un rapport plutôt complet

Le rapport Villani est indubitablement un rapport de qualité.
Bien  documenté, il aborde la plupart des thèmes et problèmes liés à l'IA.
Quelques points. 

IA et big data

Les développements actuels de l'IA sont très souvent liés à l'exploitation de la masse énorme des données numérisées. En particulier les données personnelles. Villani prend acte du fait que ce sont les GAFAM qui maîtrisent quasi complètement les données personnelles, qui sont probablement le gisement dont l'exploitation va bouleverser la vie économique, sans parler de notre vie tout court. Partant du principe que l'on ne saurait rattraper les GAFAM, il cherche des domaines autres, les données des administrations, les données de santé, Mais l'intérêt des données administratives est plus limité que certains ne l'espèrent. Quant aux données de santé, elles posent des problèmes éthiques : l’anonymisation est techniquement problématique, ôte de leur intérêt, si bien que l'on se heurte à l'exigence sociétale de confidentialité des données médicales.

Il y a peut-être d'autres voies à trouver, comme l'exploitation des données que vont massivement rapporter les objets connectés qui envahissent nos maisons, nos voitures...

IA et éthique 

Si le rapport a le mérite  d'aborder ce point, il n'est pas sûr que la création d'un nouveau comité d'éthique change grand chose. Il n'évitera pas le développement des recherches sur les robots ou les drones tueurs, surtout si ces recherches se font hors d'Europe. 

Il n'évitera pas non plus la destruction d'emplois ou leur appauvrissement. La rentabilité à court terme prime dans nos sociétés capitalistes : chanter les mérites du contact humain n'évitera pas les déshumanisations en cours. Il suffit de regarder ce qui se passe avec nos services publics pour le comprendre : tout se passe par internet, les traitements sont semi-automatisés, les contacts directs avec les agents administratifs sont difficiles à obtenir. Et le mouvement ne fait que commencer ! Victimes : ceux, encore nombreux, qui ne maîtrisent pas les outils informatiques.

Développer la recherche

Avec une proposition phare : pour permettre le développement de la recherche, et réduire la distance entre la recherche et ses applications, autoriser les chercheurs professionnels à passer 50% de leur temps en entreprise. Il faut certainement plus de souplesse  qu'aujourd'hui. Le problème n'est pas spécifique à l'IA. On va retrouver les vieux débats, mais toujours actuels, sur la façon de financer la recherche, sans l’assujettir aux intérêts privés.

Améliorer la transparence des "décisions sous influence" d'IA

Quand on vous refuse un prêt, une location, une place dans une université, vous aimeriez bien savoir pourquoi. 

Déjà avec un algorithme décisionnel classique, ce n'est pas simple : plus l'algorithme est complexe, et plus il est difficile d'expliquer son fonctionnement.

Si l'on y introduit des heuristiques, c'est à dire des méthodes dont on constate statistiquement l'efficacité, mais dont on ne peut pas prouver l'optimalité, c'est encore plus dur.

Mais avec l'essor des réseaux neuronaux, ça se complique encore.

Certes on peut observer, mieux que dans un cerveau humain, la façon dont les neurones sont activés, comprendre plus ou moins comment un réseau de neurones particulier est arrivé à sa conclusion, mais de là à en justifier le résultat...

Pour le chercheur, cette analyse rétrospective peut être source d'enseignement : comprendre par exemple comment le réseau de neurones correctement entraîné parvient à discriminer des visages. Ce qui permet d'ailleurs de construire des réseaux de neurones "précablés" encore plus efficaces, ressemblant de plus en plus à la façon dont notre propre système nerveux fonctionne : mélange de précablage et d'apprentissage.

Mais nous sommes faillibles ! Et les réseaux neuronaux sans doute encore plus aujourd'hui.

Une des raisons en est  la phase d'apprentissage.

Dans le cas de ce que l'on appelle l'apprentissage "supervisé", on fait avaler à notre cerveau artificiel une masse énorme de cas, avec les conclusions qu'il faut en tirer à chaque fois. L'algorithme (de descente) utilisé, depuis les années 70, et constamment perfectionné, est un algorithme dit de rétro-propagation du gradient (d'une fonction de pertinence). Le plus souvent, les cas sont présentés de façon aléatoire, si bien que l'on peut parler de gradient stochastique. Pour avoir mis en œuvre ce type d'algorithme dans les années 80, j'en ai tiré quelques enseignements. D'abord, pour arriver à le faire converger, il faut un nombre pharamineux de cas. Et évidemment, plus il y a de variables à optimiser (en l'occurrence les coefficients des neurones), plus ce nombre est important.

On peut se retrouver piégé sur des optimums locaux, assez loin d'une bonne solution (cela dépend beaucoup du domaine). Et l'ordre de présentation des cas peut conduire à des résultats différents.

Et bien souvent on oublie en plus un facteur clé : si l'ensemble des cas est en fait biaisé, eh bien ! le résultat le sera aussi. Si volontairement ou non, votre ensemble d'apprentissage comprend des contre-vérités, vous obtiendrez un "esprit faux". Les chercheurs se sont amusés à le montrer. 

Bref justifier une conclusion d'un réseau neuronal en général sera impossible : il faudra plutôt à vivre avec ! Nous mêmes, nous ne sommes pas toujours des exemples de fiabilité, et nous arrivons pourtant  collectivement à travailler efficacement ensemble !

15 Peigner le mammouth

J'ai déjà eu l'occasion d'écrire que la révolution technologique actuelle,  - informatisation + robotisation - allait bouleverser la société probablement encore plus que la première révolution industrielle. Non seulement les modes de production et d'échanges changent, mais le changement lui-même s'accélère. Là où il fallait une génération pour qu'un changement s'installe, c'est en quelques années que des emplois se créent puis sont détruits.

Aujourd'hui et demain, ce sont des emplois intermédiaires qui sont massivement détruits : dans les banques et dans nombre de services.  La destruction d'emplois n'épargne pas non plus des emplois relativement peu qualifiés comme ceux de caissier dans la distribution, d'agents des postes.

Il est clair que le chômage massif actuel ne se résorbera pas sans une révolution dans les modes d'organisation du travail et de redistribution des revenus. Mais ce blog n'est pas trop le lieu pour développer ces points.

Là où en fait je voulais en venir, c'est qu'il est de plus en plus vain d'espérer que les formations collèges-lycées fournissent un bagage qui suffira pour s'assurer un métier durable.

Il faut surtout aider les lycéens à acquérir ce qui leur permettra de s'adapter, de se former plus tard plus spécifiquement. Plutôt que transmettre un savoir, apprendre à apprendre, à conceptualiser, à trouver les informations, et les organiser. Plutôt que de remplir les têtes avec des dates, des anecdotes, des recettes de cuisine, apprendre à apprendre, apprendre à structurer une pensée.

Je ne veux pas dire par là qu'il faille négliger les compétences de base comme le français, le calcul : aujourd'hui bon nombre d'élèves qui arrivent tant bien que mal au collège, puis au lycée ont des lacunes énormes dans ces matières, ce qui obère complètement la suite de leurs études. C'est l'une des faillites de notre système éducatif, qui loin d'estomper les inégalités entre élèves, a tendance à les aggraver. L'essentiel se joue dès la maternelle et en primaire, Mais cela mériterait beaucoup plus qu'une page dans un blog, et je ne me sens pas vraiment qualifié pour cela.

 Quoi qu'il en soit, et en supposant cet énorme problème résolu, en secondaire, plutôt que transmettre un corpus plus ou moins clos, il faut en donner le squelette et apprendre aux étudiants à ajouter eux-mêmes la chair autour de ce squelette. Aujourd'hui tout est en ligne ou presque. Encore faut-il savoir le trouver : bien utiliser les moteurs de recherche (un sous-produit de l'IA, certes), trier le bon grain et l'ivraie qu'ils permettent de ramener.

Apprendre à raisonner sans s'enfermer dans une discipline, ce qui suppose développer l'interdisciplinarité malgré les fortes réticences du corps enseignant, figé dans un découpage en disciplines qui s'ignorent largement. Apprendre à raisonner tout court et à comprendre le nécessaire mouvement dialectique de la pensée, apprendre aussi à construire des analogies fécondes.

L'urgence est là, mais sa perception semble faible, à voir les évolutions des programmes passées et prévues.

14 IA sur tous les tons

C'est fou le nombre de gens qui parlent d'IA. Une quantité impressionnante de petits maîtres répètent à l'envie les mêmes choses, plus ou moins bien assimilées, confondant bien souvent IA et réseaux neuronaux . De grands maîtres quant à eux, agitent le spectre d'IA dominatrices réduisant les humains à une déchéance oisive et miséreuse.

Des IA limitées.

NON, l'IA n'est pas encore à un degré de maturité telle que des IA contrôleraient des pans entiers de l'humanité. Certes l'apprentissage profond, appuyé sur des puissances de calcul colossales et des bases de données accessibles immenses a permis des percées spectaculaires dans un grand nombre de domaines, et pas seulement le jeu de go : des domaines entiers sont ouverts, dans les banques, les assurances, la médecine, voire la justice, la connaissance fine des préférences des consommateurs, la traduction automatique et la reconnaissance des images, des visages, de la parole ...

Mais pour autant, une machine IA, spécialisée dans un domaine, ne sait pas transposer le savoir de ce domaine dans un autre, même voisin. Si elle est championne de GO, elle ne saura pas pour autant jouer aux échecs, tant que l'on ne l'aura pas dressée à cela. Et réciproquement.
Si l'Analogie, comme le pensent Hofstadter et Sander, est le " cœur de la pensée ", les machines en sont très loin : or effectivement l'analogie maîtrisée est un des moyens les plus efficaces et est indispensable  pour construire des nouveaux concepts, ou étendre des concepts à d'autres domaines.

De même la capacité d'une machine IA à justifier ses conclusions est des plus limitée : les réseaux neuronaux, une fois "instruits" ont certes la possibilité de réactualiser leur apprentissage sur la base des scores de leurs réponses, mais ce ne sont en définitive que des machines à interpoler et à extrapoler. Une machine dont l'ensemble d'apprentissage sont des propos baroques (ou racistes) sortira des propos baroques (ou racistes).

Pour aller vers ce que certaines appellent l'IA générale, il faudra passer à un cran bien supérieur, avec des capacités de méta-analyse. Un peu comme passer la logique des prédicats du premier ordre à celle des prédicats du second ordre, voire plus si affinités. On n'a pas encore le bootstrap pour y arriver !

L'IA destructrice ?

Le vrai risque aujourd'hui n'est pas de voir l'humanité dominée par cette IA "générale".
Le vrai risque aujourd'hui, comme je l'ai déjà écrit, c'est une destruction massive d'emplois, moyennement qualifiés, dans le secteur tertiaire et les services.
Certes les bons esprits n'arrêtent pas de répéter que l'IA est un formidable atout pour les entreprises qui savent l'utiliser, et en plus leurs salariés vont in fine bien s'y retrouver ! Et le problème, c'est que c'est souvent vrai ! Alors, où est le mal ? Et bien, tout simplement, ce qui est bon d'un point de vue microéconomique ne l'est pas forcément sur le plan macroéconomique ! Pour une entreprise qui réussit et s'étend, combien vont disparaître ? Certaines entreprises grossiront en termes d'emplois, éventuellement plus "riches", mais globalement le nombre d'emplois va diminuer.
Autre erreur d'analyse courante : comme une machine IA peut rarement remplacer complètement un employé, on en conclut que le nombre d'emplois détruits est finalement modeste. En oubliant qu'il faut raisonner aux niveaux des tâches accomplies, et non des missions actuelles d'un employé donné. La réorganisation des chaînes de production, la redéfinition des emplois, si elles sont bien menées en même temps que l'arrivée des robots IA permettent de remplacer le "capital humain" par du "capital numérique". 

Brûler les machines ?

Peut-être pas. Le vrai problème est politique  : quelles sont les activités des humains de demain ? ou comment partager le travail ?
Comment éviter que le nombre des laissés pour compte ne s'accroisse pas ?
Comment faire en sorte qu'une petite minorité n'accapare pas le savoir et les richesses générés par nos robots numériques ?
Oui il faut repenser la formation, c'est évident, mais sans oublier que former des bacs + 5  chômeurs n'est pas un but en soi.