Patrice Leroux: octobre 2018

Le professeur et historien israélien Yuval Noah Harari prétend que l'intelligence artificielle (IA) est susceptible d'affaiblir nos idéaux démocratiques si elle demeure concentrée à l'intérieur de cliques organisationnelles.

Son article Why technology Favors Tyranny apparaît dans la revue The Atlantic d'octobre 2018 consacrée à cette autre question brûlante d'actualité: la démocratie se meurt-elle ?

Selon Harari, l'évolution et le succès des démocraties libérales au XXe siècle sont le fait de conditions technologiques uniques. Ces conditions semblent s'évaporer de plus en plus.

Le libéralisme, au sens large, perd de sa crédibilité auprès des classes moyennes; l'autocratie et la démagogie reviennent en force; le populisme reprend sa vigueur d'antan. Les causes, à la fois nombreuses et complexes, s'entrecroisent avec les bouleversements technologiques actuels.

Les technologies de l'information, dont l'IA, combinées aux biotechnologies peuvent-elles rendre l'économie de marché et la démocratie libérale obsolètes ?

C'est un des dangers dont parle Harari et son corollaire, des classes importantes de personnes qui se percevront de plus en plus comme étant dénuées de pertinence ou sans importance. Bien entendu, l'automatisation et le remplacement des humains par des machines ne sont pas nouveau.

Mais l'IA ne remplacera pas que des tâches dites manuelles mais aussi - et surtout - cognitives, y compris des tâches exigeant de la créativité et des connaissances spécialisées.

Un exemple assez éloquent tiré du monde du jeu d'échecs : le programme AlphaZéro de Google - après seulement quatre (4) heures d'auto-apprentissage - battait le programme Stockfish8! Quatre heures sans l'aide d'un guide humain...(voir un article intéressant à ce sujet ici).

Aux échecs, la créativité n'est donc plus l'apanage de l'humain (ni même d'équipes combinées humains-IA) mais d'un programme d'IA sans aucune intervention humaine. Ce n'est qu'une question de temps avant que l'IA s'immisce dans d'autres domaines telles que la médecine, les finances, la surveillance (déjà commencée)...

Connectivité et actualisation

Par ailleurs, Harari rapporte que l'IA possède aussi deux caractéristiques importantes que l'humain n'a pas: la connectivité et l'actualisation ultra rapide.

Par exemple, si l'OMS décèle un virus ou un laboratoire découvre son vaccin, ni l'un ni l'autre ne peut immédiatement en informer tous les médecins de la planète. Mais une médecine en IA - même avec un milliard de médecins/IA qui veilleraient chacun sur la santé d'un seul patient - pourrait en être informée en une fraction de seconde et même partager son évaluation du virus ou du vaccin.

Cet avantage de la connectivité et de la mise à jour est si importante que le remplacement des humains par des programmes peut avoir un certain sens...

Ce type de bouleversement affectera à coup sûr le monde du travail mais il n'y aura pas de moment charnière unique au cours de laquelle le marché de l'emploi se rééquilibrera.

Certains emplois disparaîtront pour de bon, de nouveaux apparaîtront certes, mais pour disparaître tout aussi rapidement... Dans cette optique, les gouvernements devront penser à des systèmes de rééducation, non pas pour les jeunes mais pour les plus vieux qui devront se réinventer à plusieurs reprises.

En 2050, il y aurait donc un risque réel d'essoufflement intellectuel combiné à la volatilité des emplois, au stress et aux changements technologiques incessants. Dans cette optique, plusieurs classes de personnes pourraient se retrouver fortement démunies tant aux plans économique que politique...

La montée des dictatures numériques ?

Selon Harari, l'IA est à la fois un outil et une arme susceptibles de renforcer davantage le pouvoir des puissants. Dans le domaine de la surveillance, une quantité impressionnante de pays (dont plusieurs pays occidentaux) construisent des systèmes très sophistiqués de reconnaissance basés sur l'IA, entre autres.

Un pays comme la Chine a fait l'objet de ce reportage vidéo de la BBC.

L'auteur rappelle aussi que son propre pays est un des leaders en technologie de la surveillance. Le Citizen Lab de l'Université de Toronto nous le rappelle également dans cet article.

Lorsqu'on pense aux paradigmes qui différencient la démocratie de la dictature, on songe généralement à une opposition entre des systèmes de pensée de nature éthique. Il s'agirait plutôt d'une opposition entre des systèmes de distribution et de partage d'informations et de données.

La démocratie décentralise l'information et les données pour que les décisions soient prises au travers des gens et des institutions. La dictature concentre l'information et les données - donc le pouvoir - en un seul lieu, ce qui peut mener à des prises de décisions douteuses. C'est ce qui expliquerait, entre autres, pourquoi l'économie de l'Union soviétique a toujours accusé un retard important par rapport à l'économie américaine.

Avec l'IA, au contraire, la concentration des informations et des données dans un système centralisé faciliterait l'auto-apprentissage et améliorerait les algorithmes.

Une dictature ou un régime autoritaire qui disposerait d'une base de données contenant l'ADN et le dossier médical de tous ses ressortissants aurait un net avantage au plan de la génétique et de la recherche médicale, par rapport aux autres sociétés dont les données demeurent privées ou décentralisées.

Il se pourrait que certaines technologies favorisent la distribution des informations plutôt que leur concentration - on pense au blockchain par exemple -. Mais on ne sait pas encore vraiment à quel point ce type de technologie peut contrer les tendances centralisatrices de l'IA...

L'enjeu majeur consiste donc à penser aux manières de contrer ou d'équilibrer ces tendances comme on tente de le faire maintenant pour Internet (ici) qui promettait jadis un système décentralisé et neutre...

Pour empêcher la concentration de la richesse et du pouvoir, il faudrait aussi, par le fait même, songer à réglementer la propriété des données et ne pas la laisser entre les mains de quelques oligarchies...

La démocratie se meurt-elle tranquillement ?

Informations complémentaires et intéressantes

Podcast à écouter:

How Tech has Hikacked our Brains (Tristan Harris et Helen Lewis)

https://www.intelligencesquared.com/events/tristan-harris-and-helen-lewis-on-how-tech-has-hijacked-our-brains/