Raymond Morel
2797 days ago
Gerd Leonhard, analyste vedette: «Nous transférons notre pouvoir aux machines»
Face aux suppressions massives d’emplois, le «futuriste» Gerd Leonhard, un des 100 leaders en innovation technologique les plus influents, craint que l’homme ne devienne de plus en plus une machine
Ancien guitariste professionnel en Californie, Gerd Leonhard, basé à Zurich, a très tôt anticipé la quasi-suppression de l’industrie de la musique. A l’inverse du futurologue, lequel prévoit l’avenir, le futuriste rassemble des informations sur l’avenir et conseille les entreprises, dont d’innombrables médias – comme le «New York Times» – sur la meilleure manière de se préparer à l’avenir. Le 8 septembre aura lieu à Londres le vernissage de son nouveau livre, «Technology versus Humanity». Celui-ci plaide pour un comité d’éthique en technologie et la création de nouveaux droits humains, comme le droit d’être inefficient et lent, le droit d’engager des hommes plutôt que des machines et le droit d’être déconnecté.
Le Temps: TripAdvisor, Airbnb, Google Maps nous aident quotidiennement. Pourquoi craignez-vous que nous nous transformions en machines?
Gerd Leonhard: Ces instruments ne transforment pas l’homme en machine tant qu’ils sont extérieurs à nous. Mais s’ils sont non seulement meilleurs, plus rapides et présents sur notre corps, comme le sont les technologies portables, ils se substituent aussi progressivement à notre propre cerveau. Le remplacement de la communication humaine par la machine est extrêmement rapide. Les apps de sites de rencontres évitent aux gens d’avoir à faire connaissance directement, ce qui est compliqué et exigeant, et permettent d’aller droit au but. Comme le développement technologique est exponentiel, en vertu de la loi de Moore, nous nous comporterons progressivement comme des machines dans cinq ans.
- Nous pouvons nous adapter. Pourquoi ne pas adopter une stratégie de «laisser-faire»?
- Si la technologie se développe de façon exponentielle, les problèmes de sphère privée ou de protection des données seront remplacés par des débats beaucoup plus graves. Avec les futures technologies, dans les cinq ans à venir, dans les supermarchés, les taxis et les centres d’appel, 80% des employés seront licenciés et remplacés par des machines. Les effets secondaires seront d’autant plus forts en l’absence d’argent liquide, par exemple sur le traçage des individus, la protection des données et la surveillance. Les petits soucis actuels seront mille fois plus aigus. Pensez à la manipulation du public par les réseaux sociaux! Grâce a son algorithme, le plus grand média du monde, Facebook, ne dispose que d’une dizaine de rédacteurs. Mais on parle peu des aspects humains liés aux risques de manipulation à grande échelle. Aujourd’hui, les gens estiment prendre garde à leurs informations sur Facebook, mais ils n’ont aucune idée du «comment» et du «pourquoi» de certaines informations qui arrivent sur leur fil d’actualités. Nous sommes au tout début de la courbe, mais nous externalisons déjà de plus en plus de décisions. Dans l’armement, des robots tuent des hommes sans intervention humaine. Nous sommes en train de transférer l’autorité aux machines. IBM dispose déjà d’une machine capable de décider s’il faut licencier des collaborateurs («people analytics»)…
- La destruction créatrice s’est toujours traduite par une hausse nette de l’emploi. Pourquoi s’inquiéter?
- Cette fois, il en ira autrement à cause de la capacité d’apprentissage des machines. Celles-ci n’ont plus besoin d’un humain pour les programmer. Dans la santé, des systèmes sont capables de lire toutes les analyses ayant existé sur une maladie, par exemple 500 millions d’informations, et d’en déduire une nouvelle règle thérapeutique. On crée une sorte de super-docteur qui remplacera 80% des processus utilisés par un médecin. Non seulement les machines apprennent d’elles-mêmes, mais elles sont aussi connectées à d’autres machines. Elles peuvent rendre inutiles quantité d’emplois.
- Pourquoi lancez-vous un avertissement éthique?
- Nous devons accepter les nouvelles technologies parce qu’elles nous rendent plus efficaces, plus heureux et plus rapides. J’ai une attitude fondamentalement positive à leur égard, mais nous ne devons pas devenir des machines. Si nous le devenions, nous serions amenés à préférer une relation avec une machine plutôt qu’avec un homme. L’application de rencontres me dit: «Ne fais pas ce travail, laisse-le-moi». Il en va de même de l’apprentissage des langues, bientôt rendu inutile par les applications de traduction immédiate.
A lire aussi: Un Suisse dans le top 100 de «Wired»
- En cas de doute, au niveau de la santé par exemple, l’être humain ne préfère-t-il pas le conseil d’un autre être humain?
- C’est souvent le cas lorsque la technique n’est pas encore assez au point, par exemple avec Google Translator. Mais ces technologies seront si extraordinaires que nous les adopterons. Elles seront toujours correctes et rapides, et ne seront jamais fatiguées de nous conseiller.
- Comment rendre attentifs les groupes technologiques?
- Nous devrions rendre les entreprises responsables de leurs actes et des conséquences de ceux-ci, comme les groupes pétroliers à l’égard de leurs dégâts environnementaux. Je pense ici à la surveillance des données, à la sécurité, à la dépendance. Facebook dispose de 400 neurologues et autres scientifiques dont la mission est de trouver des moyens encore plus efficaces de rendre les gens dépendants de ce réseau social et qui font des recherches pour que les utilisateurs ne quittent pas le réseau social. Les entreprises doivent considérer ces effets comme des externalités négatives.
- Comment peut-on mettre en œuvre ce programme?
- Nous ne devrions pas accepter de créer les mécanismes qui nous rendent prisonniers et dépendants. Internet est en train de remplacer la cigarette. Je ne suis pas favorable à un interdit, mais à un équilibre. Si je permets à une entreprise d’être tellement parfaite que l’utilisateur ne la quittera pas, on entre dans le même schéma que celui des fabricants de cigarettes.
- Qu’en est-il de la protection des données?
- Nous avons aussi besoin d’une protection globale des données. Les règles pour Internet sont américaines. Donc, de facto, il n’y en a pas. Aux Etats-Unis, depuis l’attentat du 11-Septembre, il n’y a plus de protection des données pour des raisons de sécurité nationale.
- Quelle est la probabilité que les Etats-Unis cèdent leur droit à la définition du droit?
- Aux Etats-Unis, tout ce qui permet de gagner de l’argent et qui fonctionne passe avant d’autres considérations, par exemple éthiques. En Europe, c’est l’inverse. La sécurité collective, la culture, la tolérance importent davantage que les gains financiers éventuels. Si nous poursuivons sur la voie actuelle, l’avenir de l’humanité sera confié aux Américains et aux Chinois. Dans ces deux pays, tout ce qui peut être fait le sera. Le processus devient dangereux à cause de trois domaines sensibles: la manipulation génétique, l’intelligence artificielle et l’ingénierie géologique (changer la météo). Mieux vaut ne pas s’y aventurer.
- Comment introduire des comportements éthiques dans ces trois questions?
- Face à la manipulation génétique, il faut adopter le principe selon lequel seules sont admises les technologies qui ne cherchent pas à changer l’être humain. La technologie peut être bonne si elle permet d’éliminer le cancer, mais elle ne l’est pas quand il s’agit de programmer des surhommes. Une règle devrait exister qui autorise un traitement contre le cancer, mais interdit la création d’un homme de trois mètres ou un homme hybride. Nous ne devrions pas accepter de modifier un homme, par exemple avec un implant ou une interface informatique, pour qu’il travaille mieux, plus longtemps et plus vite. Nous avons des règles de non-prolifération nucléaire qui sont respectées. Il faut les reproduire dans d’autres domaines, comme l’intelligence artificielle. Nous n’en sommes pas au point de non-retour. Mais mieux vaut se décider avant le premier accident.
A lire aussi: Un futurologue demande de s’opposer à l’approche numérique américaine
- Vous évoquez dans votre livre l’inégalité croissante entre des riches qui pourront se payer une forte prolongation de leur vie et des pauvres qui ne pourront pas se protéger de la malaria. Est-ce la plus grande inégalité qui nous attend?
- Si cela se produit, effectivement. Cela signifierait la fin du capitalisme. Si la manipulation génétique permet de vivre 150 ans et devient accessible à tous, pourquoi pas. Mais il est impossible d’imaginer ce qui se passerait si elle était réservée à quelques-uns. J’ajoute qu’une manipulation ne nécessite que quelques secondes, même si le développement technologique promet d’être complexe et coûteux.
- Est-ce la reprise d’un rêve de scientifique de vaincre le cancer ou de vivre 150 ans?
- Cela ne sera pas aisé contre le cancer, mais nous n’en sommes pas loin contre le diabète. La technologie permet déjà un contrôle de glucose par des lentilles de contact. Sous l’angle éthique et politique, il faut savoir si nous autorisons une personne qui souffre de la maladie d’Alzheimer à recevoir un implant, et si nous interdisons à quelqu’un désirant réfléchir plus rapidement de recevoir le même implant. Nous arrivons en effet aux limites de l’économie de marché. Dans la manipulation génétique et l’intelligence artificielle, nous sommes engagés dans une course contre la montre.
- Est-ce que la politique peut prendre en main ces sujets?
- Oui. Ces nouvelles technologies créent un nouvel écosystème qui doit être accepté par chacun de nous. Sinon, on court à l’échec. Il n’est pas possible de n’utiliser que la main-d’œuvre la meilleur marché. Nous devons créer un système de valeurs. Google dit ne pas être responsable des conséquences de l’utilisation de sa plateforme. Il en va de même du lobby des armes aux Etats-Unis à propos des décès par balle. Ils doivent pourtant se considérer comme responsables. Nous devons mettre en avant la responsabilité individuelle face à ces technologies et faire appel à l’autorégulation. Mais nous devons aussi créer une éthique. Il faut interdire les armes qui tuent sans intervention humaine. Il faut interdire que les hommes soient constitués à 80% de technologies à la suite de modifications génétiques.
- Comment réagir à un monde sans emploi pour les médecins, taxis, chauffeurs de poids lourds, journalistes?
- Il faut créer des structures dont l’existence ne dépend pas de leur succès financier. Je suis favorable au revenu de base inconditionnel. Cela permet à la personne qui le désire d’écrire un livre, de s’occuper de ses enfants ou d’aider ses voisins. C’est une activité non rémunérée. Le revenu de base inconditionnel est la seule solution face à cette évolution. Les produits et services seront toujours meilleur marché. Regardez les prix de la musique, des films, des informations, des hôtels, des taxis. A l’avenir, l’énergie sera bon marché, tout comme l’alimentation et la médecine. Nous entrerons dans le post-capitalisme parce que la société de consommation atteint ses limites.
- Les innovations n’ont-elles pas toujours été meilleur marché sans causer la fin du travail?
- L’homme, lui, devient cher. Les machines deviennent toujours meilleur marché, mais pas l’homme. C’est le point clé.
- Prévoyez-vous donc une longue déflation?
- Tout à fait. En vertu de la loi de la rareté, l’homme, le temps, l’effort, la créativité sont rares et chères, à l’inverse des machines et de ce qu’elles produisent. Une machine peut produire de la nourriture très bon marché, mais une excellente cuisine sera toujours chère. On assiste à un effet de ciseaux.
- Quelle politique économique adopter face à ces changements?
- Nous devrions réinvestir les revenus tirés des technologies et des machines dans le système. Ces gains ne doivent pas profiter uniquement aux 0,1% les plus riches. Les entreprises qui disposent de ces technologies sont en effet extrêmement profitables. Mais si un groupe technologique supprime 50% des emplois d’un secteur grâce à ses systèmes d’automatisation, il doit payer davantage d’impôts.
- Quels seront les deux domaines les plus sensibles?
- La santé et l’intelligence artificielle. Nous avançons à grands pas vers l’informatique quantique. Un super-ordinateur peut analyser nos gènes en 14 minutes et non plus une semaine, comme un ordinateur moyen. En 2025, et même sans doute avant, nous arriverons au point dit de singularité, lorsque le progrès est défini par une «supra-intelligence» en constante progression. Le risque, c’est la perte de pouvoir humain sur le progrès. Il est important de penser aux conséquences de ce développement et à son contrôle. Google, Tencent, Alibaba, Amazon, Facebook contrôlent notre vie numérique.
- Est-ce que le monde sera plus prospère dans cinq ou dix ans?
- Si nous parvenons à créer les structures permettant aux bénéfices de ces technologies d’alimenter ce nouvel écosystème, et si l’homme réussit à rester humain, nous pourrons vivre mieux, plus sainement et plus longtemps. La faim, la pauvreté, la guerre peuvent être vaincues. Mais il serait paradoxal qu’elles le soient parce que nous serions devenus des machines.
Profil
1961 Naissance en Allemagne.
1980 Philosophie et théologie à l’Université de Bonn.
1985 Musicien et professeur de musique.
1997 Entrepreneur internet.
2002 Futuriste et conférencier.
|