Orientation universitaire, prêts bancaires : l’intelligence artificielle (IA) est au cœur de plus en plus de décisions individuelles. En témoignent les bacheliers qui ont passé l’été suspendus aux caprices de Parcoursup, sans y comprendre grand-chose. En effet, le système technique qui sous-tend l’IA a tout d’une boîte noire, dont émergeraient des oracles débarrassés de tous les aléas humains. Or, il n’en est rien.
En 2015, des chercheurs de Carnegie Mellon ont découvert que dans les offres d’emplois sponsorisées par Google Ad, la grille de salaire proposée pouvait différer selon que vous êtes un homme ou une femme. En fonction de la couleur de votre peau, les logiciels de reconnaissance faciale auront plus ou moins de facilité à vous identifier.
Les algorithmes sont empreints des stéréotypes de ceux qui les conçoivent. Les développeurs définissent pour un système donné les réactions attendues dans différentes configurations, en fonction de leurs valeurs et de ce qu’eux-mêmes s’attendent à observer.
Le technicien aux commandes
Le processus est biaisé depuis ses prémices. Dans le cas où la conception ne se fait pas ex nihilo, l’arbitraire n’est jamais loin non plus. On recourt alors à l’apprentissage de comportements fondés sur des données historiques… mais pas forcément représentatives ! Dans le cas de la reconnaissance faciale, si la base de données qui fait référence contient plus de visages d’hommes blancs que d’autres types de visage, l’algorithme sera tout aussi empreint de ce biais.
En 2000, le juriste américain Lawrence Lessig écrivait dans son article « Code is law » que c’est le code qui façonne le cyberespace, définit son architecture, et au-delà, nos fondamentaux de liberté. Deux choses ont changé depuis. D’une part, depuis l’essor d’Internet et l’avènement des smartphones, le cyberespace n’est plus une entité séparée du monde réel.
D’autre part, les systèmes d’intelligence artificielle se sont massivement généralisés pour s’installer peu à peu dans tous les pans de l’activité humaine (finance, santé, éducation…). Jusque-là, ces domaines ont toujours été régis par des lois votées par des députés. Aujourd’hui, nous sommes à un tournant : ce n’est plus tant le législateur que le technicien qui est aux commandes. A travers des systèmes automatisés qu’il développe, c’est lui qui définit les nouvelles normes.
Il n’y a rien là de bien inédit : les ingénieurs ont toujours indirectement façonné la société au gré de leurs réalisations. Le train, par exemple, a remodelé notre conception des territoires. La technologie, quand elle est de rupture, bouleverse les modes de vie et démocratise des usages. Ce qui est inédit avec les nouveaux systèmes, c’est la « personnalisation de masse ».
Une part de subjectivité
Là où, auparavant, l’innovation touchait l’intégralité d’une population de manière indifférenciée, l’intelligence artificielle est pourvue d’une capacité de ciblage extrêmement fine, jamais atteinte jusqu’alors. Les concepteurs de ces systèmes ont une responsabilité bien plus lourde qu’assurer une maintenance technique. Législateurs modernes, ils intègrent une part de leur subjectivité dans les lois qu’ils édictent et qui impactent la vie des individus.
Le danger d’un nouveau positivisme nous guette, qui porte aux nues la technologie comme fin en soi. Selon les mots du philosophe Herbert Marcuse, la technique, « domination sur la nature et sur les hommes », est le reflet de ce que la société entend faire des individus. Dès lors, il nous appartient à tous de définir une éthique du progrès technologique, de sorte à servir les intérêts humains et éviter toute dystopie.
Des mouvements comme Women in AI et Black in AI militent pour l’intégration dans les secteurs de la « tech ». Nous ne pouvons qu’encourager ces prises de conscience ! En effet, l’intelligence artificielle sera ce que les individus en font. Dans un avenir proche, nous aurons tous accès aux outils qui permettent de concevoir des systèmes d’IA.
La question qui se pose dès lors est de veiller à ce que les valeurs éthiques en cours de définition chez les experts de la tech se répandent au même rythme que les nouveaux outils. C’est notre défi à tous de construire une intelligence artificielle au service du bien commun.
Par Matthieu Sénéchal, cofondateur de mieuxplacer.com, site de placement financier.