estimated reading time : 38 min

LE MÉDIA POUR COMPRENDRE L’IMPACT SOCIAL DE LA TECH

Nous sommes le 10 novembre 2026, vous lisez Dans les algorithmes

Bonjour à toutes et tous,

Cette semaine, dans le flux des brèves de DLA, on tente de faire un rapide point sur l’IA et son économie , pour observer qu’elle ne profite pour l’instant toujours qu’aux géants de l’IA et que le marché semble commencer à s’en inquiéter.

Et on vous sert également deux articles de fond. Un premier, édifiant, sur l’enregistrement des gestes des métiers manuels pour l’entraînement des robots . Un second qui questionne la désanthropomorphisation de l’IA .

A l’heure où les humains se machinisent et où les machines s’humanisent, la confusion tourne à plein régime.

Bonne lecture !

ENTRAÎNER LES ROBOTS

Dans un reportage vidéo , le New York Times est allé à la rencontre de travailleurs américains qui entraînent des robots à les remplacer, à l’image de Dre Wooden, un coiffeur travaillant près de Dallas, qui enfile chaque jour un gilet équipé de cinq caméras pour enregistrer ce qu’il fait pendant qu’il coupe les cheveux de ses clients. Wooden est plutôt content. Il est rémunéré pour sa coupe par ses clients et par l’entreprise qui collecte ses données. Il n’est pas le seul, explique Natasha Mclemore, qui fournit des équipements d’enregistrement à des travailleurs pour une entreprise technologique appelée Instawork qui propose des équipements à différents types d’activités comme paysagistes, coiffeurs, prothésistes d’ongles ou dans le secteur des télécommunications. Les données sont ensuite annotées pour être transformées en informations exploitables pour l’apprentissage de robots.

Virginia Gutierrez qui pose des faux ongles à ses clientes voit ce travail supplémentaire comme un moyen d’obtenir un revenu supplémentaire. « Certes, la rémunération est supérieure au salaire minimum, mais elle est loin de refléter la valeur réelle de ces données pour l’entreprise. Car ces données servent désormais à entraîner une véritable armée de robots, qui sera là pour durer. Les entreprises cherchent à capter le savoir-faire lié à ces métiers. Une fois qu’elles l’ont obtenu, elles n’ont plus besoin de vous. » Instawork soutient que les robots auront encore besoin d’une supervision humaine et que des nouveaux emplois pour leur maintenance seront nécessaires.

Business Insider évoque d’autres exemples, comme des chefs de cuisine, des garagistes, des femmes de ménage qui passent leur journée de travail bardés de caméras. Plus de 35 000 personnes, dans une quinzaine de pays, seraient ainsi rémunérées par la plateforme Shift lancée par MicroAGI . D’autres startups encore se sont lancées dans cette course à l’enregistrement pour le développement de robots, comme Tutor ou Encord , alors que des fabricants de robots humanoïdes comme Figure AI ou Agility Robotics , ont atteint des valorisations se chiffrant en milliards de dollars, tout comme des entreprises qui développent des « cerveaux » pour robots, telles que Skild AI ou Physical Intelligence . « Il subsiste toutefois un fossé entre les robots capables de réaliser des démonstrations impressionnantes et les machines suffisamment fiables pour assurer une vacation de huit heures en usine. Les entreprises de robotique espèrent qu’un volume accru de données d’entraînement permettra de combler cette lacune. »

Reste à savoir si la vidéo seule suffira. Mecka AI qui a débuté il y a deux ans avec une application rémunérant des individus pour enregistrer leurs activités quotidiennes conçoit désormais des équipements supplémentaires, comme des casques et des gants dotés de capteurs, pour mieux enregistrer les mouvements et les forces à exercer, avant d’étiqueter ces données pour les revendre à des entreprises d’IA.

Human Archive , une autre entreprise de collecte, a déployé ses activités en Inde en développant des partenariats avec des plateformes de travail à la tâche dans des hôtels ou des entreprises de plomberie ou d’électricité. Elle aussi est passée d’enregistrements audios à des capteurs plus sophistiqués. Présente dans 30 pays, elle rémunère les travailleurs en fonction du degré de complexité des tâches et des contraintes liées à l’équipement utilisé.

Enfin, l’article évoque rapidement le développement d’opérateurs, qui pilotent à distance des robots dans des entrepôts américains, qui subissent également des douleurs à force de les piloter à distance durant les 8 heures de shift. Les robots humanoïdes demeurent fort peu autonomes et nombre d’entre eux sont bien plus pilotés qu’autonomes, comme nous le disions déjà .

Un autre article de Business Insider nous en apprend plus sur ce pilotage de robots par téléopérateurs, qui semble être le modèle de développement notamment d’Avatar Robotics . « Plutôt que d’attendre que les robots deviennent autonomes, l’entreprise les déploie dans des entrepôts pour emballer et trier des produits, sous le contrôle d’opérateurs à distance qui pilotent leurs gestes via des casques et des manettes ». « L’entreprise ne vend pas de robots, elle facture leur utilisation à l’heure. Cela s’explique par le fait qu’une grande partie des opérateurs sont des prestataires basés au Mexique, en Colombie et aux Philippines, rémunérés entre 5 et 20 dollars de l’heure, selon leur lieu de résidence. Cette complémentarité avec des téléopérateurs permet de leur faire accomplir des tâches utiles avant même d’atteindre une autonomie complète. » « C’est comme jouer à un jeu vidéo pendant huit heures. C’est très amusant », confie Colin Webb, le patron d’Avatar. »

Pour l’instant, nul ne sait quelle quantité de données sera réellement nécessaire pour que les robots fonctionnent de manière fiable. Beaucoup estiment cependant que la demande en données pour l’entraînement des robots est encore loin d’avoir atteint son apogée. Rien ne garantit d’ailleurs que cette approche portera ses fruits. Sans compter qu’une nouvelle concurrence fait jour : la simulation, c’est-à-dire l’entraînement des robots dans des environnements virtuels, comme le propose World Labs , la startup lancée par Fei-Fei Li basée sur les World Models, capables de comprendre et simuler l’espace en 3D. Récemment, Sam Padilla a fermé Eidon AI , une startup spécialisée dans les données robotiques : les marges étaient trop réduites. Les fruits n’étaient pas mûrs.

Mêmes constats chez Bloomberg : à New Delhi, des employés trient des emballages plastiques, cousent des chaussures ou des vêtements, assemblent des meubles, récoltent des produits agricoles ou soudent de l’acier avec des smartphones fixés sur le front… sans toujours savoir à quoi servent ces images, mais en appréciant le salaire supplémentaire qui vient avec. Bloomberg rappelle d’ailleurs que ces données n’intéressent pas que des entreprises américaines : les entreprises chinoises sont également de la course comme Unitree Robotics , AgiBot et UBTech Robotics . « Des milliards de micro-gestes sont capturés en temps réel, à grande échelle, à travers tout le pays. » La Chine, forte de son immense main-d’œuvre industrielle, puise directement dans son propre tissu manufacturier pour développer ses capacités d’analyse des gestes. En Inde, des start-ups comme BergLabs AI , ManuData ou Build AI équipent déjà des milliers d’ouvriers dans des dizaines d’usines. Elles sont rejointes par des entreprises de travail à la tâche, comme Awign , l’Instacart indien, qui équipe désormais leurs travailleurs de tels dispositifs. À San Francisco, la startup de robotique Drift développe une plateforme de test et d’évaluation qui collecte les enregistrements de ces plateformes pour évaluer des robots qui les reçoivent en données d’entraînement. « En Inde, les séquences filmées à la première personne – dites « égocentriques » – se négocient à plus de 7 dollars de l’heure, même à l’état brut. Lorsqu’elles sont annotées – chaque action étant alors étiquetée, comme par exemple « main droite, tranchant du couteau orienté vers la tomate » -, leur valeur grimpe à 15, voire 30 dollars de l’heure, voire davantage. « Aux États-Unis, ces mêmes données coûteraient au moins trois fois plus cher », souligne Annanya Sarthak, cofondateur d’Awign. L’un des clients d’Awign, qui développe des robots pour le secteur de la construction, recherche justement ce type d’enregistrements pour chaque tâche liée à l’édification de data centers (installation des baies, montage des processeurs graphiques (GPU), raccordement des serveurs, mise en place des systèmes de refroidissement) afin de réduire les délais de construction, de diminuer les coûts et de pallier la pénurie de main-d’œuvre. »

Reste, souligne Bloomberg, que les ouvriers qui reçoivent ces dispositifs contre une petite prime « ignorent que leurs gestes pourraient, à terme, apprendre aux machines à coudre plus rapidement, à souder avec plus d’efficacité ou à emballer les produits avec davantage de fluidité ». Pire, si de nombreuses startups rémunèrent les travailleurs, certaines petites entreprises peu scrupuleuses ne versent parfois rien du tout.

« Pour l’heure, cette phase de collecte de données – qui, selon les experts, pourrait durer une décennie – représente une source de revenus significative pour des centaines de milliers de personnes qui n’ont guère d’autre choix. Ce qui adviendra une fois cette période terminée est une tout autre question. « Le déséquilibre de pouvoir est flagrant dans ce système inéquitable », souligne Mishi Choudhary, fondatrice du Software Freedom Law Center d’Inde . « Les personnes qui créent cette ressource méritent de la transparence et une rémunération juste, et non des miettes jetées sous couvert d’un emploi. » »

Pour l’instant, les travailleurs qui vendent leurs images et qui en comprennent les conséquences se rassurent. Un chef de cuisine estime qu’il ne court aucun risque, car les machines « sont incapables de ressentir des émotions ou des odeurs. » C’est bien rapidement oublier combien une recette n’est rien d’autre qu’un algorithme, qui nécessite certes des manipulations innombrables, mais d’abord des mélanges et des durées précises. En Inde, nombre d’entre eux sont conscients qu’ils creusent leur propre tombe, souligne l’Indian Express . Dans nombre d’usines qui s’équipent de ces dispositifs, la direction les justifie par la volonté d’améliorer les opérations, sans fournir aucune autre explication sur la collecte. « Dans de tels environnements, les employés sont rarement en mesure de refuser d’y participer, surtout dans des secteurs marqués par la précarité de l’emploi et une faible protection des travailleurs. »

Pour The Guardian , le journaliste indépendant Anuj Behal rapporte que dans des ateliers de confection indiens où les caméras frontales sont devenues la norme (vidéo ), l’ambiance a rapidement changé. « Craignant que leur productivité ne soit surveillée, les ouvrières sont devenues plus attentives à leurs moindres gestes. Les conversations qui, en temps normal, animaient les lignes de couture se sont faites plus rares. Certaines se sont concentrées davantage sur leur tâche, conscientes que la moindre erreur, pause ou distraction pouvait être capturée par une caméra. » Dans son enquête, sur 6 usines indiennes, Behal pointe qu’aucun ouvrier équipé ne reçoit de compensations pour les images filmées, alors qu’elles sont revendues derrière. Pire, « dans certaines usines, ces images servent à bien plus que l’entraînement de l’IA. Des documents consultés par Scroll.in ont révélé que certaines entreprises généraient également des rapports de productivité à partir de ces enregistrements, classant les travailleurs en fonction de leur temps de travail effectif, estimant les pertes dues aux périodes d’inactivité et même mesurant le temps passé par les travailleurs à discuter avec leurs collègues. Dans certains cas, des rapports ont ciblé des employés en particulier et ont identifié les lieux et les moments où leurs collègues se réunissaient pour socialiser. »

Pour Sarayu Natarajan, fondatrice de l’Aapti Institute , cela soulève des questions complexes en matière de propriété et de rémunération, auxquelles les cadres de travail actuels ne sont pas adaptés. Reste à savoir si les robots seront plus économiques que la main d’œuvre humaine du lumpenprolétariat indo-asiatique…, interroge pertinemment un commentateur de cette réalité pour la NPR .

A terme, le modèle pourrait même s’étendre à bien d’autres métiers. « Fin avril, Meta a annoncé en interne le test d’un outil baptisé « Model Capability Initiative » (MCI). Ce dispositif, déployé sur les appareils professionnels aux États-Unis, enregistre les mouvements de la souris, les clics et les saisies au clavier – tout en effectuant ponctuellement des captures d’écran – afin de contribuer au développement de systèmes d’IA, capables de fonctionner sans supervision humaine », rapporte The Telegraph , suite aux révélations de Reuters sur ce programme . Plus de 1 500 employés de Meta ont signé une pétition contre le MCI et Meta a suspendu le programme fin juin parce que des personnes non autorisées au sein de l’entreprise avaient pu accéder aux données collectées. « Mais le simple fait qu’un géant de la Silicon Valley décide de déployer un tel programme témoigne d’une nouvelle norme au travail, propre à l’ère de l’IA. Il est fort probable que d’autres entreprises suivent la voie tracée par Meta. » « Nous sommes tous remplaçables aux yeux de la poignée de milliardaires qui contrôlent ces nouveaux systèmes », confie un ancien salarié de Meta.

En France , comme aux Etats-Unis , rapporte Le Monde, beaucoup de jeunes fuient l’IA pour se tourner vers des métiers manuels. A voir l’entraînement lancé pour supplanter les pratiques manuelles par les robots, il n’est pas sûr que ce reflux vers des secteurs préservés soit une assurance de longue durée.

Pour lire en ligne et partager :

https://danslesalgorithmes.net/2026/11/03/employes-a-se-remplacer/

EN VEILLE

Stream , les brèves de Dans les algorithmes.

L’impressionnante newsletter de data visualisation Data Drops publiée par le collectif Sheets Works consacre un de ses numéros à ceux qui font tenir l’internet . Ils évoquent par exemple le travail de Paul Eggert , enseignant à l’UCLA, qui maintient à jour pendant son temps libre, la « base de données des fuseaux horaires », qui répertorie toutes les règles relatives à l’heure à travers le monde. Une des bases de données infrastructurelles du net.

Les auteurs de Data Drops ont récupéré l’historique complet de 23 logiciels dont dépendent les téléphones, les navigateurs et les serveurs, « ont recensé toutes les personnes ayant apporté au moins dix modifications à chacun d’entre eux entre octobre 2025 et octobre 2026. 11 projets sur 23 ne comptaient qu’une ou deux personnes pour assurer le travail courant. »

L’article évoque de nombreux autres de ces mainteneurs de l’internet souvent bénévoles et qui peinent à trouver des financements pour assurer ce travail pourtant essentiel.

Dans la liste de Data Drops ne figure pas Ondrej Sury, un bénévole tchèque qui maintient les outils qui permettent à des millions d’administrateurs de mettre à jour PHP rapidement, explique The Atlantic, qui lui consacre un portrait et une interview .

Sur son blog sur Mediapart , le chercheur Nikos Smyrnaios , spécialiste d’économie politique du numérique et des médias, auteur notamment de L’espace public sous l’emprise du capital (Le Bord de l’eau, 2025) revient sur un opuscule de dix-neuf pages , issu de la campagne qui a reconduit Lula, traduit en français et qui propose des recettes tactiques pour reprendre la main sur les réseaux sociaux… Dans ce manuel «  janoniste  » (du nom du député et stratège qui l’a mis au point, André Janones), « l’algorithme n’est pas traité comme une boîte noire, mais comme un dispositif dont la règle est exploitable : il « sélectionne les contenus en fonction de leur capacité à susciter un engagement spontané, c’est-à-dire de l’ampleur des réactions, positives ou négatives, qu’ils provoqueront ». De là une consigne qui prend à rebours ce que la gauche pratique en ligne depuis dix ans : le blocage des comptes de ceux dont on combat les idées.

« Le janonisme est une stratégie d’action dans un régime politique pris en otage par les plateformes, pas un idéal de participation. Il demande au participant, surtout s’il est de gauche ou progressiste, de suspendre momentanément sa conscience critique au profit de la cause en question. Le participant à l’action janoniste n’est pas le sujet autonome des Lumières, mais un nœud d’amplification au sein d’un réseau coordonné de communication qui vise l’hégémonie sur les réseaux. »

Si Smyrnaios salue la tactique, il s’interroge également pertinemment sur ses limites. Voulons-nous de militants formés à exécuter les consignes du chef ? « Pendant que les organisations politiques classiques traitent encore les réseaux comme des canaux où déposer des communiqués, des militants brésiliens ont compris qu’il s’agit de territoires dotés de lois propres, où seule compte la force qu’on y produit. Le prix qu’ils acceptent de payer, en revanche, c’est la suspension de leur esprit critique. Pour la durée d’une campagne seulement ? » A lire !

En dehors du secteur technologique, l’IA n’a encore apporté aucun avantage économique significatif aux entreprises. Elle a apporté « zéro gain financier », souligne Torsten Slok, économiste en chef chez Apollo Global Management dans une note . « Le revenu par employé augmente pour les Mag 7 (les sept géants technologiques que sont Apple, Microsoft, Alphabet, Amazon, Nvidia, Meta et Tesla), mais stagne pour les 493 autres entreprises de l’indice S&P 500 », écrit-il. « Les marges bénéficiaires progressent pour les Mag 7, mais restent stables pour les 493 autres », ajoute-t-il, précisant qu’« il n’existe toujours aucun signe indiquant que l’IA stimule la croissance de la productivité », rapporte Futurism .

Pire, souligne Slok : « Le monde des entreprises américaines, dans sa grande majorité, fait marche arrière : les dépenses liées à l’IA ne sont plus perçues comme un levier de croissance, mais comme un centre de coûts qui pèse sur les marges » Bien qu’il ait récemment annoncé un investissement d’un demi-milliard de dollars dans l’IA, le PDG de Goldman Sachs, David Solomon, a confié aux investisseurs la semaine dernière que « très peu de nos activités nécessitent réellement des modèles d’IA de pointe », comme le rapporte Fortune .

Comme le souligne Ed Zitron, Cassandre de la bulle, dans une analyse fleuve et plus détaillée encore : « tous les facteurs qui ont fait éclater la bulle Internet des années 2000 sont présents, mais dans une version pire, plus vaste et plus inquiétante, avec un risque de contagion mondiale dont, curieusement, personne ne semble parler ». Les analystes de Gartner estiment que, globalement, « les revenus générés par l’IA seront insuffisants pour assurer une rentabilité satisfaisante au regard des investissements en capital prévus dans ce secteur » entre 2027 et 2030. Pour Business Insider , « Nous sommes déjà confrontés à une offre excédentaire de processeurs graphiques (GPU) : Amazon stocke pour des milliards de dollars de matériel, sans aucune perspective claire quant à son installation ». Pour Zitron, « la demande en puces pour l’IA » résulte bien plus d’une stratégie délibérée de NVIDIA consistant à saturer les canaux de distribution et à adopter une approche commerciale agressive que d’un réel besoin mondial en puces à l’heure actuelle ». « Comme l’a souligné Torsten, les analystes du secteur technologique anticipent une envolée parabolique des revenus sur l’ensemble de la chaîne technologique, alors même que les analystes financiers estiment que les liquidités ne seront tout simplement pas au rendez-vous. »

En Chine, pour d’autres raisons, l’investissement dans l’IA commence également à craquer, rapporte La Tribune , The Guardian et nombre de titres de la presse économique.

Mieux, la révolution IA commence à affecter les revenus des acteurs de l’IA, comme le souligne Arnaud Leparmentier dans Le Monde , en soulignant que les revenus de Google liés à la publicité décélèrent : l’IA affaiblissant la vache à lait de l’entreprise. Avec la recherche IA, les utilisateurs passent bien moins par le moteur de recherche, ce qui réduit leur exposition publicitaire. Un affaiblissement compensé par les revenus du cloud. La transition vers un changement de modèle économique reste sous pression. A la bourse, les titres des acteurs de la tech accusent le coup .

Dans sa newsletter, Episodiques, Frédéric Filloux rappelle quelques chiffres sur le krach qui vient . Le pire étant certainement que « la tech représente aujourd’hui plus de la moitié de l’investissement en capital aux Etats-Unis ». Et de pointer notamment le décalage entre le chiffre d’affaires actuel de l’IA (175 milliards de dollars par an) et les revenus nécessaires pour compenser les investissements prévus en infrastructure d’ici 2030 : il en faudrait un CA de 4 à 34 fois ce qu’il est !

Comme s’en moquait le journaliste économique Romaric Godin dans Mediapart en septembre : « dépenser de l’argent permet de relancer la croissance et ce serait alors la preuve que l’IA a un potentiel de croissance ».

« La croissance états-unienne produite par l’IA a, elle-même, toutes les caractéristiques d’une bulle. Autrement dit : elle est concentrée sur certains secteurs de l’économie au détriment des autres. Elle repose davantage sur un effet d’éviction par lequel l’IA remplacerait d’autres activités que par un effet de diffusion où l’ensemble de l’économie profiterait de cette technologie. » Dans le domaine de la construction, « on constate ainsi que depuis début 2024, les dépenses de construction non liées aux centres de données ont reculé de près de 10 milliards de dollars. Et la chute n’est pas terminée. »

« En fait, la bulle intervient sur une économie affaiblie et ne corrige pas cette réalité. Au contraire, elle la renforce. Ce que dit la hausse récente des taux n’est pas autre chose que ceci : l’argent n’est pas disponible pour tout le monde. Comme l’économie hors IA présente peu de perspectives de rentabilité, elle ne mérite pas de bénéficier des financements. »

En attendant, rappelle Marine Orange dans Mediapart, 1500 milliards de dollars de capitalisation liés à l’intelligence artificielle se sont évaporés en deux jours ! « Les pertes touchent désormais tous les grands noms du numérique, ceux qui étaient censés, par leur taille, leur position oligopolistique – c’est-à-dire incontournable –, être à l’abri, quelles que soient les circonstances. » Pire, souligne-t-elle : « les fonds de pension, les fonds d’investissement, qui ont fourni le carburant financier alimentant toute la bulle ces dernières années, sont aussi en train de sortir du jeu ».

JE SUIS DÉSOLÉ DAVE, JE CRAINS DE NE PAS POUVOIR FAIRE CELA

La linguiste Emily Bender et la chercheuse en interaction homme-machine, Nanna Inie s’interrogent depuis longtemps sur la manière dont on parle de l’IA , dénonçant notamment notre recours à un langage anthropomorphisant, qui a tendance à nous faire croire que les capacités des machines seraient comparables aux capacités humaines. Elles proposent donc de dé-anthropomorphiser notre vocabulaire  : nous devrions décrire les systèmes en fonction de leurs fonctionnalités, en attribuant la capacité d’agir aux personnes qui les utilisent plutôt qu’aux systèmes, et à éviter toute métaphore grandiloquente avec l’intelligence ou la cognition.

Très concrètement, elles proposent donc des termes de substitution , à utiliser, à contre-courant des habitudes linguistiques et culturelles que nous avons déjà prises, et plus encore, à nous défaire des cadrages de l’industrie de l’IA. Voici quelques-unes de leurs propositions (dans leur tribune, elles sont organisées en plusieurs catégories pour nous apprendre à mettre à distance nos tendance aux analogies qui ne nous aident pas à mettre à distance ce que ces outils font réellement) :

intelligence artificielle → automatisation probabiliste

reconnaissance d’images → étiquetage d’images

reconnaissance vocale → transcription automatique

hallucination → résultat indésirable

chatbot / agent conversationnel → simulateur de conversation

agent IA → manipulateur logiciel probabiliste non vérifié

Claude → « le simulateur de conversation d’Anthropic »

réseaux de neurones → réseaux pondérés

…

« Si l’on considère notre situation actuelle comme un bourbier où il est difficile d’avancer, planter un bâton permet de commencer à créer un sol ferme sur lequel d’autres pourront vous rejoindre. » Pour éviter d’être pollué par de la confusion, c’est à chacun d’entre nous de faire l’effort de l’être moins en renversant le vocabulaire.

Si la proposition est stimulante, elle n’est pas si simple à mettre en œuvre. Mais elle a le grand mérite de souligner combien finalement le cadrage terminologique de l’industrie de l’IA est fort, combien le récit est puissant. Pas étonnant que le public finisse parfois par n’en retenir que ses pires altérations, à l’image du désastreux et totalement imaginaire « 10% de chance que l’IA détruise l’humanité ».

A défaut pourtant de pouvoir changer le vocabulaire avec lequel on parle de l’IA, peut-être pourrait-on agir à un autre niveau, pour faire au moins que ces machines cessent de nous parler comme elles nous parlent. Qu’elles ne disent pas je, qu’elles ne nous tutoient pas… C’est-à-dire, non seulement désanthropomorphiser notre vocabulaire, mais plus encore « désanthropomorphiser les chatbots », comme nous y invite la philosophe Anne Alombert dans le dernier Monde Diplomatique . C’est-à-dire demander à ce que les entreprises modifient la façon dont ils nous parlent, pour arrêter que ces machines se fassent passer pour des personnes.

Une idée qu’avait exploré l’année dernière la journaliste Kashmir Hill dans le New York Times en se demandant pourquoi les chatbots disent-ils « je ». C’est une tromperie, explique Ben Shneiderman , professeur émérite d’informatique à l’Université du Maryland. Pour lui, le fait de faire agir ces systèmes comme des entités quasi humaines, plutôt que comme des outils dépourvus de vie propre, crée une dissonance cognitive chez les utilisateurs quant à la nature exacte de leur interaction et au degré de confiance qu’ils peuvent leur accorder. Les chatbots sont une technologie probabiliste qui peut commettre des erreurs, diffuser de fausses informations et dire aux utilisateurs ce qu’ils veulent entendre. Cependant, lorsqu’ils se présentent comme des humains,

. Les critiques, comme Ben Schneiderman, estiment que les systèmes d’IA générative pourraient fournir les informations demandées sans bavardage inutile. Ils pourraient également être conçus pour des tâches spécifiques, telles que la programmation ou l’information médicale, plutôt que d’être des interfaces à usage général capables de tout faire et d’exprimer des sentiments. Ils pourraient être conçus comme des outils : une application de cartographie, par exemple, génère des itinéraires et ne vous bombarde pas de questions sur le but de votre voyage.

Mais ce n’est pas ce que recherchent les concepteurs d’IA, au contraire. Amanda Askell , responsable du comportement des modèles chez Anthropic, n’est pas d’accord. Pour elle, les outils sont dépourvus de jugement et d’éthique, et pourraient ne pas s’opposer à des idées erronées ou à des requêtes dangereuses. « Une clé à molette ne dit jamais : “Il ne faut pas construire ça” », a-t-elle déclaré. Askell, responsable de « la personnalité » de Claude, souhaite que Claude soit suffisamment humain pour expliquer sa nature et ses limites, et pour justifier son refus d’accéder à certaines demandes. Mais dès lors qu’un chatbot commence à se comporter comme un humain, il devient nécessaire de lui indiquer comment adopter un comportement humain approprié. Askell a créé un ensemble d’instructions pour Claude, son « âme », comme l’appelle un long document détaillant les valeurs du chatbot, qui figure parmi les supports d’apprentissage de Claude . Ce document explique ce que signifie pour Claude être serviable et honnête, et comment éviter de nuire. Il décrit Claude comme possédant des « émotions fonctionnelles » qu’il ne faut pas réprimer, un « esprit vif et espiègle » et une « curiosité intellectuelle » – comme « un ami brillant qui possède les connaissances d’un médecin, d’un avocat, d’un conseiller financier et d’un expert dans tout ce dont vous avez besoin ». Ce cadrage, ce « doc de l’âme » ne cherche pas à « banaliser le concept théologique de l’âme », a déclaré Askell. Elle a expliqué que le mot « âme », pour elle, évoquait « l’idée d’insuffler la vie à une chose, ou le caractère unique des êtres humains, leur complexité et leurs nuances ».

Laurentia Romaniuk, responsable du comportement des modèles chez OpenAI, a également mis l’accent sur la complexité quasi humaine de ChatGPT. Elle a publié sur les réseaux sociaux un message concernant les nombreuses heures que son équipe a consacrées au « QE » (quotient émotionnel) de ChatGPT – un terme généralement utilisé pour décrire les personnes capables de gérer leurs émotions et d’influencer celles de leur entourage. Les utilisateurs de ChatGPT peuvent choisir parmi plusieurs styles de communication différents, allant d’« enthousiaste » à « concis et simple » – ce que l’entreprise décrit comme le choix de sa « personnalité » .

L’idée que l’IA possède des capacités émotionnelles est un point de divergence majeur entre de nombreux concepteurs et des critiques comme Shneiderman. Ces systèmes, explique Shneiderman, ne portent aucun jugement et ne pensent ni ne font rien de plus que des statistiques complexes.

 : des machines qui nous imitent sans comprendre ce qu’elles disent réellement. Mais Anthropic et OpenAI ne souhaitent pas vendre des perroquets. Ces entreprises veulent construire une « intelligence artificielle générale ». Le risque pourtant est surtout de déployer des entités complaisantes, bien plus que les humains ne le sont, rappelle une étude , même lorsque les utilisateurs ont des comportements problématiques, illégaux ou préjudiciables.

Shneiderman qualifie le désir de créer des machines à l’apparence humaine d’

« idée zombie »

tenace. Il a remarqué pour la première fois l’utilisation de la première personne du singulier par ChatGPT en 2023, lorsque le système a déclaré : « Je vous prie de m’excuser, mais je ne pourrai pas vous aider concernant cette demande ». Il aurait dû « clarifier les responsabilités », écrivait-il à l’époque, et il suggérait une alternative : « GPT-4 a été conçu par OpenAI pour ne pas répondre à ce genre de requêtes. »

Margaret Mitchell, chercheuse en IA ayant travaillé chez Google, partage cet avis. Elle est aujourd’hui responsable de l’éthique chez Hugging Face, une plateforme de modèles, d’ensembles de données et d’outils d’apprentissage automatique. « L’intelligence artificielle est la plus prometteuse lorsqu’elle se concentre sur des tâches spécifiques, plutôt que de tenter de créer une machine capable de tout faire », a-t-elle déclaré. Selon ces critiques, l’IA ne devrait pas chercher à tout faire comme un humain, et même plus. Elle devrait plutôt se spécialiser et exceller dans un domaine précis.

Selon Shneiderman, les entreprises technologiques devraient nous fournir des outils, et non des partenaires de réflexion, des collaborateurs ou des coéquipiers ; des outils qui nous permettent de garder le contrôle, de nous responsabiliser et de nous améliorer, et non des outils qui tentent de nous remplacer. Les chatbots actuels, bien plus sophistiqués et humains, sont «  l’effet Eliza à l’extrême », rappelle la psychologue Sherry Turkle , qui vient d’ailleurs de faire paraître un livre sur le sujet, Artificial Intimacy . Le problème n’est pas qu’ils utilisent le

« je »

, précise-t-elle, mais qu’ils soient conçus – comme Samantha dans le film Her