Cette startup vantait une IA révolutionnaire… mais utilisait des humains à la place

Et, si derrière une IA à l'efficacité redoutable, se cachait en réalité des humains en chair et en os effectuant le travail à l'autre bout du monde ? Non, ce n'est pas une dystopie tirée d'un épisode de Black Mirror. C'est l'histoire d'une entreprise valorisée à 1,5 milliard de dollars, qui s'est effondrée du jour au lendemain.

Une IA nommée Natasha... qui n'existait pas !

Fondée en 2016, l’entreprise anglaise Builder.ai promettait de développer des applications en un rien de temps grâce à son intelligence artificielle Natasha. Besoin d’une application pour votre entreprise ? La startup proposait une solution aussi simple et rapide qu’une livraison de pizza. Un concept alléchant qui a su convaincre Microsoft et le Qatar d’investir dans le projet.

Mais un peu moins de dix ans plus tard, la chute est brutale pour Builder.ai. Après avoir surévalué ses projections de ventes et gonflé son chiffre d’affaires, le retrait de l’un de ses créanciers a conduit l’entreprise à la banqueroute. Une histoire banale dans le monde des startups ? L’histoire ne s’arrête pas là, puisque l’échec de l’entreprise a révélé un autre secret. En lieu et place d’une IA, Builder.ai avait recours à 700 ingénieurs basés en Inde qui codaient en temps réel. Pour écrire chaque ligne de code à la main, ils étaient payés entre 8 et 15 dollars de l’heure !

Natasha n’était donc qu’un Turc mécanique. Du nom de ce célèbre automate de la fin du XVIIIe siècle, ayant émerveillé la cour d’Autriche, soi-disant capable de jouer seul aux échecs… mais qui cachait en réalité un humain à l’intérieur de la « machine ». Une supercherie demeurée fameuse à travers les siècles, synonyme aujourd’hui de progrès technologique dissimulant un travail humain tout à fait « normal ». En somme, un tour de magie. Dernier cas en date, des robots Optimus d’Elon Musk servant des verres à des convives lors d’une soirée de lancement Tesla, qui étaient en fait téléopérés à distance par des humains. Des automates pas si autonomes.

Optimus make me a drink, please.

This is not wholly AI. A human is remote assisting. Which means AI day next year where we will see how fast Optimus is learning. pic.twitter.com/CE2bEA2uQD — Robert Scoble (@Scobleizer) October 11, 2024

Derrière l’IA washing, l'essor d'une pratique moralement discutable

L’histoire de Builder.AI est l’exemple parfait de ce qu’on appelle désormais l’IA washing : attribuer à l’intelligence artificielle le résultat d’un travail humain ou d’un simple algorithme, dans le but de paraître disruptif, avant gardiste… et faire vendre !

L’IA est à la mode depuis trois ans et personne ne veut rater le train. A commencer par les fonds d’investissement, à la recherche de la future pépite. Résultat : une startup qui met en avant l’intelligence artificielle dans son business model a bien plus de chances d’enthousiasmer les investisseurs et obtenir une levée de fonds significative. De quoi pousser certains fondateurs à promettre monts et merveilles à base d’IA ceci ou d’IA cela.

En 2019, déjà, le fonds MMC analysait 2830 startups européennes labellisées « entreprises IA » et constatait que seules 1580 avaient bel et bien une solution d’intelligence artificielle au cœur de leur modèle. Une dérive marketing qui risque de coûter gros sur le long terme à ces entreprises qui s’arrangent avec la réalité. Voire à tout un secteur... Vous avez dit bulle ? Les investissements massifs dans l’IA et le phénomène de l’IA washing ressemblent en effet à s’y méprendre au phénomène de la bulle internet du début des années 2000. De nombreux spécialistes du numérique et de l’intelligence artificielle prédisent déjà la survenue d’un tel phénomène d'ici quelques années. Les dizaines de milliards de dollars investis dans l’IA générative ne généreront pas autant de recettes que prévu à court terme. Trop de hype risque de tuer la hype, du moins sur le plan financier. Puis, les grands gagnants émergeront, tels Google, Amazon ou Facebook en leur temps.

Reste que l’IA washing de certaines entreprises a d’autres conséquences désastreuses. Sur le plan humain cette fois. A l’image des ingénieurs indiens exploités par Builder.ai, des startups ou grandes compagnies n’hésitent pas à recourir à des travailleurs invisibles à l’autre bout de la planète. Des travailleurs du clic chargés de réaliser des micro-tâches pour une poignée de centimes : enrichir, corriger, tester, annoter, interpréter, classer… des images, des vidéos, des textes. On appelle cela les Human Intelligence Tasks (HIT), tâches répétitives pour lesquelles les IA ou les algorithmes sont inefficients. Les géants du web (et bien d'autres) emploient déjà des dizaines de milliers de tâcherons quotidiennement, disséminés partout à travers le monde, pour réaliser ces corvées peu stimulantes mais essentielles au bon fonctionnement de nombreuses applications, sites internet et IA en tout genre. L'essor de l'intelligence artificielle et la bulle qui l'accompagne risquent d'accentuer encore un peu plus ce phénomène du micro-travail mondialisé. Car la majorité de ces travailleurs du clic résident en Asie du Sud-Est, en Inde ou en Afrique... rendant la pratique méconnue du plus grand nombre en Occident.

En 2005, Amazon a lancé une plateforme spécialisée pour mettre en relation les entreprises proposant des micro-tâches et les travailleurs du clic du monde entier. Son nom ? Amazon Mechanical Turk. En référence au fameux Turc mécanique du XVIIIe siècle. La boucle est bouclée, non sans ironie.