AI Washing : les questions à se poser avant d'investir

L’Intelligence Artificielle : un domaine en plein essor

Ce qui a véritablement changé la donne ces dernières années, c'est l'essor de l'IA générative. Ce type d'IA va au-delà des fonctionnalités prédéfinies des applications précédentes en investissant le domaine de la génération de nouveaux contenus, qu'il s'agisse de textes, d'images ou même de code informatique. L'introduction d'interfaces telles que les modèles GPT a permis de rendre ce type d'IA plus accessible et tant au grand public qu’au monde de l'entreprise.

Pour les investisseurs, l’IA représente à la fois des opportunités et des défis. Si le potentiel d'innovation de rupture est immense, il nécessite toutefois une compréhension de ce qu'est réellement l'IA et, peut-être plus important encore, de ce qu'elle n'est pas. Investir dans la technologie de l'IA nécessite une étude approfondie des mécanismes, des capacités et des limites des différents modèles d'IA. Cette compréhension est nécessaire pour valider la pertinence de l’investissement, pour évaluer la véritable valeur ajoutée et la viabilité à long terme de d’IA.

Enjeux et diversité de l'intelligence artificielle : de l’IA faible à l’IA générale

Si le potentiel d’innovation de l'IA est évident, il est utile de comprendre les différentes formes d'IA pour en apprécier toute la portée et l'impact, en particulier pour ceux qui investissent dans cette technologie.

L’IA faible : la spécialiste

L'Intelligence Artificielle faible (ou IA étroite), comme son nom l'indique, se spécialise dans l'exécution de tâches spécifiques. Les systèmes d'IA conçus pour jouer aux échecs, reconnaître une voix ou identifier des objets dans des images en sont des exemples. Ces systèmes sont très efficaces dans l'accomplissement de leurs tâches, dépassant souvent les capacités humaines. Toutefois, leur expertise est limitée à un domaine étroitement défini.

L'IA large, ou Broad AI : l'expert

L'Intelligence Artificielle large représente une forme d'IA plus avancée et plus polyvalente, capable de gérer de multiples tâches dans un domaine spécifique. Ce type d'IA est particulièrement pertinent dans les domaines où la complexité et la variabilité sont élevées. Dans le domaine des soins de santé, par exemple, l'IA large peut non seulement interpréter des images médicales, mais aussi analyser les antécédents des patients, les résultats de laboratoire et suggérer des plans de traitement.

IA générale, ou AGI : l'avenir de l'IA

L'IA générale, souvent appelée Intelligence Artificielle Générale (AGI) ou Super Intelligence Artificielle (ASI), est le Saint-Graal de la recherche en IA. Elle aspire à reproduire des capacités de raisonnement et de résolution de problèmes semblables à celles de l'homme dans un large éventail de domaines. Contrairement à l'IA faible ou large, l'IA générale n'est pas limitée à des tâches ou à des domaines spécifiques.

Comprendre ces différents types d'IA n'est qu'une première étape. Il est tout aussi important de savoir comment l'IA est intégrée dans les produits et les services, ce qui nous amène à la question de « l'AI washing ».

Comprendre l'intégration de l'IA

L'intégration de l'IA dans les appareils et les systèmes a été révolutionnée par l'avènement des API fournies par des acteurs majeurs tels que OpenAI, Google et Anthropic. Ces avancées technologiques ont simplifié le processus d'intégration de l'IA dans les produits et services. En conséquence, nous avons assisté à l'émergence de ce que l'on appelle communément des "wrappers" d'IA, où les capacités d'IA sont intégrées à un niveau superficiel, souvent sans fonctionnalité intrinsèque profonde.

Cette facilité d'intégration de l'IA s'accompagne toutefois d'une mise en garde. Comme le souligne Kjell Carlsson, responsable de la stratégie d'IA chez Domino Data Lab, la création de produits de rupture basés sur l'IA nécessite une amélioration significative des compétences internes en matière d'IA. Sans cela, les entreprises risquent de n'obtenir que des résultats limités en termes de GenAI. Cette situation conduit souvent à du AI washing, où des fonctionnalités d'IA, disponibles depuis des décennies, sont présentées comme des innovations de pointe sans que leurs fonctionnalités ne soient améliorées de manière substantielle.

Définition du AI washing

Le AI washing est le véritable défi de l'industrie de la tech. Il s'agit d'une pratique commerciale trompeuse qui consiste à présenter sous un faux jour le degré d'utilisation de l'IA dans les produits ou les services. Souvent, les entreprises utilisent le terme "IA" à tort et à travers pour décrire ce qui n’est en vérité qu’une simple automatisation des systèmes, basés sur des règles prédéfinies. Ces systèmes sont dépourvus de véritables capacités d'apprentissage et d'adaptation, qui sont les caractéristiques de l’IA Générative.

Cette présentation erronée n'est pas seulement un mauvais service rendu aux consommateurs, mais pose également un problème important aux investisseurs, qui vont devoir apprendre à faire la différence entre une véritable innovation en matière d'IA et un simple habillage.

Fausses déclarations surprenantes

La prévalence de l’AI washing est une réalité alarmante, comme en témoignent ces nombreuses startups qui ont exagéré leurs capacités en matière d'IA pour attirer des fonds et des clients. Un exemple frappant est celui d'une startup qui prétendait que son "IA assistée par l'homme" pouvait permettre le développement d'applications mobiles avec un minimum d'effort et de temps. Cette affirmation a donné lieu à des investissements substantiels, dont près de 30 millions de dollars provenant de fonds de venture capital axés sur l'IA. Toutefois, une enquête du Wall Street Journal a révélé que la prétendue IA reposait en fait en grande partie sur la bonne vieille "intelligence humaine" des ingénieurs informatiques.

Cet incident n'est pas isolé. Selon une étude de MMC Ventures, qui a analysé 2 830 startups européennes, plus de 40 % des entreprises qui prétendent être des startups spécialisées dans l'IA n'utilisent en réalité que très peu l'IA. Ce constat, associée à une surveillance réglementaire accrue, souligne la nécessité pour les investisseurs de réaliser une Due Diligence Technologique lorsqu'ils évaluent des entreprises utilisant de l'IA.

Sous l’angle de la règlementation : la SEC et la FTC sur le AI Washing

Les organismes de réglementation tels que la Securities and Exchange Commission (SEC) et la Federal Trade Commission (FTC) sont devenus de plus en plus vigilants à l'égard des pratiques de AI Washing. Leur inquiétude vient du fait que ces pratiques peuvent induire en erreur les investisseurs, les consommateurs et le marché dans son ensemble, entraînant des pratiques déloyales et une distorsion du paysage concurrentiel.

La SEC, dont le principal objectif est de protéger les investisseurs et de maintenir des pratiques de marché équitable, ordonnées et efficaces, a adopté une position claire contre le lavage d'IA, en particulier dans le contexte de la divulgation d'informations par les sociétés publiques. Gary Gensler, président de la SEC, a souligné l'importance d'une communication transparente et précise des capacités d'une entreprise en matière d'IA. La comparaison qu'il fait entre l’IA washing et le greenwashing est particulièrement bien trouvée, compte-tenu des efforts de la SEC pour la lutte contre le greenwashing, qui pourraient ouvrir la voie pour le sujet de l’IA washing.

L'avocat de la FTC, Michael Atleson, a exposé la position de l'agence dans un article de blog, soulignant l'importance d'un étiquetage spécifique pour les produits dotés d'une intelligence artificielle. La FTC attend des entreprises qu'elles évitent d'exagérer leurs promesses en matière d'IA, et qu’elles soient en mesure de prouver toute affirmation, sans condition spécifique. 

Pour les investisseurs de la Tech, ce cadre réglementaire signifie que la Due Diligence doit aller au-delà des données financières et porter sur la véracité des déclarations d'une entreprise en matière d'IA. Les entreprises qui survendent leurs capacités ou leur potentiel en matière d'IA pourraient faire l'objet d'une surveillance réglementaire et de sanctions financières, ce qui affecterait leur évaluation et l'attrait de leurs investissements.

AI Due Diligence : une étape essentielle pour les investisseurs

Pour les investisseurs, le risque de surévaluations dues à des capacités d'IA mensongères est préoccupant. Au-delà des répercussions financières, il existe un risque d'atteinte à la réputation et de contrôle réglementaire.  

Pour pallier ces risques, il est impératif que les investisseurs fassent appel à des experts en due diligence technologique spécialisés dans l'évaluation des technologies de l'IA. Ces experts ont une connaissance approfondie de l'IA et de ses applications pratiques, ce qui aidera les investisseurs à évaluer la vraie valeur de l’IA utilisée.

Les critères à prendre en compte pour évaluer l’IA 

La Due Diligence Technologique en matière d’IA englobe plusieurs domaines essentiels :  

Authenticité des capacités d'IA

Il s'agit de déterminer si l'IA n'est basée que sur de l'automatisation basique, ou bien si elle intègre des techniques avancées de Machine Learning. 

Les questions essentielles sont les suivantes :  

• Quel est le niveau d'apprentissage automatique utilisé ? (par exemple, apprentissage supervisé, non supervisé, par renforcement).   
• À partir de quel type de données l'IA apprend-elle, et comment s'adapte-t-elle à de nouvelles données ?  
• Le système d'IA peut-il améliorer ses performances au fil du temps et existe-t-il des preuves scientifiques à l'appui des performances annoncées ? 

Adaptabilité et robustesse

Un autre aspect essentiel à analyser est la capacité du système d'IA à gérer des données inattendues ou non distribuées. Les experts techniques évaluent si l'IA peut s'adapter à de nouvelles situations ou si elle a besoin d'être reformée. Cette évaluation est nécessaire pour comprendre la viabilité à long terme de l'IA et sa capacité d’adaptation à l'évolution du marché.  

Évaluation des risques

Il est essentiel de procéder à une évaluation complète des risques en se concentrant sur ce qui pourrait se produire si l'IA ne fonctionnait pas comme prévu. Il s'agit notamment d'examiner minutieusement les garanties mises en place pour éviter les décisions partiales ou discriminatoires, ainsi que l'impact potentiel de ces risques sur les activités et la réputation de l'entreprise. 

Conclusion : Des stratégies d'investissement prudentes en matière d'IA

Pour les investisseurs et les négociateurs, l'attrait de l'innovation induite par l'IA est indéniable. Toutefois, à une époque où le AI Washing est courant, il est essentiel de faire preuve de discernement. Pour prendre des décisions d'investissement éclairées, il est essentiel de comprendre l'étendue réelle de l'intégration de l'IA et de ses applications pratiques.

En privilégiant des pratiques responsables en matière d'IA et une Due Diligence Technologique, les investisseurs pourront investir en confiance dans des entreprises à fort potentiel de création de valeur.

Références  

https://aibusiness.com/ml/ces-2024-expect-lots-of-ai-washing-in-gadgets#close-modaln (dernière visite 25 janvier 2024). 

https://www.forbes.com/sites/forbestechcouncil/2023/08/17/why-companies-should-stop-ai-washing-their-products/ (dernière visite 25 janvier 2024). 

https://cybernews.com/tech/ai-washing-the-new-greenwashing/ (dernière visite 25 janvier 2024). 

https://www.wsj.com/articles/sec-head-warns-against-ai-washing-the-high-tech-version-of-greenwashing-6ff60da9 (dernière visite 25 janvier 2024). 

https://www.stateofai2019.com/chapter-7-europes-ai-startups/ (dernière visite 25 janvier 2024). 

https://www.legaldive.com/news/avoid-regulatory-risk-ai-washing-greenwashing-artificial-intelligence-FTC-SEC-scrutiny/704507/ (dernière visite 25 janvier 2024). 

https://www.wsj.com/articles/ai-startup-boom-raises-questions-of-exaggerated-tech-savvy-11565775004 (dernière visite 25 janvier 2024).