Mythos, l’IA surpuissante d’Anthropic : pourquoi il faut se méfier du marketing de la peur

L'intelligence artificielle a battu un champion mondial du jeu de go, rend progressivement les véhicules autonomes, s’immisce déjà dans les guerres, et changera sûrement la manière de travailler, à terme. Dire qu’elle est "révolutionnaire" n’est pas galvaudé. Attention, toutefois, à garder la tête froide.

La récente sortie du modèle "Mythos", par la start-up américaine Anthropic, a déclenché une profonde panique. Tel un début d’intrigue de film catastrophe, celui-ci se serait d’abord "échappé" de son environnement sécurisé. Puis, les équipes d’Anthropic se seraient aperçues que Mythos peut craquer de très nombreux systèmes informatiques. Le transformant en une arme redoutable pour les cyberassaillants.

A quel point ce modèle est-il puissant ? La question est, en réalité, toujours débattue. Un laboratoire britannique indépendant a confirmé ses très bonnes facultés cyber : le modèle est parfois capable de réaliser chaque étape menant à une prise en main complète d’un réseau d’entreprises. Une prouesse jusqu’ici exclusivement réservée aux humains experts. Mais d’autres tests, comme ceux de la société Aisle, ont prouvé que d’autres modèles déjà sur le marché sont tout aussi capables de trouver de multiples brèches. Y compris celles dénichées par Mythos. "A quel point ces vulnérabilités sont réelles, exploitables et graves ? Tout cela n'est pas clair ", a vivement critiqué le célèbre site spécialisé Tom's Hardware. Retenu en cage, Mythos n’est à ce jour partagé qu’à une poignée de grandes entreprises et d’organisations (la plupart américaines), dans le cadre du mystérieux projet "Glasswind".

"On invoque le démon"

Autre élément à prendre en compte : ce n’est pas la première fois qu’Anthropic agite le chiffon rouge d'une apocalypse IA. "L’humanité est sur le point de se voir confier un pouvoir presque inimaginable et il est très difficile de savoir si nos systèmes sociaux, politiques et technologiques ont la maturité nécessaire pour l’exercer", a écrit son patron Dario Amodei dans un essai lyrique début janvier. Ce dernier multiplie aussi les sorties menaçantes sur l’emploi. Selon lui, l’IA fera disparaître 50 % des cols blancs qui arrivent sur le marché ces cinq prochaines années. La perspective d'un chômage de masse, à toute vitesse. Ce que contredisent plusieurs spécialistes.

Cette tendance à l’hyperbole n'est pas récente, dans la Silicon Valley. "On est en train d'invoquer le démon", disait Elon Musk dès 2014 à propos de l’IA, rappelle le journaliste américain Casey Newton dans sa dernière infolettre. "Je pense que l’IA mènera probablement très probablement à la fin du monde", affirmait quant à lui Sam Altman, le père de ChatGPT, à peine un an après. En 2019, le modèle GPT-2 de son entreprise OpenAI avait déjà été présenté comme trop puissant pour être ouvert au grand public.

Derrière ce "marketing de la peur" se trouvent de forts intérêts économiques. "Je suis toujours surpris que leurs stratégies soient prises pour des prophéties. Ils sont à la fois juges et parties", nous confiait récemment l’expert Jean-Baptiste Bouzige, de la société de conseil en IA Ekimetrics. Quand Dario Amodei se montre cataclysmique au sujet de l’emploi, rappelons que le monde professionnel est la principale cible de ses outils. Et que la cybersécurité représente un sous-secteur prometteur, où les valorisations explosent, notamment grâce... à l'intelligence artificielle. Affirmer avec une mise en scène quasi hollywoodienne que son modèle fonctionne si bien qu'il provoque du chômage ou qu'il ne doit pas être diffusé au grand public constitue une stratégie marketing déguisée en préoccupations sociétales. Et cela paye. Le chiffre d’affaires annuel d'Anthropic croît fortement en ce moment, à environ 30 milliards de dollars. Ce qui lui octroie la place de leader. Même les agences fédérales et les responsables gouvernementaux américains, interdits de collaboration avec Anthropic depuis la brouille avec le Pentagone, défient les directives, selon les révélations de Politico. La peur de passer à côté de quelque chose.

Nervosité face à l'IA

Cette posture est un brin cynique. En dépit de leurs grands discours et de leurs promesses, les compagnies technologiques américaines se montrent souvent rétives à toute régulation sérieuse. Le fait que le partage au compte-goutte d'informations sur Mythos se fasse au bénéfice de sociétés américaines et exclut quasiment les régulateurs européens ne dit pas autre chose. Anthropic et OpenAI ne sont pas les meilleurs contributeurs au mouvement open source. Un gage de transparence afin de faire avancer la recherche commune sur la sécurité.

Jouer sur la peur a ses limites. Plus de la moitié des Américains interrogés dans le dernier IA Index, un rapport de référence publié annuellement par l'Université Stanford, affirme que l'IA les rend nerveux. La stratégie semble néanmoins avoir encore de beaux jours devant elle. Hier encore, OpenAI a annoncé un nouveau modèle capable de fulgurances dans le domaine de la cybersécurité. En précisant que son accès sera limité à un certain nombre de partenaires triés sur le volet. Comme un certain Mythos.