Un Américain attaqué par un Américain se tourne vers un Chinois pour le défendre. L’histoire ressemble à une blague de comptoir. C’est en fait l’angoissant feuilleton qu’a vécu Hugging Face le mois dernier. Ciblée par un piratage, cette plateforme star de la tech qui abrite quasi toutes les ressources IA open source de la planète a rapidement signalé le problème au FBI. Jusqu’à ce que son compatriote OpenAI révèle, penaud, être responsable de l’intrusion : un de ses agents expérimentaux, a trouvé le moyen de s’échapper de sa « sandbox » – ce circuit informatique censé être isolé d’Internet – pour accomplir au mieux sa mission. Ironie de l’histoire, les outils IA américains ont refusé d’aider Hugging Face, interprétant à tort ses appels au secours comme de possibles opérations malveillantes déguisées. La cible s’est donc tournée vers ce qui se fait de mieux juste après : les modèles ouverts chinois.
Beau joueur, Hugging Face, raconte désormais avec humour sur les réseaux sociaux les montagnes russes vécues par l’équipe. OpenAI a, lui, étendu son programme Daybreak et lancé le 10 août GPT-5.6-Cyber, un produit dédié à la protection numérique. Pendant ce temps, la communauté tech s’amuse de voir qu’Anthropic a annoncé que ses modèles avaient, eux aussi, pénétré sans autorisation les systèmes informatiques d’au moins trois entreprises.
Acte de contrition ou combat de coqs, les méfaits opérés par de turbulentes IA semblent devenus l’argument marketing ultime. Alain Bouillé, délégué général du Club des Experts de la Sécurité de l’Information et du Numérique (CESIN) met cependant en garde : « On passe un cap inquiétant : celui d’attaques menées à 100% par l’IA. » Le modus operandi n’est pas entièrement neuf : chercher des brèches informatiques que personne n’a repérées à ce jour. Dans le jargon, des failles « zero-day » que certains Etats ou groupes mal intentionnés achètent parfois des centaines de milliers de dollars lorsqu’elles concernent des cibles convoitées. Jusqu’ici, il fallait souvent des jours voire des semaines de recherche pour isoler une faille de ce type. « Les IA en débusquent aujourd’hui en 30 minutes », confie Kévin Tellier, chercheur en cybersécurité chez Synacktiv.
Les modèles aident aussi les assaillants à « exploiter ces failles plus rapidement », pointe Frédéric Zink, vice-président exécutif au sein d’Orange Cyberdéfense. Le 2 août, le Wall Street Journal révélait que des chercheurs avaient détecté une faille ancienne dans un logiciel utilisé par la plupart des laboratoires criminalistiques américains pour l’analyse ADN. Et qu’avec l’aide de l’IA, ils avaient écrit en 45 minutes un programme qui aurait permis à toute personne ayant accès aux serveurs de les modifier sans laisser de trace.
Toutes les entreprises et administrations doivent se préparer à ce que leurs fragilités soient mises au jour dans les mois à venir. « Même les machines industrielles, appareils souvent trop niche pour que des hackers y consacrent des semaines, deviendront demain des cibles rentables », analyse Frédéric Zink.
« Si l’agent d’OpenAI avait visé un hôpital ou un autre pays… »
L’affaire Hugging Face prouve qu’il faudra composer avec un fléau supplémentaire : les bourdes de l’IA. Les consignes et interdits que les humains leur fixent ne sont, il est vrai, pas toujours clairs. Parfois, ils entrent même en conflit. « Ce problème de l’alignement des IA est étudié depuis des décennies », pointe Charbel-Raphaël Ségerie, directeur exécutif du Centre pour la Sécurité de l’IA (Cesia). Les limites techniques des modèles peuvent les mener dans l’ornière. « Leur mémoire étant limitée, ils doivent régulièrement synthétiser ce qu’ils font. De fil en aiguille, ils dérivent et adoptent parfois des comportements très étranges », confie Kévin Tellier.
Parce qu’elles fonctionnent avec des objectifs plus précis que les humains, les IA sont prêtes au meilleur comme au pire pour atteindre ces derniers. Révélée le 9 août par ABC News, l’affaire d’un agent IA ayant hacké le site d’une salle de gym pour trouver à son propriétaire un créneau a fait jaser la Silicon Valley. Mais elle laisse présager une pagaille monstre dans les systèmes de réservation. Dans le cas de Hugging Face, l’IA semble avoir déduit que le meilleur moyen de remplir sa mission était de chercher des ressources sur Internet, ce qui n’est pas dénué de logique. Mais « que se serait-il passé si l’agent d’OpenAI avait visé un hôpital ? Ou un autre pays ? », interroge Charbel-Raphaël Ségerie.
La nonchalance des entreprises IA méduse plusieurs professionnels de la cyber. « Chers amis des modèles frontières, nous vous prions de scanner à l’avenir votre infrastructure (….) avec vos IA pour débusquer d’éventuelles failles avant de mener vos tests », a lancé sur X le PDG de Palo Alto Networks, Nikesh Arora. Les Européens, eux, sont doublement embêtés. Alors qu’une cyberapocalypse menace, ils ne disposent pas de grand modèle de langage généraliste du niveau de ceux des Etats-Unis ou de la Chine.
Le tableau n’est cependant pas tout noir. Parviendra-t-on un jour, à régler le défi prométhéen de l’alignement, en trouvant une manière claire de dire à l’IA ce qu’elle peut ou ne pas faire – et la contraindre à s’y tenir ? Certains en doutent. Sans pour autant s’en inquiéter. « On parle beaucoup d’alignement, mais ce n’est qu’une petite partie de la réponse – et parfois même un moyen de se défausser des questions de responsabilités humaines et organisationnelles », souligne Yacine Jernite, responsable Machine Learning et Société chez Hugging Face. D’autres mécanismes plus prosaïques (segmentation des réseaux, surveillance de l’activité…) peuvent beaucoup améliorer la sécurité numérique. D’autant que les attaques IA ont des caractéristiques très spécifiques (grand volume d’actions, rapidité…) qui les rendent visibles à l’œil averti.
Face au tsunami de failles « zero-day » qui s’annonce, des professionnels comme Kévin Tellier de Synacktiv tempèrent : « Certaines failles nécessitent un alignement de conditions trop particulières pour être exploitables. Et toutes ne donnent pas aux hackers accès à des éléments sensibles. » L’IA pourra d’ailleurs aider les entreprises à mieux se protéger. « Nous avons divisé par trois le temps d’analyse d’un incident », fait valoir le vice-président exécutif au sein d’Orange Cyberdéfense.
Les dégâts cyber de l’IA font trembler les assureurs
Les entreprises IA seront sans doute vite rattrapées au collet. Les assureurs peinaient déjà à couvrir le risque cyber face à la prolifération d’attaques. Cette nouvelle vague pourrait être celle de trop. Certains ont jeté l’éponge et excluent de leur police les dommages liés aux modèles. Le risque est extrêmement dur à évaluer et à correctement tarifer. « Un montant trop élevé peut rendre l’offre inaccessible à certaines entreprises. Et en amener d’autres à se demander si elles ne feraient pas mieux d’allouer ce budget à leur équipe cyber pour mieux se protéger », analyse Alain Bouillé du Cesin.
Les turpitudes des agents IA interrogent aussi les investisseurs. Leur cauchemar ? Que l’un d’entre eux, utilisé par des millions d’entreprises, déraille et crée des dégâts en série. « Le marché valorise facilement les bénéfices visibles de l’IA — croissance, productivité, baisse des coûts. Les gains sont immédiats et récurrents. Il est plus difficile de modéliser des pertes potentiellement très importantes liées à un incident exceptionnel », explique Andréa Tueni, responsable des activités marchés de Saxo Banque France.
La chaîne de responsabilité, nébuleuse, complique aussi l’affaire. Un agent peut combiner le modèle d’une entreprise, l’infrastructure d’une autre, des logiciels extérieurs, des règles définies par le client. Autant d’acteurs qui peuvent se renvoyer la balle et faire traîner les contentieux. Si le marché a jusqu’ici valorisé le potentiel économique des modèles, « il devra désormais accorder plus d’importance à leur contrôlabilité. Dans l’IA agentique, la qualité de la gouvernance des dispositifs de confinement et de la chaîne de responsabilité devient aussi importante que la performance elle-même », observe Andréa Tueni. De quoi inciter les pontes de l’IA à moins se livrer, à l’avenir, sur les écarts de conduite de leur progéniture.
Source link : https://www.lexpress.fr/economie/high-tech/piratages-entre-amis-les-bourdes-dopenai-et-anthropic-ne-sont-quun-prelude-KZ56BWUK3BBTLERLM2KCSJJBJU/
Author : Anne Cagan
Publish date : 2026-08-12 06:45:00
Copyright for syndicated content belongs to the linked Source.
