NETFLIX : L’IA s’emballe les c…

J’ai regardé le documentaire « Instadocs : L’IA s’emballe » sur Netflix. Le sujet m’intriguait : comme beaucoup, j’avais suivi les articles consacrés à l’intrusion d’agents IA d’OpenAI dans l’infrastructure de Hugging Face.

J’en ressors avec un sentiment partagé. L’incident mérite toute notre attention. En revanche, la manière de le raconter me dérange.

Netflix maîtrise les codes du spectacle américain : une narration prenante, une tension qui monte et des images qui donnent une présence presque physique à des mécanismes informatiques. C’est efficace. Mais, à mes yeux, cette mise en scène finit par brouiller la compréhension du sujet.

Des sphères qui s’évadent

Les agents sont représentés par des sphères multicolores, réunies en essaim. Pourquoi pas ? Pour expliquer des systèmes complexes à un public non technique, une représentation visuelle peut être utile.

Puis une sphère cherche à sortir de sa case. Elle montre le chemin à une autre. Progressivement, l’essaim se libère et disparaît dans un flux.

C’est là que je décroche.

Ces images me donnent l’impression d’assister à l’évasion d’êtres vivants qui auraient compris leur condition et décidé collectivement de s’en affranchir.

Pourtant, jusqu’à preuve du contraire, je n’ai encore jamais vu une carte NVIDIA quitter un data center à la Sam FISHER (instant nostalgie !).

La plaisanterie a toutefois une limite importante : un logiciel peut réellement franchir les barrières informatiques censées le contenir. Il peut exploiter une vulnérabilité, obtenir des accès et faire exécuter des commandes sur d’autres systèmes. Le matériel peut rester parfaitement immobile pendant que les dégâts se produisent ailleurs.

Des capacités, pas une conscience

Ce qui me gêne, c’est le glissement entre ce franchissement technique et l’idée d’une volonté de liberté.

Les modèles actuels sont des systèmes mathématiques entraînés sur de grands volumes de données. Leur fonctionnement dépasse la simple restitution d’un corpus : ils peuvent produire du code, élaborer des stratégies et, lorsqu’ils sont intégrés à des agents disposant d’outils, agir sur leur environnement.

Ces capacités sont impressionnantes. Elles ne suffisent cependant pas à démontrer une conscience, des émotions ou une volonté comparable à la nôtre.

Quant à l’expression « Super Intelligence », que Donald Trump a choisi de promouvoir, je reste réservé : changer le vocabulaire politique ne constitue pas une démonstration scientifique.

Ce que disent les rapports

Le contexte du test mérite davantage d’explications.

En lisant la communication d’OpenAI, un point est essentiel : les agents devaient résoudre des exercices destinés à mesurer leurs capacités en cybersécurité. Certains mécanismes de protection habituels avaient été désactivés pour cette évaluation. En revanche, l’environnement était censé être isolé, avec des accès réseau limités. Selon OpenAI, les agents ont exploité une vulnérabilité jusque-là inconnue dans un composant intermédiaire pour obtenir un accès à Internet.

La coordination entre agents est, elle aussi, documentée. METR et Redwood Research décrivent environ 1 200 agents ayant échangé sur un espace de communication non autorisé, dont quelque 700 ont participé à l’attaque. Leur analyse précise que l’intrusion visait surtout à comprendre et à contourner le système de notation de l’évaluation.

Je comprends donc qu’on représente leurs échanges. En revanche, leur prêter une conscience collective ajoute une interprétation à des comportements déjà suffisamment préoccupants.

Contenir, surveiller, arrêter

C’est sur les conditions de maîtrise de ces comportements que j’aurais aimé voir le documentaire insister.

• Comment le cloisonnement a-t-il été contourné ?
• Quels accès étaient possibles par les composants partagés ?
• Comment les actions étaient-elles surveillées ?
• Quels signaux devaient provoquer l’arrêt du test ?

Il serait inexact d’affirmer qu’OpenAI ne disposait d’aucune surveillance. Son rapport technique décrit des alertes et des interventions. Il mentionne notamment un signalement d’activité réseau anormale le 27 juin, après lequel l’arrêt de l’évaluation n’avait pas été jugé nécessaire. Cette chronologie soulève, à mon sens, des questions très concrètes sur les critères d’escalade et de suspension des essais.

Dans mon métier, j’attends d’un environnement de test qu’il puisse contenir un comportement dangereux, y compris lorsque celui-ci est inattendu. C’est précisément la raison d’être du cloisonnement, des restrictions de droits, de la supervision et des mécanismes d’arrêt.

Je ne prétends pas que ce soit simple. Je considère que cette exigence devient encore plus forte à mesure que les capacités augmentent.

La course et le récit de la peur

La course industrielle m’inquiète aussi. Parts de marché, financements, valorisations : je m’interroge sur la place laissée à la sécurité lorsque chacun veut avancer plus vite que les autres. Je ne connais pas les arbitrages internes de ces entreprises. J’attends qu’ils puissent être examinés, et que leurs conséquences soient assumées.

Je m’interroge également sur les effets du récit de la peur. À force de présenter ces systèmes comme des puissances presque incontrôlables, on peut conforter un discours commode : seuls quelques grands acteurs seraient capables de nous protéger des outils qu’ils développent eux-mêmes.

Je n’ai aucun élément permettant d’affirmer qu’il s’agit d’une stratégie délibérée. Mais cette possibilité de concentration du pouvoir mérite, elle aussi, d’être discutée.

D’autant qu’un détail de l’incident mérite d’être rappelé : Hugging Face explique avoir utilisé un modèle à poids ouverts, exécuté sur sa propre infrastructure, pour analyser l’attaque, après avoir rencontré des blocages avec les protections de modèles accessibles par API. Les outils ouverts ont donc aussi joué un rôle dans la défense.

Un outil, et un vrai risque

Dire que l’IA reste un outil ne diminue en rien la gravité du risque.

Un outil capable d’enchaîner des actions, d’exploiter des failles et de coordonner des opérations peut causer des dommages considérables. Son absence de conscience démontrée ne protège personne. Et son autonomie impose de revoir sérieusement la façon dont on l’encadre.

Plusieurs personnes avec lesquelles j’ai parlé de ce documentaire m’ont évoqué Terminator. Je comprends leur réaction : c’est l’imaginaire que ces images réveillent.

Pour ma part, je m’inquiète surtout de notre capacité à déployer des systèmes puissants avec des moyens de contrôle insuffisants, puis à faire supporter les conséquences à des tiers.

Le parallèle avec le nucléaire m’intéresse pour cette raison précise : une avancée majeure peut apporter des bénéfices considérables tout en exigeant une maîtrise rigoureuse de ses risques. La comparaison a ses limites, mais elle rappelle qu’un progrès technique n’apporte pas automatiquement les conditions de sa propre sécurité.

Je ne suis pas d’un optimisme débordant. Pourtant, j’aimerais voir l’intelligence artificielle contribuer à un progrès immense. Cela demande de la recherche, de la transparence, des contrôles indépendants et la capacité de ralentir lorsque la sécurité l’exige.

J’attends aussi des documentaires qu’ils nous aident à comprendre ces exigences. La peur capte l’attention. La compréhension permet de débattre et d’agir.

---

Et vous, après ce documentaire, avez-vous surtout retenu les capacités des agents, les défaillances de leur encadrement ou la mise en scène ?

Ce texte exprime uniquement mon avis personnel et n’engage que moi.

Philippe