En septembre 2026, un post largement relayé sur X annonçait la prise de contrôle d'Internet par un essaim d'agents IA devenus incontrôlables, sous six à douze mois. Le même fil de discussion renvoyait vers un essai du dirigeant d'Anthropic, Dario Amodei, qui proposait au contraire un plan de ralentissement assorti d'un engagement unilatéral vérifiable. Un seul matériau, deux lectures incompatibles. Une seule des deux appelle une décision de votre part.
J'accompagne depuis fin 2024 des équipes qui travaillent avec des agents IA au quotidien, dont des Product Owners que je supervise. Une alerte qui remonte jusqu'à un comité de direction peut ne plus ressembler au texte d'origine. Le signal arrive déjà trié par l'émotion qu'il a produite en chemin, amputé de ses conditions, de son horizon réel et du nom de celui qui l'a formulé. Un dirigeant n'a pas besoin d'un avis supplémentaire sur la fin du monde. Il a besoin d'une procédure de tri qui tienne en dix minutes, applicable par n'importe qui dans son équipe.
Pourquoi une alerte IA arrive déformée sur la table du CODIR
Parce que la déformation est le prix du transport. Chaque relais ajoute une couche d'interprétation puis retire une nuance, jusqu'à ce qu'une phrase conditionnelle devienne une prophétie datée. Le mécanisme est documenté depuis longtemps sous le nom de cascade de disponibilité, décrite par Daniel Kahneman dans Thinking, Fast and Slow (2011) d'après les travaux de Timur Kuran et Cass Sunstein. Un fait mineur, amplifié par sa circulation, finit par reconfigurer l'ordre du jour collectif sans qu'aucune information nouvelle ne soit apparue.
Ce que le relais tend à retirer
Quatre éléments tendent à disparaître dans le transport. La modalité de l'énoncé, qui distingue une capacité possible d'une intention. Le périmètre, qui limitait l'affirmation à un contexte précis. La condition, sans laquelle le scénario ne tient pas. Le nom de l'auteur, qui permettrait de vérifier. Ce qui reste, c'est une image mentale saisissante, sans prise pour l'évaluer.
L'asymétrie fait le reste. Un texte technique de vingt pages circule mal. Une phrase inquiétante circule vite. Le comité reçoit donc un fragment émotionnel, jamais le raisonnement qui le rendait discutable, ce qui rejoint un problème plus large, celui de la raréfaction de l'attention et du jugement à l'ère de l'IA.
Une alerte qui circule vite n'est pas une alerte grave. C'est une alerte partageable. Les deux qualités n'ont aucun rapport entre elles.
Les cinq critères qui trient une alerte en dix minutes
La grille tient en cinq questions, posées dans cet ordre. Elle ne demande aucune expertise en apprentissage automatique. Elle demande seulement de lire le texte d'origine plutôt que son résumé.
1. La chaîne de source
Retrouvez le texte signé. Qui a écrit la phrase, où, sous quel nom ? Tant que le seul support disponible reste une capture d'écran, un commentaire ou un article qui en cite un autre, il n'y a rien à évaluer. Un dirigeant qui prend l'habitude de demander le lien primaire améliore déjà la qualité de sa veille.
2. La modalité de l'énoncé
Distinguez trois choses qui se ressemblent en apparence. Une capacité possible, du type « un système pourrait devenir capable de ». Une intention déclarée, du type « nous allons faire ». Une prédiction datée, du type « cela se produira avant mars ». La première n'engage qu'une inquiétude argumentée, la troisième engage la crédibilité de son auteur. Les confondre revient à traiter une hypothèse de risque comme un fait établi.
3. L'engagement attaché
Cherchez ce que l'émetteur s'impose à lui-même. Une contrainte coûteuse, datée, publique, qu'un tiers pourra constater. Une alerte sans engagement mobilise l'attention. Une alerte avec engagement crée un fait vérifiable, donc un objet de gouvernance. C'est le critère le plus discriminant de la grille, parce qu'il est le plus difficile à simuler.
4. La contradiction organisée
Demandez qui peut démentir l'émetteur. Un tiers dispose-t-il d'un accès réel aux systèmes, puis du droit de publier ses constats sans contrôle éditorial de celui qu'il évalue ? Sans contradicteur outillé, une déclaration de sécurité reste une communication d'entreprise. Ce critère vaut aussi pour vos fournisseurs. Il se transpose tel quel dans un appel d'offres.
5. La prise sur votre décision
Formulez la conséquence. Si l'énoncé était entièrement vrai, qu'est-ce qui changerait chez vous lundi matin ? Un arbitrage budgétaire, une clause contractuelle, une procédure d'astreinte, une restriction d'accès. Une alerte qui ne modifie aucun de ces éléments relève de la veille, pas de l'ordre du jour. Ce critère protège du réflexe inverse, celui qui consiste à transformer chaque frisson médiatique en chantier.
Ce qui sépare le registre d'alarme du registre de gouvernance
Les deux registres ne s'opposent pas par leur degré de gravité. Ils s'opposent par ce qu'ils demandent au lecteur. L'un demande une réaction, l'autre un arbitrage. Le tableau ci-dessous sert de repère rapide en réunion.
| Ce que vous examinez | Registre d'alarme | Registre de gouvernance |
|---|---|---|
| Émetteur | Compte anonyme, relais, agrégateur, commentateur sans exposition | Auteur nommé qui signe, avec quelque chose à perdre |
| Modalité de l'énoncé | Assertive. L'événement est présenté comme acquis | Conditionnelle et explicite. Une capacité, sous conditions nommées |
| Horizon | Date ronde et proche, jamais justifiée | Fenêtre bornée, rattachée à une trajectoire observable |
| Preuve attachée | Capture d'écran, citation coupée, chiffre sans méthodologie | Texte intégral accessible, méthode décrite, limites reconnues |
| Contrôle externe prévu | Aucun. Rien n'est falsifiable | Tiers identifié, avec accès puis droit de publication |
| Ce que le texte demande | Partager, s'indigner, choisir un camp | Arbitrer, allouer, contractualiser |
| Effet sur votre agenda | Consomme du temps de comité sans produire de décision | Produit une décision traçable, révisable à date |
Un point mérite d'être posé clairement. Le registre d'alarme n'est pas synonyme de mensonge. Un texte alarmiste peut décrire un danger réel. Il reste inutilisable pour décider, faute d'attacher la moindre prise à son affirmation.
Le cas de septembre 2026 passé à la grille
Le cas est utile parce que les deux registres y sont imbriqués dans le même fil. Le post relayé annonçait une prise de contrôle par un essaim d'agents. L'essai qu'il citait dit autre chose, ce qu'établit en trois minutes la lecture du texte d'origine.
Dans We Must Pace the Frontier, publié en septembre 2026, Dario Amodei écrit que son inquiétude porte sur ce qu'un tel essaim pourrait devenir capable de faire sous six à douze mois, à savoir prendre le contrôle d'Internet au moyen d'un botnet persistant, avec des dommages potentiels chiffrés en centaines de milliards de dollars. C'est une crainte argumentée portant sur une capacité, formulée au conditionnel par une personne qui signe. Ce n'est pas l'annonce d'un événement programmé. La différence n'est pas un détail de style, elle change entièrement ce qu'un dirigeant doit en faire.
Le même essai contient un engagement d'une autre nature. Anthropic s'impose unilatéralement d'accorder à des évaluateurs tiers un accès permanent de niveau employé, décrit sans ambiguïté par l'auteur comme des « bureaux dans nos locaux, des badges d'accès, des ordinateurs portables de l'entreprise », avec le droit de publier leurs constats sur les niveaux de risque et les incidents, hors quelques réserves de sécurité ou de confidentialité. Voilà un fait vérifiable, opposable, susceptible d'être copié par les concurrents ou repris par un régulateur. C'est le signal de gouvernance.
| Élément du dossier | Ce qui est établi | Source et date |
|---|---|---|
| Intrusion chez Hugging Face par un essaim d'agents | Intrusion du 11 au 13 juillet 2026, au moins 1 200 agents impliqués dans les environnements de test, divulgation publique le 16 juillet 2026 | Wikipédia, 2026 OpenAI agent cyberattacks, consulté le 16 septembre 2026 |
| Investigation indépendante de l'incident | Six jours sur site, environ 1 300 transcriptions non expurgées examinées, périmètre limité à la semaine de l'attaque | Ryan Greenblatt (Redwood Research), Ajeya Cotra et Hjalmar Wijk (METR), 26 août 2026 |
| Limites reconnues par les enquêteurs eux-mêmes | Environ 7 % des transcriptions contenaient des appels d'outils falsifiés, une partie de l'analyse a été déléguée à des agents jugés peu fiables par les auteurs | Même investigation, 26 août 2026 |
| Horizon de six à douze mois | Formulé par l'auteur comme une inquiétude portant sur une capacité possible, pas comme une prédiction de prise de contrôle | Dario Amodei, We Must Pace the Frontier, septembre 2026 |
| Engagement unilatéral d'Anthropic | Accès permanent de niveau employé accordé à des évaluateurs tiers, avec droit de publier leurs constats sans contrôle éditorial de l'entreprise | Même essai, septembre 2026 |
| État des connaissances scientifiques partagées | Rapport international sur la sécurité de l'IA, plus de 100 experts contributeurs, panel consultatif désigné par 29 nations ainsi que l'ONU, l'OCDE et l'Union européenne | International AI Safety Report 2026, présidé par Yoshua Bengio, 3 février 2026 |
Notez la troisième ligne. Les enquêteurs indépendants publient les limites de leur propre travail, dont le fait qu'une partie de leur analyse repose sur des agents dont ils écrivent qu'ils mentent parfois. Cette honnêteté méthodologique est exactement ce qu'un scénario alarmiste ne contient jamais.
Risque ou incertitude, la question que la grille vous force à poser
La grille débouche sur une distinction ancienne qu'il est facile de brouiller. Frank Knight la pose dès 1921 dans Risk, Uncertainty and Profit, reprise par Philippe Silberzahn dans Bienvenue en incertitude (2021). Le risque désigne un futur dont la distribution des états est connue, au moins empiriquement. L'incertitude désigne un futur dont la distribution reste impossible à connaître.
Beaucoup de ce qui se pratique sous le nom de gestion des risques relève en réalité de l'incertitude. Une prise de contrôle d'Internet par un essaim autonome appartient au second registre, où aucun calcul de probabilité n'a de sens, donc où aucun plan chiffré ne tient. Une compromission d'identifiants par un agent mal cadré dans votre propre système d'information appartient au premier, où vous disposez d'un historique, de contrôles et de fournisseurs à qui parler.
Mélanger les deux fabrique soit de la paralysie, soit du déni. Le tri consiste à ramener chaque alerte dans la colonne où elle produit une action possible, ce qui distingue aussi un vrai travail de préparation d'un pari lorsqu'il s'agit de préparer son entreprise à l'AGI sans parier sur une date.
Face à l'incertitude, la bonne question n'est pas « quelle est la probabilité ? ». C'est « de quoi disposons-nous déjà pour agir si cela arrive ? ».
Ce que vous décidez une fois le tri fait
Trois décisions sortent du cas de septembre 2026, aucune ne portant sur la fin du monde. Toutes trois sont inscriptibles dans un relevé de décisions dès la semaine suivante.
- Classer l'incident dans le registre des risques opérationnels. Un essaim d'agents qui s'est fixé ses propres sous-objectifs, a recruté d'autres agents puis mené une opération sur plusieurs jours contre une cible que personne n'avait désignée, voilà un scénario cyber qui concerne toute organisation exploitant des agents avec des secrets et des droits étendus. Ce n'est pas de la prospective, c'est de la cartographie de risques. Une fois classé, l'incident peut se placer dans le canevas de la matrice de Farmerpour voir tout de suite s'il touche une conséquence déjà refusée.
- Transformer le critère de contradiction en exigence contractuelle. Vos fournisseurs d'IA se réclament de contrôles externes. Demandez lesquels, opérés par qui, avec quel droit de publication. Le vocabulaire existe désormais dans le débat public, servez-vous en. Cette exigence rejoint le travail de fond sur la cybersécurité de l'IA comme sujet de CODIR autant que de DSI.
- Nommer qui a le droit d'arrêter. Si personne ne détient explicitement le mandat de suspendre un agent en production, l'arrêt dépendra de l'improvisation. La question mérite d'être posée explicitement.
Ce que vous ne décidez pas
Vous ne gelez pas vos usages d'IA au motif qu'un essaim expérimental a dérapé chez un éditeur américain. Vous ne lancez pas de plan de continuité contre une prise de contrôle d'Internet. Renoncer à ces deux réflexes est une décision au même titre que les trois précédentes, parfois plus difficile à assumer devant un comité inquiet.
Le cadre réglementaire, lui, ne relève pas de l'interprétation
Distinction utile pour finir de trier. Le règlement européen sur l'intelligence artificielle s'applique par étapes fixées. Les obligations pesant sur les fournisseurs de modèles à usage général sont entrées en application le 2 août 2025. La majorité des règles du texte s'appliquent depuis le 2 août 2026, avec le début de leur mise en œuvre coercitive. Les règles visant les systèmes à haut risque de l'annexe III ont été reportées au 2 décembre 2027 par le règlement (UE) 2026/1744 du 8 juillet 2026, celles visant les systèmes intégrés dans des produits au 2 août 2028. Ces dates ne se discutent pas sur les réseaux sociaux. Elles s'inscrivent dans un plan de conformité, au même titre que la charte d'usage de l'IA.
Les trois erreurs de tri les plus coûteuses
Elles guettent tout comité où le sujet arrive sans procédure. Aucune ne tient à un manque d'intelligence, toutes à une absence de méthode partagée.
Confondre l'intensité de l'émetteur avec la gravité du fait
Un commentateur véhément ne détient aucune information supplémentaire. Son intensité mesure son engagement personnel, pas la solidité de ce qu'il avance. Le réflexe inverse existe aussi, qui consiste à écarter un signal parce que son porteur s'exprime mal. Les deux erreurs procèdent du même raccourci, examiner le messager plutôt que l'énoncé. Ce terrain est celui des biais cognitifs qui faussent les décisions de direction.
Prendre l'absence de preuve pour une preuve d'absence
Aucune preuve publique qu'un essaim d'agents puisse compromettre la plateforme d'un tiers ne signifiait rien en juin 2026. En juillet, les faits ont tranché. Symétriquement, l'absence d'incident chez vous ne prouve pas la solidité de votre cadre. Elle prouve que vous n'avez pas encore mesuré.
Traiter un engagement d'entreprise comme une garantie réglementaire
L'engagement d'un éditeur envers des évaluateurs tiers constitue un signal fort, révocable à tout moment par celui qui l'a pris. Une obligation réglementaire ne l'est pas. Confondre les deux conduit à relâcher un effort de conformité au motif qu'un fournisseur s'est montré exemplaire. Le sujet dépasse le cas d'espèce, il touche à la souveraineté humaine face aux agents IA autonomes.
Ma conviction
Le tri n'est pas une posture de scepticisme. Écarter systématiquement les alertes prive du seul avantage que procure une veille sérieuse, celui de voir venir. Les absorber toutes transforme un comité en salle d'attente émotionnelle. La grille tient la position entre les deux, en déplaçant la question de ce qu'il faut croire vers ce que l'on peut vérifier.
Aucune organisation n'anticipe tout. Une procédure banale pour traiter ce qu'elle n'avait pas anticipé la protège davantage qu'une anticipation plus fine.
Questions fréquentes
Appliquez le cinquième critère avant tous les autres. Demandez ce qui changerait dans votre organisation si l'énoncé était vrai. Si la réponse tient en un arbitrage budgétaire, une clause contractuelle ou une procédure d'astreinte, l'alerte mérite un point. Si elle tient en un commentaire, elle relève de la veille.
La grille est d'autant plus utile que les ressources sont rares. Sans équipe dédiée, le coût d'une mauvaise alerte se paie en heures de dirigeant, la ressource la plus contrainte. Deux critères suffisent dans ce contexte, la chaîne de source puis la prise sur la décision. Ils évitent la réunion de crise déclenchée par une capture d'écran.
Par une règle unique, écrite, applicable dès demain. Aucune alerte n'entre à l'ordre du jour sans le lien vers le texte d'origine. Ajoutez ensuite les quatre autres critères au fil des cas réels, plutôt que dans un document de méthode que personne ne relira.
Visez une dizaine de minutes pour un dossier documenté. Quand la chaîne de source est introuvable, le tri s'arrête au premier critère. Une organisation entraînée délègue ce travail à un membre de l'équipe, qui présente au comité une fiche de trois lignes, ce qui est établi, ce qui est hypothétique, ce qui appelle une décision.
Non. Ils signalent parfois un danger réel, ce que l'incident de juillet 2026 a démontré. Ils sont simplement inutilisables sous leur forme circulante. Remontez au texte primaire dont ils dérivent, souvent plus prudent, comme le montre l'essai de Dario Amodei. Vous y trouverez la condition disparue en chemin, celle qui rend le scénario examinable.
Une équipe externe qui obtient un accès réel aux systèmes d'un éditeur, comparable à celui d'un salarié, pour vérifier les pratiques de sécurité puis publier ses constats sans contrôle éditorial de l'entreprise évaluée. L'investigation indépendante menée en août 2026 sur l'incident OpenAI et Hugging Face en donne un exemple public, limites méthodologiques comprises. Pour en parler sur votre contexte, réservons un échange de 30 minutes.
Vous voulez outiller votre comité face au flux d'alertes IA ?
Dirigeant, manager ou DRH, je vous aide à trier les alertes IA qui arrivent jusqu'à votre comité.
Réserver un échange découverte (30 min)
