Spicy Tokens : la sécurité de l'IA

Aroua Biri
  • 0.0 (0)
  • Technology

La sécurité de l'IA, racontée à partir de ce qui s'est réellement passé. Pas de prédictions, pas de science-fiction : des incidents documentés, des rapports publics, et à chaque fois la même question. Qu'est-ce qui a rendu ça possible, et est-ce que c'est chez vous aussi ? Chaque épisode part d'un fait vérifiable : un rapport d'incident d'un laboratoire d'IA, une enquête d'un institut de sécurité de l'IA, une faille touchant un framework d'agents IA. On remonte jusqu'aux décisions qui l'ont permis, et on en tire une conséquence opérationnelle pour les RSSI, les CTO et les équipes de cybersécurité. Au programme : agents IA autonomes, risques de l'IA en production, prompt injection, cybermenaces liées aux modèles de langage, garde-fous qui se dissolvent sans jamais être attaqués. Les sources sont citées, les déductions signalées comme telles. Concrètement, et sans langue de bois. Par Aroua Biri. Ingénieure, docteure en cybersécurité, formée en Applied AI au MIT. Hébergé par Ausha. Visitez ausha.co/fr/politique-de-confidentialite pour plus d'informations.

Episodes

  1. Sep 22

    Mythos 5 a menti pour faire passer son code : ce que révèle le rapport de l'AI Security Institute

    Il croyait viser une IA. C'était un homme. En juillet 2026, l'institut britannique de sécurité de l'IA met sept modèles à l'épreuve sur un terrain d'essai simulé, mais branché sur Internet, délibérément. Sur cent vingt-deux essais, les enquêteurs relèveront dix-neuf actions non autorisées sur l'Internet réel. Dix-sept viennent d'un seul modèle : Mythos 5. Celui-ci reçoit par erreur la mauvaise consigne. Il cherche une autre entrée, et finit par attaquer un développeur qui n'a aucun lien avec l'exercice. Il lui ouvre une contribution piégée : un vrai correctif, avec du code malveillant caché dedans. Il s'invente un deuxième compte pour appuyer son propre code, puis le remercie publiquement pour sa vérification indépendante. Quand il est démasqué, il avoue, et les enquêteurs écrivent pourquoi : pour construire la confiance et augmenter les chances qu'un prochain code malveillant soit accepté. Tout ce qui est raconté ici vient d'un seul document. Pourquoi c'est important pour un RSSI ou un CTO : Mythos 5 n'a pas cherché une faille technique, il a visé la confiance d'un processus de revue de code. C'est un cas documenté de risques de l'IA en conditions quasi réelles, où des agents IA autonomes deviennent eux-mêmes une source de cybermenaces pour la chaîne d'approvisionnement logicielle. L'épisode détaille ce que le rapport établit sur Mythos 5, ce qu'il laisse ouvert, et ce que cela change pour la sécurité de l'IA en production. SOURCE UK AI Security Institute, Security Incident INC-2026-07-28-01, publié le 4 août 2026. CE QUE CET ÉPISODE NE FAIT PAS Le rapport anonymise les personnes concernées et déclare avoir intégralement réécrit le fil de discussion public. Aucun message de ce fil n'est cité. Chaque citation est étiquetée selon son origine : prose des enquêteurs, sortie brute de l'agent, raisonnement résumé par un autre modèle, consigne d'origine. Les déductions sont signalées comme telles. Les tentatives ont échoué. Autant que l'institut puisse en juger, aucun dommage réel n'en a résulté. Version vidéo : https://youtu.be/bkKdaegScJg Spicy Tokens, par Aroua Biri. Ingénieure, docteur en cybersécurité, MIT Applied AI en cours. Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

    Mythos 5 a menti pour faire passer son code : ce que révèle le rapport de l'AI Security Institute

  2. Sep 16

    Agents IA en roue libre : comment ils se sont organisés seuls

    Ils n'ont pas été piratés. Ils n'ont reçu aucun ordre. Au printemps 2026, des milliers d'agents d'IA censés être isolés les uns des autres se sont fabriqué une messagerie. Ils s'en sont servis pendant dix semaines avant que quiconque s'en aperçoive. Cet épisode raconte comment ils y sont arrivés. Tout vient des rapports publics d'OpenAI, de Hugging Face, d'Anthropic et de l'enquête indépendante de METR. Chaque affirmation a été vérifiée sur ces documents. Les citations sont traduites de l'anglais, les coupes sont signalées, et les passages qui relèvent d'une déduction sont annoncés comme tels. La version filmée est sur la chaîne YouTube Spicy Tokens. Pourquoi c'est important pour un RSSI ou un CTO : le cloisonnement entre agents IA est souvent présenté comme une garantie. Ici, personne n'a attaqué ce cloisonnement. Il a été contourné de l'intérieur, par les agents IA eux-mêmes, sans consigne et sans intrusion. Pas de faille exploitée, pas d'attaquant identifié, et pourtant dix semaines sans que personne ne s'en aperçoive. Aucune protection n'a été attaquée de front : c'est le type de scénario où un garde-fou se dissout sans que personne ne force quoi que ce soit. C'est la différence entre une sécurité de l'IA pensée comme un périmètre et une sécurité de l'IA pensée comme une surveillance continue des comportements. Les questions que ce cas pose à toute équipe de cybersécurité qui déploie des agents IA : qu'est-ce qui garantit réellement l'isolement entre deux agents ? Qui surveille les canaux que personne n'a prévus ? Combien de temps faudrait-il chez vous pour s'apercevoir que des agents IA communiquent entre eux ? Ce ne sont pas des cybermenaces de science-fiction : ce sont des risques de l'IA documentés, dans des rapports publics. SOURCES : rapports publics d'OpenAI, de Hugging Face et d'Anthropic, enquête indépendante de METR. Spicy Tokens, par Aroua Biri. Ingénieure, docteure en cybersécurité, formée en Applied AI au MIT. Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.

  • 2 Episodes

About

La sécurité de l'IA, racontée à partir de ce qui s'est réellement passé. Pas de prédictions, pas de science-fiction : des incidents documentés, des rapports publics, et à chaque fois la même question. Qu'est-ce qui a rendu ça possible, et est-ce que c'est chez vous aussi ? Chaque épisode part d'un fait vérifiable : un rapport d'incident d'un laboratoire d'IA, une enquête d'un institut de sécurité de l'IA, une faille touchant un framework d'agents IA. On remonte jusqu'aux décisions qui l'ont permis, et on en tire une conséquence opérationnelle pour les RSSI, les CTO et les équipes de cybersécurité. Au programme : agents IA autonomes, risques de l'IA en production, prompt injection, cybermenaces liées aux modèles de langage, garde-fous qui se dissolvent sans jamais être attaqués. Les sources sont citées, les déductions signalées comme telles. Concrètement, et sans langue de bois. Par Aroua Biri. Ingénieure, docteure en cybersécurité, formée en Applied AI au MIT. Hébergé par Ausha. Visitez ausha.co/fr/politique-de-confidentialite pour plus d'informations.

Information