PolySécure Podcast volet Teknik

Nicolas-Loïc Fortin et tous les collaborateurs

Podcast francophone sur la cybersécurité. Pour professionels.

  1. 2d ago

    Teknik - Série l'IA dans les CtF - Team Québec

    Parce que… c’est l’épisode 0x360! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Un débat bien enflammé Ce numéro spécial du Polysécure réunit Martin Dubé, Simon Nolet et Éric Gagnon autour d’un sujet que l’animateur juge litigieux, l’usage de l’intelligence artificielle dans les CTF. Les trois invités comptent une quinzaine d’années de pratique, ont déjà formé la même équipe et explorent l’IA dans ces compétitions depuis au moins un an. L’animateur promet d’ajouter une bûche dans le poêle si le feu manque. L’apprentissage au cœur des enjeux Éric pose la distinction qui structure l’épisode. Les CTF ont longtemps été son principal outil d’apprentissage, et il craint qu’un agent totalement autonome n’enlève ce volet. Se péter la face des heures sur un challenge ancre la solution en mémoire comme aucune réponse instantanée ne le fera. Maîtriser l’orchestration des agents reste toutefois une compétence à développer, admet-il. Simon nuance, on peut encore apprendre avec un agent, en lui posant des questions comme un game master d’escape room qui donne des indices. L’apprentissage demeure possible, mais il faut désormais le vouloir. Gagner ne veut plus dire la même chose Martin se dit favorable à l’IA dans les CTF. Il raconte son parcours, d’un usage chaotique de Claude Code l’an dernier, où chaque script partait en vrille, jusqu’à une orchestration plus élégante inspirée des outils publiés par de grandes équipes sur GitHub. Le métier a changé, ce sont désormais des robots qui ont les mains sur le clavier. Gagner un CTF ne reflète donc plus la même compétence technique, et la corrélation entre les équipes gagnantes et l’élite du domaine s’effrite. Au NorthSec toutefois, l’IA réglait seule les défis les plus simples, mais la track Windows résistait et réclamait le cerveau des humains pour débloquer les agents. Séparer les univers pour préserver l’équité Simon juge injuste qu’une équipe assistée par IA récolte les mêmes prix qu’une équipe qui s’en passe. Le NorthSec a d’ailleurs publié ses règles pour 2027, qui séparent ceux qui brûlent des tokens et ceux qui visent les prix. Éric propose même de retirer le scoreboard du volet agentique pour supprimer l’ambition d’y gagner. Simon objecte que la compétition demeurera entre équipes agentiques, moins de tokens pour un même résultat, un harness supérieur restant une prouesse. Martin rêve d’une compétition de harnesses à armes égales, même modèle et même budget. Tricherie et règles du jeu La ligne est mince entre employer un chatbot comme assistant et laisser un agent résoudre les défis. Martin prédit une ère de camouflage où chacun jouera sa ligne. Simon rappelle que la tricherie existait avant l’IA, du vol de flags à l’externalisation d’un challenge vers un expert hors de l’équipe. Le NorthSec mise sur l’auto-déclaration, tandis que l’animateur note que faire la police reste désagréable pour les organisateurs, et que le système d’honneur montre ses limites quand un enjeu de compétition existe. La motivation des challenge designers en berne Un point sensible émerge, la motivation des créateurs de challenges qui voient leurs défis résolus en trente secondes par un agent. L’animateur décrit l’atmosphère gênante de la remise des prix au NorthSec, où la première équipe fut à peine applaudie, soupçons d’usage d’IA à l’appui. Martin adopte la position inverse, il irait jaser avec les gagnants pour comprendre leur orchestration, convaincu qu’une telle victoire n’est pas un hasard. Des idées circulent, prix de participation, MVP, ou un golden buzzer laissé à la discrétion du challenge designer. Socialisation et accessibilité Les agents ne libèrent pourtant pas de temps pour la bière, le NorthSec a observé l’inverse, des participants isolés dans leur bulle qui demandent de l’aide à la machine plutôt qu’aux coéquipiers. Simon admet avoir toutefois bien mangé, bu et comparé ses agents. Sur l’accessibilité, le niveau a grimpé depuis les premiers CTF, où il s’agissait d’apprendre Nmap. Éric conseille aux débutants un home lab et les conférences de sécurité, qui ont changé sa carrière. Martin mise sur la curiosité, entre ceux qui promptent sans comprendre et ceux qui font du patch diffing dès qu’une vulnérabilité PHP critique sort. L’expertise humaine garde sa valeur Les trois s’entendent, on ne sera pas remplacés. Martin rappelle qu’en environnement client sensible, la délicatesse exigée échappe encore aux agents. Éric compare aux années où certains roulaient des outils sans comprendre leurs guts, alors que ceux qui creusaient le code et les shellcodes se démarquaient. Simon insiste sur le jugement humain pour repérer ce qui est louche, une compétence née de l’expérience. Reste la question de la relève, comment apprendre à diriger un agent quand on n’a jamais vécu la douleur d’avoir appris les commandes par cœur. Réinventer les formats Simon a tenté de faire hacker un agent par un autre via prompt injection, sans grand succès, et doute qu’on sache concevoir des défis simples pour un humain et ardus pour une machine. Martin imagine des tracks de red team où la discrétion et les alertes comptent. Simon propose un red versus blue où chaque équipe protège son infrastructure et attaque celle de l’autre. Éric est all-in pour un CTF dédié au jeu agentique. L’animateur cite le Stick et son jury de write-ups, tandis que Simon rappelle le Missing Persons CTF, où l’OSint servait à retrouver des personnes disparues. Trois stratégies pour le prochain Hackfest Simon développe une plateforme de collaboration entre humains et agents, avec suivi des challenges, gestion des accès restreints et agents spécialisés aux permissions limitées, un agent QA qui lit sans écrire. Martin a bâti un environnement on-prem autour d’un modèle Qwen maison aux tokens quasi illimités, qui orchestre et appelle Claude au besoin, avec des skills préfabriqués et des images Docker d’outils préinstallés, entraîné sur Hack The Box. Éric restera en mode casual, accompagné d’un Claude, visant des tracks hors de sa zone de confort, et la socialisation autour des tables. L’animateur propose un micro-épisode après le Hackfest, l’un des événements les plus préparés de 2026 à cette réalité. Contributeurs .contributors-table { border-collapse: separate; border-spacing: 20px 8px; } .contributors-table td, .contributors-table th { border: none; background: transparent; text-align: center; vertical-align: top; } .contributors-table img.contribu

  2. 3d ago

    Teknik - Série l'IA dans les CtF - Intérêt en danger

    Parce que… c’est l’épisode 0x35F! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Le parcours d’un participant qui décroche Dans cet épisode spécial de Polysécure, l’animateur reçoit Mathéo Vergnolle, expert en cybersécurité chez Synactive, spécialisé en rétro-ingénierie et en recherche de vulnérabilités bas niveau. Ancien membre de l’équipe de France au Challenge européen de cybersécurité, il revient sur la transformation des CTF sous l’effet de l’intelligence artificielle et explique pourquoi il a presque totalement décroché de ces compétitions. Un moment de bascule au BRES CTF Son dernier CTF, le BRES CTF à Rennes, autorisait l’IA. Son équipe avait choisi d’y jouer sans intelligence artificielle, par goût de l’apprentissage, mais sans aucune chance de gagner. Les gagnants eux-mêmes n’ont « pas appris grand-chose ce jour-là ». Cette expérience marque, selon lui, la fin de sa motivation pour les CTF classiques. Quelques semaines plus tôt, le Challenge français de cybersécurité avait interdit l’usage agentique des LLM tout en tolérant leur emploi comme moteur de recherche avancé ou pour la documentation. Les organisateurs ont passé un temps considérable à démasquer des tricheurs souvent de mauvaise foi, mais l’expérience demeurait intéressante pour les joueurs. La lente intrusion des LLM dans les compétitions Mathéo retrace l’évolution observée. Les LLM constituaient d’abord un outil modeste, une recherche Google un peu plus efficace. Au Challenge européen de 2024, ils apportaient encore une aide limitée. En 2025, en Pologne, la bascule fut radicale, puisque plus de la moitié des challenges se résolvaient sans intervention humaine et sans règlement pour l’interdire. Devant des épreuves qu’il savait pouvoir déléguer à une machine, il n’y retrouvait plus le sentiment de satisfaction et de réussite. Il a donc décidé d’abandonner complètement les LLM, y compris pour la recherche documentaire, afin de continuer à apprendre dans son métier comme dans ses loisirs. Compétition et apprentissage désormais dissociés Pour Mathéo, les CTF comportaient deux aspects qui se mariaient harmonieusement, l’aspect compétitif et l’aspect apprentissage. Ces deux dimensions sont aujourd’hui complètement séparées. On participe soit pour gagner, soit pour apprendre, rarement pour les deux à la fois. S’engager dans une compétition où l’on sait d’avance que l’on perdra n’a rien de motivant. Beaucoup de membres de la communauté sont dérangés par les LLM ou préfèrent s’en passer. Les équipes qui gagnent les CTF autorisés ne trichent pas forcément, puisqu’elles respectent les règles. Ces étudiants subissent une pression implicite ou explicite de leur école, qui communique sur leurs résultats et finance leurs déplacements. On évalue ainsi le résultat plutôt que la compétence réelle, même si Mathéo reconnaît un vrai talent dans la configuration des agents. Des organisateurs en quête de résistance à l’IA La question des formats viables nourrit de nombreuses discussions. Un blog post de Lolo Le Kik décrivait une méthodologie pour créer des challenges résistants à l’IA, par exemple en insérant du lore trompeur évoquant des injections SQL alors que le sujet réel est tout autre. Le joueur comprend l’astuce, le LLM part sur une fausse piste. Ces tentatives vieillissent vite, car les modèles progressent sans cesse. La surveillance en présentiel demeure envisageable mais intrusive. Le récent Challenge européen de cybersécurité, malgré l’interdiction des LLM, a connu plusieurs triches avérées. Interdire totalement internet paraît irréaliste, les CTF nécessitant des recherches en ligne, et les joueurs de cybersécurité aiment contourner les règles. À HexaCon, la conférence organisée par Synactive, un CTF speedrun a bien fonctionné. Des challenges simples, résolubles en quelques minutes, se sont joués en duel devant un public, écrans projetés en direct, IA interdite, ce qui rend toute tricherie immédiatement visible. Mathéo évoque enfin l’idée de remplacer les petits challenges isolés par un jeu multijoueur dont l’objectif serait de créer des modes ou des cheats, un format créatif mais où l’IA resterait avantageuse. Retrouver du plaisir hors compétition Les CTF non compétitifs conservent tout leur intérêt à ses yeux. Il prévoit de participer à celui de la GRHAC, annoncé sans classement, chacun progressant pour découvrir et apprendre à son rythme. Il apprécie également Acropole, la plateforme du France Cyber Security Challenge, où les profils sont privés et où l’on n’affronte que soi-même. Des enjeux sérieux pour le recrutement Mathéo craint de lourdes pertes pour le recrutement. Les ressources humaines des entreprises de cybersécurité auront de plus en plus de mal à distinguer les profils. Chez Synactive, un challenge est proposé dans les premières phases de recrutement, et certains candidats y recourent à l’IA avant d’échouer aux questions posées en salle technique, de sorte que tout le monde perd du temps sans rien apprendre. Les CTF ont été le moteur de sa carrière. C’est par eux qu’il a découvert la cybersécurité, orienté ses études et obtenu son poste en mettant en avant ses résultats. Au BRES CTF, le concepteur des challenges qu’il avait appréciés est venu le rencontrer, et Synactive a recruté ce concepteur plutôt qu’un joueur. Concevoir de bons challenges devient ainsi plus visible que d’y participer. Mais les concepteurs se démobilisent, sachant que les participants lanceront Claude ou un autre agent sans même examiner leur travail. Des pistes pour l’avenir Les formats à deux podiums, l’un avec IA autorisée, l’autre sans IA et généralement sans récompenses pour éviter la triche, lui semblent une bonne manière de conserver de l’adrénaline dans des conditions justes. La journée déconnectée du récent Challenge européen a également été appréciée des joueurs. Désormais, sur son temps libre, Mathéo préfère les projets personnels, comme la rétro-ingénierie de jeux vidéo ou l’apprentissage de nouvelles technologies, à son rythme, sans rien avoir à prouver à personne. Il rappelle enfin que c’est en progressant sur Root Me qu’il a pris goût à ce domaine, et s’inquiète qu’un débutant se contente de cliquer et de lancer un agent, sans retrouver les motivations d’antan. Notes Hexacon Contributeurs .contributors-table { border-collapse: separate; border-spacing: 20px 8px; } .contributors-table td, .contributors-table th { border: none; background: transparent; text-align: cente

  3. 4d ago

    Teknik - Dazio ou comment protéger le poste d'un développeur

    Parce que… c’est l’épisode 0x35E! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Une genèse ancrée dans le quotidien des développeurs Dans cet épisode de Polysécure, l’animateur accueille Alexis-Maurer Fortin, développeur chez Boost, pour présenter Dazzio, un outil dédié à la sécurité des postes de développeurs, lancé officiellement depuis quelques semaines. Le projet découle du produit commercial Developer Endpoint Protection et du projet open source Bagel, qui révélait les secrets présents sur les machines. Convaincus que les développeurs sont devenus des cibles privilégiées des attaques de chaîne d’approvisionnement, et jugeant les solutions du marché fragmentaires, l’équipe a voulu rassembler ces capacités dans une solution unique et simple d’utilisation. Un premier scan puis une protection continue L’outil analyse d’abord le portable du développeur pour recenser les packages installés via NPM ou PyPI, les extensions d’IDE comme VS Code, les skills, les serveurs MCP configurés ainsi que les configurations des gestionnaires de packages, offrant une vision globale de l’exposition de la machine. En cas de campagne d’attaque, un développeur peut installer l’outil et obtenir immédiatement un portrait de sa posture, la présence éventuelle de malware et des pistes de remédiation. Dazzio propose ensuite un mode protection roulant en arrière-plan sous forme de daemon, avec une attention particulière aux ressources, les développeurs détestant les outils qui ralentissent leur machine. Des scans périodiques repèrent les packages nouvellement installés ou désinstallés, tandis qu’un flux propriétaire de malware, rapidement mis à jour, permet une détection en temps presque réel. Le mode safe package pour bloquer le malware La fonctionnalité la plus importante selon Alexis demeure le mode safe package. L’outil instrumente les configurations des gestionnaires de packages connus, un peu comme le ferait une librairie interne d’entreprise, afin que les requêtes transitent par le daemon avant d’atteindre NPM ou PyPI. Elles passent par un socket local, filtrées surtout pour les installations, le reste étant laissé passer. Deux variantes existent. Le mode audit avise l’usager en temps réel lorsqu’un package malveillant vient d’être installé. Le mode bloquant, lui, empêche l’installation dès qu’une correspondance est établie avec la base de données de malware. Bloquer avant l’exécution est essentiel, car une détection après coup laisse craindre que le code malveillant ait déjà été exécuté. L’outil aide aussi à la remédiation en identifiant les services, comme GitHub ou d’autres SaaS, auxquels les secrets exposés donnent accès. Des signatures issues de partenariats Pour alimenter ses détections, l’équipe a conclu un partenariat avec Open Source Malware, un site spécialisé dans la détection de campagnes actives, qui fournit des données sur les menaces en cours. L’outil s’appuie aussi sur OSV, un consortium qui agrège les vulnérabilités touchant les packages et les librairies de code. Boost demeure une très petite équipe, d’où l’importance de ce partenaire. Une détection ciblée des secrets La détection de secrets reprend la logique de Bagel. Plutôt que de parcourir tout le répertoire personnel, l’outil se concentre sur les endroits où les développeurs laissent habituellement des secrets, soit les entrepôts Git, les fichiers de configuration d’environnement, l’historique Bash où ils sont souvent collés, et les conversations d’agents IA comme Claude Code. Le tout repose sur des expressions régulières couvrant les principaux types de secrets. En mode protection, Dazzio surveille ces fichiers afin de suivre leur évolution, surtout l’ajout de nouveaux éléments. Les agents IA, accélérateurs du risque Alexis souligne que les développeurs consomment constamment de nouvelles librairies, un environnement dynamique que les attaquants ont bien compris et que l’IA décuple. Les agents comme Claude Code ou Codex utilisent les mêmes gestionnaires de packages et en installent parfois sans demande explicite. Puisque leurs configurations sont interceptées, tout passe par Dazzio, qui peut bloquer une installation malveillante. Cette visibilité automatisée est devenue nécessaire dans un contexte où tout va très vite. Une télémétrie minimale par respect de la vie privée L’équipe tient à protéger la vie privée des usagers. L’analytique se limite à vérifier le bon fonctionnement de l’outil, comme le nombre de packages par écosystème et les erreurs d’exécution. Ni chemins de fichiers, ni types de secrets, ni données associables à une personne ne sont collectés. Seuls les malwares détectés, de manière anonymisée, sont remontés afin de mesurer l’impact des campagnes. Un mode hors ligne est disponible, l’analytique pouvant être désactivée, et un courriel n’est demandé que pour le premier scan et la protection continue. Installation, plateformes et mises à jour Le produit supportait initialement macOS et Linux, et le support Windows a été ajouté la semaine précédant l’enregistrement, incluant WSL, ce qui permet d’analyser l’environnement Linux d’une machine Windows. L’installation passe par un dépôt GitHub et un site de documentation. Sur macOS, Homebrew est fortement recommandé grâce au tap de l’entreprise. Sur Linux, Homebrew fonctionne aussi, sinon un script permet de récupérer les binaires publics. Windows dispose également d’un script et la disponibilité via Winget est envisagée. L’outil avise l’usager lorsqu’une nouvelle version est disponible. Vers un public plus large que les développeurs Alexis souhaite rendre l’outil plus accessible aux gens non techniques, car de plus en plus de personnes en marketing ou en RH utilisent des agents IA qui génèrent et exécutent du code, une tendance qui inquiète des clients. Dans les prochains mois, l’équipe vise une expérience inspirée de Docker Desktop, où le CLI demeure l’angle privilégié mais une application GUI pourrait offrir de l’information, des alertes en temps réel et des conseils de protection. L’animateur compare ces nouveaux usagers à des gens manipulant des armes chargées sans en comprendre les conséquences. Alexis rappelle que la sécurité du développement logiciel manque déjà à la formation des professionnels et que faire aveuglément confiance aux agents est dangereux. Il faudra toujours encadrer les agents et les confiner, les événements récents ayant montré les risques lorsqu’ils ne sont pas correctement contraints. Notes Dazio Contributeurs .contributors-table { border-co

  4. Oct 22

    Teknik - Série l'IA dans les CtF - Regard mix

    Parce que… c’est l’épisode 0x35A! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Dans cet épisode technique de Polysécure, l’animateur s’entretient avec Bitkay, membre de l’équipe The Flat Network Society et vétéran des CTF avec treize ans de pratique et plus de trois cents événements. Spécialiste des épreuves web, à la fois participant et organisateur, il livre un regard lucide sur l’irruption de l’IA dans ces compétitions de sécurité. Un basculement net entre 2025 et 2026 En 2025, l’IA restait timide et peu performante. Quelques équipes l’utilisaient sur les épreuves simples pour gagner du temps, mais le travail manuel demeurait plus efficace. En 2026, plus personne ne s’en cache. Les modèles dits de frontière viennent à bout de la plupart des challenges et la compétition devient une course aux dépenses, la victoire revenant à l’équipe qui brûle le plus de tokens. Un plaisir de jeu fragilisé Le CTF était pour lui un jeu entre copains, où chaque épreuve résolue après des heures d’effort procure un vrai rush d’adrénaline. Utiliser l’IA retire ce sentiment d’accomplissement, tandis que s’en passer condamne à descendre dans les classements. Ce dilemme l’a démotivé et l’inquiète surtout pour les débutants, pour qui le CTF restait une excellente école des vulnérabilités et de leur exploitation. Obtenir un flag à coups de prompts, c’est apprendre beaucoup moins, et il redoute une dépendance croissante. Présentiel, distance et économie des tokens Le présentiel garde sa magie, puisqu’on peut enfin mettre un visage sur les équipes rivales et échanger plus librement sur les attaques et les writeups. Sur la question de l’IA, rien ne change, car les modèles tournent à distance. Les coûts révèlent plusieurs profils. Les étudiants disposent de crédits offerts par leurs écoles, des entreprises de cybersécurité utilisent leurs bons classements sur CTFtime comme argument marketing, d’autres ont les moyens de leurs ambitions. Hors des événements prestigieux comme la Defcon, l’investissement reste rarement rentable, d’où sa boutade sur le bug bounty et ses tokens. Des parades organisationnelles limitées Sur certains événements, il voit des équipes lancer un essaim d’agents et aller boire une bière pendant que d’autres galèrent à la main. Interdire l’IA paraît presque impossible, car un modèle capable de réussir une épreuve rédigera aussi un rapport convaincant, et surveiller le réseau reste illusoire avec des joueurs experts en VPN. Tout repose sur la bonne volonté des équipes, alors que prix et gloire attirent la triche. Certains organisateurs proposent deux classements, l’un libre où tout est permis, l’autre où des équipes s’engagent à jouer sans IA. Il imagine même des compétitions dédiées aux meilleurs setups d’IA. Détecter les tricheurs et le code généré Organisateur du FCFC, la sélection française pour la compétition européenne, il raconte comment les tricheurs étaient repérés. Des requêtes trahissaient leur compte par des headers caractéristiques, d’autres résolvaient cinq épreuves en cinq minutes puis se montraient démunis face aux questions. Les exploits livrés trahissent aussi l’IA, propres, dotés d’un argparse soigné et d’options superflues, là où un vrai script de CTF s’écrit dans l’urgence, moche, avec des valeurs codées en dur. Il reste persuadé que beaucoup de tricheurs n’ont jamais été détectés. Une pratique recomposée côté participants Il participe désormais moins, et uniquement à des CTF de confiance dont la qualité est éprouvée. Il choisit deux ou trois challenges intéressants, idéalement ceux qui n’ont encore aucune solution, là où l’IA n’arrive pas, pour se prouver qu’il reste capable de ce que les modèles ne font pas. À l’argument que l’IA servira de toute façon dans son futur travail, l’animateur répond par l’image du sport, où l’on ne progresse plus sans entraînement. L’IA dans la conception des épreuves et le slop Beaucoup de petits événements proposent désormais des épreuves entièrement générées, reprenant des bugs vus cinquante fois. Il admet être exigeant après tant d’années, un débutant pouvant les trouver originales. Il ne s’oppose pas à l’IA pour fabriquer l’habillage, ce site jetable destiné à ne servir qu’une fois. L’essentiel demeure qu’un bug vraiment original se cache au cœur du scénario. Place ensuite au slop, ce contenu produit sans effort de personnalisation. Son exemple, un courriel de trois idées rédigé par l’IA, que le destinataire fait synthétiser pour retrouver les phrases initiales. Deux passages par un modèle pour une illusion de professionnalisme et beaucoup d’énergie gaspillée. Une saison à venir sous le signe du pay to win Les événements sur invitation, où des équipes réputées misent leur réputation sur une participation sans IA, constituent une parade de court terme défavorable aux nouvelles équipes. La surveillance restera possible en présentiel, pas en ligne. Il mesure la frustration d’heures d’effort face à des équipes validant quinze épreuves en dix minutes, personne ne demandant à un modèle de jouer ou de boire une bière à sa place. Il suppose que ces utilisateurs prennent plaisir à voir leur automatisation fonctionner, et y voient peut-être un banc d’essai pour le bug bounty, où les bugs sont difficiles à trouver et simples à exploiter, à l’inverse des CTF. La peur de la dépendance Il regrette aussi de voir se perdre la tradition de réserver une technique inédite aux joueurs méritants d’un CTF avant publication. Il cite un coéquipier spécialiste du reverse qui a confié un binaire redoutable à Codex, résolu en une heure pendant que l’équipe s’acharnait. Ce qui l’effraie le plus reste la dépendance envers quelques entreprises américaines fixant librement prix et accès. Le jour où le robinet se fermera, ceux qui ont perdu l’habitude de chercher par eux-mêmes risquent d’être démunis, et il espère des modèles locaux assez puissants pour prendre le relais. Épisode enregistré avec Lucas Philippe. Contributeurs .contributors-table { border-collapse: separate; border-spacing: 20px 8px; } .contributors-table td, .contributors-table th { border: none; background: transparent; text-align: center; vertical-align: top; } .contributors-table img.contributor-photo { width: 100px; height: 100px; object-fit: cover; border-radius: 50%; } .contributors-table .contributor-name { display: block; margin-bottom: 4px; font-weight: bold; } .contributors-table .contribu

  5. Oct 16

    Teknik - Rewiring the SOC - From Detection-as-Code to Agentic MDR in Production (bsides)

    Parce que… c’est l’épisode 0x356! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Présentation de l’invité et contexte Dans cet épisode spécial BSides du Polysecure, Nicolas reçoit Pierre Collard, qui dirige les équipes de détection et de réponse chez Sopra Steria pour le périmètre Canada et États-Unis. Sopra Steria est une société européenne de transformation numérique en pleine expansion en Amérique du Nord qui accompagne des clients de tailles et de secteurs variés, allant de l’assurance aux municipalités en passant par de grands groupes automobiles. Pierre est venu présenter au BSides, ainsi qu’à GoSec, un sujet portant sur la modernisation du SOC et la place réelle de l’intelligence artificielle dans les opérations de cybersécurité. La promesse de l’IA face à la réalité du terrain Pierre constate un consensus clair sur le potentiel de l’intelligence artificielle, mais souligne que la majorité des clients, petits comme grands, ne disposent pas encore de la maturité opérationnelle ni de la gouvernance nécessaires pour déployer des outils gérés par l’IA à grande échelle. Les données ne sont souvent ni fiables ni structurées et les processus manquent de clarté. Contrairement au discours marketing qui promet de trier le désordre existant, Pierre soutient que ce désordre doit être organisé en amont avant qu’une intelligence artificielle puisse générer une valeur réelle. L’IA n’est pas un outil magique, et sans les informations adéquates, elle ne livrera que la performance standard de la solution, mal alignée avec les enjeux business. Le cycle de vie d’un incident et les limites de l’autonomie Pierre décompose le cycle de vie d’un incident en trois phases. La détection génère les alertes, l’investigation consiste à corréler les événements, enrichir les cas et comprendre la situation, puis vient la décision, où l’on détermine quoi faire de cette information. Sur les deux premières phases, l’IA apporte déjà des gains notables en accélérant l’ingénierie de la détection, la gestion des signaux faibles, la création de rapports et l’enrichissement. Cependant, la partie décision reste problématique. Déléguer des actions à un agent ne transfère pas la responsabilité, qui demeure du côté des équipes de sécurité. Ce niveau de confiance requis pour une autonomie complète n’est pas encore atteint dans la plupart des organisations. Trois prérequis pour brancher l’IA utilement Pierre identifie trois éléments essentiels. Le premier est le contexte, c’est-à-dire donner à l’agent les informations qui permettent de comprendre ce que l’entreprise considère comme malveillant, selon son environnement, ses enjeux et son historique. Le deuxième est l’historique, qui consiste à corroborer une hypothèse avec les incidents passés et les décisions qui avaient été prises, notamment via une intégration à un outil ITSM, ce qui suppose une hygiène de gestion rigoureuse. Le troisième est l’autorité, soit la délimitation de ce qu’on délègue ou non à l’agent selon la criticité du cas d’usage et la capacité à revenir en arrière. Certains cas tolèrent un niveau de confiance de 60 à 70 pour cent, tandis que d’autres, comme la mise hors ligne d’une production, exigent une certitude proche de 99 pour cent avec un humain dans la boucle. Mesure de l’efficacité et qualité des données Pour évaluer les agents, l’équipe de Pierre s’appuie sur plusieurs métriques, dont le taux d’accord sur les décisions recommandées, la capacité de l’agent à retrouver des preuves contextuelles, le taux d’actions non sécurisées et l’analyse coût-performance. Les tests se font principalement en interne, via des campagnes avec des critères précis, puisque la majorité des clients n’en sont qu’à utiliser les fonctionnalités IA fournies avec leurs outils existants. Concernant les données, Pierre recommande un modèle de données clair avec des champs critiques, dont le raisonnement suivi par l’agent et le contexte utilisé, sans exiger une CMDB parfaitement propre avant de démarrer les preuves de concept. Il estime par ailleurs que les efforts de gouvernance et d’assurance qualité autour d’un agent représentent deux à trois fois les efforts de sa mise en place initiale. Un exemple concret de l’importance du contexte Pierre illustre son propos avec une alerte de détection de clé USB ou de fichier malveillant. Pour une entreprise dont la politique interdit les supports amovibles et où l’alerte provient d’un VIP du département des finances, l’incident sera ouvert et escaladé avec isolement de l’hôte. Pour une autre entreprise où l’usage quotidien des supports amovibles est accepté et où les données sont moins sensibles, le contrôle aura simplement fonctionné sans ouverture d’incident. Le même contexte technique peut donc produire des décisions diamétralement opposées selon le contexte opérationnel, et c’est précisément ce type d’information qu’il faut transmettre aux agents. L’évolution du rôle de l’analyste Les tâches techniques sont de plus en plus automatisées et le rôle de l’analyste se transforme vers la vérification, l’encadrement des agents, la gestion des identités et des exceptions, et la gouvernance du contexte fourni. Pierre prend l’exemple de la fonction XDR Attack Disruption de Microsoft, qui agit de façon autonome sans playbook manuel, les analystes vérifiant ensuite les actions et documentant les exceptions. Il nuance toutefois l’idée d’un simple décalage latéral des compétences. Selon lui, l’expertise technique doit rester présente, avec en plus des compétences en gestion de l’IA et en gouvernance, ce qui élève le point d’entrée de l’échelle d’un cran plutôt qu’il ne le décale sur le côté. Cela rend l’intégration de profils juniors plus difficile et nécessitera à terme des formations plus structurées et explicites pour maintenir les compétences. Le SOC du futur et le modèle économique Pierre décrit un changement du centre de gravité du SOC. Là où l’analyste était historiquement le goulot d’étranglement, l’organisation de demain verra les humains concevoir l’architecture et le service, les agents réaliser les investigations et les recommandations, et des garde-fous statiques comparer ces recommandations à la politique de sécurité. La valeur ajoutée des offres se recentre sur les résultats cybersécurité plutôt que sur le simple nombre d’analystes facturés, ce qui devrait transformer en profondeur le marché du MDR. La question des coûts La dimension financière constitue une troisième dimension à ajouter

  6. Oct 15

    Teknik - Série l'IA dans les CtF - leHACK WarGame

    Parce que… c’est l’épisode 0x355! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. ### Une invitation à découvrir le wargame du Hack Cet épisode spécial reçoit Majin Boo, président de l'association Hacker's Voice, qui anime des rencontres mensuelles, organise le Hack à Paris et coorganise chaque année BarBack à Toulon. Il vient présenter le wargame de cet événement et surtout expliquer comment l'intelligence artificielle a bousculé sa dernière édition. ### Un CTF nocturne entre compétition et découverte Le wargame se tient exclusivement sur place, généralement le dernier week-end de juin, avec plusieurs dizaines d'épreuves couvrant le web, la crypto, la stéganographie et d'autres domaines. De la soirée jusqu'à 6 h ou 7 h du matin règne une ambiance festive, entre boissons énergisantes et bières, même si les hoodies se font rares fin juin. La participation est strictement individuelle, même si des groupes de cinq à dix personnes se montent spontanément pour viser le haut du classement, sans que les organisateurs cherchent à les contrôler. Deux publics cohabitent. Les compétiteurs tentent de boucler toutes les épreuves avant l'aube pour décrocher le podium, tandis que d'autres viennent apprendre à leur rythme et s'amuser entre amis. La salle principale héberge environ 500 joueurs, rejoints par 200 places supplémentaires et des participants dispersés ailleurs dans la conférence. Y rester procure un avantage, les annonces d'ajouts d'épreuves ou de bugs y étant entendues. ### Anticiper l'IA pour remotiver les créateurs d'épreuves L'IA s'est imposée comme un enjeu majeur dès la préparation de l'édition 2026. Plusieurs créateurs historiquement impliqués ont vu leur motivation chuter, jugeant absurde de sacrifier des soirées à des challenges que des outils automatisés viendraient à bout en quelques minutes. Les organisateurs ont donc œuvré à les remotiver, rappelant que sans épreuves, il n'existe ni wargame ni flag, et que la majorité des participants ne cherche pas à tricher, mais vient pour s'amuser, comprendre et apprendre, préférant l'emporter sur le pote d'à côté plutôt que sur un professionnel assisté d'un modèle. Le calendrier a compliqué la donne, l'événement se préparant des mois à l'avance dans un paysage mouvant où un modèle a même été annoncé puis retiré sous la pression américaine, tout en restant accessible via des jetons cloud ou d'autres LLM. Concevoir des épreuves que les LLM ne savent pas résoudre relève de l'incertitude, puisque ce qui les dépasse trois mois avant l'événement ne les dépassera peut-être plus le jour venu. Limiter les tentatives constitue une autre option, les modèles ayant tendance à forcer brutalement là où un humain avance prudemment. L'injection de prompts a été écartée, un participant pouvant copier-coller la seule partie utile une fois le sujet cerné. ### Rééquilibrer sans prétendre tout bloquer Ces mesures servent surtout à rééquilibrer les forces. Le participant qui s'en sort bien possède une base solide lui permettant de jongler avec les limitations, sollicitant le modèle pour comprendre plutôt que tout déléguer. Le reverse engineering, historiquement redouté, est en revanche bouleversé, puisqu'il suffit de confier un binaire à un LLM relié à un outil de décompilation. Là où il fallait des années pour développer réflexes et instinct, les modèles pilotant ces outils ont pris une avance difficile à combler, puisqu'on ne réinventera pas un langage pour le dérober à des machines qui l'apprendront plus vite que nous. Le format compte aussi, BarBack misant sur le matériel dédié, une fault injection exigeant un accès physique à la carte. Avec près de 1000 personnes au Hack, entraver celui qui contournerait une restriction réseau est illusoire, tout en voulant ménager les participants honnêtes. La question du public visé se pose, compétiteurs acharnés ou majorité venue pour le plaisir, ces groupes se recoupant d'ailleurs largement, et ceux qui passent le meilleur moment ne sont probablement pas focalisés à cent pour cent sur le classement. ### Une nuit sans police ni ressentiment Sur place, aucun ressentiment marqué n'a été constaté. Sachant que des LLM seraient utilisés, l'équipe a renoncé à les bloquer ou à les traquer, posture jugée vaine avec le partage de connexion mobile et contraire à l'esprit de l'événement. La crainte de voir toutes les épreuves résolues en pleine nuit ne s'est pas réalisée, des centaines de participants restant jusqu'au matin, légèrement moins que les années précédentes. Certains ont dépensé 1000 ou 2000 dollars de jetons pour des lots valant quelques centaines d'euros, à l'image d'entreprises sponsorisant leurs équipes pour 5000 à 10 000 dollars sans retours équivalents. Ce déséquilibre est en partie assumé. Les organisateurs préfèrent des épreuves faisant suer l'IA et coûteuses en jetons, espérant des usages ponctuels et astucieux plutôt qu'un concours de budget chez Anthropic ou OpenAI, un modèle façon formule 1 où l'argent décide des vainqueurs. Ce qui les amuse, c'est un exploit élégant obtenu avec un code tout simple, ou un ESP32 à quelques euros accomplissant des prouesses mieux qu'un équipement hors de prix. ### L'esprit hacker face à la boîte noire Reste la question de fond. Le hacker qui traque des vulnérabilités non documentées est désormais en concurrence avec les LLM, incarnation de la boîte noire impossible à réentraîner dans son garage face à des acteurs aux budgets colossaux. Majin Boo veut croire que se demander comment fonctionne un système, plutôt que lui faire confiance, garde tout son sens dans ce duel asymétrique de David contre Goliath. ### Cap sur 2027 et l'humain au centre Pour l'édition 2027, le combat frontal est exclu, un nouveau modèle plus performant surgissant chaque mois. Les organisateurs poursuivront sur l'expérience et le plaisir, rassurés par une fréquentation qui a tenu malgré l'IA. Une réflexion s'ouvre autour du tableau compétitif et du podium, même si les gens aiment se comparer, à l'image des marathoniens visant leurs amis ou leur record. Le but demeure un événement où chacun s'amuse et apprend, l'usage de l'IA par les chercheurs allant de soi. Ce qui compte, c'est l'humain qui pressent une faille, s'aide du modèle là où il bloque, comprend le reste par lui-même et le partage ensuite. Notes leHACK Contributeurs .contributors-table { border-collapse: separate; border-spacing: 20px 8px; } .contributors-table td, .contributors-table th { border: none; background: transparent; text-align: center; vertical-align: top; } .contributors-table i

  7. Oct 13

    Teknik - L’arrivée de l’IA dans le Bug Bounty

    Parce que… c’est l’épisode 0x353! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio 13 au 16 octobre 2026 - Montréal, Canada - MTL Connecte Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Le bug bounty et son fonctionnement Adrien Jeanneau, responsable de l’équipe triage chez YesWeHack depuis presque cinq ans, présente dans cet épisode technique du Polysecure le fonctionnement du bug bounty et l’impact de l’intelligence artificielle sur cet écosystème. Le principe du bug bounty consiste à cadrer la recherche et la remontée de vulnérabilités au travers d’un programme établi par un client qui passe par YesWeHack comme intermédiaire. Ce programme se décompose en plusieurs éléments, dont les règles classiques précisant ce qui est autorisé ou non, la définition du scope qui peut couvrir des applications mobiles, web, des binaires, du code open source, voire des agents IA ou des serveurs type MCP, ainsi que des règles qualifiantes et non qualifiantes. Puisque le modèle repose sur la rémunération des chercheurs à l’impact, une vulnérabilité de sévérité faible rapporte moins qu’une vulnérabilité critique. L’arrivée de l’IA chez les chercheurs L’équipe triage analyse les rapports de vulnérabilité qui arrivent sur les programmes afin de confirmer leur sévérité et le respect des règles de chaque programme. Depuis environ un an, l’IA a bouleversé ce flux de travail. Les chercheurs, souvent en avance sur ces sujets, ont rapidement intégré l’IA dans leur processus d’analyse, d’abord surtout sur du code source puisque les modèles étaient moins habiles pour naviguer sur des applications web. Cette évolution a provoqué une montée en puissance du nombre de rapports arrivant dans les mains de l’équipe triage. Le problème principal est que les chercheurs ne vérifient pas ce que l’IA rédige. Si on demande à un modèle de trouver une vulnérabilité, elle en trouvera potentiellement une, mais sans vérification humaine, celle-ci peut être inexploitable ou totalement hallucinée. Les mesures mises en place par la plateforme Pour faire face à cette vague, YesWeHack a déployé plusieurs dispositifs. D’abord, des rappels répétés des règles aux chercheurs, leur rappelant que seules des vulnérabilités qualifiantes donnent droit à une récompense. Ensuite, une règle limitant le nombre de soumissions simultanées pour les nouveaux chercheurs. Un chercheur qui soumet d’un coup quinze ou vingt rapports sur un programme open source, ce qui est historiquement difficile à réaliser, est très probablement en train d’envoyer des rapports invalides. Une fois les rapports validés ou rejetés, un nouveau ratio se débloque et augmente progressivement à mesure que le chercheur soumet des rapports valides. Plus récemment, la plateforme a mis en place un système de crédits. Un chercheur débutant reçoit dix crédits, et chaque soumission coûte entre un crédit et beaucoup plus selon les types de programmes. Si le rapport est accepté, les crédits engagés sont remboursés et le chercheur en gagne de nouveaux, ce qui lui permet de soumettre davantage de rapports. À l’inverse, si le rapport est invalide, hors scope ou non conforme aux règles, les crédits engagés sont perdus et des crédits supplémentaires sont déduits. Ce mécanisme punit les chercheurs qui utilisent l’IA de façon abusive sans vérifier la validité et l’impact de leurs soumissions, et finit par les bloquer. Lutter contre la verbosité des rapports Adrien mentionne aussi le travail de Pony et Bremens, deux chercheurs employés chez YesWeHack qui créent des outils et des articles techniques pour la communauté. Ils ont notamment développé un plugin pour Claude, avec des skills et des agents qui ne servent pas à chercher des vulnérabilités, mais à revérifier le contenu d’un rapport déjà rédigé. Ces agents détectent par exemple des rapports de cinquante mille mots pour une simple XSS qui ne nécessiterait qu’un lien à ouvrir, ou des affirmations d’accès à des données sans preuve ou sans mention des prérequis nécessaires. L’objectif est de rapprocher le rapport d’un format valide, simple à lire pour les triagers et les clients. Les IA sont très verbeuses et ajoutent beaucoup d’informations inutiles, il s’agit donc de réduire ce contenu pour aller à l’essentiel. Malgré ces outils, la verbosité demeure un problème. Trop de rapports exigent d’aller chercher l’information à la dixième ou quinzième étape pour comprendre ce qui est réellement vulnérable, ce qui alourdit le travail de tri. Du côté des vulnérabilités qualifiantes, en revanche, les observations sont positives. Les mesures déployées vers la fin de l’été sont encore trop récentes pour un bilan complet, mais les premiers retours sont intéressants. Les chercheurs déjà rigoureux ne sont quasiment pas touchés puisqu’ils respectaient déjà les règles, tandis que les nouveaux comprennent mieux l’impact de soumettre des rapports invalides. L’hôte rappelle aussi l’importance du know your customer, qui rattache fortement l’identité à chaque compte et empêche la création de multiples comptes pour contourner les limites. Le machine learning côté plateforme YesWeHack utilise également le machine learning en interne, en étant prudent avec les données de ses clients. Trois usages sont en place. D’abord la détection de rapports en doublon, car dans le modèle du bug bounty, seul le premier chercheur à soumettre une même vulnérabilité sur un même hôte, chemin d’API et paramètre est récompensé. Ensuite, une notion de priorisation des rapports, essentielle pour traiter rapidement les vulnérabilités réellement critiques dans un flux constant de soumissions. Enfin, un traitement automatique des métadonnées des rapports, comme le type de bug, le scope ou la présence d’une CVE, afin de les aligner sur la réalité de la vulnérabilité et d’assurer l’homogénéité de l’ensemble des rapports. L’impact sur les clients Les clients continuent d’ouvrir des programmes publics car ils sont conscients de leur exposition et apprécient la diversité des méthodologies, outils et prompts de la communauté de chercheurs. Le changement principal réside dans le volume croissant de rapports valides et de sévérité élevée ou critique qui leur parvient, ce qui exige des équipes capables de corriger et de faire vérifier les correctifs. Côté primes, le modèle de rémunération reste globalement inchangé, mais des entités comme Google et Coinbase ont publié récemment leur intention de recentrer leurs primes sur d’autres typologies de vulnérabilités et de délaisser celles jugée

  8. Oct 7

    SéQCure - La sécurité appliquée pour les praticiens de l'IA

    Parce que… c’est l’épisode 0x34F! Shameless plug 13 et 14 novembre 2026 - Worldwide - DEATHCon 16 au 19 novembre - Rennes, France - European Cyber Week 2026 25 et 26 février 2027 - Québec, Canada - SéQCure 2027 9 au 11 mars 2027 - Lilles, France - Forum INCYBER - Europe 2027 I.A. Café - Enquête au cœur de la recherche sur l’intelligence artificielle 16 novembre 2026 - Paris, France - CNIL - Convaincre ou manipuler ? L'éthique du numérique à l'épreuve des urnes Boostsecurity - Dazio 13 au 16 octobre 2026 - Montréal, Canada - MTL Connecte Description Cette description a été faite à l’aide de GLM 5.3 Flash, à partir de la transcription qui a été effectuée par ElevenLabs Scribev2. Aucune vérification humaine n’a été faite. Si vous découvrez des erreurs ou des inexactitudes, vous pouvez m’en faire part afin que je procède aux modifications appropriées. Un monde post Mythos, des fondamentaux inchangés Cet épisode spécial de Polysécure reçoit Yan Bellerose, ingénieur chez Google, pour un bilan sept mois après sa présentation de février sur la sécurisation des LLM pour les praticiens. Sept mois plus tard, l’écosystème a beaucoup changé avec Mythos et Fable. Les fondamentaux demeurent pourtant les mêmes. Les problèmes de sécurité n’ont pas disparu avec des modèles capables de raisonner. Au contraire, leur capacité d’attaque accrue et l’impact potentiel des dommages rendent les contrôles encore plus importants. Nettoyer les prompts, filtrer les réponses et encadrer les données d’enrichissement restent essentiels pour prévenir les injections et le jailbreaking. La différence majeure tient à la vitesse, l’analogie du passage de l’autoroute à l’autobahn illustrant cette bascule vers une course effrénée qui a semé la panique, notamment avec le moment Mythos, sans changer les bases pour autant. Des couches de filtration et le harnais La distance entre l’utilisateur et le modèle s’est considérablement élargie. Là où le contact était autrefois relativement direct, une multitude de couches de filtration et de transformation s’interposent désormais. Model Armor illustre ce phénomène en cybersécurité, mais la correction orthographique et la reformulation participent du même mouvement. Le prompt réel vu par la machine diffère énormément de celui envoyé, ce qui rend la profession de prompt engineer largement illusoire. La discussion aborde ensuite le harnais, terme apparu récemment. Ce cadre explique des écarts spectaculaires dans les benchmarks, un même modèle pouvant scorer 100 % ici et 60 % là selon la présence d’un harnais. Les classements comme CyberGym mesurent des aspects précis des modèles frontières mais tardent à intégrer les dernières sorties. Courir après le meilleur modèle n’est pas toujours nécessaire, l’encadrement faisant souvent la différence. De Project Naptime à Big Sleep Yan retrace la généalogie des travaux de Google en cybersécurité. Project Naptime, une étude de DeepMind, démontrait déjà que l’IA pouvait aider à découvrir des vulnérabilités. Son évolution vers Big Sleep a mené à la découverte d’un zero day. En analysant des communications du dark web signalant une attaque contre SQLite, l’équipe a transmis ce contexte au modèle, qui a identifié les failles. Code Mender, sorti deux semaines après Mythos, a été perçu comme une réponse au nouveau modèle mais s’inscrit dans cette continuité. Le moment Mythos a toutefois poussé Google à repenser ses priorités. Plutôt que de miser uniquement sur des modèles frontières coûteux, Google a développé des harnais spécialisés en cybersécurité jumelés à des modèles à faible latence et faible coût. Une vulnérabilité qui coûterait 12 dollars à découvrir avec Fable revient à environ 2 dollars avec Gemini équipé d’un harnais approprié. Les modèles Flash Cyber, annoncés il y a quelques semaines, seront d’abord distribués à certaines entités gouvernementales et infrastructures critiques. Selon les calculs internes, Gemini 3.8 Flash Cyber avec un bon harnais égale Fable 5.1 pour quatre fois moins cher. Des stratégies divergentes entre géants L’hôte du podcast apprécie la sobriété de Google dans le tumulte médiatique, y voyant une maîtrise plutôt qu’une course à la Corvette. Yan relativise en rappelant que les concurrents préparent des entrées en bourse, ce qui justifie le tapage, d’autant qu’ils doivent acheter leurs puces auprès de tiers. Google, qui fabrique ses propres chips, suit une approche différente. L’entreprise n’a pas abandonné la course aux modèles frontières mais assume de ne pas viser la première place partout, notamment en programmation. Elle privilégie les percées scientifiques, la découverte de molécules et la recherche sur le cancer, des avancées plus précieuses qu’une image parfaite. Cette philosophie rappelle l’historique de Google, rarement premier mais souvent celui qui change le paradigme, des moteurs de recherche à Spanner. L’hôte établit un parallèle avec le pivot récent d’Apple, qui a dévoilé des modèles utilitaires plutôt que de courir après la prouesse. Déterminisme, probabilisme et usage en sécurité Une partie substantielle de la conversation porte sur le mélange entre approches déterministes et probabilistes. Le rêve d’un SOC entièrement automatisé par l’IA reste lointain. Des clients ont rêvé d’un SIEM où l’IA analyserait tous les logs sans règles, une promesse irréaliste vu le volume de données, les coûts et la latence. Yan propose la notion de tokenomics, soit remplacer les tâches répétitives par des scripts déterministes et réserver l’IA aux analyses à valeur ajoutée. Il rappelle aussi que Model Armor n’est pas un LLM mais du machine learning probabiliste qui attribue un score de risque, une nuance souvent mal comprise. L’intelligence artificielle existe depuis quarante ans et la mode actuelle ne doit pas masquer cette distinction. La summarisation illustre bien l’apport des LLM, l’outil de veille issu de Mandiant condensant chaque jour des centaines de pages d’actualités cyber selon le contexte, comme celui des entreprises canadiennes. Paramètres, contrôles et esprit critique Les deux animateurs insistent sur la maîtrise des paramètres, des tables de vecteurs à la température et à la graine aléatoire. À température zéro, un même prompt donne des réponses identiques, la chaleur injectant du hasard dans le réseau neuronal. Connaître ces mécanismes permet d’exploiter les outils à leur pleine valeur au lieu d’espérer des miracles. L’IA aide déjà à explorer des logs en langage naturel et fait gagner beaucoup de cycles, sans autonomie complète pour autant. Yan conclut sur l’importance de préserver l’esprit critique, une capacité qui s’érode rapidement. Il observe des RFP générés par l’IA et analysés par l’IA du destinataire, un circuit stérile auquel il participe parfois. La confiance envers les modèles progresse, mais un long chemin reste à parcourir. Notes La sécurité appliquée pour les praticiens de l’IA Contributeurs .contributors-table { border-collapse: separate; border-spacing: 20px 8px; } .contributors-table td, .contributors-table th { border: none; background: transparent; text-align: center; vertical-align: top; }

About

Podcast francophone sur la cybersécurité. Pour professionels.