Decideo - Data Science, Big Data, Intelligence Augmentée

Philippe Nieuwbourg

Decideo est la communauté d'information et d'échange autour des outils et meilleures pratiques d'analyse de données (Machine Learning, Business Intelligence, Big Data, Science des Données, Entrepôts de données…). Véritable réseau social des professionnels de la donnée, Decideo est disponible en français www.decideo.fr. Opinions d'experts, actualités, agenda, offres d'emploi, sont disponibles en ligne et sur les applications mobiles gratuites. Decideo is the leading user community of Business Intelligence, Data Science, Big Data and Analytics professionals. Decideo is a real social network of data driven economy, available in French www.decideo.fr. User stories, best practices, news, software reviews, agenda, job board… are available online, and through podcast and mobile applications.

  1. Nov 2

    #6.22 La méthode GDR pour documenter les décisions de gouvernance des données

    Comment documenter vos décisions de gouvernance des données La méthode ADR (Architecture Decision Record) a été formalisée par Michael Nygard en 2011. Elle repose sur quelques principes simples qui permettent de formaliser la documentation des décisions d’architecture dans un système d’information. Je vous propose de l’adapter légèrement, et d’en faire le support de documentation de notre gouvernance des données. Vous verrez, c’est simplissime et très efficace. Et cela vous permettra d’entrainer une IA à intégrer vos propres décisions dans sa connaissance. L’idée centrale de la méthode ADR est de documenter les décisions d’architecture, pas l’architecture elle-même. Ce qui se perd avec le temps n’est pas le « quoi » (qui est en réalité lisible dans le code) mais le « pourquoi » : le contexte, les contraintes et les alternatives écartées. Un ADR capture ce raisonnement au moment où il est encore frais. Mettre en place une architecture de données et mettre en place une gouvernance de données reposent sur des processus très semblables : analyser, décider, formaliser. Les principes basiques de la méthode ADR Unicité. Une décision égale un document. Chaque ADR est court (entre une et deux pages), autonome, numéroté séquentiellement (0001, 0002…) et n’est jamais fusionné avec un autre.Immuabilité. Un ADR accepté ne se modifie plus. S’il devient caduc, on en écrit un nouveau qui le complète, et on marque l’ancien « Remplacé par ». La collection forme ainsi un journal historique, pas un document vivant. Cela se rapproche du concept de main-courante largement utilisé dans le domaine militaire.Proximité du code. Les ADR vivent dans le dépôt de code, et sont versionnés avec le code, comme n’importe quel changement.Écriture pour le futur lecteur. Le destinataire est le développeur qui arrivera dans deux ans et se demandera « pourquoi diable ont-ils fait ça ? ». Demain, le « lecteur » sera peut-être un agent qui aura besoin de comprendre l’architecture. L’ensemble des ADR pourra également entrainer un LLM qui répondra aux questions que se posent les utilisateurs sur les choix d’architecture.La forme d’un ADR : cinq sections regroupées dans un même document Titre : une phrase descriptive, numérotée.Statut : Proposed / Accepted / Deprecated / Superseded (by ADR-00XX).Contexte : les forces en présence, factuelles et neutres : contraintes techniques, organisationnelles, politiques, réglementaires.Décision : formulée à la voix active : « Nous allons… », qui souligne la responsabilisation des acteurs qui ont pris cette décision.Conséquences : ce qui devient plus facile et plus difficile après coup, positif comme négatif. C’est la section la plus souvent bâclée et pourtant la plus utile, en particulier pour une analyse a posteriori.Adapter l’ADR à la gouvernance des données… le GDR (Governance Decision Record) La mise en place d’une gouvernance des données, et son suivi quotidien, nécessitent de prendre des décisions, certaines mineures, d’autres structurantes, dont les effets se feront sentir dans le temps, parfois plusieurs années après. Ceux qui ont pris la décision ne sont souvent plus là, ou plus aux mêmes fonctions ; et lorsque la décision est ancienne, les raisons du choix, les arguments exposés, les débats tenus, les arguments échangés… se sont effacés des mémoires humaines, et personne à l’époque ne les avait consignés. Sur ce plan, gouvernance des données et architecture sont très proches.  L’idée est donc d’appliquer la méthode ADR aux décisions liées à la mise en place de la gouvernance des données. On passe de la méthode Architecture Decision Record (ADR) à la méthode Governance Decision Record (GDR). Et finalement très peu de choses vont changer. Les principes de la méthode évoqués ci-dessus (unicité, immuabilité…) restent identiques. La forme d’un GDR reste identique à celle d’un ADR.  Dans chaque fichier .md, les sections suivantes peuvent être renseignées. Comme vous le verrez dans le modèle, certaines sections sont obligatoires, d’autres facultatives : -       Description du problème à résoudre et de son contexte -       Facteurs de décision -       Choix envisagés -       Avantages et inconvénients des différentes options -       Décision prise -       Et toute autre rubrique que vous trouverez intéressant d’ajouter dans votre contexte Qui a en charge la rédaction des GDR ? Évidemment, c’est celui qui coordonne les tâches de gouvernance (responsable de la gouvernance des données, coordinateur du comité de gouvernance, voir data steward) qui est responsable de cette documentation. La confier à un stagiaire sera contre-productif et montrera le peu d’intérêt que vous portez à la démarche.  Au-delà du « qui », la question du « quand » est importante. Il est totalement déconseillé de rédiger une GDR a posteriori de la décision. Il est donc difficile de reconstruire l’historique des décisions de gouvernance qui n’auraient pas été documentées au moment de leur mise en œuvre. Vous démarrez avec les décisions d’aujourd’hui. En effet, la documentation de la décision doit être faite pendant le processus décisionnel. Cela permet de documenter les solutions envisagées, les arguments évoqués par chacun, le contexte de chaque décision prise ; tout cela pendant les débats. C’est en cela que l’ensemble des GDR se rapproche de la notion de main courante. Quelles décisions méritent la rédaction d’un GDR ?  C’est la principale question ! Si vous multipliez les GDR à chaque fois que vous changez une virgule, vous allez vous noyer sous la documentation. À l’inverse, oubliez de documenter une décision, et vous le regretterez dans le futur (ou vos successeurs le regretteront).  Il est habituel de classer les décisions en deux catégories : -       Décisions facilement réversibles (et peu couteuses à renverser) : un GDR n’est alors pas indispensable ; -       Décisions complexes et couteuses à renverser : un GDR doit alors obligatoirement être rédigé. Utiliser les GDR pour comprendre comment une décision a été prise Bien sûr, la consultation de l’historique des GDR permettra de retrouver le contexte d’une décision prise dans le passé, les personnes impliquées, le contexte, etc. Un simple moteur de recherche permettra de retrouver, par mots clés, les décisions anciennes.  Mais l’IA nous permet aujourd’hui d’imaginer d’autres formes d’utilisation. Si vous avez suivi mon conseil, et choisi de structurer vos GDR sous forme d’un bundle OKF, ce dernier peut être connecté à votre LLM interne. Posez une question dans votre LLM sur la gouvernance des données, et ce dernier saura lire l’histoire des décisions (les GDR) et rédiger une réponse. Une utilisation qui confirme le rôle central que prend le LLM dans l’interface entre un utilisateur et les différents composants du système d’information. Dans un futur plus lointain, il est également possible d’imaginer que des agents d’IA sauront lire les décisions de gouvernance prises dans le passé, et vérifier la conformité de leurs actions par rapport à ces décisions. Combien cela coute, combien cela rapporte ? Question classique liée à tout investissement en temps. Soyez honnête, créer un fichier .md pour chaque décision importante ne prendra pas très longtemps… allez.. disons une heure par décision, et je suis large. Le cout est donc minimum. En revanche, si vous cherchez à estimer le temps perdu à essayer de comprendre pourquoi et comment une décision passée a été prise ; ce sont sans doute de nombreuses heures qu’il vous faudra additionner. Le retour sur investissement est donc évident. Encore faut-il que vous soyez animé par la volonté de bien faire, et surtout par la volonté de léguer un système durable. Alors, en conclusion, si vous avez tenu jusqu’à la fin de ce podcast, j’aimerais vous solliciter au travers des commentaires. Avez-vous déjà mis en œuvre une démarche de documentation des décisions de gouvernance ? Sous quelle forme ? La structuration GDR vous donne-t-elle envie d’essayer ? Quels bénéfices et/ou difficultés y voyez-vous ?

    #6.22 La méthode GDR pour documenter les décisions de gouvernance des données
  2. Oct 19

    #6.21 Qui contrôle les intelligences artificielles les plus puissantes du monde ?

    Réponse : pour l'essentiel, une association de quelques dizaines de personnes, basée aux États-Unis, qui s'appelle METR. Et qui n'a aucun pouvoir de sanction. METR teste les modèles d'OpenAI, d'Anthropic, de Google DeepMind, avant leur mise sur le marché. Sa spécialité : mesurer ce qu'une IA sait faire toute seule. Son résultat le plus cité : la durée des tâches qu'un agent peut mener à bien sans intervention humaine double tous les sept mois. Depuis six ans. Sur l'indépendance financière, le dispositif est sérieux. METR n'accepte aucun financement des entreprises d'IA. Elle ne facture pas ses évaluations. Elle refuse même les dons de leurs salariés. Et elle a levé, cet été, soixante et onze millions de dollars — auprès de fondations philanthropiques. Mais l'argent n'est pas le seul levier d'influence. Premier angle mort : OpenAI, Anthropic et xAI fournissent gratuitement les capacités de calcul dont METR a besoin pour travailler. L'organisation le reconnaît. Leur valeur n'est publiée nulle part. Deuxième angle mort, plus lourd : l'accès. Pour tester un modèle avant sa sortie, il faut que l'éditeur ouvre la porte. C'est lui qui fixe le périmètre, la durée, le calendrier. L'auditeur n'a aucun droit d'entrée. Troisième angle mort : les hommes.  La fondatrice de METR, Beth Barnes, vient d'OpenAI. Un chercheur d'OpenAI siège parmi ses conseillers. C'est la condition de la compétence technique. C'est aussi un risque. Alors METR est-elle indépendante ? Financièrement, oui, autant qu'on puisse le vérifier. Structurellement, c'est autre chose. Ses rapports sont aujourd'hui la meilleure source publique disponible sur les capacités dangereuses des IA. Ce ne sont pas des certifications. Ce sont des avis d'experts, rendus dans les limites fixées par celui qu'on examine.

    #6.21 Qui contrôle les intelligences artificielles les plus puissantes du monde ?
  3. Oct 12

    #6.20 Collibra rachète une start-up dans la gouvernance de l'IA

    Il y a une semaine, Collibra a racheté une start-up munichoise de trois ans d'âge. Montant non communiqué. Équipe réduite. Un tour de table d'un million et demi d'euros, pas davantage. Et pourtant, cette opération dit quelque chose d'important sur la gouvernance de l'intelligence artificielle en entreprise. Collibra, d'abord. Née à Bruxelles en deux mille huit, installée à New York depuis deux mille quinze. Plus de sept cents clients. Soixante-dix-huit entreprises du Fortune cinq cents. Historiquement, un spécialiste du catalogue de données. Aujourd'hui, elle se présente comme — je cite — « le plan de contrôle de l'intelligence artificielle d'entreprise ». Ce qu'elle achète avec trail ML, c'est trois choses. Des agents qui déterminent seuls quelle réglementation s'applique à un système d'IA. Des évaluations de conformité qui se rejouent dès que les preuves changent — et non plus une fois par an. Et surtout : la capacité de bloquer, en production, l'action d'un agent qui violerait une politique interne. Voilà le vrai basculement. Jusqu'ici, gouverner l'IA, c'était documenter. Désormais, c'est intervenir. On passe du classeur au coupe-circuit. Pour les directions de la gouvernance, deux lectures. D'un côté, une charge manuelle qui s'allège : les équipes conformité ne constitueront plus leurs dossiers de preuve à la main. De l'autre, une question nouvelle : que se passe-t-il quand l'outil bloque un traitement parfaitement légitime ? Et une mise en garde : un verdict de conformité produit par un logiciel n'exonère personne. Sous l'AI Act, la responsabilité reste chez celui qui déploie le système. Automatisez, agentisez, gouvernez. Tout ce que vous voulez, mais rien ne vous exonérera de votre responsabilité ! Reste l'ironie de l'affaire. Le marché que Collibra achète avec Trail ML, existe parce que l'Europe a écrit la loi. Collibra, elle, a quitté Bruxelles pour New York dix ans avant que ce texte n'existe.

    #6.20 Collibra rachète une start-up dans la gouvernance de l'IA
  4. Sep 20

    #6.18 Violet Pâle et le monde du futur nous semble déjà réalité !

    Le monde gouverné par Journey que nous décrit Pierre-Emmanuel Durand dans son roman d'anticipation Violet Pâle, n’est en réalité pas nouveau. Ses racines sont profondes. Elles datent de l’époque dite moderne, celle qui a débuté après la Seconde Guerre mondiale.  Un monde de consommation, de plastique, et de commodités. Née en 1932, ma mère me racontait, enfant, toutes les merveilles que l’on trouvait au Salon des Arts Ménagers. Créée en 1923, cette exposition commerciale a connu son apogée dans les années 50, quand naissait cette envie de facilité, de praticité, de simplification. Vous vous souvenez également des films américains des années 60, de ces appartements équipés des dernières technologies. Le grand critique de cette époque était le cinéaste Jacques Tati. Après avoir lu Violet Pâle, il faut revoir Mon Oncle (1958) et Playtime (1967). Jacques Tati y moque dans le premier la maison ultramoderne, aseptisée et automatisée ; et dans le second, la standardisation internationale des bureaux, des aéroports et des habitudes. Il aura fallu un demi-siècle, mais, durant toutes ces années, les tendances critiquées par ce maître du cinéma n’ont fait que se transformer peu à peu en réalité. Dans Violet Pâle, Pierre-Emmanuel Durand les pousse à leurs limites. « Nous n’accepterons jamais d’aller aussi loin », répondra sans doute le lecteur… sans accepter de constater que nous y sommes déjà, ou presque. L’héroïne, Tess, découvre qu’il existe un autre monde, à l’extérieur de l’IA Journey qui a pris possession de son cerveau. « Rien n’était synchronisé, rien n’était optimisé. — C’est… trop, murmura Tess. Norah sourit. — C’est la vie. — C’est bizarre. — Oui, répondit Norah. Mais c’est réel. » Ce monde piloté par l’IA, c’est l’histoire de notre perte de souveraineté. Entre 2020 et 2031, la France a peu à peu perdu le contrôle des outils qu’elle utilisait. Vers 2035, la résistance européenne entraine, en représailles, une coupure complète par les États-Unis de l’ensemble des services auxquels les États et les citoyens sont devenus dépendants. Soixante-douze heures de blackout, qui a finalement fait capituler la France, livrant toutes ses données et celles de ses citoyens aux entreprises américaines. Heureusement, certains, comme Noah, Tess, et Yann le Corn… ont choisi de ne pas se laisser embrigader sans réagir ! Vont-ils réussir à rallier une partie importante de la population, ou la masse continuera d’obéir aux injonctions de Journey ? L’auteur, Pierre-Emmanuel Durand, connait bien l’informatique. Il y a fait toute sa carrière, depuis Capgemini et Business & Decision, jusqu’à aujourd’hui où il dirige le département informatique d’un groupe de courtage spécialisé en prévoyance individuelle. Violet Pâle est son deuxième roman, et espérons qu’il y en a d’autres en préparation ! Car pour savoir ce qui arrive à Tess, vous devez lire Violet Pâle. Éditeur ‏ : ‎ Verone éditions Date de publication ‏ : ‎ 23 juillet 2026 Langue ‏ : ‎ Français Nombre de pages de l'édition imprimée  ‏ : ‎ 330 pages ISBN-13 ‏ : ‎ 979-1042316419

    #6.18 Violet Pâle et le monde du futur nous semble déjà réalité !
  5. Sep 6

    #6.16 Une compagnie morte, mais des données bien vivantes et bien valorisées

    Pourquoi Google a payé 10 millions de dollars pour les archives numériques de Spirit Airlines, alors que vous me dites que vos données ne valent rien, parce que vous ne savez pas mesurer cette valeur… Spirit Airlines n’existe plus. La compagnie low cost américaine, pionnière du modèle « ultra low-cost » outre-Atlantique, avait déjà déposé le bilan une première fois en novembre 2024, après l’échec de son rapprochement avec JetBlue puis avec Frontier Airlines et l’accumulation de pertes consécutives à la pandémie de Covid-19. Une tentative de restructuration n’a finalement pas suffi : ses avions ont cessé de voler en mai 2026, et l’entreprise est désormais liquidée, ses actifs vendus les uns après les autres pour tenter de rembourser ses créanciers. Parmi ces actifs, la plupart sont matériels : avions, équipements, biens immobiliers. Mais un lot a suscité un intérêt inattendu : l’intégralité des archives numériques internes de la compagnie. Selon un document judiciaire déposé auprès du tribunal des faillites de New York et consulté par plusieurs médias américains, Google aurait remporté l’enchère pour ce lot de données pour la somme de 10 millions de dollars, en devançant Mercor, une société spécialisée dans la fourniture de données d’entraînement pour l’intelligence artificielle, qui avait proposé 7,5 millions de dollars. La vente reste soumise à l’approbation du juge en charge du dossier, mais elle nous donne des indications intéressantes sur : -              Le fait que les données ont de la valeur, et que certaines entreprises l’ont mieux compris que d’autres ; -              Des métriques de mesure de la valeur de ces données, en fonction des usages, dont par exemple l’entrainement des IA. Un volume de données considérable et très hétérogène Le détail du lot, rendu public via le document judiciaire, donne une idée assez précise de ce que peut représenter le patrimoine numérique d’une compagnie aérienne, après près de deux décennies d’activité. On y trouve environ 100 millions d’e-mails, 500 millions de contenus issus de Microsoft Teams, 17 millions de fichiers OneDrive et 20,5 millions de documents SharePoint. S’y ajoutent plus de 30 millions d’enregistrements d’appels au service client, 15 millions de conversations de chat, 600 000 tickets ServiceNow, ainsi que 13,7 millions d’adresses e-mail actives issues de la plateforme marketing Responsys d’Oracle… et un raton laveur (pour ceux qui ont la réf). Le lot comprend aussi des données strictement opérationnelles : plus de 763 000 vols, cinq millions d’appariements d’équipages, 1,2 million de bordereaux de carburant, les enregistrements de près de 790 000 achats de pièces détachées, et 11 millions de ventes de services Wi-Fi à bord. Un porte-parole de Google a indiqué que l’entreprise avait acquis une partie de cet ensemble de données d’entreprise afin d’améliorer ses produits et ses modèles d’intelligence artificielle, en précisant qu’aucune information personnelle ne serait reçue dans le cadre de cette opération. Selon les informations judiciaires, les données doivent en effet être anonymisées avant leur transfert. Sont explicitement exclus de la vente les profils passagers, le programme de fidélité Free Spirit, les historiques de navigation ainsi que les plaintes déposées auprès du régulateur américain des transports. Reste que l’anonymisation de plusieurs centaines de millions de documents à cette échelle n’est pas un exercice trivial, et plusieurs observateurs soulignent que le risque de fuite ou de réidentification partielle ne peut être totalement écarté. Un précédent qui n’est plus tout à fait isolé Cette opération n’est pas la première du genre. Plusieurs médias avaient déjà rapporté, au printemps 2026, que des start-up en faillite revendaient leurs archives Slack et leurs messageries internes à des sociétés d’IA en quête de données d’entraînement. Mais le rachat des données de Spirit Airlines change d’échelle : il s’agit ici d’une entreprise historique, cotée pendant des années, avec près de vingt ans d’activité et des millions de clients, et non d’une jeune pousse récente. C’est précisément ce changement d’échelle qui rend l’opération intéressante à observer du point de vue de la valorisation de la donnée. Ce que révèle cette transaction sur la valeur de la donnée La valorisation des actifs immatériels, et des données en particulier, reste un exercice notoirement difficile : il n’existe pas de marché liquide ni de méthode comptable standardisée pour évaluer un corpus de courriels d’entreprise ou un historique de vols. C’est précisément ce qui rend ce type de transaction instructif : en l’absence de modèle théorique consensuel, c’est le marché lui-même, via une procédure d’enchères judiciaires transparente, qui a fixé un prix. Plusieurs éléments de cette enchère méritent d’être retenus par celui qui s’intéresse à la question de la valorisation des données d’entreprise. Premièrement, la concurrence entre acheteurs. Le fait que deux acteurs spécialisés dans l’IA (Google et Mercor) se soient disputé ce lot, avec un écart de prix limité (10 millions contre 7,5 millions de dollars), confirme qu’il existe une demande réelle et compétitive pour ce type de corpus, et pas seulement un intérêt opportuniste isolé. Intéressant également que les enchérisseurs soient des sociétés technologiques et non d’autres compagnies aériennes. Deuxièmement, le prix payé donne des indications sur les critères de valorisation retenus par le marché. Ce n’est pas la valeur des données prises isolément qui compte, mais un ensemble de caractéristiques combinées : le volume brut (centaines de millions de documents), la diversité des formats et des sources (messagerie, visioconférence, ERP, CRM, systèmes métiers comme les appariements d’équipages ou les bordereaux de carburant), la spécificité sectorielle (des données d’exploitation aérienne difficilement reproductibles à partir du seul web public), et la profondeur temporelle du corpus, accumulé sur près de deux décennies. Troisièmement, le motif d’achat invoqué par Google (l’amélioration de ses produits et de ses modèles d’IA) illustre un déplacement de la demande de données d’entraînement : au-delà des textes disponibles publiquement sur le web qui perdent chaque année de leur valeur, car remâchés par l’IA elle-même, et déjà largement exploités, les entreprises d’IA cherchent désormais des données professionnelles réalistes, structurées autour de processus métiers concrets (échanges internes, données opérationnelles, interactions avec la clientèle), qui reflètent mieux la diversité et la complexité du travail réel. Enfin, le fait que cette donnée continue d’avoir de la valeur marchande après la disparition de l’entreprise qui l’a produite (dans le cadre d’une liquidation judiciaire où chaque actif est scruté pour maximiser le remboursement des créanciers) constitue en soi une validation forte : la donnée y est traitée comme un actif cessible au même titre qu’un avion ou un immeuble, avec un prix déterminé par une mise en concurrence réelle plutôt que par une estimation interne. Une évaluation qui reste imparfaite, mais un signal clair Il serait excessif d’en déduire une méthode de valorisation universelle : 10 millions de dollars pour l’ensemble des archives numériques d’une compagnie aérienne de taille moyenne ne disent rien, en tant que tels, du prix qu’atteindraient les données d’une autre entreprise, dans un autre secteur, avec une autre composition de corpus. La difficulté à évaluer précisément la valeur de la donnée demeure entière. Mais l’existence même de cette transaction, sa procédure d’enchères et l’écart de prix entre les deux offres concurrentes fournissent un point de repère concret et rare, dans un domaine où les repères de marché restent encore à construire.

    #6.16 Une compagnie morte, mais des données bien vivantes et bien valorisées
  6. Aug 30

    #6.15 Et vous, êtes-vous plutôt KQL ou SQL ?

    Apprendre le langage KQL, quels apports pour l’analyste de données Depuis des décennies, SQL règne sur le monde de l’analyse de données. Avec l’essor du cloud, de la cybersécurité et du big data générés par les infrastructures modernes, un nouveau venu est arrivé dans l’écosystème Microsoft : le Kusto Query Language[1], plus connu sous son acronyme KQL. Pour un analyste de données qui doit choisir ses compétences à développer ou simplement comprendre le paysage technologique actuel, la question mérite d’être posée sans jargon inutile : que gagne-t-on, et que perd-on, à utiliser KQL plutôt que SQL? Quand doit-on utiliser les deux? Complémentarité ou concurrence? Deux langages, deux histoires SQL est né dans les années 1970 (merci au Dr Codd et à la conceptualisation de l’OLTP), conçu pour interroger des bases de données relationnelles classiques : celles qui gèrent les commandes d’un site e-commerce, les comptes clients d’une banque, ou les stocks d’un entrepôt. Sa vocation première est la gestion de données structurées et stables, avec des exigences fortes de cohérence et d’intégrité. C’est le T de OLTP, la notion de « transaction ». SQL n’a jamais été conçu comme un langage destiné au décisionnel et à l’analyse de données. KQL, lui, est beaucoup plus récent : il a été développé par Microsoft et lancé en 2017 avec le service Azure Data Explorer ; il répond à un besoin différent, apparu avec l’explosion du big data. Comment analyser rapidement des milliards de lignes de logs, ou d’événements de sécurité, générés en continu ? C’est précisément le terrain de jeu pour lequel KQL a été pensé, et on le retrouve aujourd’hui au cœur d’outils comme Azure Monitor ou Microsoft Sentinel, la plateforme de cybersécurité de Microsoft. Il peut évidemment être utilisé pour analyser d’autres types de données. On pense évidemment aux données générées par des objets connectés, ou des transactions d’un site de eCommerce, etc. Cette différence d’origine explique presque tout ce qui les sépare aujourd’hui. Les atouts de KQL pour l’analyste Une lecture plus naturelle des requêtes complexes. Là où SQL demande souvent d’imbriquer des sous-requêtes ou de lire une instruction dans un ordre qui ne correspond pas à celui de son exécution réelle, KQL fonctionne comme un enchaînement d’étapes, un peu à la manière d’une recette de cuisine : on part des données brutes, puis on filtre, puis on regroupe, puis on trie, chaque étape s’ajoutant à la précédente de façon visible. Pour un analyste qui construit une analyse pas à pas, cette logique de pipeline facilite énormément la relecture et la correction d’erreurs. Une puissance native pour l’analyse temporelle. KQL a été conçu dès le départ pour des données horodatées en grand volume : logs applicatifs, alertes de sécurité, mesures de performance. Des fonctions comme le calcul de fenêtres de temps glissantes ou la détection d’anomalies sont intégrées nativement, alors qu’elles demandent souvent des développements plus techniques en SQL classique. Une recherche de texte libre intégrée. Chercher un mot ou une expression dans de grandes quantités de données textuelles est une opération courante et simple en KQL, sans configuration préalable particulière. En SQL, ce type de recherche nécessite le plus souvent une préparation technique. SQL a été conçu exclusivement pour l’analyse de données structurées ; KQL a été pensé au moment où les données semi-structurées et non structurées sont devenues accessibles, le fameux « big data » des années 2010. Une exploration progressive des données. Parce qu’une requête KQL se construit étape par étape, un analyste peut tester une première portion, observer le résultat, puis ajouter la suite. Cette approche est particulièrement appréciable lorsqu’on découvre un jeu de données inconnu. C’est une technique d’exploration qui répond parfaitement aux besoins métier d’analyse de nouvelles données. Quels sont les défauts de KQL pour l’analyste Un langage moins répandu. SQL bénéficie d’une notoriété et d’une ancienneté que KQL est loin d’égaler. La quasi-totalité des formations en analyse de données, des offres d’emploi et des ressources pédagogiques s’appuient sur SQL. Apprendre KQL représente donc un investissement supplémentaire, sur un langage dont l’usage reste concentré dans l’écosystème Microsoft. Si vous souhaitez vous spécialiser en environnement Microsoft, c’est un bon choix d’extension de vos compétences. Pour une entreprise qui choisit la plate-forme Microsoft, le choix de KQL est assez logique. En revanche, c’est pour l’instant une étape de plus dans une dépendance à l’écosystème Microsoft. En période de réflexion sur la souveraineté… La conséquence pour une entreprise est que les ressources disponibles compétentes sur KQL sont plus rares et difficiles à trouver. Un périmètre d’usage plus restreint. SQL est le langage de référence d’une multitude de bases de données très différentes les unes des autres. KQL, à l’inverse, reste cantonné aux services Microsoft Azure conçus pour l’analyse de logs et de télémétrie. Un analyste maîtrisant KQL ne pourra pas transposer directement cette compétence à d’autres environnements, contrairement à SQL, dont les bases sont valables presque partout. Une vocation exclusivement analytique. KQL est un langage de lecture seule : il permet d’interroger des données, mais pas de les modifier, de les insérer ou de les supprimer. C’est un choix assumé, cohérent avec son usage, mais cela signifie qu’un analyste devra malgré tout recourir à d’autres outils pour toute opération de gestion des données elle-même. On ne pourra donc pas abandonner SQL pour se limiter à KQL. La connaissance de SQL reste indispensable. Pour un analyste, la compétence clef reste SQL. KQL est une compétence complémentaire. Un écosystème d’outils moins fourni. Autour de SQL s’est construit, au fil des décennies, un univers considérable d’outils de visualisation, de tableaux de bord, de connecteurs et de logiciels métiers. L’offre équivalente pour KQL existe, mais reste plus restreinte et moins mature, ce qui peut limiter les options d’un analyste selon le contexte de son entreprise. Et encore une fois, la dépendance à l’écosystème Microsoft est une donnée du problème. Un langage en open source, mais des outils d’exécution propriétaires Le cœur du langage (grammaire, analyseur syntaxique [parser], spécifications) est publié par Microsoft sur GitHub. Ce dépôt est accessible librement et sous licence open source. Donc, KQL est un langage ouvert, dans la même logique que SQL, qui n’appartient à personne.  Mais dans la pratique, l’immense majorité des usages de KQL se fait via les services propriétaires de Microsoft, ce qui nuance largement la portée de cette ouverture ; contrairement à SQL, dont on trouve de nombreux moteurs open source (PostgreSQL, MySQL, SQLite, etc.) totalement indépendants de tout éditeur commercial. Faut-il choisir entre les deux? En réalité, la question se pose rarement en ces termes en entreprise. La plupart des organisations qui utilisent KQL le font en complément de SQL, et non à sa place. Un analyste de données a tout intérêt à considérer les deux langages non pas comme des concurrents, mais comme deux outils répondant à des besoins différents : SQL pour interroger des données métier structurées et stables (en lecture et en écriture), KQL pour explorer rapidement de gros volumes de logs et de données temporelles, en particulier dans un environnement Azure. Pour un professionnel de la donnée, la bonne nouvelle est que les deux langages partagent une logique de fond assez proche (tables, filtres, agrégations, jointures) ce qui rend le passage de l’un à l’autre plus accessible qu’il n’y paraît. Le véritable enjeu n’est donc pas de choisir un camp, mais de savoir reconnaître, selon la nature des données et l’outil disponible, quel langage utiliser pour poser la bonne question au bon moment. Et vous, quelle expérience avez-vous du langage KQL ? Quelles difficultés ou faiblesses avez-vous éventuellement rencontrées ? Et quels sont vos cas d’utilisation ? [1] https://learn.microsoft.com/fr-fr/kusto/query/?view=microsoft-fabric

    #6.15 Et vous, êtes-vous plutôt KQL ou SQL ?

About

Decideo est la communauté d'information et d'échange autour des outils et meilleures pratiques d'analyse de données (Machine Learning, Business Intelligence, Big Data, Science des Données, Entrepôts de données…). Véritable réseau social des professionnels de la donnée, Decideo est disponible en français www.decideo.fr. Opinions d'experts, actualités, agenda, offres d'emploi, sont disponibles en ligne et sur les applications mobiles gratuites. Decideo is the leading user community of Business Intelligence, Data Science, Big Data and Analytics professionals. Decideo is a real social network of data driven economy, available in French www.decideo.fr. User stories, best practices, news, software reviews, agenda, job board… are available online, and through podcast and mobile applications.

You Might Also Like