Choses à Savoir TECH Choses à Savoir

OpenAI : pourquoi Sam Altman a-t-il été licencié (puis réembauché) ?
OpenAI est aujourd’hui l’une des entreprises avec le plus de dramas dans le domaine de la tech. Que ce soit pour l'entraînement de ses modèles d’IA avec des données que l’on pourrait considérer comme volées étant donné que l’entreprise n’a pas d’accord avec les ayant droit par exemple, ou bien le licenciement de son patron Sam Altman en novembre dernier… qui n’aura duré qu’une seule semaine. Si à l’époque on ne savait pas vraiment pourquoi l’entreprise avait agi de la sorte, on connaît enfin le motif derrière ce licenciement.
C’est grâce aux confidences d’une ancienne membre du conseil d'administration, Helen Tonern que l’on a eu le fin de mot de cette histoire. À en croire cette ancienne responsable, les motivations du conseil, à l’époque, tenaient au fait que le patron Sam Altman avait multiplié les mensonges, ce qui rendait impossible le maintien de la confiance. Helen Toner explique par ailleurs que Sam Altman n'avait pas révélé être le propriétaire du fonds OpenAI, et qu'il avait établi une ambiance de travail toxique, rapportées au conseil par deux dirigeants.
Elle explique également que les membres du conseil d'administration avaient des preuves que Sam Altman avait « menti et avait été manipulateur dans différentes situations », qu'il prenait des décisions très importantes seul. Je cite, « lorsque ChatGPT est sorti en novembre 2022, le conseil d'administration n'a pas été informé à l'avance. Nous avons appris l'existence de ChatGPT sur Twitter » fin de citation. Elle a enfin rappelé que les expériences professionnelles précédentes de Sam Altman avait été assez chaotiques, avec un licenciement quand il travaillait chez Y Combinator, sans compter les plaintes d’un certain nombre d’employés encore avant, quand il travaillait au sein de la startup Loopts, qui avaient également demandé son renvoi.  

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Microsoft a de grandes ambitions, notamment avec l’IA comme en témoignent ses investissements massifs dans OpenAI. Et visiblement, ses choix sont payants étant donné que Microsoft trône désormais en première place des entreprises les plus valorisées au monde, dépassant même Apple. Ainsi, dans sa quête perpétuelle d’innovation, l’entreprise vient de présenter Azure AI Speech, montrant toute l'étendue des possibilités offertes par l'IA.
Initialement présenté en 2023, l'outil permet aux utilisateurs de créer et d'utiliser leur propre voix d'IA dans les applications Microsoft. Concrètement, si un logiciel que vous utilisez collabore avec la société pour exploiter Azure AI Speech, vous serez alors en mesure de synthétiser votre voix dans celui-ci. Microsoft a d'ailleurs élaboré ses premiers partenariats permettant de démontrer les capacités de son modèle, notamment avec Truecaller, une application américaine qui identifie et bloque les appels indésirables. Concrètement, l'IA répond aux appels qui sont potentiellement des spams. Avec la voix de l'utilisateur, elle interroge l'interlocuteur afin de déterminer s'il s'agit bel et bien d'une conversation indésirable. À noter que l'outil a également été déployé dans Skype, cette fois à des fins de traduction instantanée et en temps réel. Si l'on discute avec une personne qui ne parle pas notre langue, l'IA traduira automatiquement les propos dans la langue de l'interlocuteur, en reproduisant la voix à l'identique.
Pour les curieux, Microsoft propose de tester l'outil, mais seulement si vous disposez d'un compte Azure avec une ressource Speech ou Cognitive Services. Je cite, « tous les clients doivent accepter nos politiques d'utilisation, qui exigent notamment le consentement explicite du locuteur d'origine, la divulgation de la nature synthétique du contenu créé et l'interdiction d'usurper l'identité d'une personne ou de tromper les personnes utilisant le service de voix personnelle », détaille la société, consciente du danger que représente un tel système. Au mois d'avril, Microsoft avait présenté une autre IA similaire, permettant de transformer la photo de quelqu'un en vidéo. Si ce type de dispositifs peut s'avérer utile dans de nombreux domaines, ils sont aussi très inquiétants, alors que les experts alertent sur une recrudescence de deepfakes de plus en plus réalistes.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Aux Etats-Unis, CSC ServiceWorks se décrit comme le principal fournisseur de services de blanchisserie commerciale aux États-Unis, au Canada et en Europe. Ses machines à laver équipent des résidences, des hôtels et universités dans le monde entier… mais visiblement, la sécurité de ses appareils laisse à désirer. Car au mois de janvier, deux étudiants de l'université de Californie, Alexander Sherbrooke et Iakov Taranenko, sont parvenus à activer une machine en exécutant un script de code, sans dépenser un dollar ! Mieux, ils se sont même ajouté un solde virtuel de plusieurs millions de dollars sur l'un de leurs comptes de blanchisserie, accessible via l'application CSC Go.
Selon les deux étudiants, la vulnérabilité des machines trouve dans l'API utilisée par l'application mobile, qui offre la possibilité de recharger son compte, payer et commencer une lessive sur une machine à proximité. Dans le détail, les serveurs de la société peuvent en effet être trompés et accepter des commandes qui modifient le solde du compte, car les contrôles de sécurité sont effectués par l'application via l'appareil de l'utilisateur, puis sont automatiquement approuvés par les serveurs. Techniquement, n'importe qui peut activer une machine de l'entreprise sans payer ou créer un faux compte chez CSC Go, car les serveurs ne vérifient pas non plus si les nouveaux utilisateurs sont propriétaires de leur adresse électronique. Les étudiants ont donc souhaité alerter l'entreprise par messages et appels téléphoniques. Si leurs requêtes sont jusqu'à aujourd'hui restées sans réponse, la firme a pris soin de retirer le solde de plusieurs millions de dollars de leur compte.
La possibilité d'activer une machine gratuitement semble inoffensive, mais la vulnérabilité de tels appareils présente tout de même des dangers. Par exemple, l'envoi de commandes par l'intermédiaire de l'API est susceptible de contourner les restrictions de sécurité dont sont équipées les machines à laver pour éviter les surchauffes et les incendies. De façon plus générale, cette affaire souligne la nécessité d'apporter des contrôles de sécurité suffisants aux objets connectés. Il est déjà arrivé que des hackers parviennent à activer des caméras depuis l'étranger ou même à accéder à des prises intelligentes.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Depuis la semaine dernière, la loi destinée à sécuriser internet est entrée en vigueur. Mais avant cela, il y a quelques semaines, son passage devant le conseil d’Etat avait entraîné la mise sur la touche de plusieurs dispositions qui avaient été beaucoup discutées, tout en gardant l'essentiel du texte dont on vous raconte le détail dans cet épisode.
Aussi connu sous le nom loi SREN, cette loi a été l'objet d'intenses débats au Parlement au début, et ce, notamment à cause d'une mesure qui avait été considérée par beaucoup comme étant une atteinte à liberté d'expression : le délit d'outrage en ligne. L'article 19 du projet de loi voulait je cite sanctionner « tout contenu qui, soit porte atteinte à la dignité d'une personne ou présente à son égard un caractère injurieux, dégradant ou humiliant, soit créé à son encontre une situation intimidante, hostile ou offensante » fin de citation. L’article a depuis été retoqué. Il a été considéré par le conseil d’Etat comme étant dépendant « d'éléments subjectifs tenant à la perception de la victime. » En parallèle, l'instance a aussi censuré quatre autres dispositions comme l'article 10, dans lequel était indiqué l'objectif que « 100 % des Français puissent avoir accès à une identité numérique gratuite » d'ici 2027.
Du côté des dispositions qui sont désormais appliquées, on retrouve notamment le contrôle de l'âge sur les plateformes pornographiques. L'Arcom aura dorénavant le pouvoir de bloquer et d'ordonner le déréférencement sous 48 heures des sites pour adultes ne mettant pas en place les mesures nécessaires, sans avoir besoin de l'intervention d’un juge. Seule ombre au tableau, le Digital Services Act, à cause duquel le texte de loi ne s'appliquera qu'aux sites basés en France ou hors d'Europe. Ceci dit, les plateformes les plus importantes comme Pornhub sont situées au Luxembourg et Xvideos en République Tchèque. Pour elles, ce sera à la Commission européenne de se charger de leur régulation.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Le Japon est un pays réputé pour sa difficulté d’accès en termes de communication… En effet, l’anglais est certes, un peu parlé, mais au final par très peu de personnes, ce qui peut parfois compliquer un séjour pour les touristes n’étant pas préparé. Mais avec un nombre de touristes en constante augmentation ces dernières années, et même multiplié par 2,5 ces dix dernières années, les besoins en traduction sont de plus en plus importants. C'est donc pour combler ces lacunes que la société Toppan a mis au point un outil assez ingénieux : une vitre transparente, permettant à un Japonais d'un côté, et un étranger de l'autre, de converser, grâce à une traduction instantanée opérée par l'appareil. Les propos apparaissent alors dans des bulles blanches, comme si vous étiez à l'intérieur d'une bande dessinée.
Dans le détail, la société nippone explique que la particularité de ce produit, mesurant 40 centimètres de haut pour 60 centimètres de large, réside d'abord dans le fait qu'il a été entraîné directement en japonais, afin de traduire une douzaine de langues (allant de anglais au coréen en passant par le français et le chinois entre autres), ce qui constitue une sacré différence avec les autres outils de traduction, qui pour la plupart passent par l'intermédiaire de l'anglais pour effectuer une traduction d'une langue à une autre. Ainsi, en entraînant le système directement en japonais, la possibilité d'une erreur est donc réduite. À noter que ces petites vitres existent déjà dans plusieurs gares de Tokyo, devant les guichets. De par leur capacité à rendre les discussions beaucoup plus fluides que lorsque l'on doit écrire sur son smartphone et le montrer pour essayer de se faire comprendre, ces vitres sont de plus en plus demandées dans l'archipel, et vous serez sans doute amené à en utiliser une si vous voyager au Japon, à moins que vous ne parliez japonais.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.

Connaissez-vous le concept des applications dites Nudify ? Si vous parlez un peu anglais, alors vous avez sans doute déjà compris l’esprit de ces outils qui visent tout simplement à déshabiller des personnes grâce à l’IA. Concrètement, il suffit d'uploader la photo d'une personne pour que l'algorithme génère une version où celle-ci apparaît dénudée, et ce, sans son accord. Selon la société d'analyse Graphika, pas moins de 24 millions de personnes ont visité des sites proposant ce type de service rien qu'en septembre 2023.
Pour faire simple, le Nudify utilise deux technologies principales pour générer des images d’une personne nue à partir de photos d'elle habillée. La première est bien entendue l'IA générative, avec des algorithmes qui analysent des millions d'images de corps nus pour apprendre à identifier les formes et les textures réalistes… La seconde, c’est le deepfake, quand l'IA superpose des corps nus anonymes sur la photo habillée de la cible, en tenant compte de la carnation, de la posture et d'autres détails pour un résultat crédible. Le tout peut-être généré en seulement quelques minutes, permettant à ce genre de contenu de se répandre à vitesse grand V sur internet avec tous les dangers que cela peut comporter.
Si certaines plateformes comme TikTok, Facebook, ou Instagram commencent à bloquer les mots-clés associés à ces applications, leurs efforts restent largement insuffisants face à l'ampleur du phénomène. Le nombre de liens renvoyant vers des services ou des publications liées au Nudify a bondi de plus de 2 400 % en 2024 selon Graphika. Pire, certaines applis parviennent même à se faire de la publicité sur YouTube en contournant les règles des diffuseurs. Si Google affirme « examiner » et « supprimer » les publicités concernant les deepfakes en tout genre, la firme ne fait bien souvent que les déclasser. Beaucoup d'autres plateformes n'ont pas encore pris de mesures concrètes. Mais au-delà des interrogations sur la responsabilité des plateformes, c'est surtout la notion même de consentement qui est bafouée par ces applis, représentant des personnes dénudées à leur insu et sans leur accord. Aux États-Unis, aucune loi fédérale n'interdit formellement la création de ces deepfakes pornographiques. En France, la CNIL joue son rôle en punissant d'une amende de 12 000 euros la diffusion publique d'images « déshabillées ». Au niveau européen, le RGPD est quant à lui intraitable sur le consentement, mais malgré tout, les victimes restent bien démunies face à ces dérives.

Hébergé par Acast. Visitez acast.com/privacy pour plus d'informations.