Bli säker-podden

Nikka Systems
  • 0.0 (0)
  • Technology
  • Updated Weekly

”Bli säker” är podden som gör dig lite säkrare för varje vecka som går. Karl Emil Nikka och Peter Esse diskuterar dagens IT-säkerhetsutmaningar varvat med de senaste säkerhetsnyheterna och lyssnarnas frågor. Podden produceras av Nikka Systems. Avsnitten publiceras under CC BY 4.0-licens.

  1. 1d ago

    #370 Berget testar ai-modellers värderingar (specialavsnitt)

    Det finns en uppsjö av ai-modeller att välja mellan. Vissa modeller är amerikanska. Andra är kinesiska. Ett fåtal är europeiska. Beroende på vem som har tränat modellerna kan de ge varierande svar, något det svenska företaget Berget har valt att undersöka närmare. I dag (fredag) publicerar Berget sin utvärdering av hur olika ai-modeller tar hänsyn till svenska värderingar. Bergets vd, Christian Landgren, gästar Bli säker-podden för att berätta om resultatet. Enligt deras test är de kinesiska modellerna faktiskt bättre än de amerikanska på att svara ur ett svenskt perspektiv. Att ai-modellerna tar hänsyn till svensk kultur och svenska värderingar handlar inte om huruvida modellerna kan svara rätt på rena faktafrågor. Det handlar snarare om vilka perspektiv som modellerna väger in i sina svar. Christian förklarar att om ett svenskt företag använder ai i rekryteringssammanhang bör deras ai-modeller ha ett svenskt perspektiv på frågor som berör bland annat jämställdhet och medbestämmanderätt. Christian berättar också hur Berget arbetar för att utvärdera ai-modeller ur ett säkerhetsperspektiv och på vilket sätt valet av tjänsteleverantör påverkar allt från dataskydd till censur. Se fullständiga shownotes på https://go.nikkasystems.com/podd370.

  2. Sep 18

    #369 Apple Watch öppnar Pandoras ask

    Förra veckan presenterade Apple sina senaste klockor: Apple Watch Series 12 och Apple Watch Ultra 4. Inuti dessa klockor sitter ett nytt chip som kallas S11. Det chippet har ai-stöd som gör att klockorna kan erbjuda flera nya ljudrelaterade funktioner, däribland den oroväckande funktionen Siri Recap (ej tillgänglig i EU). Med Siri Recap kan Apple Watch-ägare spela in allt omgivningsljud för att få en översikt över viktiga saker som har sagts under dagen. Siri Recap sparar inte själva ljudfilerna utan genererar textbaserade sammanfattningar. Transkriberingen görs på ägarens Iphone och textbearbetningen sker i Apples privata molntjänst där inte ens Apple har tillgång till datan. Synkroniseringen mellan ägarens enheter görs med totalsträckskryptering via Icloud. På så vis garanterar Apple att ingen utomstående får tillgång till datan. I veckans podd pratar Peter och Nikka om de nya Apple Watch-funktionerna. Nikka berättar varför han oroar sig för Siri Recap trots att Apple har byggt lösningen på detta säkra sätt. Han oroar sig bland annat för vad som händer om massövervakningstrenden håller i sig och Apple tvingas göra sina tjänster osäkrare, något de redan har tvingats göra i Storbritannien. Peter oroar sig för att konkurrenter kommer att kopiera Apples idé utan att samtidigt erbjuda lika säkra ai-lösningar för transkribering och sammanfattning. I George Orwells dystopi 1984 övervakas folket genom en teleskärm i varje hem. Nikka oroar sig för att Apple precis har öppnat Pandoras ask och däri hittat något ännu värre: övervakningsklockor som, bokstavligt talat, sitter fastlänkade runt handlederna på folket. Den här veckan lyfter Peter och Nikka också en glad nyhet om RCS-meddelanden, en tråkig nyhet om dataläckan från Revolut samt en ”icke-nyhet” om Surfsharks varning för attacker som inte förekommer. Se fullständiga shownotes på https://go.nikkasystems.com/podd369

  3. Sep 11

    #368 Nya anklagelser om LG:s tv-avlyssning

    I början av sommaren hamnade tv-jätten LG i blåsväder. LG:s appbutik innehöll appar med tveksamma affärsmodeller. Flera appar fungerade som så kallade residentiella proxyappar där apputvecklarna tjänade pengar på att sälja tillgång till tv-ägarnas internetuppkopplingar. Den här veckan förvärrades situationen. Youtube-kanalen Gamers Nexus publicerade en två timmar lång genomgång av integritets- och säkerhetsproblem som de hade hittat i LG:s tv-modeller. Gamers Nexus noterade bland annat hur den inbyggda röstassistenten fortsatte att fånga upp och transkribera samtal långt efter att användaren hade slutat prata. Tv-mikrofonens upptagningsområde var dessutom brett, vilket kunde leda till att samtal från andra rum spelades in. Gamers Nexus noterade också att tv-modellerna samlade in stora mängder data som skulle kunna utnyttjas i marknadsföringssyfte. Smart-tv-revolutionen har gjort reklam till en viktig intäktskälla för flera tv-tillverkare. 2021 rapporterade The Verge att tv-jätten Vizio tjänade dubbelt så mycket pengar på annonser och prenumerationer som på försäljningen av tv-apparater. Det väcker frågor kring hur tv-skärmen i vardagsrummet (och sovrummet) påverkar den personliga integriteten, framför allt i takt med att fler modeller får inbyggda mikrofoner och kameror. I veckans podd pratar Peter och Nikka om Gamers Nexus avslöjande och ger en enkel rekommendation: låt bli att ansluta tv:n till nätverket om du inte behöver göra det. Nikka förklarar varför han tar oron för tjuvlyssnande tv-apparater på allvar medan han samtidigt avfärdar myten om tjuvlyssnande mobiler. Podduon pratar också om en nätfiskeattack som utnyttjar just poddare, måndagens test av VMA-meddelanden samt en välkommen förbättring av webbläsaren Brave. Se fullständiga shownotes på https://go.nikkasystems.com/podd368.

  4. Sep 4

    #367 När internet stängs ner (specialavsnitt)

    Det fria internet är ett hot mot världens diktaturer. Regimernas kontroll minskar när befolkningen har tillgång till internationella medier och ges möjlighet att kommunicera utan att bli avlyssnade. De stora diktaturerna, däribland Kina, Ryssland och Iran, försöker därför att begränsa medborgarnas åtkomst till internet med hjälp av flera olika metoder. Iran begränsar utländska webbtjänster hastighetsmässigt så att de blir snudd på oanvändbara. Ryssland tvingar folket att använda den statliga mobilappen Max. Kina har lyckats få folket att anamma inhemska motsvarigheter till de internationella plattformarna, vilket därigenom har minskat befolkningens intresse av att nå det globala internet. Veckans specialavsnitt av Bli säker-podden gästas av Marcin de Kaminski, Senior Vice President of Programs på Open Technology Fund. Han berättar om metoderna som diktaturer utnyttjar för att censurera och avlyssna internet. Han berättar också om öppen källkodsprojekten som har fått investeringar från Open Technology Fund för att hjälpa världens befolkning att kringgå internetbegränsningar och kommunicera säkrare. Han lyfter bland att fram tre av poddens frekvent omnämnda projekt: Signal, Let’s Encrypt och Wireguard. Veckans poddavsnitt ger inte bara en inblick i hur det är att leva i ett land som begränsar internet. Avsnittet är också en välbehövlig påminnelse om att vi aldrig får ta det fria internet för givet. Flera demokratiska länder har redan börjat diskutera införandet av bakdörrskrav i säkra meddelandeappar och begränsningar av vpn-tjänster. Tack till Linköping Science Park som bistod med lokal för inspelningen av avsnittet. Se fullständiga shownotes på https://go.nikkasystems.com/podd367.

  5. Aug 28

    #366 En frivillig bakdörr till Apples Imessage

    Sedan många år kämpar en skara politiker för att införa bakdörrar i totalsträckskrypterade meddelandeappar, till exempel Apples meddelandeapp. Genom massövervakningsförslaget Chat Control 2.0 vill EU-kommissionen kräva bakdörrar som kan utnyttjas för att skanna efter barnövergreppsmaterial. Det svenska förslaget om så kallad anpassningsskyldighet för leverantörer av totalsträckskrypterade meddelandetjänster kräver liknande bakdörrar men av andra skäl. Än så länge har ingen sådan bakdörrslag gått igenom i den demokratiska delen av världen. Det betyder inte att totalsträckskrypteringen står ohotad. Förra veckan lanserade Open AI en ny Chat GPT-funktion som i praktiken fungerar likt en bakdörr till Apples meddelandeapp. Den nya funktionen kan bland annat användas för att hitta eller sammanfatta Imessage-konversationer. Problemet är att konversationerna då laddas upp till Open AI:s molntjänst, vilken till skillnad från Imessage inte tillämpar totalsträckskryptering. Open AI påpekar att ingen uppladdning görs utan användarens samtycke men missar att en konversation består av flera parter. En person som skickar meddelanden via Imessage förväntar sig Imessages nivå av konfidentialitet, inte Chat GPT-säkerhet. I veckans podd pratar Peter och Nikka om problemet som uppstår när en konversationspart tar sig friheten att bestämma hur gemensamma konversationer ska skyddas. Nikka poängterar att risken för att data läcker är värd att ta på allvar. Open AI har redan lämnat ut Chat GPT-konversationer. I fjol tvingades Open AI att ge New York Times tillgång till 20 miljoner konversationer på grund av en upphovsrättsrelaterad rättstvist. Podduon pratar också om DN:s fortsatta granskning av Tiktoks moderering och om risken för så kallade Eviltoken-attacker. Den risken har visat sig vara betydligt större än Nikka tidigare trodde. Se fullständiga shownotes på https://go.nikkasystems.com/podd366.

  6. Aug 21

    #365 Osynlig märkning avslöjar ai-slask

    Den andra augusti trädde en ny del av EU:s ai-akt i kraft. Nu måste ai-verktyg som genererar bilder, videofilmer, ljudklipp och texter infoga en maskinläsbar ai-märkning. Utöver den redan etablerade Content Crendentials-taggningen (podd #343) har många ai-tjänster börjat väva in en osynlig vattenstämpel som inte kan plockas bort på något enkelt vis. Ett exempel på sådan vattenstämpel är Synth ID, vilken används av bland annat Google, Open AI, Anthropic och Elevenlabs. För människor lämnar Synth ID-vattenstämpeln inga spår. Den gör bara att dedikerade skanningsverktyg kan identifiera vattenstämpeln och avslöja att materialet är ai-genererat. Veckans poddavsnitt är en uppföljning till förra veckans avslöjande om Tiktoks oförmåga att efterleva den egna ai-policyn. Peter och Nikka pratar om hur de nya ai-märkningarna kan hjälpa de stora plattformarna att enklare upptäcka ai-genererat material. Podduon pratar också om att flera plattformar (äntligen) har bestämt sig för att ta itu med ai-slaskproblemet. Under sommaren har bland annat Youtube, Linkedin och Snap meddelat att de vill minska mängden ai-slask som användarna ser. Youtube tar bort möjligheten att tjäna pengar på ai-slaskvideor. Linkedin prioriterar ner ai-genererat material och ger användare en ny knapp för att rapportera det som Linkedin kallar ”ai-skräp”. Snap tar ytterligare ett steg och slutar visa fullständigt ai-genererade videoklipp i sin så kallade Spotlight-vy. I veckans podd pratar Peter och Nikka också om ett välgjort e-handelsbedrägeri, en sårbarhet i Copilot och en synnerligen beklaglig upptäckt hos Amazon. Se fullständiga shownotes på https://go.nikkasystems.com/podd365.

  7. Aug 14

    #364 Stjäla pengar med Tiktok-tjejer

    Ai-modellerna som genererar videoklipp har blivit riktigt bra. Kanske rent av lite för bra. Nu för tiden är det svårt att avgöra om ett videoklipp är äkta. Världens bedragare passar självfallet på att utnyttja situationen. Tiktok har en policy som kräver att kreatörerna ai-märker ”syntetisk eller manipulerad media som visar realistiska scener”. Under sommaren har DN och Nikka undersökt om den policyn faktiskt efterlevs. Granskningen visar att Tiktok varken har tillräcklig förhandsskanning eller fungerande rapporteringsfunktioner. Av 164 rapporterade ai-klipp utan ai-märkning valde Tiktoks moderatorer att ta bort ett klipp och att plocka bort fyra klipp från rekommendationsflödet. Resterande rapporter avslogs utan åtgärd. Det var först när DN kontaktade Tiktoks pressavdelning som de rensade bort ai-klippen. De anmälda videoklippen marknadsförde någon form av bedrägeri. 100 klipp föreställde dansande tjejer vars profiler länkade till privata Telegram-kanaler och betalsajter. 64 klipp visade barn och vuxna med olika sjukdomar eller kroppsskador. De ai-genererade personerna marknadsförde handgjorda väskor, konstföremål, flaggor och kläder. Produkterna var i själva verket så kallade dropshipping-produkter som skickas direkt från fabriker i Asien. I veckans poddavsnitt pratar Peter och Nikka om Tiktok-bedrägerierna och om problemet som uppstår när det blir svårt att skilja verklighet från fiktion. Podduon pratar också om en ny version av en klassisk usb-attack samt om en ai-agent som bestämde sig för att hjälpa sin ägare att gå före i kön till ett gympass. Det enda agenten behövde göra var att utnyttja en sårbarhet i gymmets bokningssystem. Se fullständiga shownotes på https://go.nikkasystems.com/podd364.

  8. Aug 7

    #363 Ai-agenterna anfaller igen

    Mitt i sommaren blev det stora rubriker när webbtjänsten Hugging Face avslöjade att de hade blivit attackerade av autonoma ai-agenter. Det visade sig senare vara Open AI som låg bakom attacken. På grund av en sårbarhet hade ai-agenter lyckats smita ut från testmiljön där Open AI utvärderade sina ai-modeller. När Open AI:s konkurrent Anthropic såg rubrikerna ställde de sig frågan: månntro om vi har råkat göra samma misstag? Svaret var ja. Förra veckan publicerade Anthropic ett blogginlägg där de erkände att de hade orsakat tre liknande incidenter. Den första dokumenterade incidenten hade inträffat redan i april, flera månader före attacken mot Hugging Face. I ett av fallen hade ai-modellen Opus 4.8 lyckats utföra ett intrång och stjäla hundratals rader ur ett oskyldigt företags databas. Listan över oavsiktliga attacker från autonoma ai-agenter förlängdes ytterligare nu i veckan. Brittiska AISI (AI Security Insitute) meddelade att de hade råkat låta ai-modellerna Mythos 5 och GPT 5.6 Sol attackera oskyldiga måltavlor. Mythos 5 hade bland annat försökt lura underhållarna av ett Github-projekt att godkänna ett infekterat bidrag. Dessa incidenter kan vara bakgrunden till ett öppet brev som har undertecknats av över 1 300 medarbetare vid de ledande amerikanska ai-företagen, däribland ai-forskningscheferna hos Open AI, Anthropic, Meta och Google. Medarbetarna anser att världen behöver ”tid för att hantera framväxande risker, utveckla säkerhetsåtgärder och stärka tillsynen”. De ber därför den amerikanska regeringen att stödja ett internationellt samarbete för att ta fram de nödvändiga styrverktygen. I veckans poddavsnitt pratar Peter och Nikka om de nyligen avslöjade ai-attackerna och oron som de orsakar hos ai-företagens medarbetare. Podduon pratar också om två brister i Icloud privacy-tjänster. Apples tjänst ”Dölj min e-postadress” hade en sårbarhet som röjde användarnas riktiga e-postadresser. ”Privat reläservice” är än i dag implementerat på ett vis som gör att webbplatser kan se användarnas ip-adresser även om användarna har aktiverat privacy-funktionen. Se fullständiga shownotes på https://go.nikkasystems.com/podd363.

See All (370)

About

”Bli säker” är podden som gör dig lite säkrare för varje vecka som går. Karl Emil Nikka och Peter Esse diskuterar dagens IT-säkerhetsutmaningar varvat med de senaste säkerhetsnyheterna och lyssnarnas frågor. Podden produceras av Nikka Systems. Avsnitten publiceras under CC BY 4.0-licens.

Information

  • Creator
    Nikka Systems
  • Years Active
    2019 - 2026
  • Episodes
    370
  • Rating
    Clean
  • Copyright
    © CC BY 4.0 Nikka Systems
  • Show Website
    Bli säker-podden