När polisen i Hongkong gick ut i februari i år och berättade om ett bedrägeri på motsvarande 250 miljoner kronor, väckte det uppmärksamhet världen över. En anställd på konsultjätten Arup hade deltagit i ett digitalt möte med vad han trodde var kollegor och företagets CFO. Alla såg och lät ut som de brukade. Alla gav instruktioner som verkade rimliga. Ändå var det hela en iscensatt bluff.
Ansiktena på skärmen var inte människor, utan algoritmer. Rösterna var syntetiskt framställda, baserade på offentliga videoklipp. Bedragarna lyckades i realtid styra ett deepfake-genererat videomöte och få pengar att skickas till ett nät av bankkonton. Händelsen visar med all tydlighet hur artificiell intelligens förändrar hotlandskapet. Det som för bara några år sedan lät som science fiction är nu en mycket påtaglig verklighet.
När hoten blir maskinella
Cybersäkerhet har alltid handlat om att ligga steget före. I takt med att digitaliseringen fördjupats har hotbilden skiftat från traditionella virus och malware till avancerade nätverksintrång, statssponsrade attacker och sofistikerad social engineering. Med artificiell intelligens har tempot och omfattningen tagit ett kliv som saknar motstycke.
Tidigare krävde en avancerad phishingkampanj tid, kreativitet och manuellt arbete. I dag kan en språkmodell generera tusentals trovärdiga mejl på en eftermiddag. Där en bedragare förr fick nöja sig med dåligt översatta standardfraser kan nu AI skapa skräddarsydda meddelanden, perfekta i språket och anpassade till mottagarens bakgrund.
På samma sätt kan intrångsverktyg som drivs av AI scanna system, hitta svagheter och testa sårbarheter med en hastighet som gör att traditionella patchcykler känns hopplöst långsamma. Det är inte bara fler attacker – det är smartare attacker. Och de drabbar inte längre bara små, oförberedda bolag, utan även globala aktörer med avancerade säkerhetssystem.
När det vi ser inte längre är sant
Deepfakes förtjänar särskild uppmärksamhet. Att en falsk video eller ljudinspelning kan få en anställd att överföra miljonbelopp låter i efterhand nästan otroligt. Men i ett arbetsliv där videomöten är standard och där tidspress är vardag, är det inte svårt att föreställa sig hur lätt det kan gå.
I Arup-fallet beskrev polisen att bedragarna kombinerade offentliga videor med sofistikerad syntetisering. Resultatet blev kollegor som såg och lät precis som de skulle. Den anställde gjorde vad vem som helst skulle ha gjort: följde instruktioner från en överordnad. Först när summorna blev alltför stora upptäcktes bluffen.
Problemet är att det här inte är ett isolerat fall. Redan nu finns rapporter om företag som utsatts för AI-genererade röstsamtal där en “vd” begär brådskande överföringar, eller där leverantörer plötsligt “bytt bankkonto”. Skillnaden mot tidigare är att den mänskliga magkänslan inte längre räcker. Det som en gång gick att ana – en konstig ton, ett grammatiskt fel – är nu så perfekt att även en uppmärksam person luras.
Compliance under press
För organisationer innebär den nya hotbilden inte bara ett tekniskt problem. Det är i lika hög grad en juridisk och organisatorisk utmaning. Compliance-ramverk som GDPR och NIS2 bygger på tanken att incidenter går att upptäcka, rapportera och spåra. Men vad händer när incidenterna inte ser ut som förut?
Ansvarsfrågan är central. Om ett AI-system – internt utvecklat eller köpt från en leverantör – bidrar till ett felbeslut, vem bär då det juridiska ansvaret? Är det utvecklaren som byggt systemet, leverantören som sålt det, eller användaren som förlitade sig på det? Den här frågan är ännu inte fullt ut besvarad i lagstiftningen, men den kommer bli avgörande framöver.
Dokumentation är en annan stötesten. Regulatorer kräver att beslut ska kunna förklaras. Men de mest avancerade AI-modellerna är svarta lådor. Att i efterhand redogöra för varför en algoritm genererade just det resultatet är ofta tekniskt mycket svårt. Här kolliderar lagstiftarens krav på transparens med den tekniska verkligheten.
Dataskyddsfrågan är inte mindre problematisk. AI-modeller behöver tränas på enorma mängder data. Ofta rör det sig om personuppgifter, beteendemönster eller känslig information. Hur detta material hanteras är avgörande för om organisationen håller sig inom GDPR:s ramar eller riskerar dryga sanktionsavgifter.
Till detta kommer incidentrapporteringen. Vad är egentligen en “incident” i AI-sammanhang? Är en deepfake som lurar en anställd till en felaktig transaktion en cybersäkerhetsincident, en complianceincident, eller båda? Måste den anmälas till IMY inom 72 timmar? Och hur ska den i så fall dokumenteras? Här finns ännu många obesvarade frågor.
Förskjutningen till proaktiv styrning
Tidigare har mycket av compliance handlat om att ha policies på plats och bocka av checklistor. Men i AI-eran fungerar inte det längre. Den organisation som inte tar steget till proaktiv riskhantering kommer snabbt hamna på efterkälken.
Det betyder att AI inte kan behandlas som en teknisk detalj. Det måste upp på styrelsenivå. Precis som finansiella risker och arbetsmiljöfrågor är AI-risker numera en del av den strategiska riskhanteringen. Den som väntar på att EU:s AI Act ska träda i kraft riskerar att stå oförberedd.
Den nya lagen kommer att ställa krav på spårbarhet, riskbedömning och mänsklig övervakning av “high-risk AI”. Men även innan den träder i kraft är det klokt att bygga rutinerna. Organisationer som redan nu kan visa att de förstår och hanterar AI-risker kommer inte bara ligga bättre till gentemot regulatorer – de kommer också ha ett starkt konkurrensmässigt argument. Att kunna visa kunder och partners att man arbetar säkert med AI kan bli en affärsmässig fördel.
Vad organisationer behöver göra
Det första steget är att se över de interna processerna. Vilka beslut får fattas baserat på videomöten eller röstsamtal? Hur verifieras finansiella instruktioner? I många organisationer finns en kultur av att lita på digital kommunikation. Den kulturen måste kompletteras med en sund skepsis.
“Trust, but verify” var en gång en fras om internationella avtal. I dag är det en nödvändig princip i företagsvärlden. Även om en person ser ut och låter som en chef måste det finnas en andra kanal för verifiering. Ett telefonsamtal, en tvåfaktorsbekräftelse eller en parallell signeringsrutin kan tyckas omständligt. Men när risken är att miljoner försvinner är det en billig försäkring.
Utbildning är en annan avgörande del. Anställda måste förstå att de inte kan lita blint på vad de ser. Att visa exempel på deepfakes internt kan vara en ögonöppnare. Den dag en medarbetare möter en falsk röst eller video ska det inte vara första gången de ser fenomenet.
Avtalen med leverantörer behöver också ses över. Många organisationer använder externa AI-tjänster utan att tänka på vad det innebär. Här måste klausuler om ansvar, dataskydd och incidentrapportering skrivas in. Om en leverantörs AI orsakar en incident måste ansvaret vara tydligt reglerat.
Tekniska lösningar är viktiga, men ska inte överskattas. Visst finns det verktyg som kan analysera bilder och ljud för att upptäcka manipulationer. Men tekniken är ännu långt ifrån fulländad. I nuläget är mänsklig vaksamhet och robusta processer ofta minst lika viktiga som avancerade filter.
Från tekniskt problem till ledningsfråga
Det intressanta med AI-hotbilden är att den suddar ut gränsen mellan teknik, juridik och organisation. Det här är inte längre en fråga som kan lämnas till IT-avdelningen. Styrelser och ledningsgrupper måste förstå att AI är en affärsrisk i samma kategori som finansiella eller legala risker.
När en global aktör kan förlora hundratals miljoner i ett enda deepfake-möte är det uppenbart att frågan hör hemma i högsta ledningen. Det är inte bara en fråga om att förhindra ekonomiska förluster. Det handlar också om att bevara förtroendet hos kunder, leverantörer och investerare.
Det finns dessutom en tydlig geopolitisk dimension. Stater använder redan AI som en del i sina cyberoperationer. För företag med internationella leverantörskedjor innebär det att hotbilden är större än de traditionella kriminella nätverken. Det är en arena där näringsliv, myndigheter och internationella organisationer måste samverka.
Ett fönster av möjlighet
Det är lätt att måla upp en bild av AI som ett hot. Men det finns också en möjlighet. Precis som angripare använder AI för att bli effektivare kan försvarssidan göra detsamma. AI kan användas för att upptäcka anomalier i nätverkstrafik, för att identifiera misstänkt beteende eller för att snabbt analysera loggar vid incidenter.
Compliance kan också stärkas av AI, genom bättre verktyg för dokumentation, riskanalys och rapportering. Rätt använda kan algoritmer hjälpa organisationer att inte bara leva upp till regelverken, utan också att göra det med högre precision och lägre kostnad.
Det handlar i slutändan om att våga se AI både som hot och som verktyg. Den organisation som bara ser riskerna missar möjligheten. Den som blundar för riskerna riskerar däremot att bli nästa rubrik i internationell press.
Från paranoia till beredskap
Det går inte längre att förlita sig på att det vi ser och hör är sant. AI gör att våra sinnen kan luras på sätt som är både övertygande och förödande. Men lösningen är inte paranoia, utan beredskap.
Genom att integrera AI-risker i compliance-strukturen, genom att utbilda personal, se över avtal och bygga robusta processer kan organisationer möta den nya verkligheten. EU:s AI Act kommer att ge en formell ram, men de som agerar redan nu kommer att ligga steget före.
Fallet i Hongkong visar vad som står på spel. Nästa gång kan det vara ett svenskt bolag, en offentlig myndighet eller en europeisk bank. Frågan är inte om, utan när. Och den avgörande skillnaden blir vilka organisationer som var förberedda