Den 2 december 2026 börjar två nya förbud i AI-förordningen att gälla. Det ena gäller AI-system som genererar eller manipulerar realistiska bilder, videor eller ljud av en identifierbar persons intima kroppsdelar eller personen i sexuellt explicita handlingar utan personens uttryckliga samtycke, det andra AI-system som skapar material med sexuella övergrepp mot barn. Samma dag tar övergångstiden slut för generativa system som redan fanns på marknaden före den 2 augusti. Från och med då måste även de märka det de genererar. Det låter som två separata nyheter, men de har en sak gemensam. För leverantörerna avgörs efterlevnaden i båda fallen främst av hur systemet är byggt. Ett förbud i användarvillkoren räcker inte om systemet ändå går att få att göra det som är förbjudet.
Båda datumen kommer från förordning (EU) 2026/1744, Digital Omnibus om AI, som publicerades i EUT den 24 juli 2026 och trädde i kraft den 27 juli. Omnibusen lade till två nya led i artikel 5, där förordningens förbjudna AI-praktiker räknas upp, och ändrade artikel 113 så att just de nya bestämmelserna gäller från den 2 december 2026. Övriga förbud har gällt sedan den 2 februari 2025. Förbudet mot övergreppsmaterial gäller dock inte där ett försvar beträffande olovligen är tillämpligt enligt nationell rätt.
Förbudet sitter i designen
Det nya förbudet träffar inte varje bildgenerator som i teorin skulle kunna missbrukas, och det är där det blir intressant för den som bygger system. För en leverantör, alltså den som utvecklar systemet och släpper ut det under eget namn, är det utsläppandet på marknaden eller ibruktagandet som är förbjudet, och bara i två fall. Det första är att sådan generering är systemets avsedda ändamål. Det andra är att systemets design, träning, arkitektur, kapacitet eller användarinriktade funktioner gör genereringen till ett rimligen förutsebart och reproducerbart utfall utan betydande teknisk modifikation, samtidigt som systemet saknar rimliga och adekvata tekniska säkerhetsåtgärder och andra skyddsåtgärder som på ett tillförlitligt sätt förhindrar det. Bedömningen ska ta hänsyn till rimligen förutsebart missbruk, och skyddsåtgärderna ska också kunna rätta till missbruk som har observerats eller rapporterats.
Läs det som en ingenjör. Det är en kravställning på skyddsräcken, inte en avsiktsförklaring. Frågan blir inte vad leverantören ville, utan vad systemet går att få att göra och hur väl spärrarna håller.
För tillhandahållaren, alltså den som använder systemet i sin verksamhet, är tröskeln en annan. Användningen är förbjuden när tillhandahållaren använder systemet i syfte att skapa sådant material. Ett företag som har ett allmänt bildverktyg i verksamheten bryter alltså inte mot förbudet för att verktyget skulle kunna missbrukas. Det gör den som faktiskt använder det till det. En privatperson som använder ett system i rent privat syfte omfattas inte av AI-förordningens skyldigheter för tillhandahållare, men kan träffas av annan lagstiftning. Brott mot förbuden i artikel 5 kan ge sanktionsavgifter på upp till 35 miljoner euro eller, för företag, 7 procent av den globala årsomsättningen under föregående räkenskapsår, beroende på vilket som är högst. För små och medelstora företag gäller det lägre beloppet.
Märkningen som fick fyra månaders anstånd
Den andra delen är kravet i artikel 50.2. Leverantörer av system som genererar syntetiskt ljud, bild, video eller text ska se till att utdata märks i maskinläsbart format och går att upptäcka som artificiellt genererat eller manipulerat. Artikel 50 har gällt sedan den 2 augusti 2026. Omnibusen införde en ny punkt 4 i artikel 111, som ger leverantörer av system som släpptes ut före det datumet tid till den 2 december att uppfylla just artikel 50.2. System som har släppts ut därefter ska redan uppfylla kravet.
Kommissionens riktlinjer för artikel 50, som publicerades i juli och sedan den 5 november finns som C(2026) 7702 final, även på svenska, gör flera saker konkreta. Märkning och upptäckt är två separata krav, och enligt riktlinjerna räcker det inte att uppfylla det ena. Ett vattenmärke utan tillgängliga verktyg för att upptäcka det uppfyller alltså inte kravet. Leverantören får förlita sig på en märkningslösning från leverantören av den underliggande modellen eller från en tredje part, i den mån lösningen uppfyller artikel 50.2, men ansvaret för att visa att kraven är uppfyllda ligger kvar hos leverantören av AI-systemet. Märkningen får läggas på i olika led, men leverantören måste kunna stå för hela kedjan av märkning och upptäckt. Enligt riktlinjerna faller källkod, korta utdata som enstaka ord och alt-text samt utdata som enbart går mellan maskiner, utan att människor exponeras för dem, utanför märkningskravet. Detsamma gäller utdata som bara används i slutna produktionsflöden, till exempel inom film, animering, spel eller reklam. Där ska bara slutresultatet märkas och kunna upptäckas.
Vad den 2 december inte ändrar
Övergångstiden gäller enbart kravet på märkning och upptäckt i artikel 50.2. För ett system som både samtalar och genererar innehåll har upplysningen om att man interagerar med en AI enligt riktlinjerna gällt sedan den 2 augusti. Tillhandahållarens skyldigheter att upplysa om deepfakes och om vissa AI-genererade texter i frågor av allmänt intresse omfattas inte heller av övergångsregeln. Enligt riktlinjerna behöver AI-genererat innehåll och deepfakes som skapades före den 2 augusti inte märkas i efterhand. För texter i frågor av allmänt intresse är det däremot publiceringsdagen som avgör. En äldre AI-text som publiceras den 2 augusti eller senare ska märkas.
Riktlinjerna är dessutom inte bindande. De säger själva att det bara är EU-domstolen som kan ge en auktoritativ tolkning av AI-förordningen och beskriver sig som en första tolkning som kan komma att ses över. De är ändå det tydligaste besked vi har om hur kommissionen läser artikel 50.
Den som har haft ett generativt system på marknaden sedan före den 2 augusti måste senast den 2 december se till att utdata märks och att andra kan upptäcka märkningen. Den frivilliga uppförandekoden om transparens för AI-genererat innehåll innebär att anslutna leverantörer åtar sig att ha en interoperabel lösning för upptäckt senast den 2 februari 2027, men koden är inte bindande och flyttar inte lagens datum. En annan fråga gäller alla leverantörer av generativa system, oavsett när systemet släpptes. Om någon försöker få systemet att skapa det som förbjuds den 2 december, vad händer då, och var finns det dokumenterat?
Det är lätt att läsa de nya förbuden som en moralisk markering och märkningen som en formalitet. Jag tror att båda läsningarna missar poängen. De är i grunden frågor om arkitektur. Frågan är inte om ert system får generera bilder, utan om ni kan visa vad det inte går att få det att göra.
