Artificiell intelligens (AI) är en av de mest omvälvande teknologierna i vår tid. För att säkerställa en trygg och etisk användning av AI har EU tagit fram den europeiska AI-förordningen (AI Act) – världens första omfattande lagstiftning för AI.
Men hur långt har Sverige kommit i implementeringen? Vilka regler gäller, och vad behöver företag och organisationer göra för att följa förordningen? I den här artikeln går vi igenom AI Act och dess betydelse för svenska aktörer.
Hur långt har vi kommit i Sverige?
Den europeiska AI-förordningen (AI Act) trädde i kraft den 1 augusti 2024. Däremot implementeras reglerna stegvis enligt följande tidsplan:
- 1 januari 2025 – Förbud mot vissa AI-system som anses utgöra oacceptabla risker träder i kraft.
- 1 augusti 2025 – Regler om styrning och tillsyn börjar gälla, inklusive inrättandet av nationella tillsynsmyndigheter.
- 1 augusti 2026 – De flesta bestämmelserna i AI-förordningen, inklusive krav på högrisk-AI-system, blir obligatoriska.
Pågående arbete i Sverige
För att anpassa svensk lagstiftning har regeringen tillsatt en utredning om hur AI Act ska implementeras. Utredningen ska:
- Föreslå hur marknadskontroll och tillsyn ska organiseras i Sverige.
- Identifiera eventuella behov av nationell kompletterande lagstiftning.
Slutredovisningen av utredningen ska lämnas senast den 30 september 2025.
Utöver detta planeras regulatoriska sandlådor, där företag och organisationer kan testa och utveckla AI-system i en kontrollerad miljö innan de lanseras.
Vad innebär detta för svenska företag?
För att säkerställa att verksamheter följer de nya reglerna bör svenska företag och organisationer redan nu:
- Kartlägga befintliga och planerade AI-system.
- Bedöma AI-systemens risknivå enligt AI Act.
- Säkerställa att AI-lösningar följer de kommande kraven.
Vad innebär EU AI Act?
AI Act är en omfattande lagstiftning som syftar till att reglera AI-system baserat på deras risknivå.
Fyra huvudkategorier av AI-system
1. Oacceptabel risk – Förbjudna AI-system
- AI för social poängsättning (liknande Kinas system).
- AI som manipulerar eller vilseleder användare på ett skadligt sätt.
- AI som utnyttjar sårbara grupper (exempelvis barn eller funktionsnedsatta).
2. Hög risk – Strikt reglerade AI-system
- AI inom sjukvård, kritisk infrastruktur, polis och rättsväsende.
- AI som används i rekryteringsprocesser och kreditbedömningar.
- Dessa system måste uppfylla höga säkerhets- och transparenskrav.
3. Begränsad risk – Lättare transparenskrav
- AI som används i exempelvis chattbotar och deepfakes.
- Användare måste informeras om att de interagerar med en AI.
4. Minimal risk – Ej reglerade AI-system
- AI i videospel, spamfilter och automatiska textförslag.
- Majoriteten av dagens AI-applikationer faller i denna kategori.
Ansvarsfördelning inom AI Act
Leverantörer av högrisk-AI-system
- Företag som utvecklar eller distribuerar högrisk-AI i EU, även om de är baserade utanför unionen, omfattas av förordningen.
Användare av högrisk-AI-system
- Organisationer som köper in och använder AI-system har skyldigheter, men i mindre omfattning än utvecklarna.
- Gäller både företag inom EU och aktörer utanför EU vars AI-system används i unionen.
Allmänna AI-system (GPAI)
Leverantörer av generativa AI-modeller (som ChatGPT och DALL·E) måste:
- Tillhandahålla teknisk dokumentation och bruksanvisningar.
- Följa upphovsrättsdirektiv och redovisa träningsdata.
- Om modellen kan utgöra en systemrisk krävs även:
- Modellutvärderingar och adversarial testing.
- Incidentrapportering och cybersäkerhetsåtgärder.
Följande AI-system är förbjudna inom EU:
- Manipulativ AI – System som påverkar användare på ett undermedvetet eller vilseledande sätt, vilket kan orsaka skada.
- AI för social poängsättning – Klassificering av individer utifrån socialt beteende eller personliga egenskaper.
- AI som utnyttjar sårbara grupper – System som exploaterar ålder, funktionshinder eller ekonomiska omständigheter.
- Biometriska kategoriseringssystem – AI som härleder känsliga personliga attribut (såsom politiska åsikter, religion, sexualitet).
- Prediktiva polisverktyg – AI som förutsäger om en individ sannolikt kommer att begå ett brott enbart baserat på profilering.
- Massinsamling av ansiktsigenkänningsdata – AI som skapar databaser med ansiktsbilder utan samtycke.
- Emotionell AI på arbetsplatser och skolor – Förbjudet utom vid medicinska eller säkerhetsrelaterade behov.
- Realtids biometrisk övervakning – Förbjudet i offentliga miljöer, med vissa undantag för brottsbekämpning.
Så förbereder du din organisation för AI Act
För att undvika juridiska risker och säkerställa efterlevnad av AI Act bör svenska organisationer:
- Inventera sina AI-system och analysera deras risknivå.
- Dokumentera AI-processer och säkerställa transparens.
- Anpassa utvecklings- och inköpsstrategier till de nya reglerna.
- Utbilda personal i AI Act och dess konsekvenser.
Genom att agera proaktivt kan företag och organisationer inte bara undvika sanktioner, utan också skapa en konkurrensfördel genom att arbeta med ansvarsfull och etisk AI.
Genom att följa AI Act kan vi säkerställa att AI-teknik används på ett sätt som är säkert, transparent och etiskt hållbart – och samtidigt främja innovation och konkurrenskraft i Sverige och EU.
Har din organisation börjat förbereda sig för AI Act?