Inför EU:s AI Act; förbered dig redan nu genom att inventera, planera och dokumentera

Publicerad: 2023-11-27

EU planerar att införa en ny lag, kallad AI Act, för att reglera användningen av artificiell intelligens (AI). AI Act ska se till att AI-system som används i EU är säkra, transparenta, spårbara, icke-diskriminerande och miljövänliga. Genom denna lag vill EU säkerställa att systemen följer befintlig lagstiftning om grundläggande rättigheter och unionens värderingar. Frågan är dock: hur kommer detta påverka våra bolag i vardagen?

Strängare regler för riskfyllda AI-system

Alla som utvecklar system som anses ha hög risk, till exempel system som kan påverka människors hälsa eller säkerhet, kommer att behöva följa striktare regler. Detta inkluderar grundlig testning och dokumentation av systemen för att säkerställa att de är säkra att använda. För gemene man innebär denna lag att vi kan känna oss tryggare när vi interagerar med AI-system.

Systemen delas in i olika risknivåer

Förslaget delar in AI-system i olika riskkategorier baserat på deras potentiella inverkan på användare och samhället i stort. Denna indelning hjälper till att rikta regleringen mot de områden där den behövs mest.

  1. Förbjudna AI-implementationer: Vissa särskilt skadliga AI-system kommer att vara förbjudna inom EU. Detta inkluderar system som kan manipulera mänskligt beteende eller utnyttja människors sårbarheter.
  2. Högrisk AI-implementationer: System i denna kategori har en hög risknivå när det gäller hälsa, säkerhet eller grundläggande rättigheter. Exempelvis AI-system som används för biometrisk identifiering, rekrytering, kreditbedömning, utbildning eller hälso- och sjukvård. Högrisk-system måste följa strikta regler kring datakvalitet, transparens, mänsklig tillsyn, noggrannhet, robusthet och säkerhet.
  3. Begränsad risk: Dessa system utgör viss risk för användare eller konsumenter. Exempel kan vara system som skapar eller manipulerar innehåll eller tillhandahåller chattbot-tjänster. Begränsad risk-system måste tillhandahålla tydlig information om deras natur och syfte samt ge användarna möjlighet att välja bort användningen av dem.
  4. Minimal risk: Denna kategori inkluderar system som anses ha liten eller ingen risk, som de som används för underhållning eller personliga ändamål. Dessa system är föremål för frivilliga uppförandekoder och bästa praxis, vilket innebär att de inte omfattas av de striktare reglerna som gäller för de övriga kategorierna.

Transparens

De nya reglerna kräver även att de som utvecklar AI-system informerar användarna tydligare om vad systemen gör och hur de fungerar. Generativ AI, som ChatGPT, måste också uppfylla kraven på transparens. Innehåll som har genererats av AI ska märkas. 

Stöd för innovation

Trots de strängare reglerna vill EU stödja innovation. Därför föreslår de en experimentyta där nya idéer kan testas i en kontrollerad miljö utan att behöva följa alla vanliga regler, under en begränsad tid.

Lagen har en bred definition av vad som räknas som ett AI-system. Detta betyder att många typer av programvara kan falla under de nya reglerna.

Att inte följa AI Act kan leda till stora böter

Företag som inte följer de nya reglerna kan riskera böter på upp till 30 miljoner euro eller 6 % av företagets globala inkomst.

Lagen har en bred definition av vad som räknas som ett AI-system. Detta betyder att många typer av programvara kan falla under de nya reglerna, vilket kan påverka en rad olika företag.

Hur kan vi förbereda oss? 

EU:s AI Act kommer beröra många svenska bolag – inte bara de som skapar AI-systemen utan också de som köper, använder och distribuerar. Detta innebär att alla som kommer i kontakt med systemen får skyldigheter av olika grad. Vi kan redan nu agera proaktivt och vidta åtgärder samt bygga kompetens som kommer underlätta när förordningen träder i kraft. 

  1. Kartlägg vilka AI-system som används och vilken riskklass dessa tillhör.
  2. Dokumentera hur ni arbetar med AI-systemen och hur ni idag uppfyller de kommande kraven. Skapa en åtgärdsplan för att i god tid hinna genomföra eventuellt nödvändiga förändringar. 
  3. Schemalägg uppföljning och bedömning av de åtgärder som genomförts.

Genom att vara informerad om EU:s AI Act kan individer och organisationer bättre navigera i den snabbväxande AI-landskapet och aktivt delta i skapandet av en säkrare och mer inkluderande digital framtid.

Förhandling med EU-länderna i rådet om den slutliga utformningen av lagen kommer nu att inledas och målet är att nå en överenskommelse i slutet av året.

Vill du läsa mer?

ISACA – Understand the EU AI Act
RISE - Ny EU-förordning reglerar användningen av AI i Europa
Europaparlamentet - EU:s AI-förordning: första förordningen om artificiell intelligens

Kunskap & Inspiration
Få effektiva processer och bättre dataunderlag med AI.

Inom ekonomiområdet är AI på stark frammarsch och digitaliseringen innebär både möjligheter och utmaningar.

Läs mer
KUNSKAP & INSPIRATION
Värdefulla vinster i digitaliseringens fotspår

Automation, algoritmer och AI-teknik gör att vi i högre grad kan lägga vår arbetstid på kvalitet istället för kvantitet. Välkommen, framtid!

Läs mer
KUNSKAP & INSPIRATION
Är AI en naturlig del i ditt ekonomiarbete?

Mathias Petersson, Hogias expert på digitala flöden, berättar om hur AI redan effektiviserar ditt ekonomiarbete.

Läs mer
Hogia OpenBusiness Ekonomi
Molnbaserat, användarvänligt och automatiserat
Elektronisk fakturahantering
Effektiva flöden är en självklarhet!

Både för inkommande och utgående fakturor

Läs mer
Kunskapskällan

Håll dig à jour med Hogias nyhetsbrev – kompetens direkt till din mejl!