EU:s första AI-förordning snart på plats

Januari 3, 2024

Strax innan jul enades Europaparlamentet och rådet kring en politisk överenskommelse för EU:s AI-förordning, som är den första i sitt slag. Vilka risker ser EU med AI och vad innebär den nya förordningen? Vi har sammanfattat allt ni behöver veta.

Förbud mot vissa typer av AI

Trots att den slutgiltiga texten för förordningen ännu inte har publicerats innebär den politiska överenskommelsen att det nu finns beslut kring flera viktiga delar av den kommande förordningen. I fallet av förbud mot vissa typer av AI har det också presenterats en lista över vad parlamentet och rådet har enats om. Syftet med förbud för vissa användningsområden av AI handlar om att skydda EU-medborgares rättigheter och demokratin i stort. EU-lagstiftare har därför enats om att förbjuda:

• Biometriska kategoriseringssystem som använder känsliga uppgifter (till exempel politiska, religiösa eller filosofiska övertygelser, sexuell läggning, hudfärg).
• Icke-specifik extrahering av data från ansiktsbilder från internet eller övervakningskameror för att skapa ansiktsigenkänningsdatabaser.
• Känsloigenkänning på arbetsplatser och på utbildningsinstitutioner.
• Social poängsättning baserad på socialt beteende eller personliga egenskaper.
• AI-system som manipulerar mänskligt beteende för att kringgå deras fria vilja.
• AI som används för att utnyttja sårbarheter hos människor (på grund av deras ålder, funktionshinder, sociala eller ekonomiska situation).

Reglering av generativ AI

Förordningen kommer även reglera allmänna AI-system, däribland generativa AI-modeller. För att säkerställa trygghet för de som tar del av AI-genererat innehåll föreskriver förordningen ökad transparens när det kommer till användning av generativ AI. Användare av exempelvis chatbottar ska informeras om att de interagerar med en AI-modell. Innehåll som producerats genom AI, bland annat deepfake, det vill säga en typ av förfalskning som görs genom att maskinmodeller som lär sig att kopiera en människas ansiktsrörelser och/eller röst, ska tydligt märkas med information om att innehållet är AI-genererat. Detsamma gäller för ljud, video, texter och bilder genererat av AI.

Riskbaserad nivåindelning

Förordningen inkorporerar en riskbaserad regelmetod som skiljer mellan AI som skapar oacceptabel risk, hög risk och låg eller minimal risk. AI-system med oacceptabel risk återfinns i den ovanstående listan över förbjudna användningsområden för AI. Vad gäller högrisksystem, det vill säga som medför hög risk för fysiska personers hälsa, säkerhet och grundläggande rättigheter, kommer dessa att tillåtas inom unionen så länge de uppfyller vissa obligatoriska krav och en förhandsbedömning genomförs. Några exempel på högrisksystem från förslaget till förordningen är följande:

• AI-system som används för rekrytering eller urval av fysiska personer.
• AI som används för att fatta beslut om befordringar och uppsägningar av arbetsrelaterade avtalsförhållanden samt för utvärdering av anställdas prestationer.
• AI-system som är avsedda att användas för att utvärdera fysiska personers kreditvärdighet.
• AI-system som användas för att sända ut, eller för att fastställa prioriteringsordningen för utsändning av, larmtjänster, inklusive brandkår och ambulans.

Tidslinje

Förslaget om en AI-förordning lades fram av kommissionen i april 2022 och arbetet med dess slutgiltiga utformning har pågått under sommaren och hösten. Den politiska överenskommelse som nåddes i december innebar en viktig milstolpe i det pågående arbetet. Bedömare menar att en möjlig tidslinje för implementeringen skulle kunna bli mellan åren 2024–2026, där förbud mot viss typ av AI kommer att införas cirka sex månader efter ikraftträdande av förordningen, reglering av generativ AI inom 12 månader och införande av högrisksystem inom 24 månader. Den slutgiltiga lagtexten förväntas publiceras under januari månad.

Källa: Kommissionens pressmeddelande och Förslaget till EU:s AI-förordning