Dir. 2024:83

Trygg och tillförlitlig användning av AI

Kommittédirektiv

Trygg och tillförlitlig användning av AI Beslut vid regeringssammanträde den 19 september 2024

Sammanfattning

Europaparlamentets och rådets förordning (EU) 2024/1689 av den 13 juni 2024 om harmoniserade regler för artificiell intelligens och om ändring av förordningarna (EG) nr 300/2008, (EU) nr 167/2013, (EU) nr 168/2013, (EU) 2018/858, (EU) 2018/1139 och (EU) 2019/2144 samt direktiven 2014/90/EU, (EU) 2016/797 och (EU) 2020/1828 (förordning om artificiell intelligens) trädde i kraft den 1 augusti 2024. En särskild utredare ska se över behovet av nationella anpassningar till följd av EU:s förordning om artificiell intelligens (AI-förordningen).

Utredaren ska bl.a.

  • lämna förslag på hur systemet för marknadsövervakning,

marknadskontroll, styrning och kontroll av efterlevnad ska utformas,

  • kartlägga övriga behov av nationell anpassning till följd av AI-

förordningen och föreslå hur sådana behov ska tillgodoses, och

  • lämna nödvändiga författningsförslag. Uppdraget ska slutredovisas senast den 30 september 2025.

AI-förordningen

Syftet med AI-förordningen är att förbättra den inre marknadens funktion genom att fastställa en enhetlig rättslig ram för bl.a. utveckling, utsläppande på marknaden och användning av system för artificiell intelligens (AI-

2 (6)

system) i EU i enlighet med unionens värden och genom att främja användningen av människocentrerad och tillförlitlig artificiell intelligens (AI). Förordningen ska samtidigt säkerställa en hög skyddsnivå för hälsa, säkerhet och grundläggande rättigheter enligt Europeiska unionens stadga om de grundläggande rättigheterna.

AI-system kan användas inom ett stort antal sektorer och i många delar av samhället, inklusive över EU:s gränser. Eftersom olika nationella regler kan leda till fragmentering av den inre marknaden och minska rättssäkerheten för leverantörer och tillhandahållare som utvecklar, importerar eller använder AI-system, är det viktigt med enhetlighet inom unionen. Genom fastställandet av harmoniserade regler för AI samt åtgärder till stöd för innovation, med särskild inriktning på små och medelstora företag, syftar AI-förordningen till att uppfylla EU:s mål att främja den europeiska människocentrerade AI-strategin och att bli världsledande inom utvecklingen av säker, tillförlitlig och etisk AI.

AI-förordningens regelsystem har utarbetats utifrån en riskbaserad metod för att skapa en strukturerad uppdelning mellan olika typer av AI-system och deras användningsområden. Vissa AI-användningsområden anses så riskabla att de förbjuds enligt förordningen. För andra användningsområden gäller vissa restriktioner och krav i form av bl.a. kontroll av efterlevnad och registrering hos ansvarig myndighet. De AI-system som anses innebära liten eller ingen risk får med vissa undantag användas utan restriktioner. Utöver risknivån ställs det krav beroende på vilken roll och vilket ansvar en aktör har i AI-systemets värdekedja. Ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska införas både på nationell nivå och på EU-nivå. Vidare ställs krav på etableringen av s.k. regulatoriska sandlådor i syfte att främja innovation och effektivisera regelefterlevnad för AI-system som ska sättas på marknaden.

AI-förordningen är direkt tillämplig i medlemsstaterna men förutsätter kompletterande nationella bestämmelser. Förordningen trädde i kraft den 1 augusti 2024 men bestämmelserna ska börja tillämpas vid olika tidpunkter.

Merparten av AI-förordningens bestämmelser ska börja tillämpas 24 månader efter ikraftträdandet. De förbud som gäller för vissa användningsområden och de allmänna bestämmelserna i förordningen ska börja tillämpas 6 månader efter ikraftträdandet. Efterlevnaden av förbuden

3 (6)

kommer dock att kontrolleras först efter inrättandet av den styrning och kontroll av efterlevnad som enligt förordningen ska ha skett inom 12 månader från ikraftträdandet. Vid den tidpunkten ska bl.a. förordningens bestämmelser om anmälda organ och styrningsstruktur börja tillämpas. Även bestämmelser om sanktioner börjar tillämpas 24 månader från förordningens ikraftträdande. Vissa bestämmelser, bl.a. om harmonisering av viss annan unionslagstiftning, ska börja tillämpas 36 månader efter ikraftträdandet.

Uppdraget att lämna förslag på hur systemet för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad ska utformas

AI-förordningen ställer krav på ett system för marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad på nationell nivå och EU-nivå. Varje medlemsstat ska utse minst en anmälande myndighet och minst en marknadskontrollmyndighet som nationella behöriga myndigheter. Medlemsstaterna kan besluta att utse valfri typ av offentligt organ för att utföra de nationella behöriga myndigheternas uppgifter. För att öka den organisatoriska effektiviteten ska varje medlemsstat även utse en marknadskontrollmyndighet som ska fungera som gemensam kontaktpunkt för kontakterna med allmänheten, och andra motparter på nationell nivå och EU-nivå.

Av AI-förordningen framgår det vidare att efterlevnaden av förordningen ska säkerställas genom beslut om sanktioner och genomförande av andra verkställighetsåtgärder. Medlemsstaterna ska vidta alla nödvändiga åtgärder för att säkerställa att bestämmelserna i förordningen genomförs, bl.a. genom att fastställa effektiva, proportionella och avskräckande sanktioner vid överträdelser av förordningens bestämmelser.

Artikel 5 i förordningen specificerar vilka användningsområden för AIsystem som är förbjudna. Ett sådant användningsområde är biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (artikel 5.1 h). Artikeln ger dock utrymme för medlemsstaterna att lagstifta om att det för vissa syften och under vissa förutsättningar är tillåtet att göra undantag från ett sådant förbud. Huvudregeln är att användningen i så fall ska föregås av en tillståndsprövning. I promemorian Förbättrade möjligheter för polisen att använda kamerabevakning lämnas förslag om för vilka syften Polismyndigheten och Säkerhetspolisen ska få använda system för biometrisk fjärridentifiering i realtid för brottsbekämpande ändamål (Ds 2024:11).

4 (6)

Förslaget, och nödvändiga kompletteringar till detta, bereds för närvarande inom Regeringskansliet och genomförandet av artikel 5.1 h såvitt avser Polismyndigheten och Säkerhetspolisen omfattas därför inte av detta uppdrag. Det finns dock andra delar i AI-förordningen som kan påverka brottsbekämpande verksamheter, t.ex. artikel 26.10 om biometrisk fjärridentifiering i efterhand. I den mån utredarens överväganden eller förslag berör sådana bestämmelser ska, utöver intresset att värna den personliga integriteten, intresset av en effektiv brottsbekämpning beaktas.

Utredaren ska därför

  • lämna förslag på vilken eller vilka befintliga myndigheter som bör utses

till anmälande myndigheter enligt AI-förordningen,

  • lämna förslag på vilken eller vilka befintliga myndigheter som bör utses

till nationella behöriga myndigheter enligt AI-förordningen,

  • lämna förslag på vilken befintlig myndighet som bör utses till den

marknadskontrollmyndighet som ska vara gemensam kontaktpunkt enligt AI-förordningen,

  • analysera och, vid behov, föreslå vilken eller vilka ytterligare befintliga

myndigheter som bör utses som ansvariga för att säkerställa en fungerande marknadsövervakning, marknadskontroll, styrning och kontroll av efterlevnad i enlighet med AI-förordningen,

  • analysera och, vid behov, lämna förslag på sådan nationell anpassning

som krävs för att de föreslagna myndigheterna och andra berörda offentliga organ ska kunna utföra sina skyldigheter enligt AIförordningen på ett effektivt och rättssäkert sätt,

  • analysera och lämna förslag på vad som behövs för att uppfylla kravet

på sanktioner vid överträdelser av förordningen, samt

  • lämna nödvändiga författningsförslag.

Uppdraget att kartlägga behoven av nationell anpassning som följer av AI-förordningen

AI-förordningen reglerar AI-system genom att införa vissa krav och skyldigheter för relevanta marknadsaktörer som släpper ut dem på marknaden, tar dem i bruk eller använder dem i EU. Skyldigheterna gäller särskilt för leverantörer och tillhandahållare av AI-system med hög risk. Även vissa AI-system som anses utgöra liten risk när systemen når marknaden omfattas av särskilda regler om transparens.

5 (6)

AI är en teknik i snabb utveckling som kräver tillsyn och ett säkert och kontrollerat område för experiment, med säkerställande av ansvarsfull innovation och integrering av ändamålsenliga skydds- och riskbegränsningsåtgärder. För att säkerställa en rättslig ram för detta ändamål ställs krav på att medlemsstaterna ska inrätta åtminstone en regulatorisk sandlåda för AI på nationell nivå, för att underlätta utveckling och testning av innovativa AIsystem under strikt tillsyn innan dessa system släpps ut på marknaden eller på annat sätt tas i bruk. Medlemsstaterna kan också fullgöra denna skyldighet genom att delta i redan befintliga regulatoriska sandlådor eller gemensamt inrätta en sandlåda med en eller flera medlemsstater, i den mån detta deltagande ger de deltagande medlemsstaterna likvärdig nationell täckning. Regulatoriska sandlådor för AI kan inrättas i fysisk eller digital form eller i hybridform och kan rymma både fysiska och digitala produkter.

Utöver regulatoriska sandlådor inkluderar förordningen andra implementeringsstöd och innovationsfrämjande åtgärder, som testning av AI-system med hög risk under verkliga förhållanden utanför regulatoriska sandlådor. För att främja innovation ingår även inrättandet av en EU-databas för AIsystem med hög risk, medlemsstaternas tillgång till poolen av experter i den vetenskapliga panel som ska inrättas och inrättandet av ett rådgivande forum. Som del i styrningsfunktion som också ska främja innovation ingår inrättandet av en AI-styrelse samt den sedan tidigare inrättade AI-byrån som bl.a. har i uppdrag att bidra till genomförandet av unionsrätten om AI.

Utredaren ska därför

  • analysera och lämna förslag på vad som behövs för att kunna inrätta en

eller flera regulatoriska sandlådor i Sverige och ta ställning till vilken eller vilka befintliga myndigheter eller andra aktörer som bör utses för att uppfylla de krav som föreslås,

  • analysera och, vid behov, föreslå i vilken utsträckning Sverige bör delta i

AI-förordningens föreslagna implementeringsstöd och innovationsfrämjande åtgärder samt på vilket sätt det ska ske, och

  • lämna de författningsförslag och förslag på övriga åtgärder som är

nödvändiga för att uppfylla kraven i AI-förordningen.

Konsekvensbeskrivningar

Utredaren ska analysera och redovisa konsekvenserna av förslagen i enlighet med kommittéförordningen (1998:1474) och förordningen (2024:183) om

6 (6)

konsekvensutredningar. Utredaren ska särskilt redovisa förslagens konsekvenser för staten, kommuner, regioner, företag och andra relevanta aktörer som förväntas beröras av förordningen, samt utforma förslagen så att de ger så låga administrativa kostnader och andra fullgörandekostnader som möjligt. Utredaren ska även beskriva och beräkna eventuella budgetära konsekvenser. Om förslagen kan förväntas leda till kostnadsökningar för det allmänna, ska utredaren föreslå hur dessa ska finansieras. Utredaren ska redovisa om förslaget har konsekvenser inom jämställdhetsområdet.

Kontakter och redovisning av uppdraget

Utredaren ska hålla sig informerad om och beakta annat relevant arbete som pågår inom Regeringskansliet och inom EU, så som arbetet inom AI-byrån och AI-styrelsen samt inom grupper för genomförandet av förordningen i enlighet med delegerade akter och genomförandeakter.

Utredaren ska följa implementeringsarbetet för AI-förordningen i de berörda nordiska länderna och i andra länder som utredaren bedömer vara av intresse.

Utredaren ska i den utsträckning det är lämpligt inhämta synpunkter från berörda myndigheter, organisationer och företag. Utredaren ska bl.a. hålla sig informerad om arbetet i och resultatet av utredningen om ett implementeringsråd för genomförande av EU-rättsakter med konsekvenser för företag i Sverige (dir. 2024:51) respektive utredningen om förstärkt AI-förmåga i Sverige (dir. 2023:164).

Uppdraget ska slutredovisas senast den 30 september 2025.

(Finansdepartementet)