Förslag till riksdagsbeslut

EU:s förordning om artificiell intelligens, AI-förordningen, är redan gällande rätt i Sverige. I Europaparlamentet har Miljöpartiet ställt sig bakom förordningen, därför att EU behöver en stark, gemensam reglering av artificiell intelligens som värnar säkerhet och grundläggande rättigheter. Utgångspunkten i förordningen är ett generellt förbud mot ansiktsigenkänning i realtid på allmänt tillgängliga platser. Det är en viktig princip. Den sätter en tydlig gräns mot en utveckling där staten normaliserar massövervakning i det offentliga rummet. Samtidigt innehåller förordningen ett begränsat utrymme för medlemsstater att, under strikta förutsättningar, tillåta AI för vissa brottsbekämpande ändamål. För Miljöpartiet var det viktigt att AI-förordningen genomförs i sin helhet, liksom ett förbud mot ansiktsigenkänning i realtid med endast ett fåtal begränsade undantag.

Miljöpartiet ser med stor oro på de konsekvenser som användningen av AI-system för ansiktsigenkänning i realtid kan få för människors privatliv, integritet och fri- och rättigheter. Institutet för mänskliga rättigheter har varnat för att förslaget innebär en inskränkning i skyddet för privat- och familjeliv och att det även påverkar yttrandefriheten, demonstrations- och mötesfriheten samt religionsfriheten. Civil Rights Defenders har pekat på risken för diskriminering, rasprofilering, ökad känsla av kontroll och en utveckling där människor avstår från att vistas i eller uttrycka sig i det offentliga rummet. Den typen av nedkylande effekter hör inte hemma i ett öppet och demokratiskt samhälle.

Miljöpartiet delar också den oro som flera remissinstanser för fram om att regeringen inte tillräckligt tydligt besvarar centrala frågor om hur lagstiftningen ska fungera i praktiken. Propositionen ger inte tillräcklig klarhet i vilka företag som ska leverera systemen, vilken teknik som ska användas, hur träffsäkerheten ska säkerställas, hur felaktiga träffar ska hanteras eller hur staten ska garantera att data inte används av privata leverantörer för egna ändamål. När det gäller just denna typ av teknik räcker det inte med regeringens försäkringar om att systemen ska användas ansvarsfullt. Kraven på transparens, kontroll och oberoende granskning måste vara höga redan från början. Vi vill påminna om att detta är en teknik som visat betydande risker, inte minst när det gäller diskriminerande utfall och rättssäkerhet. Miljöpartiets utgångspunkt är därför att tillämpningen av förslaget måste vara mer restriktiv än regeringen föreslår i propositionen.

Emellertid har vi förståelse för att det kan finnas situationer där tekniken kan vara motiverad. Till exempel för att i efterhand granska material inom ramen för brottsutredningar för att hitta försvunna personer eller offer för människorov, människohandel eller sexuellt utnyttjande, eller för att avvärja ett överhängande hot mot liv och säkerhet. Även i dessa situationer måste det däremot finnas mycket starka rättssäkerhetsgarantier, tydliga begränsningar och ett långtgående skydd för den personliga integriteten. Det faktum att användningen av AI för ansiktsigenkänning är så ingripande, kräver att lagstiftningen måste vara proportionerlig, träffsäker och rättssäker.

Säkrare tillståndsprövning

Regeringen föreslår att åklagare ska pröva frågan om tillstånd att använda AI-system för ansiktsigenkänning i realtid för att förebygga, förhindra eller upptäcka brottslig verksamhet eller verkställa straffrättslig påföljd. Allmän domstol föreslås pröva frågan om tillstånd att använda tekniken för att utreda eller lagföra brott. Miljöpartiet anser att detta inte är tillräckligt. AI för ansiktsigenkänning i realtid är ett så ingripande övervakningsverktyg att all användning bör föregås av prövning av allmän domstol. Flera remissinstanser, däribland Sveriges advokatsamfund, Institutet för mänskliga rättigheter, Centrum för rättvisa och Civil Rights Defenders, har pekat på behovet av starkare rättssäkerhetsgarantier. När staten ges möjlighet att i realtid automatiserat söka efter och identifiera människor i det offentliga rummet måste prövningen ligga hos en oberoende domstol, inte hos åklagare.

Regeringen föreslår också en möjlighet att påbörja användningen av AI för ansiktsigenkänning i realtid utan tillstånd, om det är fara i dröjsmål. En sådan ordning riskerar att i praktiken förskjuta tyngdpunkten från förhandskontroll till efterhandskontroll. Miljöpartiet anser därför att undantagssituationer måste hållas mycket snäv och huvudregeln ska vara domstolsprövning innan tekniken får användas. Ju mer ingripande övervakningen är, desto starkare måste de rättssäkerhetsgarantier vara som omger den.

Till sist föreslår regeringen att bestämmelserna om offentligt ombud inte ska tillämpas vid domstolens tillståndsprövning. Vidare föreslås ingen möjlighet att överklaga ett beslut om tillstånd att använda AI-system för ansiktsigenkänning i realtid. Sveriges advokatsamfund anser att avsaknaden av ett offentligt ombud innebär stor risk att komma i konflikt med bestämmelserna om rättvis rättegång i bl.a. Europakonventionen. Advokatsamfundet avstyrker därför förslaget i den delen. Både samfundet och Civil Rights Defenders föreslår att ett offentligt ombud och att besluten ska vara överklagbara för båda parter. Journalistförbundet och Tidningsutgivarna ifrågasätter förslaget om att det inte ska utses offentligt ombud. Miljöpartiet instämmer med remissinstanserna och anser att såväl offentliga ombud som möjligheter att överklaga beslut om tillstånd behövs för att garantera rättssäkerheten.

Stärkt skydd för integritet, information och rättigheter

Miljöpartiet anser att regeringen underskattar de integritetsrisker som följer av AI för ansiktsigenkänning i realtid. Som flera remissinstanser framhåller sker den föreslagna lagen i en tid då statens möjligheter till övervakning successivt byggts ut genom flera parallella lagstiftningsprocesser. Justitiekanslern har pekat på svårigheten att bedöma proportionaliteten i ett enskilt förslag när den samlade effekten av flera utökade möjligheter till övervakning inte analyserats tillräckligt. Det är en allvarlig invändning som regeringen inte bemöter på ett övertygande sätt.

Miljöpartiet menar att skyddet för den enskilde därför måste stärkas på flera punkter. Den som har identifierats eller lokaliserats genom tekniken bör som huvudregel underrättas, inte bara i brottsutredande verksamhet utan även när tekniken använts för att förebygga, förhindra eller upptäcka brottslig verksamhet. En rättsstat ska inte bygga ut möjligheterna till övervakning utan tydliga regler för information, insyn och möjlighet till efterhandskontroll.

Miljöpartiet anser också att det måste säkerställas att den information som genereras genom användning av AI-system för ansiktsigenkänning i realtid stannar hos brottsbekämpande myndigheter och inte riskerar att spridas till eller användas av privata leverantörer. Här väcker propositionen för många obesvarade frågor. Vilka företag ska leverera systemen? Hur ska staten säkerställa att träningsdata, sökdata, loggar och träffresultat inte sprids vidare? När avancerade analys- och övervakningsverktyg köps in från privata aktörer krävs betydligt starkare skydd för information, spårbarhet och oberoende kontroll än regeringen redovisar.

Därtill behöver lagstiftningen kompletteras med krav på återkommande och obligatoriska riskanalyser. Tekniken är känd för att kunna ge felaktiga och diskriminerande utfall, bland annat i relation till kön och etnicitet. Civil Rights Defenders har pekat på att AI-system ofta reproducerar fördomar. Felaktig identifiering i en brottsbekämpande kontext kan få mycket allvarliga konsekvenser för den enskilde. Det måste därför finnas krav på löpande tester, dokumentation, extern granskning och uppföljning av systemets träffsäkerhet och rättssäkerhet. Institutet för mänskliga rättigheter har också framhållit behovet av pilotfas, oberoende tillsyn och möjlighet för forskare och civilsamhälle att granska systemen. Det är rimliga krav i en rättsstat.

Miljöpartiet är också oroat över att tekniken ska användas på allmän plats i brottsbalkens mycket breda mening. Justitiekanslern har påpekat att detta kan omfatta restauranger, hotell och affärslokaler. Det är en långtgående ordning. När människor inte vet om de riskerar att bli föremål för identifiering i realtid i vardagliga miljöer, påverkas både människors integritet och känsla av trygghet. Regeringen borde därför ha övervägt en snävare avgränsning och tydliga begränsningar av var tekniken överhuvudtaget får användas.

Kontroll och nödvändighet och proportionalitet

Enligt AI-förordningen krävs en proportionalitetsbedömning i varje enskilt fall. Miljöpartiet anser att regeringen inte tillräckligt avgränsar användningen av AI-teknik till fall där det är absolut nödvändigt. Regeringen framhåller visserligen att användningen ska vara proportionerlig, men öppnar samtidigt för att en ansökan i vissa fall kan avse en längre tidsperiod och ett större geografiskt område, kanske till och med hela landet, under förutsättning att det anses proportionerligt i det enskilda fallet. En så öppen formulering är djupt problematisk när det handlar om ett verktyg som i praktiken kan innebära biometrisk masskanning av människor på allmänt tillgängliga platser. Även Lagrådet anmärker på att förutsättningarna för att använda tekniken är vida, vilket innebär att ett stort och obestämt antal personer kan bli föremål för tekniken ansiktsigenkänning.

Miljöpartiet anser att regeringen måste återkomma med en tydligare reglering av proportionalitetsbedömningen. Det bör framgå betydligt klarare vilka faktorer som ska vägas in, hur avgränsningar ska göras i förhållande till tid och plats och hur intrånget i andra människors fri- och rättigheter ska beaktas. Särskilt viktigt är att proportionaliteten inte bara bedöms utifrån brottsbekämpningens intresse, utan också utifrån teknikens påverkan på integritet, rörelsefrihet och med hänsyn till att människor i allmänhet inte ska känna oro för att det riskerar att bli övervakade i det offentliga rummet. I likhet med Lagrådet vill vi påminna om att utgångspunkten i AI-förordningen är att AI-system för ansiktsigenkänning i realtid är förbjuden och att de bestämmelser i förordningen som ändå gör det möjligt för medlemsstaterna att införa sådana system, ska tolkas restriktivt.

Vidare anser Miljöpartiet att regeringen valt en alltför låg misstankegrad när tekniken ska få användas för att lokalisera eller identifiera en person som misstänks för allvarligt brott. Att lägga ribban vid skäligen misstänkt är enligt vår mening inte tillräckligt när det gäller en så integritetskänslig metod. Även om AI-förordningen inte uttryckligen hindrar en sådan ordning, finns det inget som tvingar regeringen att välja den lägre nivån. Tvärtom talar integritetsintresset, rättssäkerheten och teknikens felmarginaler för att användningen i dessa fall bör förutsätta den högre misstankegraden på sannolika skäl. Det skulle vara en mer återhållsam, rättssäker och proportionerlig reglering.

Miljöpartiet vill även understryka att regeringens hänvisning till att användningen ska vara absolut nödvändig inte i sig löser dessa problem. Det är ett krav som redan följer av EU-rätten. Den verkliga frågan är hur detta krav omsätts i svensk rätt, hur restriktivt det tolkas i praktiken och vilka rättssäkerhetsgarantier som kopplas till det. Där ger propositionen inte tillräcklig vägledning.

Tidsbegränsning och utvärdering

Miljöpartiet anser att lagen bör tidsbegränsas och utvärderas innan den kan permanentas. Integritetsskyddsmyndigheten och Institutet för mänskliga rättigheter har pekat på behovet av att lagens effektivitet och påverkan på enskildas rättigheter följs upp. Det är en rimlig och nödvändig ordning. När lagstiftaren inför ett så ingripande verktyg måste det också finnas en tydlig mekanism för att pröva om användningen verkligen varit nödvändig, om den gett avsedda resultat och vilka konsekvenser den fått för rättssäkerheten och de grundläggande fri- och rättigheterna.

Miljöpartiet föreslår därför att lagen tidsbegränsas, förslagsvis till fem år. Under denna tid bör tillämpningen följas upp noggrant. En sådan utvärdering skulle till exempel kunna omfatta hur ofta tekniken har använts, i vilka situationer, med vilka resultat, hur ofta falska träffar uppstått, hur proportionalitetsbedömningarna gjorts, om vissa grupper drabbats oproportionerligt och hur underrättelseskyldigheten samt tillsynen fungerat. Först därefter kan riksdagen ta ställning till om lagen bör permanentas, skärpas eller upphävas.

Ulrika Westerlund (MP)
Mats Berglund (MP)	Camilla Hansén (MP)
Annika Hirvonen (MP)	Jan Riise (MP)
Nils Seye Larsen (MP)