Seneste Nyt

AI-act: EU lovgiver om kunstig intelligens

Kunstig intelligens (AI) har haft en bemærkelsesværdig vækst på markedet de seneste år, og dens indflydelse strækker sig nu langt ud over forskningens rammer. Kunstig intelligens er blevet en drivkraft for innovation og vækst på det globale marked, og virksomheder, store som små, fortsætter med at udforske dets potentiale, herunder gennem implementering i forretningsstrategier med henblik på effektivisering og automatisering.

- Skrevet af TVC Advokatfirma

Den 13. marts 2024 blev AI-forordningen stemt endeligt igennem i Europa Parlamentet. Næste skridt er en sidste gennemlæsning samt andre tekniske detaljer, der skal på plads inden lovgivningsteksten publiceres i EU’s officielle tidsskrift ”EU tidende”. Dette vil formentlig ske i maj 2024. 

AI-forordningen vil herefter trinvist træde i kraft med implementering fra midten af 2024 til midt 2027. Kravene for forbudte praksisser vil allerede være gældende 6 måneder efter ikrafttrædelse, mens kravene til generelle formålsmodeller forventes at træde i kraft i maj 2025 efterfulgt af krav til højrisikosystemer i henholdsvis 2026 og 2027.

EU bliver dermed den første lovgiver i verden, der indfører en lov om kunstig intelligens. EU får dermed en lovgivningsmæssig ramme, der skal skabe en fælles europæisk standard, og dermed sikre, at EU-rettens øvrige rettigheder og værdier overholdes, at innovation samt konkurrenceevne fremmes, at fastlægge klare regler samt ansvar og gennemsigtighed. Samtidig sætter forordningen dog også grænser for brugen af kunstig intelligens - dette omfatter systemer, der kan manipulere mennesker til at skade sig selv, begrænse ytringsfriheden eller diskriminere. Ved at fastsætte visse standarder for brugen af kunstig intelligens, er EU med til at sikre en vis global standard for regulering af AI i andre jurisdiktioner – på samme måde som den generelle forordning om databeskyttelse (GDPR) har gjort for databeskyttelse.

Forordningen tager udgangspunkt i en risikobaseret lovgivningsmodel. Jo større skade AI-teknologien kan forvolde ved dens anvendelse, desto strengere regler vil den blive underlagt. Den risikobaserede tilgang opererer med flere niveauer: 

Uacceptabel risiko:

• AI-systemer, der udgør en klar trussel mod borgeres grundlæggende rettigheder vil være forbudt, herunder alt kognitiv adfærdsmanipulation.
  Det kan for eksempel være:
  • Biometriske kategoriseringssystemer
  • Systemer for følelsesgenkendelser på arbejdspladsen og uddannelsesinstitutioner
  • Kunstig intelligens, der manipulerer menneskelig adfærd for at omgå deres frie vilje, samt udnytter sårbarheder hos mennesker 

Høj risiko:

• AI-systemer, der befinder sig på højrisiko-niveauet, vil blive underlagt en række krav og forpligtelser for at få adgang til EU-markedet. Dette kan være regulative krav om risikominimering, sikring af høj datakvalitet, logning af aktiviteter, omfattende dokumentation, tilsyn samt registrering i EU-database.
  Højrisiko-systemer kan for eksempel være systemer, der:
  • Træffer afgørelse om optagelse i uddannelsesinstitutioner eller rekruttering af personer
  • Systemer inden for lov og orden, grænsekontrol, retsvæsen og andre demokratiske processer
  • Medicinske apparater

Begrænset risiko: 

• De fleste AI-systemer betragtes som lavrisiko. Denne type systemer indebærer ingen forpligtelser, da de kun udgør minimal eller ingen risiko for borgeres rettigheder eller sikkerhed. 
  • For eksempel anbefalingssystemer og spamfiltre

Chatbotter ligger formentlig et sted mellem begrænset og høj risiko.

AI-lovgivningen gælder for enhver virksomhed eller organisation inden for EU, men også uden for EU, såfremt AI-systemet er placeret på EU’s marked, eller dets anvendelse påvirker borgere, der befinder sig i EU. 

Håndhævelse af AI-forordningen sker på flere plan. På EU-niveau vil følgende organer håndhæve og bidrage til AI-forordningens efterlevelse: 

• Et nyt AI-kontor under Kommissionen, som skal koordinere styringen mellem medlemslandene og sikre overholdelse af reglerne for bred anvendelse af kunstig intelligens.
   
• En AI-bestyrelse, sammensat af repræsentanter fra medlemslandene, vil fungere som en koordineringsplatform og et rådgivende organ for Kommissionen. Bestyrelsen vil tildele medlemslandene en væsentlig rolle i implementeringen af AI regulering, herunder udformningen af adfærdskoder for foundation-modeller.
   
• Som afsluttende tiltag etableres der også et rådgivende forum for interessenter, herunder repræsentanter fra industrien, SMV'er, start-ups, civilsamfund og akademier, som skal bidrage med teknisk ekspertise til AI-bestyrelsen.

På nationalt plan skal kompetente myndigheder udpeges til at overvåge og håndhæve forordningen inden for deres eget territorium. Disse myndigheder vil ligeledes være ansvarlige for at undersøge overtrædelser og pålægge sanktioner. 

Forordningen indeholder bestemmelser om sanktioner, der har til formål at sikre overholdelse og ansvar. Såfremt lovgivningen overtrædes, er der fastsat bøder. Bødens størrelse afhænger af overtrædelsens karakter, men der kan gives bøder på op til 35 millioner euro eller op til 7% af den samlede årlige omsætning, afhængigt af hvilket beløb, der er højere. 

Har man ikke allerede taget stilling til den nye regulering, eller er gået i gang med at forberede sig, er det den klare anbefaling at komme i gang. 

Kunstig intelligens er ikke længere fremtiden; det er nutiden. Virksomheder, som formår at integrere kunstig intelligens strategisk, vil være bedre rustet på markedet. I den forbindelse er det vigtigt at have en klar strategi for brugen af kunstig intelligens, der tager højde for tekniske, etiske samt organisatoriske aspekter. 

Kort sagt: At være opdateret med AI er nøglen til at forblive konkurrencedygtig, forstå teknologiens indflydelse og bidrage til dens positive udvikling.

 

Tilbage til oversigten