EU kommer til at være de første i verden til at lave lovgivning på AI. Hvis politikerne ikke passer på, kan livreddende teknologier, der allerede er implementeret i det danske sundhedsvæsen, komme under pres.
Foto: Jonas Skovbjerg Fogh – Scanpix Denmark
Af Nynne Lehbert og Matias Christensen
EU nærmer sig en vedtagelse af AI Acten, der skal regulere brugen af AI (kunstig intelligens, red.) for virksomheder såvel som myndigheder. På et område som sundhedssektoren, der i forvejen er reguleret, kan det potentielt komme i vejen for udvikling af udstyr og software, der kan frigøre ressourcer i en branche, hvor der er mangel på hænder på tværs af Europa.
| Hvad er AI Act? AI Act er verdens første omfattende lov om AI. Det er en lov, der går ind og inddeler al nuværende AI i risikogrupper: Minimal risiko, høj risiko og uacceptabel risiko. Vurderes et AI system i uacceptabel risiko, så vil det – når AI Act implementeres – være forbudt at anvende i hele EU. Formålet med reguleringen er at definere, hvornår AI er til skade eller potentielt kan være det, for forbrugerne. Nogle AI systemer forbydes, fordi det skævvrider data eller rammer skævt på baggrund af AI’s datagrundlag. |
Producenter af digitalt medicinsk udstyr er pålagt flere dataforordninger og regulativer, der tilsammen kan gøre det sværere for virksomheder i EU at blive ved med at lave livreddende AI baseret udstyr og software til sundhedsvæsenet.
Lene Laursen, Vicedirektør for Medicoindustrien (Medicoindustrien repræsenterer virksomheder, der i Danmark udvikler, producerer og sælger medicinsk udstyr, red.), fortæller blandt andet:
“Eventuelt mangler der overensstemmelse mellem AI forordningen, som er ved at blive forhandlet i EU, og andre forordninger på området. Jeg kan godt blive nervøs for, hvordan det lander.”
Men reguleringen falder også på et tørt sted. Ingen har endnu fået implementeret nogen former for lovgivning på området. Digitaliseringspolitisk chef for Dansk Industri, Andreas Holbak Espersen, er forventningsfuld.
“Det er vigtigt for mange virksomheder, at der er fælles spilleregler inden for EU, fordi vi har at gøre med teknologi, der udvikler sig og forandrer så mange ting,” siger han.
Det kan få konsekvenser for sundhedsvæsenet
Når et opkald til alarmcentralen foretages, etableres straks kontakt med et andet menneske, der begynder at stille spørgsmål. Men bag opkaldet sidder der allerede i dag et AI baseret computersystem, der langt hurtigere end et menneske kan identificere, om der er tale om hjertestop.
Pernille Hertel, ansvarlig for SAS Institutes nordiske rådgiverteam, fortæller, at det konkret kan betyde, at en AI baseret software, der bliver brugt, når du for eksempel ringer 112, til hurtigt at identificere et hjertestop, kan få problemer, hvis man ikke har tænkt sig grundigt om. AI arbejder med enorme datamængder, og i disse datamængder kan der forekomme et bias.
Der er langt mere data på hjertestop for ældre mænd, end der er for unge kvinder, og symptomerne er ikke de samme. AI Act’en hjælper med at sætte fokus på de områder, man skal være opmærksom på i udviklingen af AI, f.eks. hvis datasæt ikke er fyldestgørende som i dette tilfælde,” forklarer Pernille Hertel.
Derfor vil AI Acten ikke nødvendigvis sætte et fuldstændigt stop på udviklingen, men det vil kræve en stor indsats og tid at få indsamlet data, og derfor sænke hastigheden på, hvor hurtigt man kan lave og indføre den livreddende teknologi.
EU Kommissionen kom med det første udspil i april 2021, hvorefter Rådet og Parlamentet er kommet med hver deres udspil. Siden da er forslagene behandlet i trilogforhandlinger, og den endelige lovgivning, der skal sætte rammerne for AI i EU, forventes færdigbehandlet ved udgangen af dette år og endeligt udrullet i 2026.
