Rapport om AI og AST

DSAM ønsker med denne rapport at beskrive potentialer og faldgruber ved brug af kunstig intelligens (AI) og avanceret sundhedsteknologi (AST) i almen praksis. Rapporten henvender sig først og fremmest til almen praksis’ aktører og IT-leverandører samt sundhedspolitiske beslutningstagere.

Kunstig intelligens spænder bredt fra uigennemsigtig selvlærende og autonom teknologi (black box) til gennemsigtig/transparant teknologi (explainable AI). Der er ingen præcis universel definition på AI. Vi har valgt at skelne de to yderpunkter fra hinanden på baggrund af graden af menneskelig kontrol. Derfor vil vi i denne rapport bruge følgende definitioner:

• Avanceret sundhedsteknologi (AST) er en bred kategori af teknologiske værktøjer og systemer, der understøtter sundhedspersonale ved at måle, analysere eller generere data. AST omfatter teknologier, der kan operere uafhængigt af kunstig intelligens, men som også kan integrere AI som en komponent. AST er typisk kendetegnet ved gennemsigtighed, forklarlighed og høj grad af menneskelig kontrol, hvilket gør det muligt for brugeren at forstå og styre teknologiens funktioner og resultater.

• Kunstig intelligens (AI) anvender avancerede algoritmer og maskinlæring til at analysere data, identificere mønstre og generere beslutningsstøtte. AI kan variere i sin grad af transparens og autonomi. ”Explainable AI” (forklarlig AI) er AI-systemer, hvor beslutningsprocesserne er gennemsigtige og forståelige for brugeren, hvilket gør det muligt at forklare, hvordan og hvorfor beslutninger er truffet. ”Black box AI”, er AI-systemer, hvor beslutningsgrundlaget er komplekst og ikke umiddelbart forståeligt. Teknologien er ikke-transparant, og det kan ikke forklares, hvilke algoritmer, kilder og data der er vægtet i processen. Når vi nedenfor benytter udtrykket ”AI”, refererer vi til black box AI.

I almen praksissektoren er der mangel på læger, og samtidig er behovet for sundhedsydelser stigende. Brugt på den korrekte måde har AI og AST et stort potentiale i almen praksis, og forventningerne hertil skaber et pres for hurtig implementering hos både praktiserende læger og beslutningstagere. Denne rapport peger på potentialerne, men beskriver samtidig faldgruberne, og hvordan disse imødekommes bedst.

I rapporten uddyber vi vores definition af begreberne. Herefter diskuteres potentialer, faldgruber og DSAM’s overordnede anbefalinger ved implementering. I bilag 1 relaterer vi brugen af AI og AST til DSAM's pejlemærker med eksempler fra den kliniske hverdag. I bilag 2 oplister vi forslag til AST-løsninger i almen praksis.