Kunstig intelligens i almen praksis

FYAM-udvalget har løbende fulgt med i diskussionen om en mulig anvendelse af kunstig intelligens (AI) i fremtidens sundhedsvæsen. Vi har set en stigende interesse for AI gennem flere artikler og via udtalelser fra politikere til medierne, og regionerne har siden 2020 løbende finansieret et stigende antal forskningsprojekter, som skal afklare, på hvilke områder i sundhedsvæsenet AI vil kunne anvendes. Mediefokus og idétænkning for anvendelsen af AI har primært fokuseret på sekundærsektoren. Fokus flytter sig dog gradvist også til primærsektoren, hvorfor vi som kommende praktiserende læger må have en holdning hertil.

Det er FYAM’s vurdering, at AI i nær fremtid vil blive indført i flere og flere dele af sundhedsvæsenet med potentiale til bedre diagnostik og behandling af patienter samt aflastning af sundhedspersonalet. Vi tror, at AI ved hjælp af systematisk genkendelse af data, vil kunne bruges til at spare tid og ressourcer i et presset sundhedsvæsen, så nogle opgaver vil kunne løses hurtigere og nemmere og derved frigive mandskab og forbedre behandlingen for alle patienter. Der er derfor formentlig ingen vej udenom, at AI bliver en integreret del af arbejdsdagen for bl.a. praktiserende læger. Derfor har vi i FYAM-udvalget drøftet emnet og har følgende fokuspunkter:

1) FYAM-udvalget er positivt indstillet over for AI. FYAM-udvalget stiller sig som udgangspunkt positivt over for potentialet i AI og tror, at det kan have en positiv effekt for sundhedspersonale, læger og, vigtigst af alt, patienterne. Det er afgørende, at implementering først og fremmest kommer patienterne til gode. Vi mener desuden, at en succesfuld integrering af AI i almen praksis kræver, at læger er inkluderet i beslutnings- og implementeringsprocessen samt i de efterfølgende evalueringer.

2) Stort potentiale: Spare tid, bedre økonomi, øge personlige ressourcer og øget arbejdsglæde. Men vi skal bevare den relationelle kommunikation og det holistiske overblik. AI kan skabe og vise relevant data hurtigt til anvendelse i klinikken. Vi tror på, at en anvendelse af AI i den kliniske hverdag vil give besparelser i tid, økonomi og personlige ressourcer for mange ansatte i sundhedsvæsnet. Vi tror også, at AI kan give en øget arbejdsglæde og måske endda forebygge udbrændthed blandt læger og andre sundhedsfaglige faggrupper. Frigivelse af behandlertid vil også bidrage til lægedækningen. Vi er derfor generelt positivt stemt for anvendelsen af AI i fremtidens almen praksis og ser gerne AI som et tilgængeligt værktøj i alle klinikker på sigt. Vi tror på, at en korrekt anvendelse af AI kan virke stærkt ressourcebesparende for det samlede sundhedsvæsen, men måske kun i mindre grad for almen praksis. Dette, fordi nogle lægefaglige værktøjer vil kunne effektiviseres i langt større grad end de udmøntes i dag, og at den relationelle kommunikation og det holistiske overblik ikke kan “spares” væk, men i stedet bør udbygges, så korrekt visitation, vurdering, udredning og behandling kan ske hensigtsmæssigt.

3) Lægens kliniske blik og den vigtige patientrelation kan ikke erstattes, men det er godt med beslutningsstøtte og et letanvendeligt værktøj til overblik over data. Selvom AI vil kunne rekvirere og analysere sig frem til diagnose og behandling, er det vigtigt, at det er lægens kliniske blik og forståelse for patienten, der beslutter evt. diagnoser og behandlinger. Derfor har vi et generelt ønske om, at alle uddannelseslæger i almen medicin som minimum opnår de samme kompetencer, som de gør i dag. Dette for at støtte målet om, at vi som færdige speciallæger kan træffe egne velovervejede kliniske beslutninger. Man må derfor også have fokus på AI under uddannelsen, så kommende praktiserende læger hurtigere kan anvende AI som beslutningsstøtteværktøj i den kliniske hverdag.

4) Bevar de almenmedicinske kerneværdier; AI skal ses som et ekstra ”lag”. Vi finder det relevant at understrege, at vi ser AI som et ekstra ”lag” i den diagnostiske proces, og at man ikke må glemme det grundlæggende i form af kendskab til patienten, god anamnese og den grundige objektive undersøgelse. AI skal derfor alene kunne give os en klinisk valgmulighed og ikke kunne tage beslutningen for os. Man bør fastholde, at det er lægefaglige vurderinger, der skal beslutte, hvornår og hvordan patientens bekymringer skal undersøges, og lige så vigtigt beslutte, hvornår de ikke skal udredes. Dette findes relevant for at mindske overdiagnostik såvel som for at fastholde den vigtige relationelle kontakt, som jo netop både er en af kerneværdierne i almen medicin, og som har stor betydning for patientens fremtidige behandlinger, indlæggelser og – senere – død.

5) Start med fokus på de administrative opgaver i almen praksis. Vi foreslår, at fokus på AI i fremtidens almen praksis i første omgang vil være på de administrative opgaver i almen praksis, bl.a. ved at assistere med en håndtering af korrespondancer, e-mailkonsultationer, udeblivelser og prøvesvar, samt en optimering af henvisningssystemet mellem sektorerne. Det er her, FYAM mener, at digitale løsninger ligger lige til højrebenet.

6) AI kan hjælpe med overblik over patienten og give ”rette overblik på rette tidspunkt”. Vi ser et stort potentiale i, at AI kan bidrage til at give et bedre overblik over patientens diagnoser, medicin samt objektive og parakliniske fund. Primært skal AI komme med forslag, hvis der – mod forventning – er uoverensstemmelser i data og aktuelle behandling. På denne måde kan vi sikre beslutningsstøtte, læring, forbedringer og øget patientsikkerhed ved eventuelle fejl. En optimering af overblikket over klinikkens samlede klientel vil kunne bidrage til bedre opsporing af klinikkens udsatte borgere. Vi tror, at AI vil kunne bidrage med “det rette overblik på rette tidspunkt”, så relevante informationer vises på skærmen, når vi skal bruge dem. Særligt overblikket over de udsatte og komorbide patienter bør være udpenslet.

7) Behov for mere forskning, bevare den faglige skepsis og undgå merarbejde. Vi mener, at der skal forskes mere i AI, før det implementeres i det primære sundhedsvæsen. Erfaringen med flere AI-værktøjer er, at de tilsyneladende giver realistiske produkter, omend der er en større andel af disse produkter, som er falske fortolkninger af data (såkaldte ”hallucinationer”) samt diskriminerende data på baggrund af forkert og selekteret datafodring, særligt i forhold til race, køn og seksualitet. Derfor understreger vi, at anvendelsen af AI aldrig må stå alene i beslutningstagningen for lægefaglig standard. AI må derfor aldrig anvendes til "rygdækning" i kliniske vurderinger, og der må altid udvises faglig skepsis over for de forslag, AI fremviser. Der skal være strengt fokus på at undgå merarbejde for os selv, patienterne og samarbejdspartnere. En faldgrube vil være behovet for at skulle dobbelttjekke og sætte spørgsmålstegn ved mere.

8) Restriktiv lovgivning med etiske overvejelser. Test AI i almen praksis-kontekst. Der skal skabes klare retningslinjer for brug, samt hvor man ikke bør benytte AI. Vi mener, at anvendelse af AI i almen praksis skal være begrundet i restriktiv lovgivning, som bør indeholde etiske overvejelser for at sikre patientsikkerhed såvel som sikkerhed for lægens ansvar. På nuværende tidspunkt er mange AI-værktøjer skabt på open source, hvilket skaber risiko for fejl i både datafortolkning og produkt. Det giver også udfordringer ift. GDPR og deling af data. Alle AI-værktøjer skal derfor være grundigt testet i almen praksis-kontekst og altså have bevist deres værd, inden de indføres i almen praksis. Der bør i vores optik være en gennemsigtighed i ansvaret for indførelsen og anvendelsen af AI i almen praksis. Der bør også være klare regler for, hvornår man ikke må bruge AI i almen praksis, samt være en mulighed for at kunne kontakte eksterne samarbejdspartnere, som kan bidrage med sparring og juridisk bistand. Dertil anbefaler vi også en exit-strategi, hvis forskning finder, at integreret AI skaber forkerte data og/eller medfører merarbejde for den praktiserende læge.

På vegne af et samlet FYAM-Udvalg

Thomas B. Purup

Formand for FYAM-udvalget

Tovholder på holdningspapiret:

Daniel Staal Nyboe

FYAM Hovedstadens repræsentant i FYAM-udvalget