Ny vägledning för användning av AI

EU-LAGAR MÅSTE UNDERLÄTTA UTVECKLANDE AV NYA LÄKEMEDEL

I våras kom EU-kommissionen med ett förslag till moderniserat regelverk på läkemedelsområdet.

Hur ser användningen av AI i vården ut i Sverige i dag?
– På samma sätt som i samhället i stort så gör AI insteg på bred front i sjukvården. Vi har sett flera exempel på valideringar och vetenskapliga utvärderingar av AI-system i Sverige, och bedömer att detta är början på en omvälvning som sannolikt kommer transformera delar av vården på ett sätt som kräver både ny kompetens och i vissa avseenden ett annat förhållningssätt.

Vilka frågor möter ni från de beslutsfattare som ska hantera implementering av AI i vården?
– Den vanligaste frågan är nog varför vi inte kan skapa en lista över vilka AIprodukter som är godkända. Men det är inte svaret som saknas, utan frågan som är missriktad. Det som är förenat med en positiv balans mellan nytta och risk i en kvalificerad vårdmiljö kan vara direkt olämpligt i en annan.

Ni lyfter bland annat att AImodeller riskerar att spegla vanliga fördomar. Hur kan man som kund/beställare säkerställa att man inte köper en tjänst med sådan problematik?
– Ordet säkerställa är svårt att använda i relation till modeller som kan vara tränade på många terabyte data och innehålla hundratals miljarder parametrar. Som vi skriver i vägledningen så är det upp till tillverkaren att visa hur man har arbetat för att motverka att AI-system diskriminerar någon eller några grupper patienter.

Gabriel Westman