Handläggaren som aldrig sover – AI i myndigheter

Artificiell intelligens är på väg att förändra hur myndigheter arbetar, från automatiserade beslut och snabbare handläggning till analyser av stora mängder information. Tekniken kan fungera som en digital handläggare som arbetar dygnet runt, utan pauser och med förmåga att snabbt bearbeta uppgifter. Men när AI får en större roll i offentlig verksamhet väcks också frågor om rättssäkerhet, insyn och mänskligt ansvar. Vad händer när algoritmer börjar påverka beslut som tidigare fattades av människor? Och hur säkerställer myndigheterna att tekniken används på ett sätt som både effektiviserar arbetet och skyddar medborgarnas rättigheter? Utvecklingen innebär möjligheter, men också nya krav på kontroll, transparens och ansvar.

AI förändrar myndigheternas handläggning

När artificiell intelligens börjar användas i myndigheter förändras själva grunden för hur ärenden kan hanteras. Traditionell handläggning bygger ofta på att en tjänsteperson går igenom dokument, kontrollerar uppgifter, tolkar regler och fattar eller förbereder beslut. AI kan ta över delar av detta arbete genom att snabbt söka igenom stora informationsmängder, upptäcka mönster och sortera ärenden efter olika kriterier. Det innebär inte nödvändigtvis att människan försvinner ur processen. I stället kan handläggaren få en annan roll, där tekniken fungerar som ett verktyg för att effektivisera arbetet och frigöra tid till mer komplicerade bedömningar.

Från manuellt arbete till automatiserade processer

En av de tydligaste förändringarna är möjligheten att automatisera återkommande arbetsuppgifter. En myndighet kan exempelvis använda AI för att klassificera inkommande handlingar, identifiera saknade uppgifter eller sammanställa information från flera olika dokument. Tekniken kan även användas för att hjälpa handläggare att hitta relevanta bestämmelser och tidigare ärenden. På så sätt kan tiden som läggs på administration minska. Samtidigt krävs det tydliga rutiner för när en människa måste granska resultatet. AI kan bearbeta information snabbt, men hastighet är inte samma sak som korrekthet, särskilt när uppgifterna är otydliga eller komplexa.

För myndigheter är en annan fördel att AI kan hantera arbetsbelastningar som varierar över tid. Under perioder när många ansökningar eller frågor kommer in kan automatiserade system hjälpa till att sortera och prioritera ärenden. Det kan bidra till kortare väntetider och göra det enklare att använda personalens resurser där de behövs mest. Tekniken kan dessutom arbeta kontinuerligt, vilket gör att vissa digitala tjänster kan vara tillgängliga även utanför vanlig kontorstid. För medborgaren kan det innebära snabbare service. För myndigheten kan det innebära att samma resurser räcker längre.

AI som stöd för handläggaren

AI behöver samtidigt inte användas för att fatta det slutliga beslutet. Ett vanligt användningsområde är beslutsstöd, där systemet analyserar information och presenterar ett underlag för en mänsklig handläggare. Det kan exempelvis handla om att uppmärksamma avvikelser, föreslå vilken information som bör kontrolleras eller sammanställa ett omfattande ärende. Handläggaren kan då använda tekniken som ett extra analysverktyg. En sådan modell kan vara särskilt relevant när myndigheten hanterar stora mängder likartade ärenden, samtidigt som det fortfarande finns behov av mänsklig bedömning i det enskilda fallet.

Det finns också en praktisk dimension. En handläggare kan behöva läsa hundratals sidor, jämföra uppgifter från olika källor och kontrollera att dokumentationen är komplett. AI kan göra delar av detta arbete på betydligt kortare tid. Några exempel på arbetsuppgifter där tekniken kan användas är:

• Sortering och klassificering av inkommande ärenden.

• Sammanställning av information från omfattande dokument.

• Identifiering av uppgifter som saknas eller avviker.

• Sökning efter relevanta regler och tidigare beslut.

• Digital besvarande av enklare och återkommande frågor.

Tekniken förändrar därmed inte bara tempot utan även hur arbetet organiseras. När rutinuppgifter kan automatiseras kan handläggaren i större utsträckning koncentrera sig på ärenden som kräver tolkning, kommunikation och individuella bedömningar. Samtidigt blir kvaliteten på myndighetens AI-system avgörande. Om informationen som systemet arbetar med är felaktig, ofullständig eller snedvriden kan även resultatet bli missvisande. Därför behöver automatisering kombineras med kontroll, uppföljning och tydligt ansvar.

Snabbare beslut men nya risker

AI kan göra myndigheternas arbete snabbare, men effektivisering innebär inte automatiskt bättre myndighetsutövning. När algoritmer används för att sortera information, bedöma ärenden eller stödja beslut uppstår nya risker som måste hanteras. Ett system kan exempelvis ge ett felaktigt resultat därför att informationen som används är bristfällig eller därför att modellen har lärt sig ett mönster som inte passar det aktuella ärendet. Om ett sådant resultat får för stor betydelse kan konsekvensen bli att en person behandlas felaktigt av en myndighet.

När algoritmen kan få fel

En central utmaning är att AI-system inte resonerar som en mänsklig handläggare. Systemet identifierar statistiska samband och mönster utifrån den information det har tillgång till. Det betyder att ett resultat kan framstå som övertygande utan att vara korrekt. Om historiska data innehåller skevheter kan dessa dessutom påverka systemets resultat. Ett AI-system som används för att prioritera eller bedöma ärenden behöver därför testas noggrant. Myndigheten måste kunna upptäcka när tekniken fungerar dåligt och ha rutiner för att korrigera eller stoppa användningen när det behövs.

En annan risk handlar om insyn. Om en myndighet använder ett avancerat AI-system kan det vara svårt för både handläggaren och medborgaren att förstå exakt varför systemet kom fram till ett visst resultat. Det blir särskilt problematiskt när resultatet påverkar en persons rättigheter, ekonomi eller tillgång till en offentlig tjänst. En myndighet behöver därför kunna förklara hur tekniken används och vilken betydelse den har för beslutet. Att hänvisa till att en algoritm har räknat fram ett svar räcker inte om medborgaren behöver förstå grunden för ett myndighetsbeslut.

Rättssäkerhet måste väga tyngre än snabbhet

Myndigheters verksamhet skiljer sig från många andra områden där AI används. Ett fel i en rekommendationsmotor kan vara irriterande, medan ett felaktigt myndighetsbeslut kan få långt större konsekvenser. Därför måste rättssäkerheten vara central när automatiserade system införs. Det handlar bland annat om att säkerställa att uppgifter behandlas korrekt, att relevanta omständigheter inte förbises och att det finns möjlighet att upptäcka och rätta fel. Den mänskliga kontrollen blir särskilt viktig när ett ärende innehåller omständigheter som inte enkelt kan fångas av förutbestämda modeller.

Det krävs också tydliga gränser för vad AI ska få göra. Tekniken kan exempelvis vara lämplig för administrativa uppgifter där konsekvenserna av ett fel är begränsade. I andra situationer kan det vara olämpligt att låta systemet fatta beslut utan mänsklig inblandning. Några viktiga frågor inför användningen är:

• Vilka uppgifter får AI-systemet behandla?

• Hur kontrolleras att resultaten är korrekta?

• När måste en mänsklig handläggare ingripa?

• Hur kan ett beslut och dess underlag förklaras för den berörda personen?

• Vem ansvarar när systemet ger ett felaktigt resultat?

Balansen mellan effektivitet och kontroll

Det är därför missvisande att beskriva AI som en enkel ersättare för handläggaren. Den större förändringen handlar snarare om hur människa och teknik fördelar arbetsuppgifterna. Om myndigheten lyckas kombinera automatiserad informationsbearbetning med kvalificerad mänsklig kontroll kan tekniken ge betydande effektiviseringsvinster. Om kontrollen däremot blir för svag kan samma teknik skapa nya problem. Effektivitet måste därför ses som ett medel, inte som det överordnade målet. Myndighetens uppdrag är fortfarande att fatta korrekta, rättssäkra och välgrundade beslut.

Mänskligt ansvar i en automatiserad förvaltning

När AI får en större roll i myndigheternas verksamhet uppstår en grundläggande fråga: vem bär ansvaret när en maskin är med och påverkar ett beslut? Ett AI-system kan analysera information, identifiera mönster och lämna rekommendationer, men det har inget eget juridiskt eller moraliskt ansvar. Det är fortfarande myndigheten och dess ansvariga personer som måste kunna stå för hur tekniken används. Därför behöver automatisering kombineras med tydlig styrning. Det måste vara möjligt att följa processen från det att information kommer in tills ett beslut fattas.

Handläggaren försvinner inte

Den mänskliga rollen kan däremot förändras när AI tar över vissa arbetsuppgifter. I stället för att ägna stora delar av arbetsdagen åt registrering, informationssökning och dokumenthantering kan handläggaren behöva lägga mer tid på kontroll och bedömning. Det ställer andra krav på kompetens. Förmågan att förstå regelverk behöver kombineras med kunskap om hur AI-system fungerar, vilka begränsningar de har och när ett automatiserat resultat bör ifrågasättas. En handläggare måste alltså inte bara kunna använda tekniken utan även kunna upptäcka situationer där tekniken inte bör få sista ordet.

Det mänskliga ansvaret blir särskilt viktigt när ett ärende innehåller information som inte passar in i ett tydligt mönster. En algoritm kan vara mycket effektiv på att identifiera återkommande strukturer, men ett enskilt fall kan innehålla omständigheter som kräver sammanhang och omdöme. Därför behöver myndigheter skapa arbetssätt där handläggaren har möjlighet att avvika från ett automatiserat förslag när omständigheterna motiverar det. Det kräver i sin tur att personalen inte upplever AI-systemets rekommendationer som automatiskt korrekta.

Transparens bygger förtroende

Medborgarnas förtroende blir en annan central fråga. När människor möter en myndighet vill de kunna förstå hur deras ärende behandlas. Om AI används i processen behöver det därför finnas tydlig information om teknikens funktion och betydelse. Det kan exempelvis vara relevant att förklara om ett system endast sorterar handlingar eller om det även påverkar bedömningen av ett ärende. Transparens handlar inte om att varje person måste förstå den tekniska uppbyggnaden av en algoritm. Det handlar om att kunna förstå hur myndigheten använder tekniken och hur beslut kan påverkas.

För att skapa en ansvarsfull användning behöver myndigheten dessutom arbeta systematiskt med kontroll. Det räcker inte att kontrollera ett AI-system innan det tas i drift. Resultaten behöver följas över tid eftersom både data, regler och verksamhet kan förändras. Myndigheten behöver därför kunna upptäcka avvikelser och snabbt ingripa. Viktiga delar i ett sådant arbete kan vara:

• Regelbunden granskning av AI-systemets resultat.

• Tydlig dokumentation av hur systemen används.

• Utbildning för personal som arbetar med AI-baserade verktyg.

• Rutiner för att rapportera och rätta fel.

• Klara ansvarsområden mellan teknik, handläggare och myndighetsledning.

Tekniken kräver nya former av ansvar

AI kan alltså förändra myndighetsarbete utan att det mänskliga ansvaret försvinner. Snarare kan ansvaret bli mer komplext eftersom flera delar av processen kan vara automatiserade. Myndigheter behöver kunna visa att systemen används på ett kontrollerat sätt och att människor fortfarande har möjlighet att granska resultat och ingripa när det behövs. Handläggaren som aldrig sover kan vara snabb, uthållig och kapabel att bearbeta enorma mängder information. Men det är fortfarande människan som måste avgöra hur tekniken får användas när beslut påverkar andra människors liv, rättigheter och skyldigheter.