TL;DR: AI och algoritmer förändrar hur offentlig förvaltning fungerar och utmanar både demokratiska värderingar och ansvarsutkrävande. Antologin AI & Makten över besluten visar hur tekniken skapar nya slags maktstrukturer, vilka risker som uppstår och varför samhället behöver återta kontrollen genom transparens, etik, öppen källkod och algoritmisk revision.
Makten över AI:s och algoritmers roll för offentlig förvaltning och demokrati
Text: Waldemar Ingdahl
Projekt: Algoritmer i offentligt beslutsfattande
Informationstekniken utvecklas snabbt. särskilt inom AI och algoritmer som både förändrar och utmanar demokratin. samt dess maktutövning och transparens. Antologin AI & Makten över besluten – vad alla borde veta om algoritmer i offentlig sektor (8tto 2024), redigerad av Maja Fjaestad och Simon Vinge, samlar skribenter från sjukvård, media och akademi för att belysa hur tekniken påverkar verksamheter och individer.
Teknikens politiska och sociala sammanhang
Inom forskningsfältet Science, Technology. and Society (STS) betonas att teknik och politik är sammanflätade. Teknik är aldrig neutral utan inbäddad i sociala och politiska sammanhang. Algoritmer och AI blir därför maktinstrument som formar framtidens samhälle genom att påverka resursfördelning, hur beslut fattas och hur medborgarnas vardag organiseras.
Ett centralt tema i boken är att tekniska beslut ofta uppfattas som objektiva, men i praktiken kan de reproducera ojämlikheter och befintliga maktstrukturer. Bias i träningsdata kan exempelvis leda till diskriminering, vilket redan orsakat felaktiga myndighetsbeslut. Datadrivna system riskerar att cementera fördomar och felaktigheter även genom ren obetänksamhet.
Offentlig sektor som garant för demokratiska värderingar
Bokens essäer poängterar att offentlig sektor har ett särskilt ansvar för att algoritmer används på ett sätt som överensstämmer med demokratiska principer. Tekniken måste förstås som ett system för maktutövande, inte enbart ett verktyg, vilket kräver att beslutsfattare behärskar tekniken och förstår dess långsiktiga effekter.
Juridik, administration och teknik behöver väga lika tungt, även när effektivitet lockar och tekniken framstår som en snabb lösning.
Återta kontrollen över algoritmerna
Demokratin måste återta kontrollen över sina algoritmer. Det innebär att undvika att ge privata aktörer för stort inflytande över utveckling och användning av AI inom offentlig sektor. Transparens och ansvarsutkrävande hotas när koden inte är öppen för granskning.
Därför lyfter boken fram vikten av att offentlig förvaltning ska kunna utforma, förstå och koda systemen den använder. ”Open source”-algoritmer är en del av lösningen eftersom de ökar insynen och skapar möjligheter för samarbete mellan civilsamhälle. akademi och myndigheter.
Etiska principer och en AI som går att förklara
Offentlig sektor behöver etiska riktlinjer och system som är förklarliga, så kallad Explainable AI. Detta är avgörande för att förstå myndighetsbeslut. möjliggöra överklaganden och undvika att tekniken undergräver demokratiska processer.
Boken ger flera exempel där det gått fel. såsom Post Office-skandalen i Storbritannien och Göteborgs stads felkodade algoritm för skolplacering. I båda fallen saknades förståelse, öppenhet och ansvar.
Framtidens möjligheter och hot
Algoritmer kan bidra till att lösa komplexa samhällsproblem, från folkhälsa till klimatförändringar, genom att analysera stora datamängder. Men samtidigt skapas nya risker i form av filterbubblor, dataläckor och bristande kontroll över beslutsprocesser.
Vad historien lär oss om teknikreglering
Varje tekniksprång väcker frågor om kontroll. Lagstiftning och politisk styrning har historiskt varit effektiva verktyg för att reglera ny teknik. Boken argumenterar för att AI och algoritmer behöver tydliga ramar för att säkerställa att de tjänar samhällsnyttan.
Ett centralt förslag är algoritmisk revision. en opartisk funktion som granskar och säkerställer att algoritmer gör det de påstår. Analogt med dagens ekonomiska revision skulle detta kunna stärka tilliten och frigöra teknikens potential.
Slutsatser från AI & Makten över besluten
Framtiden för AI är inte given, den formas av värderingar. institutioner och styrning. Sverige har möjligheten att vara en föregångare genom att återta kontrollen över algoritmer och använda dem som verktyg för samhällsnytta och demokrati.
Vad tycker du?
Hur bör offentlig sektor hantera AI och algoritmer? Vilka risker ser du mest akut? Dela gärna dina tankar.
FAQ
Vilka är riskerna med algoritmer i offentlig sektor?
Boken lyfter bland annat bristande transparens, inbyggda bias och risk för felaktiga beslut som viktiga utmaningar.
Vad innebär Explainable AI?
Det handlar om att myndigheter och medborgare ska kunna förstå hur ett algoritmiskt beslut tagits.
Varför behövs algoritmisk revision?
För att säkerställa ansvar, korrekthet och för att bygga tillit till hur teknik används i offentlig förvaltning.

