Mats Snäll, senior rådgivare på DIGG, ledde uppdraget att ta fram riktlinjer för generativ AI inom offentlig förvaltning. Med dessa riktlinjer hoppas DIGG och IMY kunna ge offentlig verksamhet det stöd de behöver för att använda AI på ett ansvarsfullt och effektivt sätt.
Han beskriver behovet av riktlinjer för hur AI bör hanteras, vilka risker och möjligheter som finns och hur det kan användas på ett etiskt och lagligt sätt som en naturlig följd av den snabba utvecklingen.
– Vi behövde en slags vägvisare eller kompass för att navigera i AI-landskapet, säger han.
Samverkan med experter
Arbetet med riktlinjerna startade i juli 2024 och visade sig vara en utmaning. Ingen av de ansvariga myndigheterna var från början specialister på generativ AI, men genom dialog och samverkan med en rad experter kunde de kartlägga de vanligaste frågeställningarna.
– Vi har haft otroligt många kontakter under arbetet. Det har varit viktigt att fånga in olika perspektiv, säger han.
Positiv respons på riktlinjerna
Riktlinjerna har tagits emot väldigt väl och intresset för AI-frågor inom offentlig sektor har vuxit då Mats menar att han har sett en tydlig förändring i inställningen till AI.
– Förut har man varit försiktigt positivt men väldigt avvaktande. Och nu tycker jag att det finns ett stort, stort positivt intresse att också agera, säger han.
Riktlinjerna ses som levande dokument och kommer att uppdateras i takt med att AI och behoven utvecklas. Att AI kommer att spela en stor roll i framtidens digitala samhälle är Mats övertygad om.
– Jag tror definitivt att AI kommer vara en stor och betydande del av vår fortsatta utveckling. Det kommer vara en del av vårt digitala samhälle som är avgörande för att vi ska kunna göra jättemycket saker som vi inte kommer klara av annars.
Människan i centrum
En viktig aspekt som tas upp i riktlinjerna är vikten av att AI-utvecklingen sker med människan i fokus. Mats menar att det är avgörande att vi inte låter AI ta över på bekostnad av humanitet och etik.
– Vi får inte tappa bort oss själva här. Vi måste ta med oss att det här med känslor, omtanke och humanitet är viktigt. Alla de delarna får vi inte glömma bort och bli ett maskinintelligenssamhälle.
Tre insikter från riktlinjerna
Människan i processen
Att ha människor involverade i AI-processer är lika viktigt som när offentlig service utförs av människor. Begreppet human in the loop bör förstås brett – AI ska alltid sättas i ett mänskligt sammanhang, där vi tar hänsyn till vilken påverkan det har på oss. Samtidigt måste vi säkerställa att mänsklig intelligens och omdöme förblir en central del av beslutsfattandet.
Tydligt ansvar för AI
Ansvar för generativ AI måste vara lika tydligt som ansvaret inom offentlig verksamhet. Det ska vara möjligt att korrigera fel, ge stöd vid eventuella felaktigheter och erbjuda kompensation vid skada.
Balansera olika perspektiv
Vi måste kunna hantera flera perspektiv, även när de är svåra att förena. Exempelvis behöver vi vara både innovativa och utforskande, samtidigt som vi alltid värnar om integritet, säkerhet och ekonomiska förutsättningar.
