Vad AI är och inte är
Ge en gemensam grund: analytisk och generativ AI, varför den generativa slog igenom på jobbet, och att AI räknar ut troliga fortsättningar i stället för att förstå.
Tid: 15 minuter
Lärandemål
- Förklara skillnaden mellan analytisk och generativ AI med egna ord
- Beskriva varför just generativ AI slog igenom på jobbet
- Skilja på vad AI är bra på och vad den inte klarar
Nyckelbegrepp
AI
Ett samlingsnamn för datorprogram som gör sådant som brukat kräva mänsklig tankeverksamhet. AI är inte en enda teknik utan en familj av tekniker.
Digitalisering
En metod för verksamhetsutveckling där digital teknik används för innovation eller effektivisering. AI är en sådan digital teknik. Det är verksamheten som utvecklas, och AI är ett av verktygen.
Analytisk AI
Program som letar mönster i data för att sortera, förutsäga eller varna. Skräppostfiltret, bankens kreditbedömning och strömningstjänstens rekommendationer är analytisk AI. Den svarar ja eller nej, eller med en sannolikhet.
Generativ AI
Program som skapar nytt innehåll, text, bild eller ljud, utifrån mönster i det material de tränats på. Chattassistenterna hör hit. De skriver, sammanfattar, översätter och föreslår.
Språkmodell
Den motor som driver chattassistenterna. En stor modell tränad på enorma mängder text för att förutsäga vilket ord som troligen kommer härnäst.
Prompt
Det du skriver till assistenten: frågan, instruktionen eller texten du vill ha hjälp med. Hur du skriver styr vad du får.
Innehåll
Två sorters AI som gör olika saker
Analytisk AI har funnits i vardagen länge utan att kallas AI. Den sorterar bort skräppost, föreslår nästa låt och flaggar ovanliga kortköp. Den är tränad på strukturerad historik och fungerar bäst på avgränsade frågor med tydligt svar.
Generativ AI är det som hänt de senaste åren. Den skapar nytt: ett utkast till mejlet, en sammanfattning av rapporten, ett förslag på dagordning. Den är tränad på ofattbara mängder text och svarar med flytande, människoliknande språk. Det är därför den känns så annorlunda, och det är också därför den ibland låter säker när den har fel.
| Analytisk AI | Generativ AI |
|---|---|
| Sorterar, förutsäger, varnar | Skriver, sammanfattar, föreslår |
| Svarar ja, nej eller med en sannolikhet | Svarar med löpande text, bild eller ljud |
| Tränad på strukturerad historik | Tränad på text och bild i stora mängder |
| Bäst på avgränsade frågor | Bäst på öppna uppgifter med språk |
Därför slog generativ AI igenom på jobbet
Tre saker samverkade. Den kräver inga förkunskaper: vanligt språk räcker, du behöver inte lära dig ett program. Samma verktyg fungerar för text, analys, idéer och struktur, så tröskeln att prova är låg. Och svaret kommer på sekunder i stället för timmar.
Bakom ligger billigare beräkningskraft, mer text att träna på och ett tekniskt genombrott i hur modellerna byggs 2017. När de första enkla chattgränssnitten kom i slutet av 2022 blev tekniken tillgänglig för alla på en gång.
Vad AI är och inte är
| AI är | AI är inte |
|---|---|
| Ett kraftfullt verktyg för att bearbeta och producera text | En allvetande expert |
| Bra på mönster, struktur och variation | Bra på att bedöma vad som är sant |
| Snabb och outtröttlig | Konsekvent eller felfri |
| Ett stöd för ditt tänkande | En ersättning för ditt omdöme |
Det viktigaste att förstå är att AI:n inte förstår texten som en människa gör. Den räknar ut statistiskt troliga fortsättningar. Det förklarar både styrkorna, flyt och bredd, och svagheterna, påhittade fakta och inbyggda skevheter. Du äger resultatet. Hur mycket AI:n än hjälpt till är det du som ansvarar för att det du skickar är rätt och rimligt.
Var du redan möter AI
Tänk efter en stund. Skräppostfiltret i din e-post, förslagen i sökrutan, rättstavningen som gissar nästa ord, kartappen som räknar om vägen. Allt är AI av det analytiska slaget. Den generativa har du kanske mött i en chattassistent, i verktyget som sammanfattar mötet, eller i en kollegas ovanligt välskrivna mejl.
Övningar
Övning 1: Analytisk eller generativ? (5 min)
Avgör om följande är analytisk (A) eller generativ (G) AI.
- Skräppostfiltret i e-posten
- Ett svar från en chattassistent på en fråga
- Spellistan som strömningstjänsten föreslår
- AI som skriver ett utkast till ett mejl
- Automatisk kreditbedömning
- En bild skapad ur en textbeskrivning
Visa svar
- A, sorterar meddelanden. 2. G, skapar ny text. 3. A, letar mönster för att rekommendera. 4. G, skapar ny text. 5. A, klassificerar utifrån data. 6. G, skapar en ny bild.
Övning 2: Din egen AI-inventering (5 min)
Skriv ner tre till fem ställen i din vardag där du redan möter AI, direkt eller indirekt. Verktyg du använder, tjänster som föreslår saker, system som fattar beslut om dig.
Reflektionsfrågor
- Hur har din egen bild av AI ändrats de senaste två åren?
- Vilken del av ditt arbete tror du AI skulle kunna stödja först?
- Var ser du risker med AI i just ditt arbete?
Sammanfattning
- Analytisk AI sorterar och förutsäger, generativ AI skapar nytt innehåll.
- Generativ AI slog igenom för att den inte kräver förkunskaper, fungerar brett och svarar direkt.
- AI räknar ut troliga fortsättningar, den förstår inte. Därav både flyt och fel.
- AI är ett stöd för ditt tänkande. Du äger resultatet.
Kunskapstest
Vad är den viktigaste skillnaden mellan analytisk och generativ AI?
Varför slog generativ AI igenom så snabbt på arbetsplatserna?
Vilket påstående om AI:s begränsningar stämmer?
Du har använt AI för att skriva ett underlag. Vem ansvarar för att innehållet är rätt?
Så fungerar en språkmodell, utan teknik
Förklara på enkel svenska varför modellen gissar nästa ord, varför den låter säker, och vad det betyder för hur man använder den.
Tid: 12 minuter
Lärandemål
- Förklara för en kollega vad en språkmodell gör när den svarar
- Förutse varför den ibland har fel med full självsäkerhet
- Dra tre praktiska slutsatser för hur du använder den
Innehåll
Ett väldigt bra gissningsspel
Tänk dig att du läser en mening högt och stannar mitt i: "Mötet är flyttat till nästa …" De flesta gissar "vecka". Du har inte slagit upp något, du har bara läst tillräckligt många meningar i ditt liv för att veta vad som brukar komma.
En språkmodell gör samma sak, fast med hela internet som läsvana. Den har tränats genom att gissa nästa ord i miljarder meningar och rättats varje gång den gissade fel. Efter tillräckligt många rättelser gissar den så bra att svaren låter som om någon tänkt. Men det är fortfarande gissningar om vilket ord som troligen kommer härnäst, ett ord i taget.
Därför låter den så säker
Modellen har inget begrepp om sant och falskt. Den har ett begrepp om troligt. När du frågar efter en källa producerar den något som ser ut som en källa, för det är så källor brukar se ut i texten den lärt sig av. Ibland finns källan, ibland inte, och modellen själv märker ingen skillnad.
Det är också därför den sällan säger "det vet jag inte". Ett självsäkert svar är statistiskt vanligare än ett tveksamt, så det är det den ger. Tveksamheten måste du stå för.
Fyra saker som styr svaret
Det du skriver. Modellen fortsätter på din text. Ger du sammanhang, roll och önskat format får du en fortsättning som passar. Ger du en ensam rad får du en genomsnittlig fortsättning.
Det den tränats på. Mest engelska, mest från internet, fram till ett visst datum. Svenska förhållanden, färska händelser och sådant som sällan skrivs ner är sämre täckt. Fråga efter något som hänt nyligen, och den kan svara med förra årets läge.
Slumpen. Samma fråga ger olika svar olika gånger, för modellen väljer bland flera troliga ord. Det är en funktion, inte ett fel: det ger variation. Men det betyder att ett svar inte är ett facit.
Minnet i samtalet. Modellen ser det som står i det pågående samtalet, upp till en gräns. Långa dokument kan falla ur. Nästa samtal börjar i regel från noll om verktyget inte uttryckligen sparar något.
Vad verktygen lägger till
Chattassistenten du använder är mer än modellen. Verktyget kan söka på webben, läsa dina dokument, hämta ur ett arkiv eller följa regler som organisationen satt. Det gör svaren bättre och färskare, men grunden är densamma: en modell som gissar troliga fortsättningar utifrån det den fått framför sig. Får den fel underlag gissar den flytande utifrån fel underlag.
Tre slutsatser för vardagen
- Ge sammanhang. Berätta vem du är, vad texten ska användas till och hur svaret ska se ut. Det är det billigaste sättet att få bättre svar.
- Kontrollera det som måste stämma. Namn, siffror, datum, lagrum och källor. Be gärna om källor, men slå upp dem.
- Behandla svaret som ett utkast. Ett bra första förslag att arbeta vidare med, inte ett facit att skicka.
Reflektionsfrågor
- När har du själv märkt att ett AI-svar lät säkert men var fel? Vad avslöjade det?
- Vilket sammanhang skulle du behöva ge för att få ett användbart svar i en av dina vanliga uppgifter?
Sammanfattning
- En språkmodell gissar nästa ord, ett i taget, tränad på enorma mängder text.
- Den har ett begrepp om troligt, inte om sant. Därför låter den säker även när den har fel.
- Svaret styrs av det du skriver, det den tränats på, slumpen och minnet i samtalet.
- Ge sammanhang, kontrollera det som måste stämma, behandla svaret som ett utkast.
Kunskapstest
Vad gör en språkmodell när den svarar på din fråga?
Varför säger modellen sällan "det vet jag inte"?
Du ställer samma fråga två gånger och får olika svar. Vad beror det på?
Vilket är det billigaste sättet att få bättre svar?
Trygghetsreglerna: tre regler som räcker
Ge varje deltagare de tre regler som räcker i vardagen, och visa att juridiken inte längre är ett skäl att vänta.
Tid: 12 minuter
Lärandemål
- Säga de tre reglerna utantill och tillämpa dem på en egen arbetsuppgift
- Veta vart du vänder dig när du är osäker, innan och inte efter
- Förklara varför myndigheterna börjat säga ja, med Kalmar som exempel
Innehåll
Tre regler räcker
Hela juridiken du behöver i vardagen ryms på ett kort.
- Inga namn, personnummer eller känsliga uppgifter i verktyg som inte organisationen godkänt. Godkända verktyg hos oss: de AI-verktyg som din organisation har godkänt.
- En människa granskar alltid, innan något går ut eller blir ett beslut.
- Osäker? Fråga innan, inte efter. Fråga den som ansvarar för AI-frågor hos er, eller din närmaste chef.
Därför ser reglerna ut så
Regel 1 skyddar människorna vi finns till för. Ett verktyg utan avtal med organisationen är som att lämna en akt på bussen, även när det känns privat. Uppgifter om de personer vi hjälper är alltid känsliga.
Regel 2 finns för att AI ibland låter säker och har fel. Din verksamhetskunskap går inte att ersätta. Beslutet är alltid en människas, och du ansvarar för det du skickar och gör, inte datorn.
Regel 3 gör att en fundering stannar vid en fråga i stället för att bli en incident. Att fråga är aldrig fel. Ingen blir arg för en fråga.
Myndigheterna har börjat säga ja
I april 2026 godkände Integritetsskyddsmyndigheten AI-stöd för journalanteckningar i socialtjänsten i Kalmar, efter en prövning i myndighetens testmiljö. Villkoren var precis de tre reglerna: inga känsliga uppgifter i fel verktyg, en människa granskar varje utkast, och tydlig ansvarsfördelning. Juridiken är inte längre ett skäl att vänta. Den säger hur, inte om.
Det svåra är stunden
Reglerna är enkla med flit. Det svåra är inte att förstå dem, det är att komma ihåg dem i stunden när AI:n redan har svarat och svaret ser bra ut. Därför finns kortet. Lägg det vid tangentbordet.
Reflektionsfrågor
- Vilken av de tre reglerna är lättast att glömma i din vardag, och varför?
- Ta en arbetsuppgift du gjorde i går. Vilken av reglerna hade du behövt tänka på?
- Vet du i dag vilka verktyg som är godkända hos er? Om inte, vem frågar du?
Sammanfattning
- Inga namn, personnummer eller känsliga uppgifter i verktyg som inte är godkända.
- En människa granskar alltid innan något går ut eller blir ett beslut.
- Är du osäker: fråga innan, inte efter.
- Myndigheterna har börjat säga ja. Juridiken säger hur, inte om.
Trygghetskortet: tre regler som räcker i vardagen
A5, framsida och baksida. Delas ut i pausen före passet om trygghetsreglerna och ligger sedan vid tangentbordet.
Framsidan
Tre regler som räcker i vardagen
- Inga namn, personnummer eller känsliga uppgifter i verktyg som inte organisationen godkänt.
- En människa granskar alltid, innan något går ut eller blir ett beslut.
- Osäker? Fråga innan, inte efter. Kontakterna står på baksidan.
Och en uppmaning: testa gärna. Berätta vad du lär dig.
Baksidan
Regel 1 skyddar människorna vi finns till för. Ett verktyg utan avtal med organisationen är som att lämna en akt på bussen, även när det känns privat.
Regel 2 finns för att AI ibland låter säker och har fel. Din verksamhetskunskap går inte att ersätta. Beslutet är alltid en människas.
Regel 3 gör att en fundering stannar vid en fråga i stället för att bli en incident. Att fråga är aldrig fel.
Frågor om regler och personuppgifter: Dataskyddsombudet hos er
Frågor om verktyg och säkerhet: IT-supporten hos er
Allt annat: din närmaste chef.
Kortet bygger på de nationella riktlinjerna för generativ AI från Digg och Integritetsskyddsmyndigheten (digg.se/ai).
Medarbetarkortet: AI hos oss
Det här kortet delar chefen ut till sina medarbetare, eller går igenom på en arbetsplatsträff. Skrivet i lättläst svenska med flit, så att alla i gruppen kan ta det till sig. Engelsk version på nästa sida. Kontaktvägen fylls i per organisation.
AI hos oss, det här gäller
Du får prova AI i ditt arbete. Din chef vill att du testar. Berätta vad du provar. Det är så vi lär oss tillsammans.
Tre regler skyddar dig och dem vi jobbar för:
- Skriv aldrig in namn, personnummer eller känsliga uppgifter om personer i AI-verktyg som kommunen inte har godkänt. Uppgifter om de personer vi hjälper är alltid känsliga.
- Läs alltid igenom det AI:n skriver innan du använder det. AI kan låta säker och ändå ha fel. Du ansvarar för det du skickar och gör, inte datorn.
- Osäker? Fråga först. Fråga din chef, eller den som ansvarar för AI-frågor hos er. Att fråga är aldrig fel. Ingen blir arg för en fråga.
Har du redan använt AI utan att fråga? Berätta för din chef. Du får inte skäll. Det du har lärt dig är värdefullt för hela gruppen.
Kortet bygger på nationella riktlinjer från myndigheterna Digg och IMY.
Kunskapstest
Du ska sammanfatta ett långt mötesprotokoll som innehåller namn på deltagarna. Vad gäller?
AI:n har skrivit ett förslag till beslut som ser bra ut. Vad gäller innan det går iväg?
Du är osäker på om en arbetsuppgift går att göra med AI inom reglerna. Vad gör du?
Hallucinationer och källkritik
Känna igen varningssignalerna för påhittade fakta, siffror och referenser, och ha en rutin för att kontrollera och skriva om.
Tid: 15 minuter
Lärandemål
- Känna igen de vanligaste varningssignalerna för påhittade uppgifter
- Ha en rutin för att kontrollera det som måste stämma
- Formulera om en text när en uppgift inte går att verifiera
Nyckelbegrepp
Hallucination
När AI:n producerar något som låter trovärdigt men är påhittat: en siffra, en rapport, en person, ett citat. Det är ingen bugg som kan stängas av. Det är samma mekanism som gör att den skriver flytande.
Verifiering
Att kontrollera en uppgift mot en källa som finns oberoende av AI:n. Inte att fråga AI:n om den är säker.
Innehåll
Varför AI hittar på
En språkmodell gissar troliga fortsättningar. När texten kräver en källa, ett årtal eller en procentsats producerar den något som ser ut som en källa, ett årtal eller en procentsats. Ofta stämmer det. Ibland inte, och skillnaden syns inte på ytan. Det gäller även de bästa verktygen, och det gäller särskilt sådant som är specifikt: exakta siffror, namn på personer och rapporter, paragrafer, citat.
Det drabbar proffs också. Under 2026 fick ett stort revisionsbolag dra tillbaka en rapport om AI som visade sig innehålla påhittade källor, framtagna med AI. Den som skrev hade inte kontrollerat.
Varningssignalerna
Lär dig känna igen dem, så kontrollerar du automatiskt på rätt ställen.
- Exakta siffror utan källa. "Studier visar att 73 procent av …"
- Namngivna rapporter, författare och forskare. Kontrollera alltid att de finns och att de sagt det.
- Citat. Särskilt välformulerade citat som passar lite för bra.
- Detaljerade beskrivningar av något du inte frågade om. Modellen fyller gärna ut.
- Auktoritativa påståenden utan nyans. Verkligheten har oftare ett "det beror på".
- Färska händelser. Modellen kan svara med ett äldre läge utan att säga det.
Rutinen som räcker
Du behöver inte kontrollera allt. Du behöver kontrollera det som måste stämma.
- Stryk under allt i texten som är en kontrollerbar uppgift: siffror, namn, datum, källor, lagrum.
- Kontrollera var och en mot en källa som finns oberoende av AI:n. Myndighetens webbplats, rapporten själv, registret.
- Hittar du inte källan: skriv om utan uppgiften. "Många kommuner har börjat använda …" i stället för "67 procent av kommunerna har …".
- Fråga aldrig AI:n om den är säker. Den svarar ja.
När det gäller extra mycket
Ju allvarligare konsekvens ett fel får, desto hårdare kontroll. En intern idélista tål ett fel. Ett beslutsunderlag, ett brev till en enskild, ett pressmeddelande eller en text som citerar lag gör det inte. Där gäller: varje kontrollerbar uppgift kontrollerad, eller struken.
Övningar
Övning 1: Granska stycket (10 min)
AI:n har skrivit följande till ett underlag:
"Enligt Statskontorets rapport 'Digital mognad i kommunsektorn 2024' har 67 procent av svenska kommuner infört AI-baserade chattbotar för medborgarservice. Forskaren Maria Lindgren vid Göteborgs universitet menar att 'kommuner som inte digitaliserar kommer halka efter inom tre år'."
- Vilka varningssignaler ser du?
- Vad skulle du behöva kontrollera innan du använder stycket?
- Hur skriver du om det om du inte kan verifiera uppgifterna?
Visa svar
Varningssignaler: en rapport med exakt titel och årtal, en exakt procentsats utan källa, en namngiven forskare med citat, och ett auktoritativt påstående om framtiden.
Att kontrollera: finns rapporten på Statskontorets webbplats? Står siffran där? Finns forskaren vid universitetet, och har hon sagt det?
Omskrivning utan verifiering: "Flera kommuner har börjat använda AI-baserade chattbotar i sin medborgarservice, och utvecklingen väntas fortsätta."
Reflektionsfrågor
- Vilken text du skriver i jobbet skulle få allvarligast följder om en siffra var påhittad?
- Har du någon gång skickat vidare en AI-uppgift utan att kontrollera? Vad hände?
Sammanfattning
- AI hittar på för att den gissar troliga fortsättningar. Det går inte att stänga av.
- Varningssignaler: exakta siffror, namngivna källor, citat, detaljer du inte bad om, tvärsäkerhet.
- Kontrollera det som måste stämma mot en oberoende källa. Hittar du inte källan, skriv om utan uppgiften.
- Fråga aldrig AI:n om den är säker.
Kunskapstest
Vad är en hallucination i AI-sammanhang?
Vilket är det säkraste sättet att kontrollera en siffra AI:n gett dig?
Du hittar inte källan till ett påstående AI:n skrivit. Vad gör du?
I vilken text är ett påhittat faktum allvarligast?
Lagen i vardagen: AI-förordningen, artikel 4 och de svenska riktlinjerna
Det en medarbetare behöver veta om regelverket: riskklasserna, artikel 4, de sju områdena i riktlinjerna, och vad som gäller för personuppgifter, sekretess och anställda.
Tid: 15 minuter
Rättsläget i det här avsnittet är kontrollerat 13 september 2026. Lagar och riktlinjer ändras; källorna står i modulens metadata och ses över varje kvartal.
Lärandemål
- Beskriva vad AI-förordningen kräver av arbetsgivare som använder AI, i stora drag
- Förklara vad kravet på AI-kunnighet i artikel 4 betyder för dig
- Veta vilka regler som gäller när AI möter personuppgifter, sekretess och anställda
Nyckelbegrepp
AI-förordningen
EU:s gemensamma lag om AI, i kraft sedan augusti 2024 och införd stegvis. Den sorterar AI-användning efter risk: förbjuden, hög risk, begränsad risk och minimal risk, med olika krav för varje nivå.
Artikel 4, AI-kunnighet
Arbetsgivarens ansvar för att de som använder AI på jobbet har kunskap nog, anpassad efter roll och sammanhang. Sedan 27 juli 2026 lyder kravet att arbetsgivaren ska vidta åtgärder för att främja AI-kunnigheten.
DIGG och IMY:s riktlinjer
Sveriges nationella vägledning för generativ AI i offentlig förvaltning: 18 riktlinjer på 7 områden, lanserade 21 januari 2025.
Innehåll
Riskklasserna, i korthet
AI-förordningen behandlar inte all AI lika. Det som är förbjudet är sådant som social poängsättning av människor och manipulation som utnyttjar sårbarhet. Det som är högrisk är AI som påverkar människors liv på allvar: rekrytering och bedömning av anställda, tillgång till välfärd och utbildning, kreditbedömning, brottsbekämpning. Där krävs riskbedömning, dokumentation, mänsklig kontroll och tillsyn, med fullt genomslag från 2 december 2027 för fristående system och 2 augusti 2028 för AI inbyggd i produkter. Det mesta du använder i vardagen, chattassistenter och skrivstöd, är begränsad eller minimal risk med krav på öppenhet men inte mycket mer.
Poängen för dig: den vanliga vardagsanvändningen är tillåten och lätt. Det är när AI ska bedöma människor som lagen skärper tonen, och sådant beslutar inte du på egen hand.
Artikel 4: kunskapen är arbetsgivarens ansvar
Sedan 2 februari 2025 har organisationer som använder AI ett ansvar för att de som använder den har kunskap nog. Sommaren 2026 skrev EU om artikeln genom den så kallade Digital Omnibus, i kraft 27 juli 2026. Nu ska organisationen vidta åtgärder för att främja AI-kunnigheten hos sin personal, och det krävs ingen fastslagen kunskapsnivå per person och inget certifikat. Sedan 2 augusti 2026 kan brister ge sanktioner, och tillsynen sköts av nationella myndigheter. I praktiken ska organisationen ha tänkt igenom vilka som använder AI till vad, vilka risker det innebär, och ge insatser som passar. EU-kommissionen förväntar sig ett internt register över vad som gjorts.
Den här utbildningen är en sådan insats. Det du läser nu dokumenteras i din arbetsgivares register. Kunnighet i lagens mening är inte teknik: det är att förstå möjligheter och risker tillräckligt för att använda AI klokt i din roll. Exakt det som modulerna före den här handlar om.
De svenska riktlinjerna: sju områden
DIGG och Integritetsskyddsmyndigheten gav i januari 2025 ut 18 riktlinjer för generativ AI i offentlig förvaltning, ordnade i sju områden: ledning och ansvar, dataskydd, arbetsrätt, anskaffning, informationssäkerhet, upphovsrätt och etik. De är skrivna för alla i förvaltningen, från medarbetare till ledning, och finns på digg.se/ai. Tre principer går igen: en människa har kontrollen, öppenhet om när AI använts, och dataskydd från början.
För dig som arbetar utanför offentlig sektor är riktlinjerna ändå den bästa svenska sammanfattningen av vad ansvarsfull användning betyder i praktiken.
Personuppgifter, sekretess och anställda
Dataskyddsförordningen gäller fullt ut när AI behandlar personuppgifter. Det betyder att uppgifter om personer bara får in i verktyg som organisationen har avtal med, att beslut som bara bygger på automatisk behandling kräver mänsklig prövning, och att den som använder AI i beslut måste kunna förklara på vilket underlag beslutet togs. Våren 2026 visade Integritetsskyddsmyndigheten i Kalmar att AI-stöd för journalanteckningar går att göra rätt: rättslig grund finns när en människa granskar, uppgifterna skyddas och personalen är utbildad. Juridiken säger hur, inte om.
Offentlighet och sekretess gäller i offentlig sektor. Sekretessbelagd information får inte lämna myndigheten till ett verktyg utan avtal, och det du får ut av AI kan bli en allmän handling.
Medbestämmandelagen gäller när AI införs på ett sätt som påverkar arbetet. Arbetsgivaren ska informera och förhandla med facket innan beslut, och AI som mäter eller bedömer anställda är dessutom högrisk enligt AI-förordningen.
Vad det betyder för dig
| Område | Så gör du |
|---|---|
| Kunnighet | Gå igenom den här utbildningen och ställ frågor när du är osäker. Det är hela kravet på dig |
| Personuppgifter | Inga namn, personnummer eller känsliga uppgifter i verktyg som inte organisationen godkänt |
| Granskning | En människa läser och beslutar. AI:n föreslår |
| Öppenhet | Säg när AI hjälpt till, om någon frågar eller om det spelar roll för mottagaren |
| Beslut om människor | Använd aldrig AI för att bedöma anställda, sökande eller enskilda på egen hand. Det är högrisk och beslutas av organisationen |
| Osäker | Fråga den som ansvarar för AI-frågor hos er innan, inte efter |
Reflektionsfrågor
- Vilken av raderna i tabellen är svårast att leva upp till i din vardag, och varför?
- Finns det något du gör med AI i dag som du efter det här avsnittet vill stämma av med någon?
Sammanfattning
- AI-förordningen sorterar AI efter risk. Vardagsanvändningen är tillåten och lätt, bedömning av människor är högrisk.
- Artikel 4: arbetsgivaren ska vidta åtgärder för att främja din AI-kunnighet. Den här utbildningen är en sådan åtgärd.
- DIGG och IMY:s 18 riktlinjer på sju områden är Sveriges vägledning, digg.se/ai.
- Personuppgifter bara i godkända verktyg, en människa granskar och beslutar, fråga innan du är osäker.
Kunskapstest
Vad kräver artikel 4 i AI-förordningen av din arbetsgivare?
Vilken användning räknas som högrisk enligt AI-förordningen?
Vem har gett ut Sveriges riktlinjer för generativ AI i offentlig förvaltning?
Du är osäker på om en uppgift får göras med AI inom reglerna. Vad gör du?
Bias och rättvisa
Förstå varför AI kan ge orättvisa utfall, med rekrytering som exempel, och vad man själv kan göra åt det.
Tid: 12 minuter
Lärandemål
- Förklara hur snedvridning uppstår i AI och varför den är svår att se
- Känna igen de vanligaste typerna av bias i vardagsanvändning
- Ställa fyra frågor som skyddar mot ensidiga svar
Nyckelbegrepp
Bias
Systematisk snedvridning i det AI:n producerar, som kommer av snedvridning i det den tränats på eller i hur den byggts. Kan leda till orättvisa eller missvisande resultat, särskilt när det handlar om människor.
Innehåll
Så uppstår snedvridningen
Modellen lär sig av text som människor skrivit. Den texten speglar hur världen sett ut, med fördomar, ojämlikheter och luckor. Modellen lär sig mönstren utan att veta vilka som är orättvisa, och återger dem i sina svar. Kedjan är enkel: skev träningsdata ger en modell som lärt sig skevheten, som ger skeva svar. Det svåra är att svaren låter lika flytande och självsäkra som alla andra.
Fem typer att känna igen
| Typ | Vad det är | Exempel |
|---|---|---|
| Historisk bias | Data speglar gamla orättvisor | Rekryteringsmodeller som missgynnat kvinnor för att historiken gjorde det |
| Representationsbias | Vissa grupper är underrepresenterade | Ansiktsigenkänning som fungerat sämre för mörkhyade, visat i studien Gender Shades |
| Språkbias | Engelska dominerar | Sämre kvalitet på svenska, svenska förhållanden underrepresenterade |
| Kulturell bias | Västerländska antaganden dominerar | Råd som förutsätter förhållanden som inte gäller här |
| Bekräftelsebias | AI:n håller med frågeställaren | Ledande frågor får bekräftande svar utan kritik |
Den sista är den du oftast möter själv. Frågar du "varför är förslag A bäst?" får du skäl för A. Frågar du "vilka invändningar finns mot A?" får du dem också. Modellen fortsätter på din riktning.
När det spelar störst roll
Bias är obehagligt i en textsammanfattning och farligt när AI påverkar beslut om människor. Därför klassar AI-förordningen just sådan användning som högrisk: rekrytering, bedömning av anställda, tillgång till välfärd och utbildning, kreditbedömning. Där krävs riskbedömning, dokumentation och mänsklig prövning av varje utfall, och det är inget en enskild medarbetare inför på egen hand.
Ett exempel: AI som hjälper till att sortera ansökningar kan systematiskt värdera ner kandidater utifrån namn, utbildningsbakgrund eller annat som samvarierar med kön eller ursprung. Rätt användning är att anonymisera underlaget, låta AI:n bara plocka ut information och aldrig ranka, och låta människor bedöma. Fel användning är att låta modellen välja.
Fyra frågor som skyddar
Ställ dem till varje svar som handlar om människor eller ska ligga till grund för ett beslut.
- Vems perspektiv saknas i det här svaret?
- Gäller det här hos oss, i vår verksamhet och våra förhållanden?
- Frågade jag ledande? Prova motsatt fråga och se vad du får.
- Finns det en annan tolkning som modellen inte tog upp?
Reflektionsfrågor
- Har du märkt att AI hållit med dig lite för lätt? Hur skulle du frågat i stället?
- Var i din verksamhet skulle en skevhet i ett AI-svar drabba någon på riktigt?
Sammanfattning
- Snedvridning kommer av det AI:n tränats på, och syns inte på ytan.
- Bekräftelsebias är den vanligaste i vardagen: modellen fortsätter på din riktning.
- AI som bedömer människor är högrisk. Anonymisera, låt AI:n plocka ut men aldrig ranka, låt människor bedöma.
- Fyra frågor: vems perspektiv saknas, gäller det här hos oss, frågade jag ledande, finns en annan tolkning.
Kunskapstest
Var kommer snedvridningen i ett AI-svar oftast ifrån?
Vilket är ett tecken på bekräftelsebias?
Hur använder man AI rätt när ansökningar ska gås igenom?
Vilken fråga skyddar bäst mot ett ensidigt svar?