Hand­bok om AI & Data­etik

– med fokus på ansvarsfull AI och god dataetik

Ladda ner handboken här.

Inledning

Försäkringsbranschen möter människor och företag vid kriser, oförutsedda händelser eller i samband med omfattande investeringar. Förtroende är därför avgörande — både från anställda, kunder och samhälle.

Förtroende byggs när branschen agerar transparent och ansvarsfullt, särskilt kring ny teknik. Och när tillgången till data – försäkringsföretagens viktigaste råvara efter medarbetarnas kompetens, ökar, förändras också förutsättningarna för anställda, kunder och samhället i stort.


TILL DIG SOM FÖRTROENDEVALD
Den här handboken är ett stöd för dig som förtroendevald i frågor om digitalisering och etisk användning av AI. Du och klubbstyrelsen har rättigheter och skyldigheter att bidra till att företagens användning av AI och data görs på ett ansvarfullt sätt. Nästan alla förtroendevalda inom Forena ser att AI och automatisering påverkar försäkrings-branschens utveckling och pekar på behovet av ny kunskap och förändrade arbetsuppgifter. Det är ett teknikskifte med potential, men innebär också risker för både anställdas och kunders integritet. Nästan hälften av de förtroendevalda uttrycker oro över hur anställdas och kunders data hanteras.

Vi hoppas att handboken ska inspirera dig att tillsammans med klubbstyrelsen säkerställa att digitala förändringar och dataanvändning förhandlas korrekt och transparent.

 

Risker med digitala spår, mer data & AI

Varje gång vi använder digitala enheter, sociala medier eller program på jobbet lämnar vi spår. Dessa kan samlas via olika system och olika gränssnitt (så kallade API:er), vilket innebär att stora mängder data om både anställda och kunder kan samlas in utan att vi märker det. Ju känsligare data, desto större risk.

Om AI dessutom tränas på data som speglar ojämlikhet riskerar den förstärka orättvisor. För anställda kan detta leda till felaktiga bedömningar eller orättvis behandling. Riskerna ökar med bristande insyn och fackligt inflytande. Samtidigt är det företagens skyldighet att informera om vilken data som samlas in, hur den används och i vilka syften.
För kunder och försäkringstagare kan ökad dataanvändning innebära nya och bättre produkter, men det kan likväl leda till att vissa grupper missgynnas. På sikt skulle principen om kollektiv riskdelning riskera att urholkas.

Social Dialog för etisk användning av AI

För att försäkringsbranschen ska behålla förtroende och konkurrenskraft måste digital transformation ske ansvarsfullt. Den behöver ta hänsyn till anställdas hälsa, säkerhet och framtida utveckling.

Mot bakgrund av detta undertecknade Forena redan 2021, tillsammans med Försäkringsbranschens Arbetsgivarorganisation (FAO), en avsiktsförklaring om etisk användning av AI. Den fastslår bland annat att:


”AI bör utformas och användas för att förbättra snarare
än ersätta mänsklig kapacitet”


”AI:s karaktär ska styras av människan och användas
under mänsklig kontroll.”


”Arbetsgivare och arbetstagare ska föra social dialog om
digitala förändringar”

I Forenas rapport ”Strukturomvandling i försäkringsbranschen – med fokus på AI och automation” från 2023 kunde vi också se hur nya tekniker används i alla verksamheter inom försäkring.
En viktig slutsats i rapporten, var att teknikutveckling måste hanteras med transparens och i nära dialog mellan arbetsgivare och arbetstagare. Ny teknik ska förenkla och förbättra på jobbet – inte tvärtom.

Information & inflytande

AI kan användas för att planera, styra och följa upp arbete – men också för beslut som påverkar anställda. Transparens och rätt till information är därför grundläggande.

Det är alltid arbetsgivaren som har ansvaret för de AI-system och algoritmer som används. Även när systemen levereras av en extern leverantör måste arbetsgivaren förstå hur de fungerar och vilka konsekvenser de kan få. Den kunskapen är en förutsättning för att arbetsgivaren ska kunna ta sitt ansvar för integritet, arbetsmiljö och utveckling.

Arbetsgivaren ansvarar för AI-systemen, även om de levereras av extern leverantör. Anställda har rätt att veta vilka system som används, vilken data som samlas in och hur beslut fattas.
Rätten till information och inflytande regleras bland annat i Forenas medbestämmandeavtal och medbestämmandelagen (MBL), dataskyddsförordningen (GDPR) och arbetsmiljölagen och dess föreskrifter.

MEDBESTÄMMANDE
Inför viktigare förändringar som påverkar arbetsförhållanden har klubben och du som förtroendevald, rätt till information och förhandling enligt medbestämmandeavtalet mellan Forena och Försäkringsbranschens Arbetsgivarorganisation (FAO). Avtalet slår fast att arbetstagare ska ges möjlighet till medbestämmande tidigt i beslutsprocessen.

Arbetsgivare är också skyldiga enligt MBL att hålla fackliga parter informerade om företagets utveckling och kalla till förhandling vid viktiga förändringar. Syftet med en förhandling är att bidra till att arbetsgivaren fattar beslut utifrån bredare beslutsunderlag. Viktigare förändringar kan vara införande av nya applikationer eller system, ändringar av API:er eller databehandling eller andra systemförändringar som direkt eller indirekt påverkar de anställda.

Vad kan du göra?

  • Kräv insyn i vilka system som planeras, vilken dataanvändning, vilket syfte de har och hur de ska användas.
  • Se till att frågorna tas upp i förhandling – eller under arbetsgivarens skyldighet att fortlöpande hålla fackliga parter informerade om företagets utveckling.
  • Var tydlig med att tekniken inte bara påverkar effektiviteten
    utan också inflytande, arbetsmiljö och integritet.

KONSEKVENSBEDÖMNINGAR
När arbetsgivare vill behandla arbetstagares personuppgifter måste arbetsgivaren ha en rättslig grund för behandlingen. I många fall kan behandlingen vara en förutsättning för att uppfylla lag- eller avtalskrav. I andra fall ska en intresseavvägning göras. Arbetsgivarens intresse av behandlingen ska vägas mot arbetstagarens rätt till privatliv. Arbetsgivare har en skyldighet att överväga om målen med behandlingen kan uppnås genom andra åtgärder som innebär ett mindre intrång i arbetstagarens personliga integritet.


Vilka intressen som anses berättigade beror på situationen, men kan exempelvis handla om uppgifter som arbetsgivaren anser sig behöva för att planera, leda och följa upp verksamheten.
Om arbetsgivarens intresse väger tyngre än arbetstagarens finn ett berättigat intresse för behandlingen. Behandlingen av uppgifter får inte strida mot arbetstagarnas rätt till privatliv eller god sed på arbetsmarknaden. Införs nya system där personuppgifter används, ska arbetsgivaren göra en konsekvensbedömning, en så kallad Data Protection Impact Assessment (DPIA), i samråd med den fackliga klubben. Vid oenighet ska arbetsgivaren motivera beslutet och protokollföra processen.

Vad kan du göra?

  • Se till att bedömningen tas upp i förhandling – att den visar
    vilka möjliga risker som finns för de anställdas integritet och
    hur dessa ska hanteras.
  • Om arbetsgivaren inte gjort en DPIA bör du lyfta frågan,
    eftersom den är en viktig grund för att förstå syfte med viss
    behandling, bygga förtroende och säkerhet.

SYSTEMATISKT ARBETSMILJÖARBETE
AI och algoritmer påverkar både fysisk och psykisk arbetsmiljö.
System som övervakar eller styr arbete kan skapa stress och känsla av kontroll och minskat inflytande.

Arbetsgivaren ska förebygga risker, undersöka och riskbedöma algoritmer innan de tas i bruk. I Arbetsmiljöverkets föreskrifter om användning av arbetsutrustning (AFS 2006:4) anges att arbetsgivare ska förebygga risker kopplade till tekniska system.

Vad kan du göra?

  • Se till att frågan om AI och dataanvändning tas upp i skyddskommittén.
    Fokusera särskilt på psykosociala aspekter som stress, övervakning och rättvisa i bedömningar.
  • Fråga arbetsgivaren om vilka kontroller av arbetsinsatser som
    görs.

Algoritmisk arbets­ledning

AI och algoritmer används alltmer i arbetsledning och processer.
För anställda innebär detta en maktförskjutning där arbetsledningen sker från system och algoritmer, snarare än utifrån arbetsledning och dialog mellan chef och medarbetare.

Risker inkluderar:

  • ökad övervakning och kontroll
  • stress och osäkerhet kring vad som mäts minskat inflytande över arbetet

Dataskyddsförordningen anger att ingen ska behöva bli föremål för ett beslut som enbart grundas på automatiserad profilering.
Ändå sker detta, och om individdata behandlas av AI är det viktigt att säkerställa en konsekvensbedömning och lyfta fram att behandlingen sker på grupp/team nivå samt att det finns processer för exempelvis kompetensutveckling kopplade till resultat.

Se mer om vad som gäller om kontroll och övervakning av anställda enligt GDPR på Integritetsskyddsmyndighetens webbsida. Kontroll och övervakning av anställda.

Då detta lagrum har visat på osäkerheter har EU tagit initiativ i denna fråga och Forena arbetar för att bidra till bättre ramverk och ökad förståelse kring algoritmisk arbetsledning. Vi vill bland annat kunna bättre säkerställa behandling av personuppgifter vid användning av just automatiserade beslutfattningssystem.

I enlighet med Forenas kollektivavtal om medbestämmande är det förbundets uppfattning att fackliga organisationer ska involveras innan och under hela livscykeln för digitala förändringar. Utöver detta ser vi att eventuella nya ramverk måste bygga på nationell praxis och former för förhandling och samverkan, där utrymme finns för kollektiva förhandlingar lokalt och centralt. Det är också centralt att riskbedöma för att identifiera risker 3kopplade till dessa system.

Checklistor

Plötsligt hörsammar ni från fackligt håll att det är en viktig förändring på gång på företaget. Arbetsgivaren har informerat enligt MBL och kallat till förhandling inför kommande beslut. Vid en sämre ordning kan beslut redan ha fattats – och då blir det en process att pausa för att ni ska få en chans att bidra i beslutsprocessen.

Oavsett ordning ska ni lokalt få tillfälle till att ta del av information från arbetsgivaren och tid att granska de handlingar som ni bedömer att ni behöver. Det är viktigt för att få kunskap och en bredare förståelse för den aktuella förändringen. Det är en förutsättning för att kunna bidra.

Här kommer några checklistor med frågor att ställa för att bredda arbetsgivarens underlag i en förhandling och bidra konstruktivt i diskussioner och dialog. Använd dessa som stöd för att säkerställa att alla relevanta frågor blir belysta.


CHECKLISTA
Medbestämmande – rätt till medbestämmande

  • Vad är målet och syftet med förändringen?
  • Har arbetsgivaren informerat i tid enligt MBL och kallat till förhandling?
  • Finns en policy eller liknande för AI eller dataetik?
  • Hur påverkas bemanning, arbetsorganisation och roller?
  • Behövs arbetstagarkonsult för bredare beslutsunderlag?
  • Vem har formellt ansvar för beslut och genomförande?
  • Finns facklig representation i arbetet? Ska det kallas till ett medlemsmöte?
  • Hur är bolagsstyrelsen och de fackliga arbetstagarrepresentanterna informerade?
  • Vilka delar av verksamheten berörs och på vilket sätt?


CHECKLISTA
Konsekvensbedömning (DPIA) – dataskydd och transparens i
systemen

  • Hur används personuppgifter – eller kan det ske genom andra,
    mindre ingripande, åtgärder?
  • Vilka data delas, med vem och under vilket syfte?
  • Har arbetsgivaren gjort en konsekvensbedömning (DPIA)
    enligt GDPR?
  • Vem utvecklar algoritmen/systemet – internt eller via
    leverantör?
  • Finns risk för inlåsning i en viss leverantör? Hur ser upphandlingen ut?
  • Hur hanteras fel, cybersäkerhet och support om systemen
    brister?
  • Hur ser processen för att överklaga beslut som fattas av
    algoritmer ut?


CHECKLISTA
Arbetsmiljö – riskbedömning och förebyggande arbete

  • Är den lokala arbetsmiljöorganisationen och skyddskommittén
    inkopplad?
  • Har en risk- och konsekvensanalys gjorts, och hur hanteras
    den?
  • Ingår den digitala arbetsmiljön i det systematiska arbetsmiljöarbetet (SAM)?
  • Kan systemen leda till nya former av stress eller psykisk ohälsa?
  • Finns plan för kompetensutveckling så att anställda kan växa
    med tekniken?
  • Hur påverkas chefer och ledare – är HR och ledningen rustade
    för förändringen?

Frågor och svar

AI-förordningen är ett riskbaserat regelverk för AI-system som gäller i hela EU. Ju högre risk, desto högre krav. Det slår bland annat fast krav på transparens, kompetens och riskhantering, både utifrån leverantörer och arbetsgivare/tillhandahållare.

Särskilda krav ställs på så kallade högrisk-AI-system. Denna risknivå är särskilt relevant för oss som facklig aktör då den omfattar system som används vid anställning (rekrytering) och arbetsledning (däribland system som påverkar villkoren för befordringar/uppsägningar samt system för övervakning/utvärdering anställdas prestationer). Inom försäkring är högrisksystem också system som används för prissättning och riskbedömningar inom sjuk- och livförsäkring.

Tillhandahållaren av ett system, det vill säga arbetsgivaren, har enligt förordningen explicit skyldighet att informera de lokala arbetstagarrepresentanterna och de berörda arbetstagarna innan ett AI-system med hög risk tas i bruk eller används på en arbetsplats, om att de kommer att vara föremål för användning av AI-systemet med hög risk.

AI-förordningen ställer också upp särskilda krav om AI-kunnighet. Både leverantörer och tillhandahållare av AI-system ska vidta åtgärder för att säkerställa att anställda som arbetar med drift och användning har tillräcklig AI-kunnighet. Det ska ske med beaktande av tekniska kunskaper, erfarenhet och utbildning samt sammanhang och användning. För svensk räkning landar också denna fråga inom Medbestämmandet och ska förhandlas.

Arbetsgivaren har ansvaret för arbetsledning och arbetsmiljö, även där AI är en del i beslutsfattandet. Däremot pågår ett arbete inom EU om ett nytt ramverk för algoritmisk arbetsledning för att skapa klarhet i denna fråga på hela arbetsmarknaden.

Det finns redan avgränsade regler för plattformsarbetare. För dessa anställda tillåts AI-applikationer och algoritmer, inom ramen för dessa gig-arbetare, att hantera ersättning, övervakning och faktiskt kontroll av direkta arbetsförhållanden. Gig-arbetarna har i sin tur rätt till fördjupad insyn i hur algoritmerna fungerar och hur data behandlas.

Rådgivning är tillståndspliktig verksamhet enligt reglerna för
försäkringsdistribution. För Forena är utgångspunkten att de avgörande samtalen – vid både rådgivning och skadereglering – ska hanteras av anställda. Dessa moment är centrala för både företagens affärsrelationer och de anställdas kompetens.

Samtidigt innebär utvecklingen av AI och automatisering en möjlighet att förbereda och underlätta ärenden inför beslut. Redan idag utförs många arbetsmoment utan att en medarbetare aktivt styr eller deltar i varje steg. Vid digital rådgivning blir det dock särskilt viktigt att säkerställa att systemet kan inhämta tillräckligt detaljerad och korrekt information om kunden – i relation till de försäkrings- eller sparprodukter som erbjuds.

Det är alltid den tillståndspliktiga som ansvarar för de beslut och rekommendationer som ges – även om dessa helt eller delvis grundas på automatiserade processer eller AI-baserade system.