Framtidens rekrytering: Hur påverkas arbetsgivare av den nya AI-förordningen?

AI används redan frekvent i rekryteringsprocesser, för att göra dem mer effektiva, precisa och automatiserade. I och med den nya AI-förordningen (2021/0106), som formellt antogs den 21 maj 2024 och trädde i kraft den 1 augusti 2024, blir användningen av AI inom rekrytering föremål för ett nytt regelverk. Bestämmelserna i förordningen börjar gälla successivt. De första bestämmelserna, som förbjuder användning av vissa AI-system gäller, från den 2 februari 2025.

I detta inlägg går vi igenom vad som är viktigt för användare av AI-system att tänka på i och med den nya förordningen, specifikt med inriktning mot arbetsgivares användning av AI inom rekryteringsprocesser.

AI inom rekrytering kategoriseras som högrisk

AI-förordningen syftar till att reglera AI-system som tillhandahålls och används på EU:s inre marknad. Förordningen ska verka för att enskildas säkerhet och grundläggande rättigheter säkerställs, samtidigt som innovation och investeringar i AI underlättas.

När arbetsgivare använder AI-system kategoriserar förordningen dem som användare. Det är därmed arbetsgivaren som, genom AI-förordningen, blir föremål för skyldigheter när AI används inom rekryteringsprocesser till exempel för att analysera arbetsansökningar och utvärdera kandidater.

De nya reglerna stipulerar skyldigheter för användare beroende på vilken risknivå som den aktuella AI:n genererar. AI-system som används inom rekryteringsprocesser inkluderas i kategorin högrisksystem eftersom de används för sysselsättning och förvaltning av arbetstagare.

Vilka skyldigheter får arbetsgivare i och med förordningen?

Genom AI-förordningen blir arbetsgivarens användning av AI inom rekryteringsprocesser föremål för olika skyldigheter, bland annat att:

• AI-systemet ska användas enligt bruksanvisningarna.
• Personal som ansvarar för mänsklig tillsyn av AI-systemet ska ha nödvändig kompetens, utbildning och befogenhet.
• Om arbetsgivaren kan styra över indata ska denne säkerställa att den är relevant för ändamålet.
• Arbetsgivaren ska spara de loggar som systemet genererar automatiskt, så länge dessa står under arbetsgivarens kontroll, i minst sex månader (såvida inte annat föreskrivs, till exempel, enligt tillämpliga lagar om skydd av personuppgifter).

AI-förordningen kommer innehålla regler om sanktioner för överträdelser av dessa skyldigheter. Storleken på sanktionsavgifterna beror på vilken överträdelse som skett samt vilket företag som utfört överträdelsen. Sanktionerna ska ta hänsyn till det aktuella företagets storlek, intressen och ekonomiska bärkraft.

I och med förordningens ikraftträdande kommer det vara viktigt för arbetsgivare, som använder AI i sina rekryteringsprocesser, att vara medvetna om och följa de nya regler som fastställs. Genom att prioritera mänsklig övervakning, utbildning och kontroll i användningen av AI kan arbetsgivare säkerställa att rekryteringsprocessen är i linje med förordningens krav.

Har du som arbetsgivare frågor om AI-förordningen är du välkommen att höra av dig till oss. Du kan också läsa mer om AI-förordningen och dess innebörd i denna sammanställning av vår jurist Tobias Schreiber.