3 jun. 2024
Forretningsfolk holder møde i moderne møderum

AI kræver massiv ledelse

Forfattere
Bodil Hald Brabæk

Head of Data Privacy Law, Executive Director, Law, EY Danmark

Specialiseret indenfor Data Privacy og AI. Betroet rådgiver med omfattende erfaring indenfor både den private og offentlige sektor. Søger værdifulde og pragmatiske løsninger. Passioneret oplægsholder.

Søren M. Plaugmann

Partner, Head of Technology Consulting i Financial Services

Dedikeret og erfaren rådgiver inden for it-transformationer i den finansielle sektor. Passioneret omkring ny teknologi.

3 jun. 2024
Relaterede emner AI Law
Upvote

Vis materialer

Der venter en kæmpe ledelsesopgave, når AI skal omsættes fra teori til praksis.

Opsummering: 
  • Ledelsen skal sikre, at både mennesker og digitalisering er i fokus.
  • Ledelsen skal sikre en tværfaglige AI-organisation med en klar rolle- og ansvarsfordeling.
  • Ledelsen skal herudover kunne navigere i et komplekst europæisk og globalt regulatorisk landskab.

Lige nu er der praktisk talt ikke én eneste virksomhed i Danmark, som ikke er i gang med at tænke AI’s uanede muligheder ind i forretningen. Faren er, at virksomhederne ser AI som en gavebod, hvor medarbejderne slippes løs med AI-værktøjerne i hånden i jagten på hurtig problemløsning og effektivisering. Men AI kræver massiv ledelse. Det er afgørende, at danske virksomheder lige nu sætter ind med de nødvendige strategiske og organisatoriske rammer, regulering og information til medarbejderne.

Medarbejderne skal sættes i stand til at stille de rigtige kritiske spørgsmål til de input, som AI-værktøjerne fodres med, samt det indhold, som AI-værktøjerne spytter ud. Samtidig skal ledelsen sikre processer til at begrænse de store risici, der også er forbundet med AI, og sikre efterlevelse af den omfattende regulering inden for AI og databeskyttelse.

I denne artikel stiller vi skarpt på netop denne ledelsesopgave, når AI skal omsættes fra teori til praksis.

Reguleret tag-selv-bord

Debatten om AI kommer hurtigt til at handle om den såkaldte generative AI, der på baggrund af store mængder af data og input fra medarbejderne kan generere nyt indhold som tekst, billede, lyd og video. Ved avancerede sprogmodeller forsøger systemet at forudsige netop det output, der bedst tilfredsstiller brugeren.

Men virksomhedsledelsen bør holde sig for øje, at generativ AI bare er en lille del af de mange AI-systemer, som virksomhederne kan udnytte, og ledelsen skal samtidig være opmærksom på, at mange systemer i den brede AI-palet vil være omfattet af den nye AI-forordning.

Ledelsen skal vise vejen

Før ledelsen kaster sig over det første og bedste AI-system, der præsenteres for dem, har de en stor opgave i at vurdere, hvad virksomhedens behov rent faktisk er. Blandt de mange use-cases skal ledelsen kritisk vurdere, om AI faktisk tilfører værdi. I sin iver for at komme med på AI-bølgen er risikoen, at ledelsen blot følger strømmen og alt for hurtigt stiller skarpt på samme AI-løsning, som naboen har taget i brug.

Her bør ledelsen starte med at se indad og udfordre, om de selv har tilstrækkelig forståelse for AI-teknologien og dens kapaciteter og begrænsninger i forhold til den konkrete brug. Lige så essentielt er det, at ledelsen tidligt får inddraget forretningen, lyttet til medarbejdernes feedback og ikke mindst er klar på at lave ændringer. Engagement fra medarbejderne må ikke undervurderes, hvis ledelsen ønsker, at AI skal være en integreret og værdsat del af arbejdsprocessen.

I et digitalt landskab, hvor temaer som ansvarlighed og social bæredygtighed også ligger højt på agendaen, skal ledelsen som bannerfører udstikke klare etiske retningslinjer, så forretningen ved, hvor grænserne går. Hvis ikke ledelsens risikovillighed er kendt for forretningen, hvordan skal den så sikre – både på det mere strategiske niveau, men også når den enkelte use-case skal vurderes – at målene nås uden samtidig at gå på kompromis med virksomhedens værdier og i værste fald overtræde lovgivningen?

AI-organisationen

Et nøgleord for ansvarlig og succesfuld AI er medarbejdertilslutning. Ledelsen må ikke glemme, at de har at gøre med teknologier, der kan overgå mennesket, og som hurtigt kan skabe mistillid og opnå modstand i forretningen. Erstatter AI mine arbejdsfunktioner, og bliver jeg overflødig? Det er typiske spørgsmål, der kan opstå blandt medarbejderne. Her er det også interessant, at AI i stigende grad kan disrupte de højtuddannede og ikke som tidligere kun understøtte de mere simple opgaver.

Ledelsen har en vigtig rolle i at sikre, at både mennesker og digitalisering er i fokus. De skal kommunikere klart om målene med de AI-understøttede processer og tydeliggøre, hvordan den enkelte medarbejder passer ind i den digitale transformation. Med andre ord er der en stor opgave forbundet med at forvisse medarbejderne om, at AI også kan være vejen til deres succes.

Udover at få medarbejderne med på digitaliseringsrejsen er det mindst lige så vigtigt for ledelsen at få sat den tværfaglige AI-organisation med en klar rolle- og ansvarsfordeling. Helt nemt er det dog ikke at sætte det rette, alsidige team, for der kan være kamp om bl.a. jurister, domæne eksperter og it-/cyber- specialister. Det handler derfor om at få skabt overblik over interne kompetencer og vurdere behovet for eventuelt at opruste eller omskole.

Det er ikke uden grund, at Datatilsynet har AI som fokusområde i 2024.
Bodil Hald Brabæk
Head of Data Privacy Law, Executive Director, Law, EY Danmark

Uden klare roller og ansvar er det også vanskeligt at holde trit med lokale AI-initiativer. Med sin brede tilgængelighed er det helt naturligt, at AI vil blomstre rundt omkring i organisationen, og skønt der heri ligger gode innovative kræfter, skal ledelsen have overblikket til at kunne risikostyre og udnytte de mange synergier.

Kompleks regulering

Udover de strategiske og organisatoriske overvejelser skal ledelsen også kunne navigere i et komplekst europæisk og globalt regulatorisk landskab, der stiller omfattende krav til organisationens it-sikkerhed, databeskyttelse og brug af AI. Bare det at få styr på hvilke regler virksomheden skal overholde, er en udfordring i sig selv, men ledelsen må ikke springe over, hvor gærdet er lavest, hvis de vil sikre ansvarlig og lovlig brug af AI.

AI og data går hånd i hånd, for intet AI-output er bedre end kvaliteten af den trænings- eller inputdata, det hviler på. Og gennemføres der ikke de nødvendige juridiske vurderinger, kan selve databehandlingen i værste fald ende med at være ulovlig. Det gælder persondata, fortrolig data og data, der er beskyttet af ophavsret. Det er ikke uden grund, at Datatilsynet har AI som fokusområde i 2024.

Der bliver talt meget om risikoen for bias og diskrimination ved brug af AI, men hvordan skal ledelsen undgå sådanne fordomsfulde eller forudindtagede svar, hvis de ikke opdager skævheder i datagrundlaget eller i AI-algoritmerne?

Nok er Chat GPT og andre sprogmodeller let tilgængelige og anvendelige for brugeren, men teknikken bag er kompleks, selv for de mest garvede specialister.

Fem afgørende opgaver for ledelsen, når AI skal implementeres

Ledelsesopgaven både før, under og efter implementering af AI byder på talrige muligheder og et stort potentiale, men vil ledelsen have succes med AI og samtidig handle ansvarligt og lovligt, skal der med det samme stilles skarpt på følgende

ledelsesopgaver:

  1. AI er ikke en one size fits all-teknologi: Forstå virksomhedens faktiske behov, og udvælg de AI use-cases, der vil skabe konkret værdi hos jer.

  2. Etisk lederskab: Udvikl, og implementér klare etiske retningslinjer for brug af AI med respekt for virksomhedens værdier og AI risikovillighed.

  3. Fokuser på mennesket og ikke kun digitalisering: Brug AI til at styrke og ikke erstatte jeres medarbejdere. Klar kommunikation om målene ved brug af AI kan afmystificere teknologien og kan blive medarbejderens bedste ven. Med den rigtige tværfaglige AI-organisation kan I komme hele vejen rundt i arbejdet med AI.

  4. Awareness og træning er essentiel for ledelse og medarbejdere: Det regulatoriske AI-landskab er komplekst og udvikler sig hurtigt. Vær proaktiv, og hold jer ajour med både teknologiske fremskridt og regulatoriske ændringer, og sørg for, at alle forstår grundlæggende AI-koncepter og de etiske overvejelser forbundet hermed og er trænet i brugen af AI.

  5. Sikre et stærkt AI Governance Framework: Læg fundamentet med procedurer og retningslinjer for den fulde AI-livscyklus.

Ledelsen må således trække i arbejdstøjet og få sikret interne procedurer og retningslinjer, der dækker den fulde AI-livscyklus. Der skal ske kortlægning af data og gennemførelse af risikovurderinger. AI-modellen skal designes, trænes og valideres, og systemet skal løbende monitoreres efter ibrugtagning. Dertil skal medarbejderne trænes i fx at skabe de rette prompts og lære at udvise den rette kritiske sans ift. de svar, AI-systemet giver dem. Her kan det også blive nødvendigt med mere individuel og målrettet træning, så ledelsen ikke blot stiller sig til tåls med fx generel e-learning.

Samlet er disse tiltag nøglen til en ansvarlig, succesfuld og lovlig AI-implementering.


Artiklen blev bragt første gang i Børsen den 15. maj 2024.

Sammendrag

AI kræver massiv ledelse. Det er afgørende, at danske virksomheder lige nu sætter ind med de nødvendige strategiske og organisatoriske rammer, regulering og information til medarbejderne. Udover de strategiske og organisatoriske overvejelser skal ledelsen også kunne navigere i et komplekst europæisk og globalt regulatorisk landskab, der stiller omfattende krav til organisationens it-sikkerhed, databeskyttelse og brug af AI.

Om denne artikel

Forfattere
Bodil Hald Brabæk

Head of Data Privacy Law, Executive Director, Law, EY Danmark

Specialiseret indenfor Data Privacy og AI. Betroet rådgiver med omfattende erfaring indenfor både den private og offentlige sektor. Søger værdifulde og pragmatiske løsninger. Passioneret oplægsholder.

Søren M. Plaugmann

Partner, Head of Technology Consulting i Financial Services

Dedikeret og erfaren rådgiver inden for it-transformationer i den finansielle sektor. Passioneret omkring ny teknologi.

Related topics AI Law
Upvote