Kort fortalt
- AI-assistenter skriver flydende, også når indholdet er forkert. Brug dem ikke alene, hvor en fejl har konsekvenser.
- Afgørelser om mennesker, for eksempel ansættelse og afskedigelse, træffes af mennesker. Reglerne stiller særlige krav her.
- Den personlige kontakt er ofte grunden til, at kunderne vælger en lille virksomhed. Automatisér ikke det, I er kendt for.
- At lade være er en reel mulighed. Den koster 0 kr.
Fire slags opgaver, hvor svaret ofte er nej
Når en fejl er dyr og svær at opdage
En sprogmodel kan skrive noget, der lyder rigtigt, men er forkert. Det kaldes en hallucination. I et udkast til et opslag, som I alligevel læser igennem, betyder det lidt. I et tilbud med priser, en kontrakt eller et svar til en myndighed betyder det meget.
En tommelfingerregel: Kan I ikke selv vurdere, om svaret er rigtigt, skal AI ikke give det alene.
Når opgaven er en afgørelse om et menneske
Hvem der skal til samtale, hvem der får en advarsel, og hvem der får afslag på en klage, er afgørelser, som mennesker træffer og står på mål for. EU’s AI-forordning regner AI-systemer til rekruttering og ledelse af medarbejdere som højrisiko, og databeskyttelsesforordningen giver som udgangspunkt folk ret til ikke at være genstand for en afgørelse, der alene er truffet automatisk, når den påvirker dem betydeligt.
AI kan godt sortere og opsummere. Afgørelsen er jeres.
Når kunden forventer at tale med jer
En stamgæst, der ringer for at høre, om I kan finde plads til tolv på lørdag, vil have fat i et menneske. Det samme gælder klager, sygdom, dødsfald og alt andet, hvor tonen betyder mere end svartiden. Her kan AI hjælpe bag kulissen, for eksempel med at finde oplysninger frem. Svaret kommer fra jer.
Når opgaven er for lille
Skriver I tre tilbud om måneden, sparer en opsætning, der skal bygges, testes og holdes ved lige, ikke nok tid til at tjene sig hjem. En skabelon i Word kan være nok.
Tre spørgsmål, før I går i gang
- Hvad sker der, hvis resultatet er forkert, og hvem opdager det? Er svaret «ingen», er opgaven ikke klar til AI.
- Indgår der personoplysninger eller fortrolige oplysninger? Så er det reglerne om kundedata, I skal læse først.
- Ville kunden eller medarbejderen blive overrasket over, at AI var med? Overraskelse er et tegn på, at I skal fortælle det eller lade være.
Mulighederne
| Mulighed | Pris | Besvær | Passer, når |
|---|---|---|---|
| Lad være | 0 kr. | Intet | Opgaven er sjælden, følsom eller en del af det, kunderne kommer for. |
| AI skriver udkast, et menneske godkender | Det, I allerede betaler for, eller et abonnement pr. bruger | Lille: en fast vane med at læse igennem | Tekster, opsummeringer og idéer, hvor I selv kan vurdere resultatet. |
| Automatisér helt | Opsætning og løbende vedligehold | Stort: test, overvågning og en plan for fejl | Mange ens opgaver med lav risiko, for eksempel sortering af indkommende mails. |
Et eksempel
Et tænkt eksempel: En café med tolv ansatte overvejer at lade en AI-assistent svare på alle henvendelser. De deler henvendelserne i tre bunker. Spørgsmål om åbningstider og parkering kan en assistent svare på ud fra en fast tekst, som ejeren har skrevet. Forespørgsler om selskaber får et AI-skrevet udkast, som souschefen retter til og sender. Klager og alt om medarbejdere svarer ejeren selv på.
AI er med i to af de tre bunker, og caféen lyder stadig som sig selv, når det gælder.
Ofte stillede spørgsmål
Er det ulovligt at lade AI træffe afgørelser om medarbejdere?
Ikke i sig selv, men det er et af de områder, hvor reglerne er strengest. AI-forordningen regner systemer til rekruttering og personaleledelse som højrisiko, og databeskyttelsesforordningens artikel 22 begrænser afgørelser, der alene er truffet automatisk.
Kan vi stole på det, en AI-assistent skriver?
Som udkast, ja. Som facit, nej. Assistenterne kan skrive forkerte oplysninger i en sikker tone, så en person, der kender emnet, bør læse igennem, før noget bliver sendt.
Hvad hvis konkurrenterne bruger AI til det hele?
Så er den personlige kontakt netop det, I kan skille jer ud på. Brug AI der, hvor kunderne ikke mærker forskel, og jeres egen tid der, hvor de gør.
Hvor starter vi, hvis vi gerne vil prøve?
Med en opgave, der er hyppig, kedelig og let at kontrollere, for eksempel mødereferater eller første udkast til opslag.
Kilder
- Forordning (EU) 2024/1689 om kunstig intelligens (AI-forordningen), bilag III, punkt 4, EUR-Lex
- Forordning (EU) 2016/679 (databeskyttelsesforordningen), artikel 22, EUR-Lex
Siden er vejledning og ikke juridisk rådgivning. Love, regler og myndighedernes vejledning ændrer sig, så tjek selv, at det, I gør, følger de gældende regler. Siden kan ikke erstatte svar fra en advokat eller jurist.