AIi min virksomhed

Hallucination

En hallucination er, når en AI-assistent skriver noget, der lyder rigtigt, men er forkert eller opdigtet, for eksempel en kilde, et tal eller et citat, der ikke findes.

Sidst opdateret

Det sker, fordi en sprogmodel beregner et sandsynligt svar og ikke slår det rigtige svar op. Når den mangler viden, skriver den ofte videre alligevel, i samme sikre tone.

Sådan mindsker I risikoen

  • Bed om kilder, og åbn dem. En kilde, der ikke kan åbnes, tæller ikke.
  • Kontrollér altid tal, navne, datoer, priser og henvisninger til regler.
  • Giv assistenten materialet selv, for eksempel jeres egen prisliste, og bed den holde sig til det.
  • Brug ikke AI alene til noget, I ikke selv kan vurdere.