Det sker, fordi en sprogmodel beregner et sandsynligt svar og ikke slår det rigtige svar op. Når den mangler viden, skriver den ofte videre alligevel, i samme sikre tone.
Sådan mindsker I risikoen
- Bed om kilder, og åbn dem. En kilde, der ikke kan åbnes, tæller ikke.
- Kontrollér altid tal, navne, datoer, priser og henvisninger til regler.
- Giv assistenten materialet selv, for eksempel jeres egen prisliste, og bed den holde sig til det.
- Brug ikke AI alene til noget, I ikke selv kan vurdere.