Core conceptSafety

Hallucinatie

Wanneer AI iets verzint en het als waar brengt. Het voorspelt vloeiende tekst, dus een fout antwoord klinkt soms even overtuigd als een juist.

Een zelfverzekerd antwoord kan toch fout zijn Een feitenvraag krijgt een vloeiend, zelfverzekerd antwoord dat verzonnen kan zijn en dus checken vraagt. ZELFVERZEKERD, MAAR MISSCHIEN FOUT Stel een feitenvraag Vloeiend, zelfverzekerd antwoord kan verzonnen zijn Vloeiend is niet waar. Controleer alles wat feitelijk is.

Een hallucinatie is wanneer AI iets onwaars met droge ogen beweert. Een large language model zoekt geen feiten op, het voorspelt vloeiende tekst. Dus kan het je een keurig, zelfverzekerd antwoord geven dat gewoon niet klopt: een verzonnen citaat, een cijfer uit de lucht, een bron die niet bestaat.

De oplossing is geen knop, maar een gewoonte: behandel AI als een snelle opsteller, niet als een orakel. Check alles wat een feit is, en zet web search aan voor actuele dingen, zodat Claude echte bronnen kan noemen.

Vaak verward met: Een gewone fout of een leugen. Het model liegt niet, het heeft gewoon geen idee dat het fout zit. Het voorspelt plausibele tekst in plaats van de waarheid na te gaan.

Zie het in een les: Hoe generatieve AI werkt

Verder lezen

Alle begrippen