Post #4121197
2026-07-26 21:17 UTC
@jwalzer@infosec.exchange @0815@social.tchncs.de @isotopp@infosec.exchange
Faktenfehler zb bei Recherche, Wissen oder ähnlichen, bekommst du ganz gut in den Griff, indem du ihm bei bringst
A) dass es für alle Fakten auch die Quelle mit angeben soll
B) ihm erklärst dass es Ok ist etwas nicht zu wissen
C) ihm erklärst dass du lieber wissen willst wenn das llm etwas nicht weiß anstatt einer Halluzination
D) ihm einen anderen Ausweg bietest, zb durch Rückfragen
Replies (1)
-
@jwalzer@infosec.exchange 2026-07-26 21:21
@jwalzer@infosec.exchange @jwalzer@infosec.exchange @0815@social.tchncs.de @isotopp@infosec.exchange Halluzinationen wurden den frühen Modellen eintrainiert, weil man positive Antworten belohnt hat. Man hatte aber „weiß ich nicht“ keine Belohnung gegeben und damit genauso „negativ“ bewertet wie eine falsche Antwort. Dadurch haben die LLMs damals „gelernt“ dass das raten einer Antwort eine gewisse Chance gibt richtig zu liegen und damit eine höhere Belohnung zu bekommen als wenn sie etwas nicht wissen …