Post #4132458
2026-07-27 08:21 UTC
@isotopp@infosec.exchange
"Halluzinationen" – also Abweichungen zwischen dem, was man erwartet und was das Modell produziert
Das ist m.M.n. ein Definitionsfehler. "Halluzinationen" ist all das, was ein Sprachmodell ohne Zusammenhang zur Realität (oder zumindest einem Modell der Realität), quasi im Vakuum, produziert (fabuliert?). Das kann dann im Ergebnis zufällig richtig sein (also mit der Realität übereinstimmen), aber der Prozess war trotzdem halluzinatorisch.
Replies (1)
-
@isotopp@infosec.exchange 2026-07-27 08:27
@barubary@infosec.exchange Das mag sein, ist aber in diesem Prozeß hinter den TDD RED-GREEN Gates gefangen, gelangt also nur dann in den Code, wenn die User Story oder die Tests Quatsch sind. Darum der Hinweis, daß diese besondere Aufmerksamkeit brauchen.