Post #4121128

2026-07-26 20:51 UTC

@isotopp@infosec.exchange Was ist mit Halluzinationen? Die werden bei LLM wohl nicht verschwinden. Sollen die durch Qualitätskontrolle und gezielte Filter eingedämmt und entfernt werden? Dann spielt die Musik im Harness-Engineering. Modellauswahl irgendwann egal. Die wohlformulierten Leitplanken machen den Unterschied ob ich einen Gegenwert für die Token bekomme.

Replies (2)

@jwalzer@infosec.exchange 2026-07-26 21:14

@0815@social.tchncs.de @isotopp@infosec.exchange Halluzinationen im Code bekommst du auf verschiedene Arten in den Griff: Auf niedrigster Ebene, syntaxfehler kann das llm optimalerweise durch compilerläufe oder linter selbst erkennen oder lösen. Semantische oder funktionale Fehler erkennt es selbst indem du ihm erklärst wie sinnvolle Tests und testszenarien auszusehen haben und das llm diese vorher zu bauen hat.

Open ##4121127
@oliverschwarz@indieweb.social 2026-07-26 20:55

@0815@social.tchncs.de @isotopp@infosec.exchange Aber ich gabe doch auch meine Halluzinationen als Entwickler in den Griff bekommen. Ich entwickle seit 40 Jahren und ich habe nie, nie, nie ein komplexeres Projekt einfach so ohne jegliche Fehler oder Fehleinschätzungen aus dem Handgelenk geschrieben. Und auch dafür habe ich mir Kontrollmethoden überlegt: Architekturreviews, Pair Programming, Code Reviews, Linting, irgendwie kommt am Ende was halbwegs Brauchbares raus. Das schaffen wir hier auch.

Open ##4131637