2026-09-15 07:07 UTC
Replies (1)
-
@isotopp@infosec.exchange 2026-09-15 08:26
@phoerious@mastodon.social LLMs sind das Produkt des Lesens aller jemals schriftlich produzierten Werke der Menschheit und des daraus entstehenden "Weltbildes" (Bild im Sinne des Wertbereiches einer mathemathischen Abbildungsfunktion). Das ist erstaunlich akkurat und erstaunlich fehlerbehaftet bei Sachen, die uns physischen Wesen vollkommen klar sind, weil wir die Konsequenzen von Fehlern physisch erlebt haben. LLMs produzieren schriftliche Werke, die im Bildbereich der Funktion liegen, und die sind korrekt genug, wenn man Konsequenzen einführt. Du kannst ein LLM ohne Probleme Code mit TDD generieren lassen und der Code ist, wenn er nicht zu exotisch ist, korrekt genug und sieht gut lesbar ist. Die Konsequenzen (das TDD Test Gate) filtern die Fehlversuche aus, so wie Du Dir auch Deine handwerklichen Fehlversuche durch Daumenhauen ausgefiltert hast. Wenn es keine automatischen Konsequenzen gibt – kein TDD Test Gate oder keine korrekte Lösung zum Vergleichen – dann muß man eben manuell nachschleifen. Das kann eine Zeitersparnis sein oder auch nicht. Die Folge beim Coden mit LLMs ist, daß die eigene Arbeit der eines Product Owners oder eines Technical Program Managers gleicht und nicht der eines Developers/Codemonkeys. Probleme existieren nun als User Story oder Ticket und nicht als Syntaxfehler oder Treiberproblem. "Hack this!" ist ein super Testgate – entweder komm ich rein oder nicht, und das LLM kann da super drauf rum iterieren, solange man nur genügend Token drauf wirft.