Post #2106395

2026-05-03 10:57 UTC

Um beim Bild des Artikels zu bleiben: Wenn ich etwa ` rm -rf /` als Skript aus dem Internet oder von einem Kollegen vorgeschlagen kopiere, dann ist das Ergebnis dasselbe, ich würde aber nicht auf die Idee kommen, dass ich da ein Alignment-Problem habe - ich habe schlicht das eigene Denken auf Kosten von Technical Debt geschont.

Replies (2)

@ftranschel@norden.social 2026-05-03 10:59

Wir werden es daher jetzt massenhaft erleben, dass Leute lernen müssen, dass viele kleine Erfolge und wenige große Misserfolge "im Mittel ganz okay" sind, aber in Bezug auf den gesellschaftlichen und technischen Fortschritt eine ziemlich Sackgasse darstellen. Deshalb lohnt es sich mitzunehmen, dass das Problem dem Konzept Sprachmodell inhärent ist - es geht nicht durch noch so viel Training (oder "!Alignment" weg, sondern liegt in der Konstruktion begründet.

Open ##2106396
@saxnot@chaos.social 2026-05-03 12:35

@ftranschel gut, dass du das Kind beim Namen nennst! Dumme Sachen unter Zuhilfenahme von LLM zu tun ist weiterhin das tun dummer Sachen und es gibt kein Feigenblatt hinter welchem man sich verstecken kann. Ein Computer kann niemals zur Verantwortung gezogen werden.

Open ##2106398