Post #2412515
2026-04-21 04:01 UTC
4/6
Und dabei gilt: Wir wissen nicht, was die jeweilige KI wirklich tut. Wir wissen, wie sie erzeugt wurde. Wir können messen, wie gut sie funktioniert – innerhalb der Testparameter. Außerhalb der Trainingsdaten funktioniert sie theoretisch gar nicht.
Die Blackbox ist kein Merkmal von Vibe-Coding. Sie ist Industriestandard.
Replies (1)
-
@radiologe@chaos.social 2026-04-21 04:02
5/6 Was mich wirklich beschäftigt: Klassische Bugs crashen sichtbar. Eine Dosierungsberechnung, die 9 von 10 Mal stimmt – crasht nicht. Eine Ärzt*in, die ein Skript für sich selbst schreibt – relativ harmlos. Dasselbe Tool auf GitHub, 800 Sterne, 12 Kliniken – ohne dass sich das Risikoprofil verändert hat.