Post #2106392
2026-05-03 10:51 UTC
Warum ist das wichtig, dass ich mich an einer scheinbaren Kleinigkeit abarbeite?
Beim KI-Hype sehen wir neben tatsächlich funktionierenden Dingen (die deswegen aber noch lange nicht wirtschaftlich oder nachhaltig sind!) vor allem Rauch und Spiegel.
Von Aligment zu reden übernimmt die implizite Annahme, dass es etwas zu "alignen" gäbe - dass der Agent selbst zurechnungsfähig und reflektionswillig sei.
Das ist aber nun einmal bei einem rein stochastischen System nicht gegeben.
Replies (1)
-
@ftranschel@norden.social 2026-05-03 10:53
Es ist Wasser auf die Mühlen derer, die der schwarzen Box Eigenschaften zuschreiben können, die a) schlicht nicht da sind und, viel wichtiger, b) ihnen dabei helfen, in die eine oder andere Richtung (Weltuntergang, Effektiver Altruismus, dies das) die scheinbaren Wundereigenschaften für ihre eigene Agenda nutzen.