Post #1916534
2026-05-03 10:49 UTC
RE: https://mastodon.social/@chrisstoecker/116509743252990972
Um das klar zu sagen: Alignment als Konzept wird auf (echt) intelligente Akteure angewendet, also in erster Linie die vielfach herbeigeredete "Superintelligenz".
GenAI, wie sie in ChatGPT et al. vorkommt, "alignen" zu wollen ist ungefähr so, als wolle man eine Mikrobe durch gut Zureden domestizieren wollen.
Der Artikel ist gut, aber die Erwähnung von Alignment übernimmt (leider!) das Narrativ der KI-Grifter.
Replies (2)
-
@ftranschel@norden.social 2026-05-03 10:51
Warum ist das wichtig, dass ich mich an einer scheinbaren Kleinigkeit abarbeite? Beim KI-Hype sehen wir neben tatsächlich funktionierenden Dingen (die deswegen aber noch lange nicht wirtschaftlich oder nachhaltig sind!) vor allem Rauch und Spiegel. Von Aligment zu reden übernimmt die implizite Annahme, dass es etwas zu "alignen" gäbe - dass der Agent selbst zurechnungsfähig und reflektionswillig sei. Das ist aber nun einmal bei einem rein stochastischen System nicht gegeben.
-
@saxnot@chaos.social 2026-05-03 12:33
@ftranschel das stimmt, Alignment und Agent und AI sind alles bestehende Fachbegriffe mit konkreter Bedeutung welche allesamt Älter sind als der aktuelle Hype