Post #1752900

2026-04-28 13:50 UTC

Kreditantrag abgelehnt. Sozialleistung nicht bewilligt. Dahinter steckt dann oft schon kein Mensch mehr, sondern ein Algorithmus, der keine Begründung schuldet und dem man nicht widersprechen kann. Wer KI-Systeme betreibt, muss erklären können, was sie tun. Wer das nicht kann, kann keine Verantwortung tragen. Unsere Forderung: institutionalisierte KI-Governance mit unabhängiger Aufsicht, verbindlichen Standards und echten Durchgriffsrechten. Alle Infos: 📄 https://d-64.org/grundwerte-ki-2-0

Replies (4)

@chpietsch@fedifreu.de 2026-04-28 15:39

@D64eV@d-64.social Keine Verantwortung zu tragen, ist ja das Ziel.

Open ##2423495
@herdsoft@gruene.social 2026-04-28 16:01

@D64eV@d-64.social Genau vor dieser Entwicklung hat 2016 die Mathematikerin Cathy O'Neil mit ihrem Buch "Weapons of Math Destruction" gewarnt. Sehr lesenswert. https://www.genialokal.de/Produkt/Cathy-ONeil/Weapons-of-Math-Destruction_lid_30429029.html?storeID=melibok

Open ##2423496
@chpietsch@fedifreu.de 2026-04-28 16:22

@D64eV@d-64.social Über Kreditkartenanträge entscheidet American Express schon seit den 1990er Jahren automatisch mit einem Machine-Learning-Modell, also »KI«. Das habe ich 1996 oder 1997 in der Vorlesung Artificial Intelligence 2 an der University of Edinburgh von Henry S. Thompson gelernt. Leider habe ich vergessen, ob das ein erklärbares ML-Modell war, also »XAI« oder eine Black box. Es gibt sicherlich Publikationen darüber, aber ich kann sie gerade nicht finden zwischen all dem Spam zum Thema.

Open ##2423497
@_RyekDarkener_@mastodon.social 2026-04-28 16:22

@D64eV@d-64.social Da Maschinen keine Entscheidungen treffen können: Ist das ungeprüfte Durchwinken einer automatisiert erstellten Analyse hier dann möglicherweise Körperverletzung? Falls ja, dann hoffe ich auf baldige klärende Gerichtsurteile zugunsten eines menschlichen Umgangs miteinander.

Open ##2423499