Post #2549317

2026-05-12 05:33 UTC

Passend dazu gerade in der Morgenlektüre gefunden: https://www.medpagetoday.com/practicemanagement/informationtechnology/121165 Das sind zwar noch relative kleine Zahlen, aber sowohl der Anstieg ist alarmierend, als auch der anekdotische Bericht, dass ein Autor es selbst nicht gemerkt hat, dass sein LLM ihm ne Fälschung untergejubelt hat. So viel Zusatzarbeit, weil es ja viel länger dauert, bis man einigermaßen sicher sein kann, dass es die zitierte Arbeit echt nicht gibt, als sie zu finden & kurz zu prüfen, ob sie korrekt zitiert ist. Uff.

Replies (4)

@lipow@norden.social 2026-05-12 07:09

Ich denke ja auch, dass ein nicht unerheblicher Teil dieser Sachen dadurch passiert, dass Leute LLMs als "Diskussionspartner" zur Prüfung ihrer eigenen Gedanken verwenden, wie in letzter Zeit immer wieder empfohlen wird, dafür seien die ja angeblich gut geeignet. Für mich ergibt das schon intrinsisch keinen Sinn, aber offenbar wirkt es für etliche plausibel. Ich bekam diesen Tipp auch gerade wieder in einem ansonsten wirklich guten Webinar. Wollte die präsentierende Person dazu anschreiben, >

Open ##2549318
@synRRg@social.cologne 2026-05-12 06:00

@lipow@norden.social und das wird am Ende auch wirklich reale Opfer kosten, wenn auf Basis der fabulierten Aussagen mit fabulierten Referenzen reale medizinische Entscheidungen falsch getroffen werden.

Open ##2549331
@CerstinMahlow@mastodon.acm.org 2026-05-12 09:24

@lipow@norden.social Das geht ja aber auch nur, wenn man ohne Literaturverwaltung arbeitet, oder? Zum etwas dort reinbringen, muss ich es ja suchmaschinieren und dann auf den Zotero-Knopf drücken bzw. den DOI in Zotero eingeben zum Auflösen. In beiden Fällen fallen doch nichtexistente Papers auf?

Open ##2549346
@theVedek@chaos.social 2026-05-12 14:56

@lipow@norden.social ich sag den Leuten immer: glaubt den Quellen nicht! Checkt jede einzelne angegebene Quelle! In meinem Fall sind es öfter E-Techniker, die meinen daß sie von den Chatprogrammen vernünftige Antworten bekommen. Und ziemlich oft sind Quellenangaben dabei mit nicht zutreffenden Quellen (also anderer Anwendungsbereich), oder welche die es eigentlich gar nicht gibt.

Open ##2549354