Post #949557
2026-02-28 18:12 UTC
Ich schreibe gerade an einem Research-Paper-RAG für Textgenerierung mit Quellenangaben und habe vier Agenten: einen der die Papers raussucht, einen der die Frage beantwortet, einen der kontrolliert ob die Frage zum Text passt und einen der Latex draus macht. Welche Modelle würdet Ihr empfehlen um möglichst kostensparend aber trotzdem effektiv zu sein? Zum Beispiel Qwen sucht raus, Claude oder Mixtral schreibt die Texte und Qwen kontrolliert und macht Latex oder so?
#rag
Replies (2)
-
@chpollin@fedihum.org 2026-02-28 19:14
@rnsrk@fedihum.org Brauchst du wirklich ein rag? Ich destilliere die Papers in sehr kompaktes Markdown. Dann kann ich das als Ganzes ins Context-Window geben. Mit Docling erstelle ich aus PDFs Markdown und komprimiere es dann mit Haiku in Iterationen. Daraus baue ich einen Obsidian Vault, auf den ich über Claude Code zugreife.
-
@yerodin@mastodontech.de 2026-02-28 21:55
@rnsrk@fedihum.org Magistral für die Argumentationskette und Devstral für XeLaTeX. Beides lokal machbar.