Post #2999987

Hab mir nen #AMD #Ryzen #AI Max+ 395 (was ein Name) geholt. 96GB Shared Memory. Unter Linux kann ich damit die open source version von #ChatGPT (gpt-oss:120b, 64GB daten) bei 30 token/s fahren. Das ist lokale AI auf ChatGPT-4 Niveau 😮 Ziemlich abgefahren. Chat Interface, Code editing, Suchanfragen, MCP server - alles in richtig brauchbarer Qualität.