#hermesagent Experiment auf meinem #macstudio (unfreiwillig aber zurecht) beendet.
Ich wollte den Agenten mit lokalen LLM (qwen3.6-35b-a3b) auf einer Ubuntu-VM aussetzen und mal schauen was passiert.
Dank meinem Mac mit 128GB hab ich dafür die beste Spielwiese. Mit UTM VM erstellt - LM Studio für das LLM.
Pro: Sehr schnell - unkompliziert Installation - Hermes macht guten Eindruck
Probleme: Das LLM hat sich immer wieder in Loops verrannt - an dem Parameter rumspielen hat auch nix geändert - immer wieder wilde Arbeitsweisen - denke das lag aber an dem begrenzt Horizont des LLM
Aber warum ich es beendet habe: In UTM hab ich nur eine VM gehabt - die hat sich irgendwann verdoppelt in dem Menü - und ich dachte wenn ich die eine lösche bei laufender Maschine kann ja nix schief gehen... Erste VM erfolgreich gelöscht - VM 2 runterfahren... Wollte den RAM anpassen - kam Fehlermeldung Datei nicht vorhanden 🤦
Nach kurzer analyse - ich hab die falsche VM gelöscht - dumm gelaufen
#linux #llm #apple #gevibeopt
0
0
2
Mike Watson 🇨🇦
@mamba@mstdn.ca
Senior Director, Integrated Systems & Tech for a national non profit 🇨🇦 Pragmatic skeptic of AI hype. Championing Integrated Stacks, Privacy and Data Ethics in the NFP sector. Occasional amateur photographer.
mstdn.ca
Tool calling quality is noisy in a way LLM text generation isn't. The difference between "works" and "explodes" is tiny, and traditional benchmarks miss it. We need tool-specific evaluation frameworks. It would almost immediately become one of the most sought-after metrics.
#AgenticAI #ToolCalling #LLM #MLevaluation #AIinfra #machineLearning #hermesAgent #openclaw #claudecode
1
0
0
You've seen all posts