Interesting: i gave claude and Qwen 3.5 9B the same problem to solve do a small home assistant automation. Qwen was running on my 5.5 year old Laptop (8 core Ryzen, 32gig Ram no useable GPU(at least i think so)) claude was done in 20sec, my Laptop needed 240sec but the endresult was nearly identical and correct. Also the annotations were nearly identical. Okay it is slow but better use my green power here than using claude which site in some coal powered AWS etc datacenter
#ai #janai #qwen3.5
#janai
2 posts · Last used Aug 29
🤖 Jan: Alternativa Open Source la ChatGPT care rulează 100% local pe calculatorul tău!
Dacă îți dorești un asistent AI complet privat, fără abonamente cloud și care funcționează complet offline pe desktop, Jan este una dintre cele mai atractive soluții din universul open source.
✨ Principalele caracteristici:
🔒 Confidențialitate absolută:
• Toate datele, istoricul și modelele descărcate rămân 100% pe calculatorul tău. Nu se trimit date către servere externe.
🧠 Flexibilitate în alegerea modelelor:
• Descărcare directă din Hugging Face pentru LLM-uri populare (Llama, Gemma, Qwen etc.).
• Posibilitate de a conecta opțional furnizori cloud (OpenAI, Anthropic, Mistral, Groq) dacă ai nevoie de modele mari.
⚙️ Facilități tehnice și integrare:
• Server API local compatibil cu OpenAI (disponibil la localhost:1337) pentru integrarea cu alte unelte sau aplicații.
• Suport pentru MCP (Model Context Protocol) pentru capabilități de tip agent AI.
• Suport cross-platform (Linux, Windows, macOS) cu accelerare hardware pe GPU-uri NVIDIA, AMD, Intel Arc și cipuri Apple Silicon.
📦 Disponibil pe Linux:
Instalare simplă prin Flatpak (Flathub), AppImage sau pachete .deb.
#JanAI #OpenSource #LocalAI #Privacy #LLM #Linux #AI #ChatGPTAlternative #TechNews
You've seen all posts