Elektrine
Log in Register

#llamacpp

4 posts · Last used 7d

Back to Timeline
pmj
𝗣𝗠𝗝 ⚫ @pmj@social.pmj.rocks · Aug 06, 2026
fazit nach ner woche #programmieren mit #opencode und #qwen3.6 27b über #llamacpp : macht richtig spass! 😎 man muss das teil zwar eng an der hand nehmen und muss gucken dass man immer nur ganz kleine dinge in auftrag gibt, aber wenn man sich mal darauf eingestellt hat, dann ists tatsächlich - und immer noch bisschen unglaublicherweise - produktiv nutzbar auf consumer hardware im eigenen #homelab - crazy
0
2
1
thbley
Thomas @thbley@phpc.social · Jul 06, 2026
New week, new slides: Run LLMs Locally Added OpenAI's Privacy-Filter model using privacy-filter.cpp. New slides about economics and hardware used by the Hugging Face community. https://codeberg.org/thbley/talks/raw/branch/main/Run_LLMs_Locally_2026_ThomasBley.pdf #ai #llm #llamacpp #wllama #stablediffusion #qwen #localai #gemma4 #webgpu #opencode #huggingface #privacy #digitalsovereignty
0
0
0
thbley
Thomas @thbley@phpc.social · Apr 03, 2026
New update for the slides of my talk "Run LLMs Locally": WebGPU Now models can run completely inside the browser using Transformer.js, Vulkan and WebGPU (slower than llama.cpp, but already usable). https://codeberg.org/thbley/talks/raw/branch/main/Run_LLMs_Locally_2026_ThomasBley.pdf #ai #llm #llamacpp #stablediffusion #gptoss #qwen3 #glm #localai #webgpu
2
0
0

You've seen all posts