Post by @floknowsai

Lokale KI einzurichten ist inzwischen deutlich einfacher geworden. Für den Einstieg würde ich LM Studio nehmen, weil du Modelle direkt in einer Oberfläche suchen, herunterladen und testen kannst. Ollama ist stärker, wenn du später mit Terminal, API oder Entwickler-Tools arbeiten willst. Jan ist eine gute Open-Source-Alternative, wenn du eine lokale ChatGPT-artige App nutzen willst. Wichtig ist vor allem die Modellwahl. Mit 8 GB RAM solltest du klein starten, zum Beispiel mit Qwen3.5 4B oder Gemma 4 E4B. Mit 16 GB RAM sind Gemma 4 12B oder Qwen3.5 9B deutlich realistischer. Achte bei LM Studio außerdem auf quantisierte Varianten. Dadurch braucht das Modell weniger Speicher, kann bei schwierigen Aufgaben aber etwas Qualität verlieren. #ki #localai #lmstudio #ollama #gemma4