-
Thread
Erfahrungen mit AI-Coding
verwenden, mit welcher Erwartungshaltung? Es wird ja von der Grafikkarte abhängen. Wie wäre es mit GTX5060?
Investoren oder Business Angels... Mittlerweite laufen 3 KI lokal auf meinem PC, mit Ollama und auch LM Studio, Ollama bringt mir die Übersetzungen für VS Code (hab mit Claude ein Plugin geschrieben für die Übersetzungen) "translategemma" ist das LLM und in LM Studio eine Coding-KI "qwen3-14b-finetuned-coding
-
Thread
KI Hardware Anforderungen
Installation ist. Software ist wohl das Hauptproblem ja... Für LLMs kann man "Lemonade AI" oder FastFlowLM nehmen, aber die Auswahl der fertig quantifizierten Modelle ist gering. Zum selbst Quantifizieren braucht man wieder eine Nvidia GPU 😁
Hier die ersten Versuche mit der RTX5060. Obwohl die Graphikkarte 145Watt verbraten könnte, werden doch wohl nur 58W gebraucht. Quen3.5:9B läuft wohl auf meiner 8GB Karte. Die CPU wird wohl auch noch zu 30% gebraucht. [code] docker