|
Anzeige
|
NVIDIA KI Beschleuniger ArchitekturenEigentlich bringt NVIDIA so alle 2 Jahre eine neue Architektur für Rechenbeschleuniger heraus: :
Verschoben durch Admin
Allenfalls ist ein Nvidia oder AI Forum oder so passender fuer etwas Gossip.
Wenn TSMC nicht mehr so stark überbucht ist, und die RAM-Preise wieder sinken. Vorher macht das wenig Sinn für Nvidia. Aktuelle Generation: ein Wafer mit 30 KI-Beschleunigern kostet dasselbe wie einer mit 70 Grafikchips (unter 20k $, 4N/4NP-Prozess, 300mm Wafer), aber einer bringt >20× soviel Gewinn. Nvidia verkauft Grafikkarten nur noch zur Reste-Verwertung: Chips mit Defekten kriegen einfach die betroffenen CUs deaktiviert und wandern in den Consumer-Grafikkarten-Markt. So kriegt Nvidia den erstaunlich hohen Yield hin. Und je besser TSMC den Prozess beherrscht, desto weniger Grafikkarten gibt es...
Wenn die RTX60xx in Volumen am Markt sind (schätze frühestens Q3-4 2027), dann beginnen die Preise für die RTX50xx zu sinken. Aber vorher können die durchaus noch gewaltig steigen. Blick in die Glaskugel: Im Dezember 2027 sinkt der Preis für eine RTX5090 von 9999€ auf 9949€, rechtzeitig für's Weihnachtgeschäft. Bringt dir diese Vorhersage jetzt was?
Der Preis für die RTX5090 ist wirklich extrem gestiegen: Selbst die RTX5070 von denen ich gerne eine hätte, sind jetzt eigentlich zu teuer.
Mittlerweile habe ich mir das genauer angesehen, es gibt dieses Video dazu:
Hast du nicht. Nur 1 Chip davon ist die GPU mit HBM. Der Rest sind eine CPU und div. Datafabrics für Nvlink etc. Also haben 5 davon auf ner Grafikkarte nix zu suchen.
Ich hab im Januar eine gebrauchte RTX 4090 gekauft und bin heil froh, dafür nur 1600 Euro bezahlt zu haben.
Da hast du Glück gehabt, die liegen jetzt bei 3400€ (24GB). Die RTX4090 haben aber kein NVFP4, wenn ich es richtig weiß.
Ja, ich hab auch ein gutes Jahr danach gesucht, bis ich endlich ein wirklich glaubwürdiges Angebot gefunden habe. Dass sie mit der RTX 5090 nicht mithalten kann, ist klar, aber für lokale KI-Anwendungen ist der Unterschied nicht so enorm groß, dass es unbedingt die 50ger sein müsste. Und da ich keine AAA Titel spiele, ist mir MFG auch ziemlich egal. Aber zum Thema: Ich bin mir ziemlich sicher, dass wir bei dem ganzen Datacenter-Hype nicht darauf hoffen dürfen, dass die nächsten Jahre SSD, RAM oder GPU wieder zu normalen Preisen verfügbar sein werden.
Ich weiß nicht. Am Ende des Jahres sollen ja die Laptops mit den NVIDIA-GB10 Prozessoren heraus kommen, was ein Zeichen dafür ist, dass immer mehr KI-Anwendungen in die Konsumerhardware einziehen. Im Moment haben es die ganzen Speicherhersteller vermieden, ihre Produktionskapazitäten aufzustocken, weil es ja jederzeit passieren könnte, dass "die KI Blase" platzt. Wenn es sich aber abzeichnet, dass man dauerhaft mehr Speicher braucht, wird man auch mehr Fabriken bauen. Lokale KI wird aber nicht mehr als eine nette Spielerei bleiben, weil brauchbare KI-Modelle einfach sehr viel großen Speicher brauchen. Nimm doch nur mal GPT-OSS-120b. Das braucht ca. 80GB RAM. Wer soll das bezahlen wollen? Es ist für die Videospiel-Branche bestimmt hart, einige Jahre mit der Hardware auszukommen, die bereits in den Wohnzimmern steht.
Die großen Modelle sind und werden sicherlich besser sein. Allerdings auch teurer und weniger privat.
Die Preise sinken sobald der ganze KI Hype zusammenbricht und die grossen Rechnenzentren zumachen weil alle nur lokal rechnen wollen. Bild dir eine Meinung wann das passiert. :-D Ich rechne in 1-2 Jahren damit.... Hilfreich ist es aber IMHO von Nvidia die Finger zu lassen und AMD zu kaufen. Ich nutze z.B eine RX9060XT 16GB. (hat 400Euro gekostet) Warum? AMD ist vermutlich im Spielesektor nicht ganz so gut wie Nvidia, aber wir wollen ja nicht spielen, daher preiswerter. AMD hatte bisher den Ruf nicht gut wegen KI/Treiber usw zu sein. Aber das hat sich in den letzten sechs Monaten geaendert. Meine Karte faehrt zwar beim denken auch ihre Luefter hoch, aber noch in einem bescheidenen Rahmen. Wer ernsthaft KI nutzen will der wird ueber kurz oder lang vermutlich einen Server in der Ecke/Keller haben und auf Servern laeuft sowieso Linux und da ist die Unterstuetzung VIEL besser und schmerzfreier wie bei Nvidia. Noch was zur Geschwindigkeit. Man will gerne moeglichst viel VRAM haben wegen groesseren Modellen die dann intelligenter sind. Ich schaetze mal so bei 64GB wird der Sweetspot liegen. Man braucht aber nicht unbedingt fuer privat eine schnellere Grafikkarte solange man nur 1-2 Nutzer auf dem System hat. Das ist natuerlich anders wenn man eine ganze Firma versorgen will! Vanye
Hier ist der graphische Vergleich der AMD-Karten: Zur Speicherbandbreite einer R9700 zu RTX5090: "Die Nvidia GeForce RTX 5090 bietet eine Speicherbandbreite von 1.792 GB/s, während die AMD Radeon AI Pro R9700 (z. B. von PowerColor oder Sapphire) bei ca. 640 bis 645 GB/s liegt" :
Bearbeitet durch User
Antwort schreibenBitte melde dich an, um einen Beitrag zu schreiben. |
Anzeige
|
