NVIDIA KI Beschleuniger Architekturen

Allenfalls ist ein Nvidia oder AI Forum oder so passender fuer etwas Gossip.

Christoph M. schrieb:

Die Frage ist, wann kommt die für die Consumer-Karten

Wenn TSMC nicht mehr so stark überbucht ist, und die RAM-Preise wieder sinken.

Vorher macht das wenig Sinn für Nvidia.

Aktuelle Generation: ein Wafer mit 30 KI-Beschleunigern kostet dasselbe wie einer mit 70 Grafikchips (unter 20k $, 4N/4NP-Prozess, 300mm Wafer), aber einer bringt >20× soviel Gewinn.

Nvidia verkauft Grafikkarten nur noch zur Reste-Verwertung:

Chips mit Defekten kriegen einfach die betroffenen CUs deaktiviert und wandern in den Consumer-Grafikkarten-Markt.

So kriegt Nvidia den erstaunlich hohen Yield hin.

Und je besser TSMC den Prozess beherrscht, desto weniger Grafikkarten gibt es...

Christoph M. schrieb:

und sinken dann die Preise für die RTX50xx

Wenn die RTX60xx in Volumen am Markt sind (schätze frühestens Q3-4 2027), dann beginnen die Preise für die RTX50xx zu sinken. Aber vorher können die durchaus noch gewaltig steigen.

Blick in die Glaskugel: Im Dezember 2027 sinkt der Preis für eine RTX5090 von 9999€ auf 9949€, rechtzeitig für's Weihnachtgeschäft.

Bringt dir diese Vorhersage jetzt was?

Εrnst B. schrieb:

Blick in die Glaskugel: Im Dezember 2027 sinkt der Preis für eine RTX5090 von 9999€ auf 9949€, rechtzeitig für's Weihnachtgeschäft.

Der Preis für die RTX5090 ist wirklich extrem gestiegen:
https://www.reddit.com/r/KI_engineering_de/comments/1vp3z3i/extreme_preissteigerung_bei_graphikkarten/

Selbst die RTX5070 von denen ich gerne eine hätte, sind jetzt eigentlich zu teuer.

Εrnst B. schrieb:

Wenn die RTX60xx in Volumen am Markt sind (schätze frühestens Q3-4 2027), dann beginnen die Preise für die RTX50xx zu sinken. Aber vorher können die durchaus noch gewaltig steigen.

Mittlerweile habe ich mir das genauer angesehen, es gibt dieses Video dazu:
https://www.youtube.com/watch?v=e3PIvqig1MM
Wenn ich das richtig sehe, gehören da 6 Chips zusammen und da denke ich nicht, dass die 6 Chips auf eine Consumer-Karte packen.

Wenn ich das richtig sehe, gehören da 6 Chips zusammen und da denke ich nicht, dass die 6 Chips auf eine Consumer-Karte packen.

Hast du nicht. Nur 1 Chip davon ist die GPU mit HBM. Der Rest sind eine CPU und div. Datafabrics für Nvlink etc. Also haben 5 davon auf ner Grafikkarte nix zu suchen.

Christoph M. schrieb:

Selbst die RTX5070 von denen ich gerne eine hätte, sind jetzt eigentlich zu teuer.

Ich hab im Januar eine gebrauchte RTX 4090 gekauft und bin heil froh, dafür nur 1600 Euro bezahlt zu haben.

Martin S. schrieb:

Ich hab im Januar eine gebrauchte RTX 4090 gekauft und bin heil froh, dafür nur 1600 Euro bezahlt zu haben.

Da hast du Glück gehabt, die liegen jetzt bei 3400€ (24GB). Die RTX4090 haben aber kein NVFP4, wenn ich es richtig weiß.

Christoph M. schrieb:

Da hast du Glück gehabt, die liegen jetzt bei 3400€ (24GB). Die RTX4090 haben aber kein NVFP4, wenn ich es richtig weiß.

Ja, ich hab auch ein gutes Jahr danach gesucht, bis ich endlich ein wirklich glaubwürdiges Angebot gefunden habe.

Dass sie mit der RTX 5090 nicht mithalten kann, ist klar, aber für lokale KI-Anwendungen ist der Unterschied nicht so enorm groß, dass es unbedingt die 50ger sein müsste. Und da ich keine AAA Titel spiele, ist mir MFG auch ziemlich egal.

Aber zum Thema: Ich bin mir ziemlich sicher, dass wir bei dem ganzen Datacenter-Hype nicht darauf hoffen dürfen, dass die nächsten Jahre SSD, RAM oder GPU wieder zu normalen Preisen verfügbar sein werden.

Martin S. schrieb:

Aber zum Thema: Ich bin mir ziemlich sicher, dass wir bei dem ganzen Datacenter-Hype nicht darauf hoffen dürfen, dass die nächsten Jahre SSD, RAM oder GPU wieder zu normalen Preisen verfügbar sein werden.

Ich weiß nicht. Am Ende des Jahres sollen ja die Laptops mit den NVIDIA-GB10 Prozessoren heraus kommen, was ein Zeichen dafür ist, dass immer mehr KI-Anwendungen in die Konsumerhardware einziehen. Im Moment haben es die ganzen Speicherhersteller vermieden, ihre Produktionskapazitäten aufzustocken, weil es ja jederzeit passieren könnte, dass "die KI Blase" platzt. Wenn es sich aber abzeichnet, dass man dauerhaft mehr Speicher braucht, wird man auch mehr Fabriken bauen.