Forum: PC Hard- und Software CUDA Grafikkarte bei Nichtbenutzung ohne Stromverbrauch


von Ste N. (steno)


Lesenswert?

Mal ne ganz dumme Frage,
gibt es eine Möglichkeit eine Grafikkarte bei Nichtnutzung zu 
deaktivieren, so das sie im Prinzip wie ausgesteckt wirkt und keinen 
Strom mehr zieht?

Hintergrund ist folgender. Der PC ist für 99% meiner Anwendungsfälle 
auch ohne CUDA Unterstützung schnell genung. Es gibt aber 1-2 Programme 
wo ich CUDA gerne nutzen und mir dafür eine passende Karte einbauen 
möchte. Allerdings haben diese Teile leider auch gerne zusätzlich 
200-300W Stromverbrauch. Daher suche ich nach einer Schaltung, Trick die 
Karte ohne Ausbau in eine Art Standby mit möglichst 0W zu versetzen. 
Idealerweise ohne Eingriff ins Bios/EFI, sonder mit einem Schalter am 
Gehäuse. So könnte ich vor dem Einschalten des PC entscheiden ob ich mit 
oder ohne Gafikkarte booten will.
von Helmut -. (dc3yc)


Lesenswert?

Und wie ist deine Vorstellung, was die Grafikelektronik mit dem 
Prozessorbus macht, wenn sie keine Spannung erhält? Sie wird 
wahrscheinlich  über die Eingangsschutzdioden ein bisschen mit Strom 
versorgt und dann die Signale undefiniert verfälschen. Also ist das 
keine gute Idee!
von G. K. (zumsel)


Lesenswert?

von Ste N. (steno)


Lesenswert?

Helmut -. schrieb:
> Und wie ist deine Vorstellung, was die Grafikelektronik mit dem
> Prozessorbus macht, wenn sie keine Spannung erhält?

Ich weiß es eben nicht und genau deswegen frage ich ja hier. Könnte ja 
sein das es am Bus so ne Art CS Signal gibt, mit dem man die Karte 
deaktivieren kann.

G. K. schrieb:
> https://askubuntu.com/questions/4546/how-do-i-turn-off-pci-devices

Ja, sorry hatte ich vergessen zu erwähnen. Es handelt sich um einen 
Windows PC.

Nochmal zu meinem Anliegen. Die Karte wird wirklich nur für CUDA 
benutzt. Der Monitor hängt permanent an der prozessorinternen Grafik. 
Was benötigt so eine, z.B. RTX3080Ti im Leerlauf? Also wenn sie nicht 
benutzt wird bzw. im Bios deaktiviert ist. Und könnte man so eine im 
Bios deaktivierte Karte über eine Batchdatei nachträglich in Windows 
aktivieren?
von Rolf M. (rmagnus)


Lesenswert?

Ste N. schrieb:
> Allerdings haben diese Teile leider auch gerne zusätzlich
> 200-300W Stromverbrauch.

Na ganz so viel ist es nicht, wenn sie nicht dauerhaft unter Volllast 
ist. Im Idle-Betrieb wirst du eher so mit 15 bis 20 Watt rechnen müssen, 
ohne Monitor evtl. noch ein paar Watt weniger.
von Manuel H. (Firma: Universität Tartu) (xenos1984)


Lesenswert?

Der Stromverbrauch dürfte wohl eher auf den aktiven Betrieb der Karte 
zutreffen - unbelastet liegt der doch deutlich niedriger (wenn auch 
sicher höher als man sich wünschen würde). Jedenfalls bekomme ich solche 
Werte angezeigt (12W von 87W bei einer alten Quadro K4000 und 37W von 
250W bei einer A100):
1
+-----------------------------------------------------------------------------+
2
| NVIDIA-SMI 470.256.02   Driver Version: 470.256.02   CUDA Version: 11.4     |
3
|-------------------------------+----------------------+----------------------+
4
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
5
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
6
|                               |                      |               MIG M. |
7
|===============================+======================+======================|
8
|   0  Quadro K4000        Off  | 00000000:05:00.0  On |                  N/A |
9
| 30%   35C    P8    12W /  87W |      1MiB /  3010MiB |      0%      Default |
10
|                               |                      |                  N/A |
11
+-------------------------------+----------------------+----------------------+
1
+-----------------------------------------------------------------------------------------+
2
| NVIDIA-SMI 580.65.06              Driver Version: 580.65.06      CUDA Version: 13.0     |
3
+-----------------------------------------+------------------------+----------------------+
4
| GPU  Name                 Persistence-M | Bus-Id          Disp.A | Volatile Uncorr. ECC |
5
| Fan  Temp   Perf          Pwr:Usage/Cap |           Memory-Usage | GPU-Util  Compute M. |
6
|                                         |                        |               MIG M. |
7
|=========================================+========================+======================|
8
|   0  NVIDIA A100-PCIE-40GB          On  |   00000000:49:00.0 Off |                    0 |
9
| N/A   39C    P0             37W /  250W |       0MiB /  40960MiB |      0%      Default |
10
|                                         |                        |             Disabled |
11
+-----------------------------------------+------------------------+----------------------+
von Rbx (rcx)


Lesenswert?

Meine Güte, man kann sich auch einen extra Rechner zum Rechnen aufbauen. 
Da könnte man dann sogar zwei (oder noch mehr..) Grafikkarten 
reinstopfen.
In Linux geht Grafik-Teilung - also wenn z.B. die leistungshungrigen 3D 
Spiele anlaufen, dann wird das NB sehr viel lauter ;)
von Rolf M. (rmagnus)


Lesenswert?

Was dem gewünschten vielleicht noch am nächsten kommt: Es gibt externe 
Gehäuse für Grafikkarten, die per Thunderbolt angebunden sind. Die kann 
man einfach ausschalten.
von Rene K. (xdraconix)


Lesenswert?

Rolf M. schrieb:
> Was dem gewünschten vielleicht noch am nächsten kommt: Es gibt externe
> Gehäuse für Grafikkarten, die per Thunderbolt angebunden sind. Die kann
> man einfach ausschalten.

Nun, da wäre ich nicht dabei. eGPU ist zwar cool. Aber da sehe ich zwei 
Probleme:

Bandbreite: gerade bei Cuda Anwendungen limitiert TB schon sehr arg. TB4 
hat ~40Gbit/s Brutto, da kommen Netto nur so um die 30-35Gbit/s raus. 
PCIe bietet da schon 256Gbit/s, ich persönlich möchte darauf nicht 
verzichten wollen.

Verfügbarkeit: man braucht überhaupt erstmal ein MB mit Thunderbolt! So 
weit verbreitet sind die nämlich garnicht wie meinen meinen mag. Dazu 
kommt das man auf ein Intel System angewiesen ist. Auf AMD gibt es zwar 
die Möglichkeit mit USB4 auf Thunderbolt 3 zu bridgen, da laufen aber 
keine eGPUs sondern bloß simple Docks.

Naaaa... Das empfinde ich nicht als eine optimale Lösung. Somal man für 
die Mehrkosten eine 3080ti mit 15 Watt für gut 5 Jahre mitlaufen lassen 
kann und erspart sich den Stress mit "geht/geht nicht" und "Langsam".
von Stefan P. (form)


Lesenswert?

Wenn es eine Graka mit dem neuen (verhassten) 12VHPWR Stecker ist, 
kannst Du die Logik der Sense-Pins nutzen (Verbindung trennen), damit 
die Karte sich beim Hochfahren nicht initialisiert.
Das spart im Standby dann etwa 10-20 Watt.
von Udo K. (udok)


Lesenswert?

Zumindest Laptops schalten die NVIDIA GPU aus wenn sie nicht verwendet 
wird.  Die Grafik geht dann über die stromsparende CPU interne Grafik. 
In Windows kann ich in der Grafikverwaltung festlegen welche Programme 
die NVIDIA GPU verwenden sollen. Das sollte doch genauso auch beim 
Desktop gehen?
von Rene K. (xdraconix)


Lesenswert?

Udo K. schrieb:
> Zumindest Laptops schalten die NVIDIA GPU aus wenn sie nicht verwendet
> wird.

Nein, die wird nicht "ausgeschaltet", die läuft immernoch im Standby 
weiter. Muss sie ja auch.
von Udo K. (udok)


Lesenswert?

Rene K. schrieb:
> Nein, die wird nicht "ausgeschaltet", die läuft immernoch im Standby
> weiter. Muss sie ja auch.

Es läuft drauf raus, dass der Stromverbrauch zumindest bei den Laptop 
Karten vernachlässigbar ist.  Ich habe keine Zeit für i-Tüpferl reiten, 
ausschalten oder standby ist hier dasselbe.
von Rene K. (xdraconix)


Lesenswert?

Udo K. schrieb:
> Es läuft drauf raus, dass der Stromverbrauch zumindest bei den Laptop
> Karten vernachlässigbar ist.  Ich habe keine Zeit für i-Tüpferl reiten,
> ausschalten oder standby ist hier dasselbe.

Ja, ich weiß. So ist es aber halt auch gerade so wie es beim TO ist:

Grafikausgabe über iGPU und bei Bedarf Nutzung der dedizierten GPU. Wenn 
die dedizierte GPU gerade nicht für Berechnungen oder Grafikausgabe 
genutzt wird, geht auch diese (selbständig) in den Standby. Diese, im 
Gesamtsystem gesehene, geringe Stromaufnahme will er auf 0 senken.

Mit einem "Schalter" am Gehäuse jedenfalls wird dies nicht 
funktionieren. Da der Strom über PCIe und (entweder 12vhpwr, oder 2x8 
12V) extern zugeführt wird. Das aufsplitten der 12vhpwr Sense Leitung 
wird wahrscheinlich auch nicht glücklich machen, da manche Karten dann 
auf Störung schalten und aus Sicherheitsgründen die Lüfter Volllast 
laufen lassen. Bei einer 3080ti ist mir aber keine Karte mit 12vhpwr 
bekannt, in der 30er Reihe hat, imho, nur die 3080FE und die 3090 diesen 
Anschluss.
von Andreas M. (amesser)


Lesenswert?

Ste N. schrieb:
> Nochmal zu meinem Anliegen. Die Karte wird wirklich nur für CUDA
> benutzt. Der Monitor hängt permanent an der prozessorinternen Grafik.
> Was benötigt so eine, z.B. RTX3080Ti im Leerlauf?

Ähm? Bitte? Wenn ich mir schon eine anständige Grafikkarte hole, dann 
kommt da auch der Monitor dran. Unter den Grundverbrauch kommst eh nicht 
und ein bisl Desktop-Anzeigen macht da keinen Unterschied. Der Prozessor 
hingegen wirds Dir Danken, die interne Graka braucht nen ordentlichen 
Anteil dessen Speicherbandbreite.

Und dann auf jeden Fall eine aktuelle. 3080Ti ist steinalt und 
stromhungrig. Wenn Du nur ein bisl mit CUDA rumspielen willst reicht ne 
5050 oder 5060, Die sind schon wesentlich genügsamer. (Wenn auch nicht 
ganz so performant)
von Rene K. (xdraconix)


Lesenswert?

Zwischen einer 5060 (8GB) und 3090ti (24GB) liegen mal eben 16GB vRAM 
Unterschied - kommt halt auf die Art der Berechnungen an. ;-) Beim Rest 
gebe ich dir allerdings Recht.

Edit... Ahhh, ja es geht um eine 3080ti, die hat nur 12GB. My fault...
: Bearbeitet durch User
von Jim M. (turboj)


Lesenswert?

Einige Laptops haben die Möglichkeit den dicken Grafikchip bei 
Nichtbenutzung vom Strom zu trennen.

Im Desktop Bereich eher wenig sinnvoll: Erwartungswert des (Ruhe-) 
Verbrauchs der Karte ist zwischen 15 und 50W - also weniger als das 
Display selbst. Außerdem benötigt auch integrierte Grafik Strom.
von Christoph M. (mchris)


Angehängte Dateien:

Lesenswert?

Bei mir sind es im Leerlauf 7W (also jetzt beim surfen).
von G. K. (zumsel)


Lesenswert?

Rene K. schrieb:
> Rolf M. schrieb:
>> Was dem gewünschten vielleicht noch am nächsten kommt: Es gibt externe
>> Gehäuse für Grafikkarten, die per Thunderbolt angebunden sind. Die kann
>> man einfach ausschalten.
>
> Nun, da wäre ich nicht dabei. eGPU ist zwar cool. Aber da sehe ich zwei
> Probleme:
>
> Bandbreite: gerade bei Cuda Anwendungen limitiert TB schon sehr arg. TB4
> hat ~40Gbit/s Brutto, da kommen Netto nur so um die 30-35Gbit/s raus.
> PCIe bietet da schon 256Gbit/s, ich persönlich möchte darauf nicht
> verzichten wollen.

Gibt es auch mit PCIe5x16:

https://www.highpoint-tech.com/rocketstor-8631d-pcie-gen5-expansion-enclosure

https://www.highpoint-tech.com/post/unlocking-the-full-potential-of-your-external-gpu-highpoint-rocketstor-8000-series-egpu-enclosures
von G. K. (zumsel)


Lesenswert?

Helmut -. schrieb:
> Und wie ist deine Vorstellung, was die Grafikelektronik mit dem
> Prozessorbus macht, wenn sie keine Spannung erhält? Sie wird
> wahrscheinlich  über die Eingangsschutzdioden ein bisschen mit Strom
> versorgt und dann die Signale undefiniert verfälschen. Also ist das
> keine gute Idee!

PCIe ist P2P, und kein Bus.

"lspci -tv" zeigt dir die Topologie an.
von Ste N. (steno)


Lesenswert?

Vielen Dank erst mal an alle für den Input, kam ja einiges zusammen.

Mit euren Tips bin ich u.a. auf folgende Seite gestossen. 
https://www.techpowerup.com/review/asus-geforce-rtx-3080-ti-strix-lc-liquid-cooled/34.html

Dort kann man u.a. sehen das es im Idle gewaltige Unterschiede zwischen 
den einzelnen Serien und auch Generationen gibt. Die 3080 ist in der 
Beziehung wohl wirklich keine gute Wahl.

Auf dieser Seite gibt es auch einen älteren Vergleich einiger gängigen 
Grafikkarten in Sachen CUDA. 
https://www.aime.info/blog/de/de-deep-learning-gpu-benchmarks-2021/

Die Erkenntnis für mich, selbst eine einfache GTX1080 Ti ist über 1500% 
schneller als ein damals aktueller 32 Core Prozessor. Ich bin für mich 
deshalb zum dem Schluß gekommen das eine 3080Ti für mein Vorhaben völlig 
überdimensioniert ist. Ich werde auf eine Karte der 40xx oder 50xx Serie 
ausweichen welche im Idle so zwischen 6 und 10 W verbraten. Ob ich am 
Ende für die Bildbearbeitung 10 oder 20 sek warte ist egal. Immer noch 
besser als 3-5 min mit der CPU. Die CPU interne Grafik kann ich dann, 
wie ein Vorredner schieb, mit ruhigem Gewissen deaktivieren und die 
zusätzliche Speicherbandbreite für das Stapeln der Bilder nutzen.

Vielen Dank an alle, wieder was gelernt.
von Christoph M. (mchris)


Lesenswert?

Ste N. schrieb:
> Ich bin für mich
> deshalb zum dem Schluß gekommen das eine 3080Ti für mein Vorhaben völlig
> überdimensioniert ist.

Was ist dein Vorhaben?
von Ste N. (steno)


Lesenswert?

Christoph M. schrieb:
> Was ist dein Vorhaben?

Bildbearbeitung mit Pixinsight.
von Max (max_pudding)


Lesenswert?

Ste N. schrieb:
> Ich werde auf eine Karte der 40xx oder 50xx Serie
> ausweichen welche im Idle so zwischen 6 und 10 W verbraten.

Aber nochmal: Laut deinem Link braucht die 3080Ti 16W idle. Bei dir ohne 
Monitor vielleicht sogar noch weniger.

Sagen wir mal 10W weniger, das sind 24/7 keine 30€ im Jahr.
Ne 5050 kostet >250€. Das amortisiert sich also in 8 Jahren. Ok, stell 
die 3080 bei Ebay rein, dann ist der Downgrade kostenlos.

Guck doch erstmal mit GPU-z oder so, was die wirklich im Idle 
verbraucht.
von Ste N. (steno)


Lesenswert?

Max schrieb:
> Sagen wir mal 10W weniger, das sind 24/7 keine 30€ im Jahr.
> Ne 5050 kostet >250€. Das amortisiert sich also in 8 Jahren. Ok, stell
> die 3080 bei Ebay rein, dann ist der Downgrade kostenlos.
>
> Guck doch erstmal mit GPU-z oder so, was die wirklich im Idle
> verbraucht.

Das kam in meinen Posts vielleicht so so gut rüber, aber ich habe noch 
gar keine Grafikkarte. Die 3080 stand auf meiner Wunschliste nur wegen 
der vielen CUDA Kerne ganz oben.

Ich dachte ich mach mich mal vorher schlau, bevor ich einen Fehlkauf 
erlebe. Die Preise für Grafikkarten sind in den letzten Monaten leider 
extrem gestiegen da will eine Anschaffung gut überlegt sein.
von Max (max_pudding)


Lesenswert?

Ste N. schrieb:
> aber ich habe noch
> gar keine Grafikkarte

Ah ok.

Übrigens: Das hier ist nicht mehr aktuell ja?

> As of updating this document (December 2024), the current version 1.9.3 of
> PixInsight still doesn't make direct use of Graphics Processing Units (GPUs),
> [...] We are working on a first layer of CUDA-based GPU acceleration for the
> PixInsight platform, but the number and complexity of more urgent priorities
> prevent us from making any anticipation.
https://pixinsight.com/sysreq/index.html#Graphics_and_Video

Nicht dass du da was kaufst, was dir garnichts bringt...

edit Ok, scheint doch supported zu sein...
: Bearbeitet durch User
von Ste N. (steno)


Lesenswert?

Max schrieb:
> Nicht dass du da was kaufst, was dir garnichts bringt...

Pixinsight selbst nutzt CUDA nur sehr marginal, wenn überhaupt. 
Unterstützung ist aber für die Zukunft vorgesehen. Es gibt aber mächtige 
Plugins die massiv von den Grafikkarten beschleunigt werden. Da reden 
wir um Faktor 100 und mehr.
Bitte melde dich an um einen Beitrag zu schreiben. Anmeldung ist kostenlos und dauert nur eine Minute.
Bestehender Account
Schon ein Account bei Google/GoogleMail? Keine Anmeldung erforderlich!
Mit Google-Account einloggen
Noch kein Account? Hier anmelden.