NPUs in Embedded Systems

OP #5979985
Lesenswert?

Tag Leute,

ich wollte mal Fragen welche NPUs es so gibt und wo man sie kaufen kann.

Ich weiss ARM hat einen ML Processor entwickelt, aber ich sehe nirgendwo 
ein Preisschild daran, geschweige denn wie man ihn ansteuern kann.

Gibt es NPUs die man quasi als Modul mit einem Microcontroller ansteuern 
kann ?

Ich hoffe ihr könnt mir ein paar Links schicken, sodass ich weiter ins 
Thema komme.

Viele Grüße
Gast #5979987
Lesenswert?

OP #5980018
Lesenswert?

Hey Nils,
Ja Myriad X ist definitiv ein guter Hinweis !

Scheint ja ziemlich aktuell zu sein, und wenn ich das richtig sehe kann 
man mit dem Neural Compute Stick schön damit rumspielen.

- Ansteuerung über USB mit Raspberry Pis, Windows, Linux und allem was 
sonst noch USB Schnittstellen ansteuern kann
- Kompatibel mit Tensorflow und anderen Tools
- Kostenpunkt rund 70 Euro.

Sehr guter Hinweis. Danke

Was gibt es noch für alternativen ?

Am besten wären Alternativen die:
- ich einfach mit einem Raspberry Pi oder einem anderen Microcontrollen 
ansteuern kann
- die aktuell sind
- die am besten NN Modelle durch Tensorflow und Co unterstützen
Gast #5980235
Lesenswert?

Mw E. schrieb:
> Reden wir jetzt über
> Neural oder Numeric
> Processing Units?

Im Kern ist das dasselbe; die groß als 'Neural' he-hypten Prozessoren 
sind nichts weiter als (Numerik-)Coprozessoren die für die Berechnungen 
die in den Knoten der Neuronalen Netzwerke stattfinden, otptimiert sind. 
Und diese Berechnunegn sind eben auch nur Vektorprodukte.

Insofern wäre dem TO mit einer (zweckentfremdeten) GPU genauso geholfen.
https://en.wikipedia.org/wiki/Neural_Processing_Unit#Use_of_GPU
Gast #5980369
Lesenswert?

Syggie Synapse schrieb:
> Mw E. schrieb:
>> Reden wir jetzt über
>> Neural oder Numeric
>> Processing Units?
>
> Im Kern ist das dasselbe; die groß als 'Neural' he-hypten Prozessoren
> sind nichts weiter als (Numerik-)Coprozessoren die für die Berechnungen
> die in den Knoten der Neuronalen Netzwerke stattfinden, otptimiert sind.


Die Numerik-Koprozessoren verarbeiten die gängigen Interger- sowie 
ieee754-Float-Formate.
In den zur Zeit gängigen NNs sind aber andere Datentypen deutlich 
effizienter. Daher können "echte" KI-Beschleuniger auch diverse andere 
Datentypen verarbeiten.

> Und diese Berechnunegn sind eben auch nur Vektorprodukte.


Nö, Matrix- bzw. Tensorprodukte.


> Insofern wäre dem TO mit einer (zweckentfremdeten) GPU genauso geholfen.
> https://en.wikipedia.org/wiki/Neural_Processing_Unit#Use_of_GPU


Nein, damit wäre ihm nicht geholfen. Nicht umsonst hat Nvidia in ihre 
aktuellen GPUs spezielle Tensoreinheiten eingebaut. "Nur" GPU ist halt 
zu langsam/ineffizient in Bezug auf Energieverbrauch.

Antwort schreiben

Bitte melde dich an, um einen Beitrag zu schreiben.

oder

Mit Google-Account einloggen

Die Registrierung ist kostenlos und dauert nur eine Minute.

Jetzt registrieren