Mittlerweile finden sich in allerlei Mikrocontrollern NPUs, aber wenn man genauere, tiefer gehende technische Information will, wird's schwierig.
Weiß jemand, wo man die Spezifikation der NPU von den STM-Prozessoren findet, z.B. vom STM32MP255A ?
Weiß jemand, wo man die Spezifikation der NPU von den STM-Prozessoren findet, z.B. vom STM32MP255A ?
NPU nur gegen NDA. SCNR
NPU nur gegen NDA. SCNR
Ärgerlich .. als wenn es etwas nützen würde. Die konkurrierenden MCU-Hersteller werden wohl eher leicht an die Information kommen. Da reicht eine undichte Stelle.
Gibt es irgendwo Informationen zur ESP32 AI Beschleunigung?:
The ESP32-P4 is powered by a dual-core RISC-V CPU featuring AI instruction extension
NPU nur gegen NDA. SCNR
Ärgerlich .. als wenn es etwas nützen würde. Die konkurrierenden MCU-Hersteller werden wohl eher leicht an die Information kommen. Da reicht eine undichte Stelle.
Ganz leicht ist es für Firmen mit kommerziellen Absichten als Business-Partner zu kommen. Den Hinweis aufs NDA kann man auch so verstehen, das das nix für gering ambitionierte "Bastler" ist.
prinzipielle Infos zu optimalen Programmierung eines neuronalen Netzes mittels Nutzung von DSP-Strukturen gibt es zuhauf. Man braucht halt nur Wissen zu Datentypen und Rechengeschwindigkeiten einiger Operationen.
Da hab ich mal schnell was gegoogelt: https://wiki.stmicroelectronics.cn / stm32mpu/wiki/STM32MP2_NPU_description
(spaces in URL entfernen)
https://medium.com/@abhishek.nandy81/getting-started-with-intel-npu-8cab1603f727 https://www.elektronikpraxis.de/architekturanforderungen-fuer-mikrocontroller-in-der-ki-arae-a-0d6eadc8b76a920596e9dc12aa9965c1/
Den Hinweis aufs NDA kann man auch so verstehen, das das nix für gering ambitionierte "Bastler" ist.
Diese Aussage ist ziemlicher Käse, weil der formale Aufwand einer NDA für diese Absicht viel zu groß wäre.
prinzipielle Infos zu optimalen Programmierung eines neuronalen Netzes mittels Nutzung von DSP-Strukturen gibt es zuhauf.
Es geht hier nicht darum, wie man neuronale Netze programmiert, sondern um die konkrete Ausführung der Hardware. Mich interessieren da die schnelle Echtzeitkorrelation großer Datenmengen in möglichst in FP32. Die kleinen Integer-Datentypen für die normalerweise die exorbitanten Rechenleistungen in TOPS der NPUs oder TPUs angeben sind, interessieren mich weniger.
Diese Aussage ist ziemlicher Käse, weil der formale Aufwand einer NDA für diese Absicht viel zu groß wäre.
Wie kommst Du darauf? Wenn man den Liefervertrag aushandelt, also Abnahmemengen, Staffelpreise, Produktivität, Langzeitverfügbarkeit und Gewährleistungsansprüche, dann ist das NDA nur ein weiteres Blatt Papier zum Unterschreiben. Der Mehraufwand geht im Rauschen unter.
Der Bastler, der seine fünf Einzelstücke beim Distributor oder gar in China bei Ali/Ebay/Reichelt kauft, ist damit aber außen vor.
Dass Datenblätter im Internet kostenlos für jedermann verfügbar sind, ist auch eine Errungenschaft der Neuzeit. Früher waren das gedruckte Bücher, an die man privat gar nicht oder nur gegen teueres Geld kam.
Moin,
Früher waren das gedruckte Bücher, an die man privat gar nicht oder nur gegen teueres Geld kam.
Ja, frueher. Frueher bin ich auch jeden Tag 17km in die Schule gelaufen. Bei Wind und Wetter. Mit kurzen Hosen. Barfuss. Und damals lag Schnee noch bis in den August. Und den kleinen Bruder hatte ich auch immer auf dem Ruecken. Wenn ich mein Pausenbrot vergessen hatte, dann gings halt nochmal zurueck. So war das frueher....
scnr, WK
PS & on topic: Ja, mich wuerden auch mehr Details zu NPUs interessieren, z.b. auch was es da jeweils fuer Tools gibt und unter welchen OS die dann laufen...
Mich interessieren da die schnelle Echtzeitkorrelation großer Datenmengen in möglichst in FP32. Die kleinen Integer-Datentypen für die normalerweise die exorbitanten Rechenleistungen in TOPS der NPUs oder TPUs angeben sind, interessieren mich weniger.
OK, das ist eine nicht unwichtige Detail-Information bzgl der eigentlichen Bedürfnisse. Spätestens seit 2023 wird man auf Messen von Vorträgen zum Thema AI und Mikrocontroller bombardiert, das Stichwort für diese AI ausserhalb von Rechenzentren ist gern "AI on the edge". Da geht es hauptsächlich darüber wie ein kleiner µC mit wenig Speicher die Interferenz in Echtzeit hinbekommt ohne seinen Akku leerzulutschen. Die daten dazu kommen von internen sensoremn oder vom internen ADU und sind da selten breiter als 16 bit (wenn überhaupt).
Wenn Dich also hauptsichlich die MFOPS von 32bit interessieren, dann findet man solche Angaben eher bei den FPU, als den NPU's. IM ARM-Kosmos gibt es standardisierte FPU's, dazu könnte man tiefergehende Infos finden.
Neben Messe-Besuchen haben sich für die Informationsbeschaffung für mich Email/linked-Kontakte zu den FAE's bewährt. Oder auch Marketing-Representatives. Darunter fondet sich auch Fachleute und nicht nur Sales-Droiden.
- https://newsroom.st.com/media-center/press-item.html/p4665.html (wobei das wieder stark nach Sales-Droid klingt)
- https://www.qualcomm.com/content/dam/qcomm-martech/dm-assets/documents/Unlocking-on-device-generative-AI-with-an-NPU-and-heterogeneous-computing.pdf
- https://armkeil.blob.core.windows.net/developer/Files/pdf/datasheets/arm-ethos-u-processor-series-product-brief.pdf
Angehängte Dateien:
-
Local_AI.jpg
(170 KB)
NPU nur gegen NDA
Vielleicht gibt es ja hier im Forum jemand, der den NDA unterschrieben hat und die Doku bekommen. Er kann es ja einfach anonym veröffentlichen.
NPU nur gegen NDA
Vielleicht gibt es ja hier im Forum jemand, der den NDA unterschrieben hat und die Doku bekommen. Er kann es ja einfach anonym veröffentlichen.
Schätze dann hat nicht nur der Veröffentlicher sondern auch der Forumsbetreiber ein Problem.
Non-Disclosure heisst nun mal Nicht-Veröffentlichung resp. "Nicht-Weitergabe".
Was man unter Umständen angehen könnte, wäre die Veröffentlichung eines unkritischen Auszuges. In der Vergangenheit wurde auch gern angeboten, mal ein Anwendungs-Beispiel zu bearbeiten um vergleichende Messungen mit der bisherigen Lösung zu ermöglichen. Hier könnte man also dem FAE/Representative Lauffähigen Benchmark-code mit der Bitte, diesen mal zu compilieren/auf der NPU laufenzulassen, übergeben.
Im Universitären Bereich werden auch Evalboards verschenkt und Unterstützung angeboten.
Aber der hungrigen Meute ist dies auch nicht genug, siehe Aktuelles zur Linux-Unterstützung am ARM-M4:
"Ganz gleich, wie viel wir getan haben, wie viele unmögliche Dinge wir getan haben, die Menschen wollten immer mehr. Und mehr. "
https://www.heise.de/news/Asahi-Linux-Probleme-beim-Port-fuer-Apples-M4-10345622.html
Schätze dann hat nicht nur der Veröffentlicher sondern auch der Forumsbetreiber ein Problem.
Richtig. Er muss in dem Falle die Registrierungsdaten des Users herausrücken, sowie die IP's von dem seine Posts kamen. Die Person wäre dann auch beruflich erledigt.
Non-Disclosure heisst nun mal Nicht-Veröffentlichung resp. "Nicht-Weitergabe".
So ist es. Bereits die Nachfrage nach einer solchen Handlung kann je nach Schwerwiegendkeit analog zum Anfordern einer Bestechung (Bestechung als Nachfrage) strafrechtlich geahndet werden.
Vielleicht gibt es ja hier im Forum jemand, der den NDA unterschrieben hat und die Doku bekommen. Er kann es ja einfach anonym veröffentlichen.
- An NDAs haelt man sich. Eisernes Gesetz.
- Der "Diebstahl" wird schnell zurueckverfolgt, da solche Dokumente normalerweise eine Wassermarke besitzen.
- Der Schaden wird gerne mal um die 50-100k beziffert (Einzelpersonen, fuer Firmen deutlich mehr). Frei nach: Das wird teuer
Reverse-Engineering hingegen ist bei uns immer noch legal, Stichwort Fuzzing, und manchmal geben auch Patente einen guten Hinweis. Die Frage ist nur, ob man nicht seine Energie eher in der kreativen Ecke einsetzen sollte, das kann man dann auch veroeffentlichen.
Verkommt dieser Thread hier jetzt zu eine NDA-Diskussion nur weil's ein ChatBot eingeworfen hat?
Verkommt dieser Thread hier jetzt zu eine NDA-Diskussion nur weil's ein ChatBot eingeworfen hat?
Ich bin kein ChatBot, auch unter den anderen Disputanten ist kein "Bot" auszumachen. Hier wird versucht, eine Aufforderung zu "fragwürdigen Handlungen" zu verharmlosen.
Nicht fragwürdig wäre es, wenn der TO sich mal mit seinem Begehr nach Information an STM, Fachmedien o.ä. wenden würde. Und ein informatives Excerpt von der Rückantwort hier einstellt.
Bereits die Nachfrage nach einer solchen Handlung kann je nach Schwerwiegendkeit analog zum Anfordern einer Bestechung (Bestechung als Nachfrage) strafrechtlich geahndet werden.
OMG! Dann nenn doch mal den Paragraphen.
Hier wird versucht, eine Aufforderung zu "fragwürdigen Handlungen" zu verharmlosen.
Genau und dem wurde hier entgegen gewirkt, auch wenn das jedem nicht gefällt.
Dann nenn doch mal den Paragraphen.
Wen es interessiert kann eine Suchmaschine im Internet anwerfen oder unter Offtopic weiterdiskutieren.
Bradward B. (Firma: Starfleet) (ltjg_boimler)
Ich bin kein ChatBot, auch unter den anderen Disputanten ist kein "Bot" auszumachen.
Sagen alle ChatBots. Ich finde, sie müssten als solche gekennzeichnet werden.
Sagen alle ChatBots.
Klar doch, Du als lokaler babo hast da den totalen Durchblick ...
Ich finde, sie müssten als solche gekennzeichnet werden.
Da ein Chatbot i.d.R. die Rechenpower eines Rechenzentrums benötigt, sind Bots an ihrem "elektronischen Absender" erkennbar.
Was auch gekennzeichnet wird, ist der Bereich von dem Bots die Finger lassen sollen. Welche das in diesem Forum sind, kann man dort nachlesen: https://www.mikrocontroller.net/robots.txt
Aber du solltest endlich mal ne Email mit Deiner Frage an ST verschicken:
Oder deren Knowledge-Base abgrasen:
Für Rockchip gibt es Reverse Engineering Ansätze: https://jas-hacks.blogspot.com/2024/02/rk3588-reverse-engineering-rknn.html
Teilweise haben die Hersteller die IP auch nur zugekauft, z.B. NXP hat beim imx8MP einige Module von Vivante gekauft. Daher kann es gut sein, dass die selbst einem NDA unterliegen. Es gibt aber auch da Ansätze in Form der Etnaviv NPU Treiber: https://blog.tomeuvizoso.net/2024/
Ganz allgemein ist es aber so, dass man als kommerzieller Anwender da keine Informationen bekommt, weil man das nicht braucht um ein Netz auszuführen. Die Hersteller bieten normalerweise Tooling (z.B. Tensorflow) an, das auf ihre NPUs zugeschnitten ist. Da die dann meist ein Linux für ihre CPUs anbieten kann man schauen, ob man auf das Repository kommt und vielleicht aus Tensorflow und Konsorten irgendwelche Infos lesen kann.
Gibt es irgendwo Informationen zur ESP32 AI Beschleunigung?:
The ESP32-P4 is powered by a dual-core RISC-V CPU featuring AI instruction extension
16 8Bit Multiplikationen oder 8 16Bit Multiplikationen. https://developer.espressif.com/blog/2024/12/pie-introduction/
Ich denke, prinzipiell ist der Speicherdurchsatz bei den kleinen Systemen ein Problem. Die NPU des STM32N6 kann mit je 16GB/s lesend und schreibend (parallel) auf die internen RAMs zugreifen. Das ist ein stolzer Wert für einen Mikrocontroller. Diesen Aufwand wollen die meisten halt nicht treiben.
Antwort schreiben
Bitte melde dich an, um einen Beitrag zu schreiben.