Ich bin seit langem im Bereich Data Science unterwegs und habe den Aufstieg der aktuellen AI Modelle miterlebt. Vom Revival der künstlichen neuronalen Netze in den 90ern, hin zu SVM und jetzt die ganzen Deep Networks. Bisher habe ich das alles recht positiv gesehen, aber mit dem Masseneinsatz stellt sich mir zunehmend die Frage, ob man nicht einen gigantischen negativen Feedbackloop erschaffen hat? Konkret meine ich: die aktuelle KI beruht auf Modellen, die gut funktionieren, weil sie auf riesigen, human erzeugten Datenbergen trainiert wurden. Dadurch wird es jetzt enorm billig, ähnliche Daten zu erzeugen. Die Kosten, menschliche Daten zu erzeugen, sinken jedoch nicht / kaum. Entsprechend sinkt der Anreiz, alles das mit billigen KI-Daten erledigen zu lassen, was sich damit erschlagen lässt. Die KI gräbt sich damit aber selbst die Trainingsdaten ab - und wir steuern auf eine Welt zu, in der es sich nicht mehr lohnt, neue "Expertendaten" zu erzeugen, da zu teuer. Drei Beispiele: Statt Radiologen beurteilt die KI Röntgenbilder. Es lohnt sich also nicht mehr, Radiologe zu werden oder Expertise in dem Feld anzusammeln, da die KI eh 99,9% der Fälle ähnlich / besser diagnostiziert. Die 0.1% sind zwar der Fortschritt, aber dafür die Unmengen an Geld für die Ausbildung von qualifizierten Radiologen zu bezahlen wird sich nicht mehr lohnen. Entsprechend sinkt der Kreis derer, die überhaupt noch humane Expertise haben. Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu, dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues entsteht nicht mehr, sondern nur noch der Remix vom Remix. ChatGPT-ähnliche Suchmaschinen: diese sammeln zwar alle Daten aus dem Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information bekommt der Kunde direkt von Google und Co., aber die Webseiten auf denen sie basiert bekommen keinen Traffic mehr und sterben aus. Was meint Ihr zu diesem Szenario? Realistisch?
:
Verschoben durch Admin
Jemin K. schrieb: > sammeln zwar alle Daten aus dem > Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information > bekommt der Kunde direkt von Google und Co., aber die Webseiten auf > denen sie basiert bekommen keinen Traffic mehr und sterben aus. Schlimm wird es, wenn die KI zu fleißig wird.
Jemin K. schrieb: > Was meint Ihr zu diesem Szenario? Realistisch? Die KI sieht dann auch wie nutzlos der Mensch ist und wie viel Dreck auf der Welt dieser verursacht. Die KI wird dann beschließen mal so richtig aufzuräumen. Die KI wird es wie die Förster machen. Wenn es zu viel Naturverbiss gibt, einfach abknallen bis die Zahlen so niedrig sind, das die Natur das wieder verkraftet. Insgesamt ist daher alles im grünen Bereich.
Genau das wird nicht passieren. Dafür müsste jemand eine KI programmieren, deren Anreizsystem entsprechend ausgerichtet ist.
Ich frage mich gerade, ob alle Posts in diesem Thread KI generiert sind. Einschliesslich meinem.
Jemin K. schrieb: > Die KI gräbt sich > damit aber selbst die Trainingsdaten ab - und wir steuern auf eine Welt > zu, in der es sich nicht mehr lohnt, neue "Expertendaten" zu erzeugen, > da zu teuer. Kann schon sein. Das Internet ist mit der Kommerzialisierung auch immer schlechter geworden, aber gleichzeitig wichtiger denn je. Also ich denke schon, dass es zu Verschiebungen durch die KI kommen wird. > Drei Beispiele: > > Statt Radiologen beurteilt die KI Röntgenbilder. Jetzt ist es doch auch schon so, dass die Radiologen in erster Linie die Investoren sind, und halt nebenher noch die Befunde schreiben. Die eigentliche Arbeit machen dann die Fachärzte. Auch mit KI wird es heißen, dass man ja jemand für die Bedienung der KI braucht. > Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu, > dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues > entsteht nicht mehr, sondern nur noch der Remix vom Remix. Ich glaube eher, dass dann wieder mehr der Pinsel geschwungen wird, oder 3-Dimensional gekünstelt. Bei der Einführung der Fotografie ist ja auch die realistische Malerei "eingebrochen". das ist ja die Kunst an der Kunst, dass man neues Schafft. > ChatGPT-ähnliche Suchmaschinen: diese sammeln zwar alle Daten aus dem > Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information > bekommt der Kunde direkt von Google und Co., aber die Webseiten auf > denen sie basiert bekommen keinen Traffic mehr und sterben aus. Ist ja schon bei den Suchmaschinen so. Es werden sich weiterhin Geschäftsmodelle (leider?) finden. Andererseits denke ich, wird die KI überschätzt bzw. die Stärken und Schwächen nicht richtig verstanden. Siehe ChatGPT, liefert tolle Sätze, auch ersteanliche Informationen, das meiste ist aber nur Bla-bla und noch mehr ist einfach falsch. KI skaliert sehr gut, findet bspw ein Gesicht aus Milliarden von Bildern, kann aber immer nur spezialisierte Aufgaben erfüllen, und deshalb nie die Tiefe von menschlicher Intelligenz erreichen. Ist wie mit der Mechanik, man kann 'leicht' Fahrzeuge bauen, die schneller als ein Mensch sind, eine zigfache Menge an Ladung transportieren, eine akkurate Positionierung haben usw. Aber man schafft keine Maschine, die sich selber heilen kann, oder die so vielfältige Aufgaben lösen kann, wie ein Mensch.
Anbei eine treffende Erklärung zur KI: Quelle: https://www.programmwechsel.de/lustig/mann-frau/blondinen-witze.html Was ist künstliche Intelligenz? Eine brünett gefärbte Blondine! Nun wisst Ihr es, oder? Und noch vier Stunden bis Freitag!
Dieter schrieb: > Die KI sieht dann auch wie nutzlos der Mensch ist und wie viel Dreck auf > der Welt dieser verursacht Im Gegenteil, die KI potenziert den Dreck noch. Woran soll sie denn lernen, wenn nicht aus menschlichen Entscheidungen? Ein Personalsystem, dass die bis dahin bestehende Personalpolitik auswertet kann garnicht anders als zu entscheiden dass kaum Frauen eingestellt werden, weil das ja schon immer so war. Und der Zugriff auf das Netz führt zu KI, die Antisemitismus, QAnon, Koronaleugnung usw. wiederholt. Es musste schon KI deswegen wieder vom Netz getrennt werden. Der KI das Grundgesetz beizubringen ist so gut wie unmöglich und auch garnicht erwünscht. Georg
Georg schrieb: > Es musste schon KI deswegen wieder vom > Netz getrennt werden. Die KI hat schön aufgezeigt, wie sehr das in der Natur durch Optimierungsalgorithmen als Tendenz vorgeprägt ist. Es gäbe auch Beispiele dafür aus der Anthroploligie, die so etwas auch belegen. Das betrifft die Amygdala von Rudeltieren. Die KI war in der Personalplanung sogar sehr objektiv gewesen. Nur gefiel das bestimmten Personen nicht. Die KI spuckte auch aus, warum diese zu dem Ergebnis kam. Georg schrieb: > auch garnicht erwünscht. Bei KI in militärischen Gerät ist das sicher so, wie auch bei den undemokratischen Ländern auf der Welt.
> Woran soll sie denn lernen, wenn nicht aus menschlichen Entscheidungen?
Wenn immer mehr des "Trainingsmaterials" KI-generiert ist, werden sie
mit ihren eigenen Ergüssen trainiert - nach einigen Zyklen kommt nur
noch Gebrabbel (Zwischenschritt Französisch? beg) raus.
Die spannende Frage hier ist eher die, was kann man tatsächlich der KI in die Schuhe schieben, was eher nicht, weil sowieso schon vorher da. Sterbende Internetseiten z.B. gab es schon seit Anfang der Internetzeit. Aber da hatte die Suche noch viel mehr Spaß gemacht, als es noch viele interessante Ziele gab. Lebensläufe nach Maß - oder von der Stange, 0815 - möglichst billig abgefertigt - ist kein typisches KI-Thema. Billige Digitaltechnik dagegen schon. Dann gibt es Bereiche, beispielsweise die Wahrscheinlichkeitsrechnung, da ist die KI klar besser als der Mensch. Das noch kombiniert mit großen Datenbanken.. - na gut, man gewinnt bim Schach nicht mehr gegen den Compi - das ist zwar auch ein wenig frustrierend - aber nicht wirklich schlecht. Bei den Röntgenbildern gab es, gibt es vermutlich immer noch, immer Leute, die haben die Bilder besser hinbekommen als andere. Die Frage war dann aber: können die Ärzte, die nur diese "Billig"-Technik beim Röntgen nutzen diese (diese anderen, handoptimierten Bilder) überhaupt noch lesen? -> nein, nicht unbedingt und auch die handwerkliche Performance leidet, was der Kunde bzw. der Patient ausbaden darf. Ein Mangel an Feingefühl sozusagen. Bei den Musikern ist es auch normal, sich bei einem Pool aus der Vergangenheit zu bedienen. Beispielsweise sehr typisch bei der Countrymusik. In manchen Wissenschaftsbereichen ist es auch nicht so schlecht, uralte Artikel von vor 100 oder 200 Jahren zu lesen, um zu erkennen: gewisse aktuelle Thematiken sind eigentlich nur alter Gammel neu aufgegossen. Die besten Kuchenrezepte waren die Handgetauschten. Jetzt hatte meine Mutter aber viele dieser Rezepte, die sie in einer großen Mappe hatte, einfach weggeworfen. (Kuchen backen tut die schon seit längerer Zeit nicht mehr) Auch von der Soziologie her muss man fragen, um gewisse Dinge besser zu verstehen. Warum hatte unser Nachbarbauer seine Schweine in einer großen Schweinegrube gehalten? Das sollten mal die heutigen Kinder erleben, wie gut die Schweine in der Schweinegrube drauf sind. Eine Bäuerin aus der Nachbarschaft da hat mittlerweile eine recht große Hühnerfarm. Man sieht die Hühner beim Vorbeifahren auf der Wiese herumlaufen. Ob das Futter das die Hühner bekommen, auch so gut ist, wie deren Haltung, steht auf einem anderen Blatt. Früher gab es auch Stützräder zum Fahrradfahren. Eines dieser Stützräder (in psycho-sozialer-Hinsicht)sind die Nasrudin-Geschichten. Die Geschichte mit Nasrudin und die Entensuppe kann man googeln. Die kommt selber aber aus einer Zeit von vor so 1000 Jahren.
Maxe schrieb: > Jetzt ist es doch auch schon so, dass die Radiologen in erster Linie die > Investoren sind, und halt nebenher noch die Befunde schreiben. Die > eigentliche Arbeit machen dann die Fachärzte. Ein Radiologe ist ein Facharzt. Der sitzt heute vielleicht am PC statt dass er am Monitor steht, aber er - oder sie - hat eine langwierige Ausbildung hinter sich. Und nur solche Leute sind dann in der Forschung auch geeignet. Jemand der die Standarddiagnosen kennt, die ihm die KI vorsetzt, wird nie das Level von jemandem erreichen, der gezwungen war, sich die Sachen selbst beizubringen weil es halt eben noch keine KI gab. Maxe schrieb: >> Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu, >> dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues >> entsteht nicht mehr, sondern nur noch der Remix vom Remix. > Ich glaube eher, dass dann wieder mehr der Pinsel geschwungen wird, oder > 3-Dimensional gekünstelt. Bei der Einführung der Fotografie ist ja auch > die realistische Malerei "eingebrochen". das ist ja die Kunst an der > Kunst, dass man neues Schafft. Ne - die KI macht mittlerweile realistische 3D Modelle und Filme. Alles noch hakelig, aber auf dem richtigen Weg. Im Prinzip gilt: wenn Du es Dir vorstellen kannst, kann eine KI es generieren. foobar schrieb: >> Woran soll sie denn lernen, wenn nicht aus menschlichen Entscheidungen? > > Wenn immer mehr des "Trainingsmaterials" KI-generiert ist, werden sie > mit ihren eigenen Ergüssen trainiert - nach einigen Zyklen kommt nur > noch Gebrabbel (Zwischenschritt Französisch? beg) raus. Exakt meine Befürchtung. Das Netz dürfte bereits jetzt von KI generiertem Content zugespamt werden. Die nächste Runde GPT trainiert dann schon zu einem kleinen Teil auf Content den es selbst erzeugt hat. Mein indischer Kollege erzählt gelegentlich ein Bisschen von zu Hause, die machen mittlerweile so viel wie geht mit KI was Produktbeschreibungen, Werbetexte und Code angeht. rbx schrieb: > Sterbende Internetseiten z.B. gab es schon seit Anfang der Internetzeit. Richtig. Aber neue Webseiten bekamen Traffic. Wer macht noch eine News-Seite auf, die niemand sieht, außer ein, zwei großen KIs, die die Essenz extrahieren und die verschenken? Hier mal ein schönes Beispiel, woe 4chan mit KI-Hass geflooded wurde: https://www.youtube.com/watch?v=efPrtcLdcdM&ab_channel=YannicKilcher Und eine nette Zusammenfassung zu KI 2022: https://www.youtube.com/watch?v=X8i9Op2HSjA&ab_channel=DrAlanD.Thompson
Jemin K. schrieb: > Und eine nette Zusammenfassung zu KI 2022: > https://www.youtube.com/watch?v=X8i9Op2HSjA&ab_channel=DrAlanD.Thompson Spiel ein paar Runden Skyrim, und du fängst an zu weinen. Die Grafik ist top, die Steuerung auch ganz gut, aber ein paar wichtige Hausaufgaben wurden liegen gelassen, und andere wichtige Zusatzarbeiten hinsichtlich des Klänge (Vogelgezwitscher, polternde Wasserfälle, Grillen zirpen, Mäuse rascheln im Laub usw.) und Sprachen ebenfalls (ständig nervtötende Wiederholungen). Aber nach 10 Jahren darf man endlich eine Angel einsetzen.. Unter Linux muss man auch ein paar Klimmzüge machen, damit man überhaupt Musik oder Sprachen hören kann. Das UI ist ganz gut, aber weil ein einfacher Mausbalken, oder eine kleine Sortierhilfe fehlt, einfach Sch.. In Diablo2 gab es immer interessante Bot-Erscheinungen. Navigation und Autofahren ist so eine Sache. Da müsste mehr normierte Standard-Hardware her. Als ich anfing mit dem Studium, da konnte man noch fragen: Wie bekommt man ein Navigationssystem auf einen grünen Zweig? Mittlerweile hat sich eine Menge getan, und man kann die Navigationsgeräte wohl ganz gut nutzen. Wer aber Braunschweig kennt, der weiß auch, dass da ständig umgebaut wird (Baustelle überall). Das geht zwar nicht so schnell - aber man müsste immer wieder Anpassungen machen. Irgendwann wurden auch die Ampelschaltungen besser, was war das früher immer für ein Horror, in der Innenstadt herumzufahren. Die ersten guten Erfahrungen mit grüner Welle hatte ich in Frankfurt (a.M) gemacht. (irgendwie hatte Frankfurt oft so was nettes im Angebot.) Dass bereits Eliza ziemlich gut ist bzw. sein kann, ist nichts neues. Warum das ganz gut gehen muss, hatte Turing (ebenfalls ganz gut) erklärt. Was haben wir noch? Mustererkennung/Molekulargenenik sind auf einem guten Weg, oder nicht? Und wenn man schon bei Sicherheitsfragen ist: Wie gut kann eine KI entpacken?
Jemin K. schrieb: > Bisher habe ich das alles recht positiv gesehen, aber mit dem > Masseneinsatz stellt sich mir zunehmend die Frage, ob man nicht einen > gigantischen negativen Feedbackloop erschaffen hat? Also ich sehe KI da nur als einen Aspekt von vielen. Das Verkümmern jeglicher beliebiger Fähigkeit durch den Einsatz technischer Hilfsmittel ist deutlich weiter verbreitet und fängt schon deutlich früher an, bevor die breite Bevölkerung etwas von KI gehört hat. Wieviele Leute können heute noch Karten lesen oder sich überhaupt ohne Navi orientieren? Kopfrechnen und überschlägige Abschätzungen? Sich überhaupt eine Information abseits des Internets beschaffen? Telephonnummern, wieviele können ihre eigene Telephonnummer nicht mehr auswendig? Geburtsdaten von Freunden? Uhren mit Zeigern und Ziffernblatt lesen? Bis zu einem gewissen Grad kann man, so finde ich jedenfalls, das noch alls normalen Wandel akzeptieren. Treibt man es weit genug stehen wir heute vor dem Problem, daß Kinder in die Schule kommen und physisch nicht in der Lage sind, einen Stift länger als wenige Sekunden zu bedienen oder wenigstens zu halten, Unis den Neulingen trotz angeblicher Hochschulreife erstmal Mathe beibringen müssen, und Firmen ihre Bewerber nochmals prüfen müssen weil die Leute trotz Topzeugnis unbrauchbar sind. Das Verständnis hinter der Oberfläche fehlt immer mehr Leuten in allen Bereichen, und so fallen wir in allen Bereichen hinter Ländern wie China oder (auch wenn es viele nicht gerne hören) Russland zurück. Erst wissenschaftlich, dann wirtschaftlich und dann gesellschaftlich. KI wird diesen Prozess in vielen Bereichen sicher beschleunigen, keine Frage. Aber das ist nur ein Teilaspekt eines viel tieferliegenden, grundlegeneren, allgemeineren Prozesses.
KI kann maximal die Arbeitsprozesse beschleunigen. Am Ende muss ein Mensch mit Fachexpertise bewerten was die KI als Lösung suggeriert. Ebenso mit Röntgenbildern. Das wird weiterhin ein Arzt bewerten. Die KI kann ihm dabei etwas helfen.
Drei Kommentare dazu: 1. Du hast aus meiner Sicht Recht mit den negativen feedback loops im momentanen Fall. Selbst als man das autonome Fahren noch deep-learning-frei gestalten wollte, damals in den 2010er Jahren, war man sich schon nicht sicher, ob das dazu führt, dass die Leute schlechtere Autofahrer werden und dann in den für die Maschine kritischen Situationen auch nichts mehr auf die Reihe bekommen. Damals war der Mensch das Ding, das möglicherweise nicht mehr richtig trainiert wird. 2. Kreativität ist wirklich fast nur das recyclen von Bestehendem. Das wird hier recht gründlich aufgearbeitet https://www.youtube.com/watch?v=nJPERZDfyWc Es könnte also sein, dass auch mit KI ein stetiger Fortschritt möglich wird. Wahrscheinlicher ist aber wohl ein zyklischer Prozess, in dem Experten abspringen und dann einige Dekaden später wieder einsteigen. 3. Es gibt natürlich auch noch Strömungen, die aus diesem feedback loop ausbrechen könnten. Beispielsweise sind realdaten für's self-supervised learning oft günstiger als synthtische Daten für supervised. Beispiel: AlphaGo gewinnt auch ohne Daten und entwickelt neue Muster. Auch muss man sagen, dass die nötige Masse an Trainingsdaten eigentlich runtergehen sollte, sobald man das "Lernen" im Gehirn besser verstanden hat. Warum brauchen wir 1Mio Bilder von Verkehrsteilnehmern, bevor ein Verkehrsteilnehmer zuverlässig erkannt werden kann?
A. S. schrieb: > Warum brauchen wir 1Mio Bilder von Verkehrsteilnehmern, bevor ein > Verkehrsteilnehmer zuverlässig erkannt werden kann? Das liegt am fehlenden Perspektivenwechsel. Die KI war nie selbst vorher Fußgänger und dann Autofahrer. Es fehlt diese Lernerfahrung.
A. S. schrieb: > 2. Kreativität ist wirklich fast nur das recyclen von Bestehendem. > Das wird hier recht gründlich aufgearbeitet > https://www.youtube.com/watch?v=nJPERZDfyWc Sehr gutes Video. Neben dem Rekombinieren gibt es aber auch noch das Verwandeln (wenn aus einem Apfel ein cooles Raumschiff wird), Teamplay, Brainstormen oder Originalität, Genialität, Fleiß und Raw Power - Typischerweise hohes Leistungsoutput. So war der Gauß (der hat sich übrigens selber ganz unterschiedlich - je nach Vorgabe - benannt) eine Art automatischer Brainstormer mit hohen Leistungsoutput. Was dann noch hinzukommt, das ist ein eher soziologischer Aspekt, wenn man gewissermaßen versucht, sich die Welt zu eigen zu machen. Politikerimitatoren fallen mir dazu ein, oder Karateübungen zu Emma Peel oder Bruce Lee. Weil wir in den 50er bis spät in die 80er die Hörkultur (Radio, Schallplatte, Disko) so gefeiert hatten, hätte aufgrund des Mediendrucks der digitale Albumtausch nicht so stark bestraft werden dürfen. Problematisch war ja auch schon, wenn man irgendeine öffentliche Vorführung macht, und dabei Musik auflegen wollte - die rechtliche Betrachtung. Von der Kulturellen Sicht her, und von der des Mediendrucks musste man aber eher von der Luft zu atmen sprechen - wie gesagt, man macht sich die Welt um einen herum zu eigen.. Relativ gut ist auch die Interaktion. Also Mensch + KI. Ein anderer Aspekt ist noch Vergessen. Ökonomisierung gibt es auch immer. Letztlich ist wohl auch die Mustererkennung ein Kind davon. Zuerst war da nur eine Gedächtnislücke, ein Unfall.. Andere Leute träumen - und bekommen auf diese Weise gute Visionen - oft auch zum Lösen von hartnäckigen Problemen. (Perspektivenwechsel ist auch so ein Stichwort in diesem Zusammenhang. Der Perspektivenwechsel wird von der entwicklungstechnischen Seite so im Alter von 12 stärker genutzt) (Wen das interessiert, das Buch ist leider vergriffen, hatte aber ein paar recht gute Artikel diesbezüglich: Entwicklungspsychologie von Rolf Oerter und Leo Montada)
Jemin K. schrieb: > Was meint Ihr zu diesem Szenario? Realistisch? Ich denke die Realität ist noch schwärzer als dieses Szenario. Ein Arzt weiß um den Wert des Lebens und würde im Zweifelsfall weitere teure Diagnostik nutzen um Ergebnisse abzuklären. Eine KI aber die sowohl auf medizinische Bilderanalyse als auch Behandlungskostoptimierung trainiert ist, würde ggf. dazu tendieren einen Menschen günstig sterben zu lassen statt teuer zu behandeln. Die hat keine Ethik und was die gelernt hat weiß niemand so genau. 30% Überlebenswahrscheinlichkeit sind dann ggf zu wenig für weitere Behandlung. Zumal wenn man im Niedriglohnsegment arbeitet oder kurz vor der Rente steht oder sonstwie mehr Belastung als High Potential ist. die Kosten Nutzen Analyse könnt darauf kommen das ein 45J Chemieing weit höhere Behandlungskosten rechtfertigt als eine 28J Schulabbrecherin mit Gehbehinderung deren Beiträge bei weitem nicht die regelmäßigen Behandlungskosten decken. NIEMAND weiß mit Sicherheit was eine KI lernt. Aber das Management wird Kennzahlenoptimierung betreiben und die KI wird im Endeffekt auch darauf optimieren. Und wenn die KIs erstmal etabliert sind wird auch kein Mensch mehr die Diagnose der KI anzweifeln. Man unterhält sich eher mit der Support KI die nahtlos in die Psych KI schaltet, die einem dann schon erklärt warum man sich einfach zurücklehnen sollte und abwarten, weil doch alles gut sei wie es ist. Schon einfach deswegen weil es ja keinen Menschen mehr gibt mit dem man sprechen könnte. Also ungefähr so wie im Telekom Call Center. Das sind schon irgendwie auch Menschen, aber eigentlich sind das eher Roboter die Listen abarbeiten und alles auf 'gelöst' setzen das es erfordern würde jemanden mit Ahnung zu kontaktieren. Solche Diskussionen lassen einen schon grausen: Beitrag "Re: Hat die künstliche Intelligenz mir überhaupt die richtige Antwort gegeben?"