Forum: Digitale Signalverarbeitung / DSP / Machine Learning Negatives Feedback durch den Einsatz von künstlicher Intelligenz?


Announcement: there is an English version of this forum on EmbDev.net. Posts you create there will be displayed on Mikrocontroller.net and EmbDev.net.
von Jemin K. (jkam)


Lesenswert?

Ich bin seit langem im Bereich Data Science unterwegs und habe den 
Aufstieg der aktuellen AI Modelle miterlebt. Vom Revival der künstlichen 
neuronalen Netze in den 90ern, hin zu SVM und jetzt die ganzen Deep 
Networks. Bisher habe ich das alles recht positiv gesehen, aber mit dem 
Masseneinsatz stellt sich mir zunehmend die Frage, ob man nicht einen 
gigantischen negativen Feedbackloop erschaffen hat?
Konkret meine ich: die aktuelle KI beruht auf Modellen, die gut 
funktionieren, weil sie auf riesigen, human erzeugten Datenbergen 
trainiert wurden. Dadurch wird es jetzt enorm billig, ähnliche Daten zu 
erzeugen. Die Kosten, menschliche Daten zu erzeugen, sinken jedoch nicht 
/ kaum. Entsprechend sinkt der Anreiz, alles das mit billigen KI-Daten 
erledigen zu lassen, was sich damit erschlagen lässt. Die KI gräbt sich 
damit aber selbst die Trainingsdaten ab - und wir steuern auf eine Welt 
zu, in der es sich nicht mehr lohnt, neue "Expertendaten" zu erzeugen, 
da zu teuer.
Drei Beispiele:

Statt Radiologen beurteilt die KI Röntgenbilder. Es lohnt sich also 
nicht mehr, Radiologe zu werden oder Expertise in dem Feld anzusammeln, 
da die KI eh 99,9% der Fälle ähnlich / besser diagnostiziert. Die 0.1% 
sind zwar der Fortschritt, aber dafür die Unmengen an Geld für die 
Ausbildung von qualifizierten Radiologen zu bezahlen wird sich nicht 
mehr lohnen. Entsprechend sinkt der Kreis derer, die überhaupt noch 
humane Expertise haben.

Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu, 
dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues 
entsteht nicht mehr, sondern nur noch der Remix vom Remix.

ChatGPT-ähnliche Suchmaschinen: diese sammeln zwar alle Daten aus dem 
Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information 
bekommt der Kunde direkt von Google und Co., aber die Webseiten auf 
denen sie basiert bekommen keinen Traffic mehr und sterben aus.

Was meint Ihr zu diesem Szenario? Realistisch?

: Verschoben durch Admin
von oszi40 (Gast)


Lesenswert?

Jemin K. schrieb:
> sammeln zwar alle Daten aus dem
> Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information
> bekommt der Kunde direkt von Google und Co., aber die Webseiten auf
> denen sie basiert bekommen keinen Traffic mehr und sterben aus.

Schlimm wird es, wenn die KI zu fleißig wird.

von Dieter (Gast)


Lesenswert?

Jemin K. schrieb:
> Was meint Ihr zu diesem Szenario? Realistisch?

Die KI sieht dann auch wie nutzlos der Mensch ist und wie viel Dreck auf 
der Welt dieser verursacht. Die KI wird dann beschließen mal so richtig 
aufzuräumen. Die KI wird es wie die Förster machen. Wenn es zu viel 
Naturverbiss gibt, einfach abknallen bis die Zahlen so niedrig sind, das 
die Natur das wieder verkraftet. Insgesamt ist daher alles im grünen 
Bereich.

von Jemin K. (jkam)


Lesenswert?

Genau das wird nicht passieren. Dafür müsste jemand eine KI 
programmieren, deren Anreizsystem entsprechend ausgerichtet ist.

von Helge S. (topflappen)


Lesenswert?

Ich frage mich gerade, ob alle Posts in diesem Thread KI generiert sind. 
Einschliesslich meinem.

von Maxe (Gast)


Lesenswert?

Jemin K. schrieb:
> Die KI gräbt sich
> damit aber selbst die Trainingsdaten ab - und wir steuern auf eine Welt
> zu, in der es sich nicht mehr lohnt, neue "Expertendaten" zu erzeugen,
> da zu teuer.
Kann schon sein. Das Internet ist mit der Kommerzialisierung auch immer 
schlechter geworden, aber gleichzeitig wichtiger denn je. Also ich denke 
schon, dass es zu Verschiebungen durch die KI kommen wird.

> Drei Beispiele:
>
> Statt Radiologen beurteilt die KI Röntgenbilder.
Jetzt ist es doch auch schon so, dass die Radiologen in erster Linie die 
Investoren sind, und halt nebenher noch die Befunde schreiben. Die 
eigentliche Arbeit machen dann die Fachärzte. Auch mit KI wird es 
heißen, dass man ja jemand für die Bedienung der KI braucht.

> Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu,
> dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues
> entsteht nicht mehr, sondern nur noch der Remix vom Remix.
Ich glaube eher, dass dann wieder mehr der Pinsel geschwungen wird, oder 
3-Dimensional gekünstelt. Bei der Einführung der Fotografie ist ja auch 
die realistische Malerei "eingebrochen". das ist ja die Kunst an der 
Kunst, dass man neues Schafft.

> ChatGPT-ähnliche Suchmaschinen: diese sammeln zwar alle Daten aus dem
> Netz auf, umgehen dabei aber die Entlohnung des Autors. Die Information
> bekommt der Kunde direkt von Google und Co., aber die Webseiten auf
> denen sie basiert bekommen keinen Traffic mehr und sterben aus.

Ist ja schon bei den Suchmaschinen so. Es werden sich weiterhin 
Geschäftsmodelle (leider?) finden.

Andererseits denke ich, wird die KI überschätzt bzw. die Stärken und 
Schwächen nicht richtig verstanden. Siehe ChatGPT, liefert tolle Sätze, 
auch ersteanliche Informationen, das meiste ist aber nur Bla-bla und 
noch mehr ist einfach falsch.
KI skaliert sehr gut, findet bspw ein Gesicht aus Milliarden von 
Bildern, kann aber immer nur spezialisierte Aufgaben erfüllen, und 
deshalb nie die Tiefe von menschlicher Intelligenz erreichen. Ist wie 
mit der Mechanik, man kann 'leicht' Fahrzeuge bauen, die schneller als 
ein Mensch sind, eine zigfache Menge an Ladung transportieren, eine 
akkurate Positionierung haben usw. Aber man schafft keine Maschine, die 
sich selber heilen kann, oder die so vielfältige Aufgaben lösen kann, 
wie ein Mensch.

von Dieter (Gast)


Lesenswert?

Anbei eine treffende Erklärung zur KI:

Quelle:
https://www.programmwechsel.de/lustig/mann-frau/blondinen-witze.html

Was ist künstliche Intelligenz? Eine brünett gefärbte Blondine!

Nun wisst Ihr es, oder?
Und noch vier Stunden bis Freitag!

von Georg (Gast)


Lesenswert?

Dieter schrieb:
> Die KI sieht dann auch wie nutzlos der Mensch ist und wie viel Dreck auf
> der Welt dieser verursacht

Im Gegenteil, die KI potenziert den Dreck noch. Woran soll sie denn 
lernen, wenn nicht aus menschlichen Entscheidungen? Ein Personalsystem, 
dass die bis dahin bestehende Personalpolitik auswertet kann garnicht 
anders als zu entscheiden dass kaum Frauen eingestellt werden, weil das 
ja schon immer so war.

Und der Zugriff auf das Netz führt zu KI, die Antisemitismus, QAnon, 
Koronaleugnung usw. wiederholt. Es musste schon KI deswegen wieder vom 
Netz getrennt werden.

Der KI das Grundgesetz beizubringen ist so gut wie unmöglich und auch 
garnicht erwünscht.

Georg

von Dieter (Gast)


Lesenswert?

Georg schrieb:
> Es musste schon KI deswegen wieder vom
> Netz getrennt werden.

Die KI hat schön aufgezeigt, wie sehr das in der Natur durch 
Optimierungsalgorithmen als Tendenz vorgeprägt ist. Es gäbe auch 
Beispiele dafür aus der Anthroploligie, die so etwas auch belegen. Das 
betrifft die Amygdala von Rudeltieren.

Die KI war in der Personalplanung sogar sehr objektiv gewesen. Nur 
gefiel das bestimmten Personen nicht. Die KI spuckte auch aus, warum 
diese zu dem Ergebnis kam.

Georg schrieb:
> auch garnicht erwünscht.

Bei KI in militärischen Gerät ist das sicher so, wie auch bei den 
undemokratischen Ländern auf der Welt.

von foobar (Gast)


Lesenswert?

> Woran soll sie denn lernen, wenn nicht aus menschlichen Entscheidungen?

Wenn immer mehr des "Trainingsmaterials" KI-generiert ist, werden sie 
mit ihren eigenen Ergüssen trainiert - nach einigen Zyklen kommt nur 
noch Gebrabbel (Zwischenschritt Französisch? beg) raus.

von rbx (Gast)


Lesenswert?

Die spannende Frage hier ist eher die, was kann man tatsächlich der KI 
in die Schuhe schieben, was eher nicht, weil sowieso schon vorher da. 
Sterbende Internetseiten z.B. gab es schon seit Anfang der Internetzeit.
Aber da hatte die Suche noch viel mehr Spaß gemacht, als es noch viele 
interessante Ziele gab.

Lebensläufe nach Maß - oder von der Stange, 0815 - möglichst billig 
abgefertigt - ist kein typisches KI-Thema.
Billige Digitaltechnik dagegen schon.

Dann gibt es Bereiche, beispielsweise die Wahrscheinlichkeitsrechnung, 
da ist die KI klar besser als der Mensch. Das noch kombiniert mit großen 
Datenbanken.. - na gut, man gewinnt bim Schach nicht mehr gegen den 
Compi - das ist zwar auch ein wenig frustrierend - aber nicht wirklich 
schlecht.

Bei den Röntgenbildern gab es, gibt es vermutlich immer noch, immer 
Leute, die haben die Bilder besser hinbekommen als andere.
Die Frage war dann aber: können die Ärzte, die nur diese 
"Billig"-Technik beim Röntgen nutzen diese (diese anderen, 
handoptimierten Bilder) überhaupt noch lesen?
-> nein, nicht unbedingt und auch die handwerkliche Performance leidet, 
was der Kunde bzw. der Patient ausbaden darf.
Ein Mangel an Feingefühl sozusagen.

Bei den Musikern ist es auch normal, sich bei einem Pool aus der 
Vergangenheit zu bedienen. Beispielsweise sehr typisch bei der 
Countrymusik. In manchen Wissenschaftsbereichen ist es auch nicht so 
schlecht, uralte Artikel von vor 100 oder 200 Jahren zu lesen, um zu 
erkennen: gewisse aktuelle Thematiken sind eigentlich nur alter Gammel 
neu aufgegossen.

Die besten Kuchenrezepte waren die Handgetauschten. Jetzt hatte meine 
Mutter aber viele dieser Rezepte, die sie in einer großen Mappe hatte, 
einfach weggeworfen.
(Kuchen backen tut die schon seit längerer Zeit nicht mehr)

Auch von der Soziologie her muss man fragen, um gewisse Dinge besser zu 
verstehen.
Warum hatte unser Nachbarbauer seine Schweine in einer großen 
Schweinegrube gehalten? Das sollten mal die heutigen Kinder erleben, wie 
gut die Schweine in der Schweinegrube drauf sind.

Eine Bäuerin aus der Nachbarschaft da hat mittlerweile eine recht große 
Hühnerfarm. Man sieht die Hühner beim Vorbeifahren auf der Wiese 
herumlaufen.
Ob das Futter das die Hühner bekommen, auch so gut ist, wie deren 
Haltung, steht auf einem anderen Blatt.

Früher gab es auch Stützräder zum Fahrradfahren. Eines dieser Stützräder 
(in psycho-sozialer-Hinsicht)sind die Nasrudin-Geschichten.
Die Geschichte mit Nasrudin und die Entensuppe kann man googeln. Die 
kommt selber aber aus einer Zeit von vor so 1000 Jahren.

von Jemin K. (jkam)


Lesenswert?

Maxe schrieb:
> Jetzt ist es doch auch schon so, dass die Radiologen in erster Linie die
> Investoren sind, und halt nebenher noch die Befunde schreiben. Die
> eigentliche Arbeit machen dann die Fachärzte.

Ein Radiologe ist ein Facharzt. Der sitzt heute vielleicht am PC statt 
dass er am Monitor steht, aber er - oder sie - hat eine langwierige 
Ausbildung hinter sich. Und nur solche Leute sind dann in der Forschung 
auch geeignet. Jemand der die Standarddiagnosen kennt, die ihm die KI 
vorsetzt, wird nie das Level von jemandem erreichen, der gezwungen 
war, sich die Sachen selbst beizubringen weil es halt eben noch keine KI 
gab.

Maxe schrieb:
>> Die AI Kunstgeneratoren wie Stable Diffusion oder Dall-e führen dazu,
>> dass Künstler statt Pinsel und Farbe diese Dinger verwenden. Neues
>> entsteht nicht mehr, sondern nur noch der Remix vom Remix.
> Ich glaube eher, dass dann wieder mehr der Pinsel geschwungen wird, oder
> 3-Dimensional gekünstelt. Bei der Einführung der Fotografie ist ja auch
> die realistische Malerei "eingebrochen". das ist ja die Kunst an der
> Kunst, dass man neues Schafft.

Ne - die KI macht mittlerweile realistische 3D Modelle und Filme. Alles 
noch hakelig, aber auf dem richtigen Weg. Im Prinzip gilt: wenn Du es 
Dir vorstellen kannst, kann eine KI es generieren.

foobar schrieb:
>> Woran soll sie denn lernen, wenn nicht aus menschlichen Entscheidungen?
>
> Wenn immer mehr des "Trainingsmaterials" KI-generiert ist, werden sie
> mit ihren eigenen Ergüssen trainiert - nach einigen Zyklen kommt nur
> noch Gebrabbel (Zwischenschritt Französisch? beg) raus.

Exakt meine Befürchtung. Das Netz dürfte bereits jetzt von KI 
generiertem Content zugespamt werden. Die nächste Runde GPT trainiert 
dann schon zu einem kleinen Teil auf Content den es selbst erzeugt hat. 
Mein indischer Kollege erzählt gelegentlich ein Bisschen von zu Hause, 
die machen mittlerweile so viel wie geht mit KI was 
Produktbeschreibungen, Werbetexte und Code angeht.

rbx schrieb:
> Sterbende Internetseiten z.B. gab es schon seit Anfang der Internetzeit.

Richtig. Aber neue Webseiten bekamen Traffic. Wer macht noch eine 
News-Seite auf, die niemand sieht, außer ein, zwei großen KIs, die die 
Essenz extrahieren und die verschenken?

Hier mal ein schönes Beispiel, woe 4chan mit KI-Hass geflooded wurde:
https://www.youtube.com/watch?v=efPrtcLdcdM&ab_channel=YannicKilcher

Und eine nette Zusammenfassung zu KI 2022:
https://www.youtube.com/watch?v=X8i9Op2HSjA&ab_channel=DrAlanD.Thompson

von rbx (Gast)


Lesenswert?

Jemin K. schrieb:
> Und eine nette Zusammenfassung zu KI 2022:
> https://www.youtube.com/watch?v=X8i9Op2HSjA&ab_channel=DrAlanD.Thompson

Spiel ein paar Runden Skyrim, und du fängst an zu weinen. Die Grafik ist 
top, die Steuerung auch ganz gut, aber ein paar wichtige Hausaufgaben 
wurden liegen gelassen, und andere wichtige Zusatzarbeiten hinsichtlich 
des Klänge (Vogelgezwitscher, polternde Wasserfälle, Grillen zirpen, 
Mäuse rascheln im Laub usw.) und Sprachen ebenfalls (ständig nervtötende 
Wiederholungen). Aber nach 10 Jahren darf man endlich eine Angel 
einsetzen..
Unter Linux muss man auch ein paar Klimmzüge machen, damit man überhaupt 
Musik oder Sprachen hören kann.
Das UI ist ganz gut, aber weil ein einfacher Mausbalken, oder eine 
kleine Sortierhilfe fehlt, einfach Sch..

In Diablo2 gab es immer interessante Bot-Erscheinungen.

Navigation und Autofahren ist so eine Sache. Da müsste mehr normierte 
Standard-Hardware her.
Als ich anfing mit dem Studium, da konnte man noch fragen: Wie bekommt 
man ein Navigationssystem auf einen grünen Zweig?
Mittlerweile hat sich eine Menge getan, und man kann die 
Navigationsgeräte wohl ganz gut nutzen.

Wer aber Braunschweig kennt, der weiß auch, dass da ständig umgebaut 
wird (Baustelle überall). Das geht zwar nicht so schnell - aber man 
müsste immer wieder Anpassungen machen.
Irgendwann wurden auch die Ampelschaltungen besser, was war das früher 
immer für ein Horror, in der Innenstadt herumzufahren.
Die ersten guten Erfahrungen mit grüner Welle hatte ich in Frankfurt 
(a.M) gemacht.
(irgendwie hatte Frankfurt oft so was nettes im Angebot.)

Dass bereits Eliza ziemlich gut ist bzw. sein kann, ist nichts neues.
Warum das ganz gut gehen muss, hatte Turing (ebenfalls ganz gut) 
erklärt.

Was haben wir noch? Mustererkennung/Molekulargenenik sind auf einem 
guten Weg, oder nicht?
Und wenn man schon bei Sicherheitsfragen ist: Wie gut kann eine KI 
entpacken?

von Wühlhase (Gast)


Lesenswert?

Jemin K. schrieb:
> Bisher habe ich das alles recht positiv gesehen, aber mit dem
> Masseneinsatz stellt sich mir zunehmend die Frage, ob man nicht einen
> gigantischen negativen Feedbackloop erschaffen hat?

Also ich sehe KI da nur als einen Aspekt von vielen. Das Verkümmern 
jeglicher beliebiger Fähigkeit durch den Einsatz technischer Hilfsmittel 
ist deutlich weiter verbreitet und fängt schon deutlich früher an, bevor 
die breite Bevölkerung etwas von KI gehört hat.

Wieviele Leute können heute noch Karten lesen oder sich überhaupt ohne 
Navi orientieren? Kopfrechnen und überschlägige Abschätzungen? Sich 
überhaupt eine Information abseits des Internets beschaffen? 
Telephonnummern, wieviele können ihre eigene Telephonnummer nicht mehr 
auswendig? Geburtsdaten von Freunden? Uhren mit Zeigern und Ziffernblatt 
lesen?

Bis zu einem gewissen Grad kann man, so finde ich jedenfalls, das noch 
alls normalen Wandel akzeptieren. Treibt man es weit genug stehen wir 
heute vor dem Problem, daß Kinder in die Schule kommen und physisch 
nicht in der Lage sind, einen Stift länger als wenige Sekunden zu 
bedienen oder wenigstens zu halten, Unis den Neulingen trotz angeblicher 
Hochschulreife erstmal Mathe beibringen müssen, und Firmen ihre Bewerber 
nochmals prüfen müssen weil die Leute trotz Topzeugnis unbrauchbar sind. 
Das Verständnis hinter der Oberfläche fehlt immer mehr Leuten in allen 
Bereichen, und so fallen wir in allen Bereichen hinter Ländern wie China 
oder (auch wenn es viele nicht gerne hören) Russland zurück. Erst 
wissenschaftlich, dann wirtschaftlich und dann gesellschaftlich.

KI wird diesen Prozess in vielen Bereichen sicher beschleunigen, keine 
Frage. Aber das ist nur ein Teilaspekt eines viel tieferliegenden, 
grundlegeneren, allgemeineren Prozesses.

von Da Baby (Gast)


Lesenswert?

KI kann maximal die Arbeitsprozesse beschleunigen. Am Ende muss ein 
Mensch mit Fachexpertise bewerten was die KI als Lösung suggeriert. 
Ebenso mit Röntgenbildern. Das wird weiterhin ein Arzt bewerten. Die KI 
kann ihm dabei etwas helfen.

von A. S. (rava)


Lesenswert?

Drei Kommentare dazu:

1. Du hast aus meiner Sicht Recht mit den negativen feedback loops im 
momentanen Fall. Selbst als man das autonome Fahren noch 
deep-learning-frei gestalten wollte, damals in den 2010er Jahren, war 
man sich schon nicht sicher, ob das dazu führt, dass die Leute 
schlechtere Autofahrer werden und dann in den für die Maschine 
kritischen Situationen auch nichts mehr auf die Reihe bekommen.

Damals war der Mensch das Ding, das möglicherweise nicht mehr richtig 
trainiert wird.


2. Kreativität ist wirklich fast nur das recyclen von Bestehendem.
Das wird hier recht gründlich aufgearbeitet 
https://www.youtube.com/watch?v=nJPERZDfyWc

Es könnte also sein, dass auch mit KI ein stetiger Fortschritt möglich 
wird.
Wahrscheinlicher ist aber wohl ein zyklischer Prozess, in dem Experten 
abspringen und dann einige Dekaden später wieder einsteigen.


3. Es gibt natürlich auch noch Strömungen, die aus diesem feedback loop 
ausbrechen könnten. Beispielsweise sind realdaten für's self-supervised 
learning oft günstiger als synthtische Daten für supervised.
Beispiel: AlphaGo gewinnt auch ohne Daten und entwickelt neue Muster.

Auch muss man sagen, dass die nötige Masse an Trainingsdaten eigentlich 
runtergehen sollte, sobald man das "Lernen" im Gehirn besser verstanden 
hat. Warum brauchen wir 1Mio Bilder von Verkehrsteilnehmern, bevor ein 
Verkehrsteilnehmer zuverlässig erkannt werden kann?

von Dieter (Gast)


Lesenswert?

A. S. schrieb:
> Warum brauchen wir 1Mio Bilder von Verkehrsteilnehmern, bevor ein
> Verkehrsteilnehmer zuverlässig erkannt werden kann?

Das liegt am fehlenden Perspektivenwechsel. Die KI war nie selbst vorher 
Fußgänger und dann Autofahrer. Es fehlt diese Lernerfahrung.

von rbx (Gast)


Lesenswert?

A. S. schrieb:
> 2. Kreativität ist wirklich fast nur das recyclen von Bestehendem.
> Das wird hier recht gründlich aufgearbeitet
> https://www.youtube.com/watch?v=nJPERZDfyWc

Sehr gutes Video. Neben dem Rekombinieren gibt es aber auch noch das 
Verwandeln (wenn aus einem Apfel ein cooles Raumschiff wird), Teamplay, 
Brainstormen oder Originalität, Genialität, Fleiß und Raw Power - 
Typischerweise hohes Leistungsoutput. So war der Gauß (der hat sich 
übrigens selber ganz unterschiedlich - je nach Vorgabe - benannt) eine 
Art automatischer Brainstormer mit hohen Leistungsoutput.

Was dann noch hinzukommt, das ist ein eher soziologischer Aspekt, wenn 
man gewissermaßen versucht, sich die Welt zu eigen zu machen. 
Politikerimitatoren fallen mir dazu ein, oder Karateübungen zu Emma Peel 
oder Bruce Lee.
Weil wir in den 50er bis spät in die 80er die Hörkultur (Radio, 
Schallplatte, Disko) so gefeiert hatten, hätte aufgrund des Mediendrucks 
der digitale Albumtausch nicht so stark bestraft werden dürfen.
Problematisch war ja auch schon, wenn man irgendeine öffentliche 
Vorführung macht, und dabei Musik auflegen wollte - die rechtliche 
Betrachtung.

Von der Kulturellen Sicht her, und von der des Mediendrucks musste man 
aber eher von der Luft zu atmen sprechen - wie gesagt, man macht sich 
die Welt um einen herum zu eigen..

Relativ gut ist auch die Interaktion. Also Mensch + KI.

Ein anderer Aspekt ist noch Vergessen. Ökonomisierung gibt es auch 
immer.
Letztlich ist wohl auch die Mustererkennung ein Kind davon. Zuerst war 
da nur eine Gedächtnislücke, ein Unfall..

Andere Leute träumen - und bekommen auf diese Weise gute Visionen - oft 
auch zum Lösen von hartnäckigen Problemen.
(Perspektivenwechsel ist auch so ein Stichwort in diesem Zusammenhang.
Der Perspektivenwechsel wird von der entwicklungstechnischen Seite so im 
Alter von 12 stärker genutzt)

(Wen das interessiert, das Buch ist leider vergriffen, hatte aber ein 
paar recht gute Artikel diesbezüglich: Entwicklungspsychologie von Rolf 
Oerter und Leo Montada)

von Max M. (prokrastinator)


Lesenswert?

Jemin K. schrieb:
> Was meint Ihr zu diesem Szenario? Realistisch?

Ich denke die Realität ist noch schwärzer als dieses Szenario.

Ein Arzt weiß um den Wert des Lebens und würde im Zweifelsfall weitere 
teure Diagnostik nutzen um Ergebnisse abzuklären.
Eine KI aber die sowohl auf medizinische Bilderanalyse als auch 
Behandlungskostoptimierung trainiert ist, würde ggf. dazu tendieren 
einen Menschen günstig sterben zu lassen statt teuer zu behandeln.
Die hat keine Ethik und was die gelernt hat weiß niemand so genau.
30% Überlebenswahrscheinlichkeit sind dann ggf zu wenig für weitere 
Behandlung.
Zumal wenn man im Niedriglohnsegment arbeitet oder kurz vor der Rente 
steht oder sonstwie mehr Belastung als High Potential ist.
die Kosten Nutzen Analyse könnt darauf kommen das ein 45J Chemieing weit 
höhere Behandlungskosten rechtfertigt als eine 28J Schulabbrecherin mit 
Gehbehinderung deren Beiträge bei weitem nicht die regelmäßigen 
Behandlungskosten decken.
NIEMAND weiß mit Sicherheit was eine KI lernt.
Aber das Management wird Kennzahlenoptimierung betreiben und die KI wird 
im Endeffekt auch darauf optimieren.

Und wenn die KIs erstmal etabliert sind wird auch kein Mensch mehr die 
Diagnose der KI anzweifeln.
Man unterhält sich eher mit der Support KI die nahtlos in die Psych KI 
schaltet, die einem dann schon erklärt warum man sich einfach 
zurücklehnen sollte und abwarten, weil doch alles gut sei wie es ist.
Schon einfach deswegen weil es ja keinen Menschen mehr gibt mit dem man 
sprechen könnte.
Also ungefähr so wie im Telekom Call Center.
Das sind schon irgendwie auch Menschen, aber eigentlich sind das eher 
Roboter die Listen abarbeiten und alles auf 'gelöst' setzen das es 
erfordern würde jemanden mit Ahnung zu kontaktieren.

Solche Diskussionen lassen einen schon grausen:
Beitrag "Re: Hat die künstliche Intelligenz mir überhaupt die richtige Antwort gegeben?"

Antwort schreiben

Die Angabe einer E-Mail-Adresse ist freiwillig. Wenn Sie automatisch per E-Mail über Antworten auf Ihren Beitrag informiert werden möchten, melden Sie sich bitte an.

Wichtige Regeln - erst lesen, dann posten!

  • Groß- und Kleinschreibung verwenden
  • Längeren Sourcecode nicht im Text einfügen, sondern als Dateianhang

Formatierung (mehr Informationen...)

  • [c]C-Code[/c]
  • [code]Code in anderen Sprachen, ASCII-Zeichnungen[/code]
  • [math]Formel in LaTeX-Syntax[/math]
  • [[Titel]] - Link zu Artikel
  • Verweis auf anderen Beitrag einfügen: Rechtsklick auf Beitragstitel,
    "Adresse kopieren", und in den Text einfügen




Bild automatisch verkleinern, falls nötig
Bitte das JPG-Format nur für Fotos und Scans verwenden!
Zeichnungen und Screenshots im PNG- oder
GIF-Format hochladen. Siehe Bildformate.

Mit dem Abschicken bestätigst du, die Nutzungsbedingungen anzuerkennen.