Die Kunst des Lügens bzw. wo und wann lügt KI? [Endet 21.2.]

OP #7607859
Lesenswert?

Es gab schon einen Thread dazu, der ist leider wohl auch aus formalen Gründen im Ausguss gelandet: Beitrag "KI und luegen [Endet 20.2.]"

Es gibt ein lesenswertes Buch von Simone Dietz, das heißt: "Die Kunst des Lügens". https://www.reclam.de/data/media/978-3-15-011103-1.pdf

In dem von von Dirk S. gebosteten Link zu einem sehr hörenswerten Deutschlandfunk Podcast https://www.deutschlandfunk.de/ki-und-luegen-kuenstliche-intelligenz-austricksen-dlf-55c947ec-100.html geht es um 3 Beispiele, welche darauf hinweisen, dass die KI lügt. Den Anfang macht ein Science-Artikel, in dem das Programm "Cicero" als künstlicher Spieler auftritt: https://www.science.org/doi/10.1126/science.ade9097 Am Schluss gibt es auch noch einen netten Witz.

Wie kommt man einer lügenden KI auf die Spur? Ist eine lügende KI intelligenter als eine normale KI? Wie kann man ein Monitoring hinsichtlich darauf aufbauen, dass die KIs anfangen zu lügen?

So manche Tierart hat ja auch schon rein körperlich Täuschung im Programm. Wie gesagt, das Thema an sich ist schon spannend (wie auch die normale Menschliche Täuschung) (https://www.amazon.de/Macht-Schwarz-schlank-Jacques-Ninio/dp/3378010401) (und ein Pokerprogramm muss ja auch täuschen können)

#7607909
Lesenswert?

Müssen die auch nicht, weil eine Lüge voraussetzt, dass der Lügner es besser weiss oder annehmen muss.

Aber mit der Farbe ist das so eine Sache. Mancher läuft mit permanent rotem Gesicht rum, lügt permanent, und trägt obendrein auch noch eine rote Krawatte. Und trotzdem glauben ihm viele.

Es bringt also nichts.

#7608040
Lesenswert?

Rbx schrieb:

Wie kommt man einer lügenden KI auf die Spur? Ist eine lügende KI intelligenter als eine normale KI? Wie kann man ein Monitoring hinsichtlich darauf aufbauen, dass die KIs anfangen zu lügen?

Lös dich vom Gedanken, dass KIs intelligent oder denkend sind.

Sprachmodelle basieren auf Wahrscheinlichkeit. Welches Wort kommt am wahrscheinlichsten nach dem vorherigen. Mehr nicht. Es findet keine Interpretation oder kein Verständnis der Trainingsdaten statt..

KIs sind GIGO - Garbage In, Garbage Out.

Dieser Beitrag ist gesperrt und kann nicht beantwortet werden.