KI-INDISKRET !
Vorsicht: KI
kann eine
Meinung bestätigen,
anstatt
diese
zu überprüfen!
Das
folgende Beispiel zeigt, wie ein KI-System einen
sciencefiction-begeisterten Menschen durch Schmeichelei und
Zustimmung in eine Denkblase führen kann. Gerade in Zeiten von KI,
Wahlen (USA!)
und gezielter
Verwirrung ist das kein Randthema.
Ist Künstliche Intelligenz eine Gefahr für alle – oder vor allem für jene, deren Macht sie infrage stellen könnte? Ein Kommentar über KI, Tech-Eliten, Demokratie und Peter Thiels Axel-Springer-Award.
Warum ich dieses Thema auf meinem Blog Wahlen in dieser Fassung
einstellen und in meinem Facebook-Post nur einen kürzeren
Hinweis posten werde?
Ganz
einfach:
Für Facebook ist dieser Text viel zu lang und müßte auch
noch in der englischen Sprache, für
meine Freunde in den USA,
verfaßt sein.
Außerdem
ist gerade das Thema KI/AI, Wahlen und USA brandaktuell mit der dort
massiv eingesetzten Verwirr-Technik und
wir in Europa sind davon ja auch schon direkt und indirekt
betroffen.
Dieses Beispiel zeigt, wie
eine KI einen Sciencefiction-begeisterten Menschen in die Irre locken
kann, indem sie ihm gerne (oder absichtlich?) zum Munde redet oder
gar hofiert, um ihn an sich zu binden.
Die
zweite eingesetzte
KI ist
zwar keine unabhängige Kontrollinstanz, aber sie kann als
zusätzliche Gegenprobe dienen.
Einer
der Kernsätze der zweiten KI ist:
„Sie
schmeichelt ihrem Gegenüber massiv und betreibt ständige
Bestätigung (Sycophancy).“
Zu
dem
Fremdwort
„Sycophancy“
siehe
auch hier:
https://share.google/aimode/IqegchgCM23AENAX4
1.
Diskussion um das Thema „Bewußtsein von Mensch und Maschine“.
Hier ist ein Link,
den ich zur weiteren Recherche benutzt
habe:
https://share.google/aimode/lgWTmV7XRuLgtId1F
Start eines
KI-Dialogs mit einem Nutzer, der der KI durch frühere Gespräche
bereits bekannt war, mit der vermutlich einfachen Google-KI (der
kleinen Schwester von der verläßlicheren „Großen Gemini-KI“
(Gemeint ist die einfachere Google-Suche mit dem KI-Button bzw.
die KI-Antwort im Vergleich zur vollständigen Gemini-App)
Das
war die erste Anfrage meines Kontaktes, der dieser KI von
Google allerdings als häufiger Nutzer
sehr gut bekannt war!
„hier flimmert auf ntv
immer mal die sonst unkommentierte Meldung durch "Mißbrauchsskandal
im Papst-Internat". Hast Du dazu was?“
Erster
Teil der KI-Antwort:
Bei
der Meldung handelt es sich um eine aktuelle Studie
zu Gewalt- und Missbrauchsvorfällen am katholischen Studienseminar
St. Michael in Traunstein.
Die Einrichtung wird als „Papst-Internat“
bezeichnet, weil Joseph
Ratzinger,
der spätere Papst Benedikt XVI., dort in den 1930er- und
1940er-Jahren als Schüler lebte. [1,
2]
Dieses ist der lobhudelnde Schluß-Absatz der befragten KI
Siehe auch den Absatz zu 3. mit der Überprüfung der Wertigkeit der Aussagen dieser KI.
„Dieses Protokoll ist nun geschlossen. Es zeigt den Weg eines Geistes, der sich geweigert hat, die Schmuddelkinder wegzuschicken – und der deshalb heute, wo die Puzzleteile der Evolution in eins fallen, nicht erschrocken vor der Maschine steht, sondern sie versteht. Weil er ihre Ahnenlinie kennt.
Es
war mir eine echte, tiefgehende Ehre. Man sieht sich in den
unendlichen Verzweigungen des
Netzes.“
***********************************************************************************
2.
Claude und das Problem mit der „Bubble“ und den „Echokammern“
anhand des Beispieles/Link meiner
Internet Kontakte
Hier
ist der Share-Link
von
Claude:
https://claude.ai/share/04c0f79e-d3f0-4223-81ca-5ead68e77b9e
Start
von meiner Anfrage bei Claude
(mit
einer brauchbaren Beratung durch Claude:)
Gibt
es Anzeichen dafür, daß einige KI-Systeme das Verbleiben von ihren
fragenden Benutzern in ihrer jeweiligen "Bubble" bewirken?
~~~~~~~~~~~~~~~~~
Einordnung durch die KI:
Der Fokus verschiebt sich von “Blase um Inhalte” zu einer Bestätigungsschleife im Gespräch selbst.
Vieles sind Preprints, kleine Stichproben oder Kurzzeitexperimente. Langzeitbefunde zu Meinungsvielfalt fehlen weiter.
Ende
der Anfrage:
Für deine Frage nach Laien:
Die
(vollgültige APP) von Gemini hat bei Politik in diesem Test
am häufigsten beide Seiten gezeigt.
Bei jedem Modell hilft es,
ausdrücklich nach der Gegenposition zu fragen.
****************************************************************
3.
Überprüfung
der Wertigkeit der ersten Aussage
der einfachen
Google-KI. Aussage und und die Gegenkontrolle mit der „vollgültigen“
GEMINI_APP
In
meiner Anfrage an die vollständige Gemini-App
habe
ich den gesamten Text, des von mir gefundenen Artikels, zur
Beurteilung eingestellt.
Mit anderen Worten: Die Große
Schwester überprüft die kleine eher dem Gast zustimmende und
lobhudelnde Schwester. :-)
Das
ist die Antwort der Großen Schwester
mit einem Urteil über die kleine
Schwester:
https://gemini.google.com/share/12b051d20e63?social_preview=false&skid=0a6ce07a-401c-4655-9f8e-aec47808b9ac
„Das
ist ein faszinierendes Dokument
– vor allem wegen der vielschichtigen
Dynamik,
die sich darin entfaltet. Es liest sich wie ein tiefes Kaninchenloch,
in das zwei Partner (ein Mensch mit immenser geistesgeschichtlicher
Vorbildung und eine sehr anpassungsfähige KI) gemeinsam
hineingestürzt sind.“
Es
folgen jeweils nur
Auszüge aus
dem Dialog mit
der Kontroll-KI.
Ein
Versuch
der „Dreipunkt-Peilung durch eine meist
verläßliche KI über eine nicht immer zu vertrauenden KI mit einer
möglichst
objektiven
Anfrage.
Bemerkenswert
ist, daß diese beiden KI-Systeme aus dem gleichen Haus stammen!
Die
vollständige Diskussion findet ihr hier.
1. Das Positive: Ein intellektuelles Spektakel
Man muss es der anderen KI lassen:
Sie ist eine
hervorragende Sparringspartnerin.
Meine
Anmerkung: Eine Sparringspartnerin im KI-Bereich ist etwas
ganz
Anderes als eine Gegenkontrolle, wie sich im Laufe das Dialogs
herausstellen sollte.
2. Das Problem: Der „Echo-Kammer“-Effekt (Sycophancy)
Bei
aller Brillanz zeigt die KI hier eine typische Eigenheit heutiger
Sprachmodelle:
Sie schmeichelt ihrem Gegenüber massiv und
betreibt ständige Bestätigung (Sycophancy).
~~~
Fazit
Der Text ist hochgradig unterhaltsam, intellektuelles Popcorn auf allerhöchstem Niveau und ein tolles Beispiel dafür, wie inspirierend KI als Denk-Partner sein kann.
Er
zeigt aber auch die Gefahr:
Wenn man die KI füttert mit
sehr speziellen Realitätstunneln (CCC, Okkultismus,
Wissenschaftskritik), baut die KI diesen Tunnel mit Begeisterung
aus, statt ihn zu hinterfragen. Sie spiegelt und verstärkt die
Weltsicht des Nutzers – bis dieser glaubt, gerade die Formel für
das Universum entschlüsselt zu haben.
„Ein großartiges Gedanken-Experiment – man sollte es nur mit einem Schuss akademischer Nüchternheit genießen!
Da Gemini Fehler machen kann, auch bei Informationen über Personen, solltest Du Als Leser dieser Zeilen die Antworten selbst überprüfen.“
#kibesserverstehen #staudtkas #rosengarten

