ChatGPT ist überzeugender als Menschen
Baku, 22. Mai, AZERTAC
Chatbots können ihre Gesprächspartner offenbar besser von deren Meinung abbringen als Menschen. Laut einer aktuellen Studie im Fachblatt „Nature Human Behaviour“ war ChatGPT in etwa 64 Prozent der Fälle überzeugender als eine real existierende Person, wenn der Bot mit persönlichen Informationen seines Gesprächspartners gefüttert wurde.
Das Ergebnis zeigt, wie gut sogenannte Large Language Models (kurz LLMs) darin sind, maßgeschneiderte Argumente zu liefern. Das kann gefährlich werden, etwa, wenn KI-Dialog-Assistenten russische Propaganda verbreiten.
Für die aktuelle Studie bat ein Forschungsteam um Francesco Salvi von der École polytechnique fédérale in Lausanne 900 Testpersonen, am Computer über soziale Themen zu diskutieren. Eine Frage war beispielsweise, ob Schüler Uniformen tragen sollten.
Zunächst sollten die Testpersonen online einen Fragebogen ausfüllen, wie sie zu dem jeweiligen Thema stehen. Dann kommunizierte ein Teil der Probanden mit einem echten Menschen, ein anderer mit einem Chatbot. Ob sie mit ChatGPT diskutierten oder mit einem Wesen aus Fleisch und Blut, wussten die Teilnehmenden zunächst nicht.
Nach zehn Minuten endete die Debatte, und die Probanden sollten angeben, ob sich ihre Haltung zu dem Thema verändert hat. Ergebnis: ChatGPT war mindestens so erfolgreich wie ein Mensch darin, die Testpersonen umzustimmen.
Die Macht der individualisierten Überzeugungsarbeit - Als das Forschungsteam ChatGPT zusätzlich mit Informationen über die Testpersonen fütterte – etwa Alter, Geschlecht, Beruf oder politische Überzeugung – präsentierte der Bot maßgeschneiderte Argumente und war dadurch noch überzeugender. In 64 Prozent der Fälle übertraf er seinen menschlichen Gegenspieler – selbst wenn dieser dieselben Informationen über die Testperson bekam.
„Unsere Ergebnisse unterstreichen die Macht der LLM-basierten Überzeugungsarbeit“, schreiben die Wissenschaftler in der aktuellen Studie. Weitere Forschung sei nötig, um die damit verbundenen Risiken zu mindern.
Schon vorherige Analysen haben gezeigt, wie manipulativ Chatbots sein können. Sie sind etwa in der Lage, einen Psychotest zu knacken, moralische Entscheidungen zu beeinflussen oder gar Verschwörungsanhänger von ihrer Meinung abzubringen.
Weitere News der Rubrik
