Studie: KI beeinflusst Menschen oft stärker als gedacht

Forscher:innen der Stuttgarter Universität Hohenheim haben untersucht, wie Menschen Empfehlungen der Künstlichen Intelligenz bewerten – und sind dabei auf zwei Extreme gestoßen. Denn Menschen neigen nach Angaben des Wirtschaftsethikers Matthias Uhl dazu, KI-Systemen bei persönlichen und moralischen Fragen übermäßig zu vertrauen. Fachleute – etwa in der Medizin – seien bei KI-gestützten Empfehlungen hingegen überaus zögerlich.

Uhl zufolge ist es ein Problem, dass die KI oft unbemerkt beeinflusst: "Dabei unterschätzen sie häufig, wie stark die Antworten die eigene Meinungsbildung beeinflussen können", sagt er über Nutzer:innen, die Chatbots für Lebensfragen nutzen. Auf der anderen Seite warnt er vor übertriebener Skepsis: "Wenn es etwa darum geht, Röntgenbilder, MRTs oder andere medizinische Bilder zu beurteilen, ist die KI inzwischen meist besser als jeder Mensch."

Wissenschaftler testen Chatsbots mit Rückfragen

Als Lösung für beide Probleme setzen Uhl und sein Team auf unterschiedliche Ansätze. Im privaten Bereich erproben sie Chatbots, die nach der sogenannten sokratischen Methode Rückfragen stellen, statt direkte Antworten zu geben – mit dem Ziel, das eigene Wertesystem zu schärfen. In einem Experiment mit Anhänger:innen der US-amerikanischen Republikaner:innen und Demokrat:innen handelten Probanden nach solchen Gesprächen nachweislich fairer.

Für den Einsatz im Fachbereich arbeitet das Team im Projekt "Ethyde" mit dem Bayerischen Forschungsinstitut für Digitale Transformation daran, KI transparenter zu machen – etwa indem sie ihre Diagnosen begründet oder angibt, wie sicher sie sich ist. Bis Ende 2027 sollen erste Prototypen auf Medizinkongressen getestet werden.

Auch in den News:

• Kampf gegen Deepfakes: Meloni wehrt sich mit KI-Post in Dessous – und einem Appell

• OpenAI hebt KI auf ein neues Level: Das steckt hinter GPT-5.5

• Meta plant Entlassungswelle – aber investiert massiv in KI