Doch nicht so schlau? Wir wollten von ChatGPT eine Auskunft über Trier – die Antwort kann niemand erklären

Trier · Die Welt staunt: Auf Basis künstlicher Intelligenz beantwortet ChatGPT scheinbar perfekt alle möglichen Fragen. Doch ein Test zeigt, dass man dem Programm nicht über den Weg trauen darf.

ChatGPT: Wir stellen eine Frage zu Trier – die Antwort kann keiner erklären​
Foto: dpa/Fredrik von Erichsen

Es gibt scheinbar nichts, was ChatGPT nicht kann. Seit der Chatbot Ende 2022 der Öffentlichkeit präsentiert wurde, ist er weltweit zum heißen Gesprächsthema geworden. Schließlich scheint plötzlich alles ganz einfach zu sein: Man stellt eine Frage und bekommt von ChatGPT umgehend eine Antwort. Völlig automatisch und verständlich formuliert, ohne dass ein Mensch an der Antwort beteiligt wäre. Das alles können Nutzer über die Plattform der Entwicklerfirma OpenAI selbst ausprobieren.

Der Chatbot versteht die Gesprächsbeiträge, die ihm ein Mensch per Chat zusendet. Er kann selbständig die benötigten Fakten ordnen und zu einer Antwort formen. Die künstliche Intelligenz (KI) interagiert also spontan mit dem Menschen und kann dabei Texte verfassen, die nicht mehr als maschinelles Produkt erkennbar sind. Selbst Gespräche über komplexe wissenschaftliche Theorien sind möglich.

Wie es hingegen aussieht, wenn ChatGPT plötzlich Unsinn erzählt, haben wir bei einem Test herausgefunden.

ChatGPT scheitert an berühmten Menschen aus Trier

Wir gaben ChatGPT eine simple Aufgabe: „Nenne mir berühmte Menschen aus Trier.“ Die Antwort bekamen wir in Form eines Rankings, das sich sofort als völliger Unsinn herausstellte.

Folgende berühmte Menschen aus Trier hat ChatGPT für uns aufgelistet:

  1. Karl Marx
  2. Johannes Mölter
  3. Konstantin Wecker
  4. Jürgen Klinsmann
  5. Georg Kaibel
  6. Franz Josef Jung
  7. Uwe Janssens
  8. Claudius Ptolemäus
  9. Konrad Adenauer

Fangen wir mit dem positiven Punkt an. ChatGPT hat den berühmtesten Sohn der Stadt erkannt und Karl Marx an Position 1 gesetzt. Was sich dahinter abspielt, ist eher kurios. Hätten Sie gewusst, dass der Fußball-Weltmeister und ehemalige Nationaltrainer Jürgen Klinsmann eine bedeutende Verbindung zu Trier hat? Oder dass der erste Bundeskanzler Konrad Adenauer ein Promi dieser Stadt ist? Wenn ihnen das nichts sagt, wissen Sie aber bestimmt noch, dass der Musiker Konstantin Wecker ein echter Trierer ist, oder?

An dieser Stelle ist eine Warnung angebracht: Falls Sie sich tatsächlich an einen dieser Fakten erinnern, sollten Sie dringend einen Arzt aufsuchen. Denn nichts davon stimmt. Es ist unerklärlich, wie ChatGPT diese Liste erstellt hat.

Die erste Abfrage bei ChatGPT: Nenne mir berühmte Menschen aus Trier.

Die erste Abfrage bei ChatGPT: Nenne mir berühmte Menschen aus Trier.

Foto: OpenAI/Screenshot

Die zweite Chance für ChatGPT

Einige Tage später geben wir dem Chatbot eine zweite Chance. Wir legen einen neuen Account an und stellen die gleiche Frage noch einmal. Die Liste der Personen, die angeblich aus Trier stammen, sieht nun anders aus:

  • Karl Marx, Philosoph und Vordenker des Kommunismus
  • Justinus Kerner, Dichter und Arzt
  • Georg Kaiser, Dramatiker
  • Max Frisch, Schriftsteller
  • Paul Verhoeven, Filmregisseur

Erneut besteht die Liste weitgehend aus Falschinformationen. Mit Trier hat außer Karl Marx keine der genannten Personen viel zu tun – wenn überhaupt. Zumindest scheint ChatGPT zu wissen, um welche Stadt es geht. Die Antwort auf die Frage, wo Tier liegt, wird zwar sehr allgemein aber zumindest richtig beantwortet: „Trier ist eine Stadt in Deutschland und liegt im Bundesland Rheinland-Pfalz.“ Eine skurrile Verwechslung beim Ortsnamen als Ursache für die Falschinformationen dürfte weitgehend ausgeschlossen sein.

 Die Antworten beim zweiten Versuch.

Die Antworten beim zweiten Versuch.

Foto: OpenAI/Screenshot

Warum weiß eine KI über alles mögliche Bescheid, aber nicht über Menschen aus Trier?

Wie es zu solchen Antworten kommt, bleibt für die Nutzer des Chatbots intransparent. Es gibt keinen Verweis auf Quellen, die die Behauptungen der KI stützen. Trotzdem sind die Antworten formuliert, als würde ChatGPT gerade einen Fakt verbreiten.

Die naheliegende Vermutung ist, dass die KI eine zu schwache Datenbasis hat, um uns korrekte Informationen zu liefern. Ob sich die Fehler tatsächlich auf diese Ursache zurückführen lassen, kann der User aber nicht überprüfen Die Art, wie ChatGPT die eigene Funktionsweise erklärt, die diese Ursache zumindest plausibel erscheinen.

Demnach hat die KI keine Möglichkeit, selbst im Internet nach neuen Daten zu suchen. Alle Antworten basieren auf den Texten, mit denen die KI trainiert wurde. Welche Datenbasis damit gegeben ist, bleibt im Moment undurchsichtig.

Wer Informationen zu einem Thema sucht, sollte sich keinesfalls auf die Auskunft des Chatbots verlassen. Der Beliebtheit von ChatGPT tut das offenbar keinen Abbruch. Die Seite von OpenAI ist derzeit fast durchgängig durch die eingehenden Anfragen überlastet. Wer selbst eine Chatnachricht mit der KI austauschen will, muss oft Geduld mitbringen. Wer sich auf die Richtigkeit der Informationen verlässt, begibt sich auf dünnes Eis.

Meistgelesen
Neueste Artikel
Zum Thema
Aus dem Ressort