Forschung zeigt: KI und menschliche Irrationalität im Vergleich

Psychologische Tests enthüllen die Denkfehler von KI-Modellen

Die Untersuchung von Forschenden des University College London analysierte die Rationalität von sieben großen KI-Sprachmodellen, darunter GPT-3.5, GPT-4, LaMDA und Claude 2, anhand von kognitiven Tests aus der Psychologie. Diese Tests, die ursprünglich zur Aufdeckung von kognitiven Verzerrungen bei Menschen entwickelt wurden, offenbarten, dass KI-Modelle ebenfalls irrational denken, jedoch auf eine eigene Art. Während menschliche Denkfehler oft durch mentale Abkürzungen entstehen, zeigen KI-Modelle logische Inkonstanzen und mathematische Fehler.

Ein bemerkenswertes Ergebnis der Studie war, dass GPT-4 von OpenAI am besten abschnitt, mit 69,2 % korrekten Antworten. Dieses Modell gab in 73,3 % der Fälle menschenähnliche Antworten, während Llama 2 von Meta mit nur 7 Milliarden Parametern in 77,5 % der Fälle falsche Antworten lieferte. Diese Diskrepanz zeigt, dass die Größe und das Training der Modelle einen erheblichen Einfluss auf ihre Leistung haben.

Die Autoren der Studie warnen vor dem Einsatz solcher KI-Modelle in kritischen Bereichen wie der Medizin, da die inkonsistenten und teilweise irrationalen Ergebnisse potenziell gefährlich sein könnten. Sie betonen, dass weitere Forschung notwendig ist, um die Sicherheit und Zuverlässigkeit dieser Systeme zu verbessern. Dies könnte durch verbesserte Trainingsmethoden und detaillierte Evaluierungen der Modelle erreicht werden.

Quellenangabe:

Quelle: The Decoder, Link zur Quelle: The Decoder

Schlussfolgerungen und Anregungen für Trainer, Berater und Coaches:

• Verständnis der KI-Rationalität verbessern: Die Studie zeigt, dass KI-Modelle anders als Menschen irrational denken. Dies ist wichtig für die Gestaltung von Trainingsmaterialien, die auf die speziellen Schwächen der KI eingehen.
• Anwendung in kritischen Bereichen kritisch prüfen: Trainer und Berater sollten die Risiken und Unsicherheiten bei der Nutzung von KI in sensiblen Bereichen wie Medizin und Finanzen hervorheben. Ferner muss der Einsatz von LLMs im Coaching genau bedacht werden.
• Weiterbildung und Training anpassen: Die Erkenntnisse der Studie können genutzt werden, um Trainingsprogramme zu entwickeln, die den spezifischen Denkfehlern von KI-Modellen entgegenwirken.
• Beispielhafte Übungen entwickeln: Praktische Übungen, die die kognitiven Verzerrungen von KI-Modellen aufzeigen, können helfen, ein tieferes Verständnis für die Funktionsweise dieser Systeme zu entwickeln.

Bernhard, 8.06.2024

Bildnachweis: Dall E3