ChatGPT: Verlernen wir das Denken?

Es gab aber noch eine vierte Veranstaltung?

Ja, da haben sie sich am MIT etwas Besonderes einfallen lassen: Wer zuerst in der Gruppe „Sprachmodell“ gewesen ist, musste jetzt bei einem Essay völlig auf digitale Hilfe verzichten. Wer aber am Anfang ohne Sprachmodell und Suchmaschine zu arbeiten hatte, erhielt jetzt die Möglichkeit, diese digitalen Tools zu nutzen. 54 Probanden waren bei den ersten drei Sessions dabei, zur vierten kamen aus diesem Kreis noch 18 Teilnehmer. Bei diesem Rollentausch erwiesen sich die ehemaligen Nutzer des Sprachmodells als weniger leistungsfähig – im Vergleich zur ehemaligen Gruppe „Nur Gehirn“.

Was ist für Sie das erstaunlichste Resultat? Wo sehen Sie die Parallelen zwischen Ihrem Buch und den MIT-Resultaten?

Sprachmodelle wir ChatGPT liefern uns fertige Ergebnisse, die zwar zu verbessern sind, uns aber in die Rolle eines Pseudo-Lektors versetzen. Denn: Kaum ein Gedanke entspringt mehr unserem eigenen Denken. Auf diese Weise dominieren Resultate, und der eigentliche Prozess bleibt unsichtbar hinter der KI-Fassade. Vor allem ist es nicht unser eigener Prozess; der „Promptologe“ agiert nicht aktiv: Eine Entfremdung von der eigentlichen Arbeit setzt ein, wodurch der wichtige emotionale Prozess austrocknet. Die intrinsische Motivation droht langfristig auf der Strecke zu bleiben. Sprachmodelle könnten kognitive Funktionen reduzieren und damit Trainingseffekte der Neuroplastizität verhindern. Soweit meine Überlegungen, die das MIT jetzt bestätigt.

Welche Schlussfolgerungen haben Sie daraus gezogen?

In meinem Buch gehe ich stark auf das Konzept der Neuroplastizität ein: Die neuronalen Verbindungen unterliegen im Gehirn einem ständigen Wandel, sie können an Leistungsfähigkeit einbüßen oder gewinnen. Wer viel kognitiv arbeitet, stärkt die Nervenbahnen – und umgekehrt. So sind geistige Anstrengungen unabdingbar – genauso wie das Training der Sportler, um Muskulatur aufzubauen. Im Englischen gibt es dazu eine passende Redensart: „Use it or lose it“ – Nutze Deine Muskeln, oder Du verlierst sie. Das gilt auch für unser Gehirn!

Wie fügt sich das amerikanische Experiment ins Bild?

Mit ihren EEG-Messungen fanden die MIT-Wissenschaftler eindeutige Belege, dass die neuronalen Verknüpfungen im Gehirn desto stärker abnahmen, je mehr es zu einer „externen Unterstützung“ beim Schreiben gekommen ist. Die Gruppe „Nur Gehirn” wies die stärksten Netzwerke auf, die eine weite Reichweite hatten. Die Gruppe „Suchmaschine” zeigte eine mittlere Beteiligung der Nervenzellen, und die Gruppe „Sprachmodell“ wies die schwächste Kopplung der neuronalen Netze auf. Ganz klar: Wer seine „grauen Zellen“ nicht mehr stark fordert, fällt beim EEG sofort auf. Etwa, wenn es schnelle Technik möglich macht, bequem und einfach Sprachmodelle nach Worten suchen zu lassen. Das schwächt die Neuroplastizität.

Also gilt fürs Gehirn auch der Satz „Use or lose it“, oder?

Genau darauf weisen die Ergebnisse der MIT-Wissenschaftler hin. Es kommt zu einem Umbau im Gehirn: Das Sprachmodell wirkt sich nicht nur auf die Bewältigung der Aufgabe aus, sondern führt zu einer neuen „kognitiven Architektur“, wie das MIT schreibt. Die Gruppe „Nur Gehirn“ nutzte „breite, verteilte neuronale Netzwerke“, um intern ihre Inhalte zu erstellen. Die Gruppe „Suchmaschine“ stützte sich auf besondere Strategien, um visuelle Informationen zu verarbeiten. Eine anspruchsvolle Tätigkeit, die wir alle kennen, wenn wir aus Listen mit unzähligen Treffern die richtigen Links herausfiltern wollen. Dagegen hatte die Gruppe „Sprachmodell“ nur die Aufgabe, KI-generierte Vorschläge zu verarbeiten und in bestehende Strukturen zu integrieren. Diese Unterschiede werfen gewaltige Fragen für die pädagogische Praxis auf!

Das Gedächtnis hat auch in der Gruppe „Sprachmodell“ gelitten?

Sehr deutlich, wie die Wissenschaftler feststellen: In der Gruppe „Sprachmodell“ erlebten sie, dass 83 Prozent der Teilnehmer in der ersten Runde große Schwierigkeiten hatten, nach dem Essay korrekt aus ihrem Text zu zitieren. Die anderen zwei Gruppen waren da viel stärker unterwegs. Ebenfalls spannend war die Frage, wie sehr sich die Probanden mit der eigenen Arbeit identifizieren. Ich vermute in meinem Buch: Je weniger wir selbst Gedanken fassen und bewusst formulieren, desto geringer wird unsere innere Beteiligung am Schreiben. Das kann nur auf Kosten der eigenen Motivation gehen.

Und die MIT-Wissenschaftler?

Die Gruppe „Nur Gehirn“ betrachtete fast einstimmig ihre Essays als eigene Arbeit. Dagegen zeigte die Gruppe „Sprachmodell“ ein „fragmentarisches und widersprüchliches Gefühl der Urheberschaft“, wie es die Wissenschaftler ausdrücken. Einige Probanden beanspruchten die Essays als „volles geistiges Eigentum“, andere wiesen das völlig zurück, und manche kamen zu der Einschätzung, wenigstens einen Teil der Ergebnisse wäre ihr eigener Verdienst. Fatal! Denn die MIT-Wissenschaftler äußern den Verdacht: Ein „vermindertes Gefühl der kognitiven Handlungsfähigkeit“ könnte die Folge sein, wenn Sprachmodelle zum Einsatz kommen.

(1) Die MIT-Studie

Nataliya Kosmyna, Eugene Hauptmann, Ye Tong Yuan, Jessica Situ, Xian-Hao Liao, Ashly Vivian Beresnitzky, Iris Braunstein, Pattie Maes (2025): 

Ihr Gehirn auf ChatGPT: Anhäufung von kognitiven Schulden bei der Verwendung eines KI-Assistenten für Aufsatzschreibaufgaben

Original: Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task

Link: https://arxiv.org/abs/2506.08872

Zusammenfassung

Diese Studie untersucht die neuronalen und verhaltensbezogenen Konsequenzen des LLM-unterstützten Aufsatzschreibens. Die Teilnehmer wurden in drei Gruppen eingeteilt: LLM, Suchmaschine und nur das Gehirn (keine Hilfsmittel). Jede Gruppe absolvierte drei Sitzungen unter den gleichen Bedingungen. In einer vierten Sitzung wurden die LLM-Nutzer der Nur-Gehirn-Gruppe (LLM-to-Brain) und die Nur-Gehirn-Nutzer der LLM-Bedingung (Brain-to-LLM) zugewiesen. Insgesamt 54 Teilnehmer nahmen an den Sitzungen 1-3 teil, wobei 18 die Sitzung 4 abschlossen. Wir setzten Elektroenzephalographie (EEG) ein, um die kognitive Belastung während des Aufsatzschreibens zu messen, und analysierten die Aufsätze mithilfe von NLP und bewerteten die Aufsätze mit Hilfe von menschlichen Lehrern und einem KI-Richter. Über die Gruppen hinweg zeigten NERs, n-Gramm-Muster und die Themenontologie Homogenität innerhalb der Gruppe. Das EEG zeigte signifikante Unterschiede in der Konnektivität des Gehirns:

Die kognitive Aktivität verringerte sich im Verhältnis zur Verwendung externer Werkzeuge. In Sitzung 4 zeigten LLM-zu-Gehirn-Teilnehmer eine reduzierte Alpha- und Beta-Konnektivität, was auf ein zu geringes Engagement hindeutet. Brain-to-LLM-Nutzer wiesen eine höhere Erinnerungsleistung und eine Aktivierung der okzipito-parietalen und präfrontalen Areale auf, ähnlich wie die Nutzer von Suchmaschinen. Der selbstberichtete Besitz von Aufsätzen war in der LLM-Gruppe am niedrigsten und in der reinen Brain-Gruppe am höchsten. LLM-Nutzer hatten auch Schwierigkeiten, ihre eigene Arbeit genau zu zitieren. Während LLMs sofortige Bequemlichkeit bieten, weisen unsere Ergebnisse auf mögliche kognitive Kosten hin. Über einen Zeitraum von vier Monaten zeigten die LLM-Benutzer durchweg schlechtere Leistungen auf neuronaler, sprachlicher und verhaltensbezogener Ebene. Diese Ergebnisse geben Anlass zur Besorgnis über die langfristigen pädagogischen Auswirkungen der LLM-Nutzung und unterstreichen die Notwendigkeit, die Rolle der KI beim Lernen genauer zu untersuchen.