Für Freiheitsrechte, gegen Massen-Überwachung und Sicherheitswahn

Als die ersten Programme textgenerierender (generativer) Künstlicher Intelligenz (KI), namentlich Chat GPT, auf den Markt kamen, hallte ein Schreckensschrei durch Deutschlands Universitäten. Insbesondere die Geisteswissenschaften sahen, wenn nicht das Ende der Welt, so doch zumindest das Ende ihrer eigenen Fächer gekommen (1). Im Wochentakt wurden Tagungen zusammengerufen. Die liefen dann häufig so ab, dass auf dem Podium ein Informatiker stand, der mit leuchtenden Augen vom „technischen Durchbruch“ schwärmte, den generative KI bedeute, während seinem Publikum so gar nicht nach schwärmen zumute war. Dieser Schock ist abgeklungen. Wohl auch deshalb, weil sich inzwischen herausgestellt hat, dass viele der düsteren Szenarien kaum mehr waren als geschickt lancierte Negativwerbung der Digitalindustrie. Nun allerdings lässt sich an vielen deutschen Universitäten ein Verhalten beobachten, das an das Phänomen der Identifikation mit dem Aggressor erinnert. Hatte man zunächst wie das Kaninchen vor der Schlange dagehockt, kann es nun gar nicht schnell genug gehen mit dem Einbau generativer KI in den Studienalltag. Einführungen in die Programmnutzung schießen wie Pilze aus dem Boden. Ein Wettlauf hat begonnen, wer sich als erstes der neuen Technik an den Hals wirft. Dabei soll es selbstverständlich um einen „kritischen Umgang“ mit KI gehen. Vom „souverän Schreibenden“ ist die Rede, der freien Geistes über die neuen Tools verfügen kann; oder, mit einem neudeutschen Begriff, von „AI-Leadership“. Schade nur, dass der „souverän Schreibende“, wenn alles gut geht, am Ende eines akademischen Studiums steht, und nicht an seinem Anfang. Und auch, was mit einem „kritischen Umgang mit KI“ eigentlich gemeint ist und wie er zu erreichen sei, bleibt vage. **Mit der Kaffeemaschine die Wohnung streichen** Dass sich KI auch didaktisch produktiv verwenden ließe, wird sich, wenn die Unis so weitermachen, als Schutzbehauptung erweisen. Entscheidend ist nämlich nicht, was sich mit einer Maschine theoretisch alles tun ließe, sondern ihr primärer Sinn: das, wofür sie wirklich geschaffen wurde. Dieser primäre Sinn wird sich letztlich in der Breite durchsetzen. Nichts hindert mich daran, mit meiner Kaffeemaschine die Wohnung streichen zu wollen. Nur wird der Erfolg eher dürftig ausfallen. Natürlich könnte ein SUV-Fahrer im Prinzip auch langsam fahren. Nur wird er es nicht tun. Zumindest nicht auf Dauer. Mal ganz davon abgesehen, dass er sich, wenn er weiter hätte langsam fahren wollen, vermutlich kein SUV gekauft hätte. Den Beweis lieferte 2015 Jan Stremmler von der Süddeutschen Zeitung, in einem erheiternden Selbstversuch. Er wollte versuchen, mit seinem neu gekauften SUV ein genauso friedlicher und gesitteter Verkehrsteilnehmer zu bleiben wie zuvor. Zwei Tage lang hielt er das durch. Dann hatte er den Kampf Mensch gegen Maschine verloren: „Nach zwei Tagen hat der Wagen gewonnen. Ich zimmere die A9 runter, linke Spur, da schert ein silberner Kombi vor mir ein. In den Rückspiegel gucke ich […] schon lange nicht mehr. Wer 225 Kilometer pro Stunde fährt, muss nicht mit vielen Überraschungen von hinten rechnen. Aber vor mir mit 150 in die Überholspur ziehen? Ich knurre. Obwohl ich nie knurre. Ich ziehe den Hebel für die Lichthupe. Obwohl ich nie die Lichthupe betätige. Ich bin ein rücksichtsloser Arsch. Das Auto hat gesiegt.“ > _**Nur wer ohne Technik leben kann, kann auch mit Technik leben**_ Der primäre Sinn von KI ist es, ihren Nutzerinnen und Nutzern Arbeiten abzunehmen, dadurch individuelle Fähigkeiten abzubauen und auf diese Weise Abhängigkeiten zu schaffen, die möglichst ein Leben lang andauern. Bezahlt wird mit Geld oder Daten oder beidem. Wer heute gängige KI-Tools auf Herz und Nieren prüft, wird außerdem feststellen, dass sie dort, wo man sie rechtlich, ethisch und didaktisch unbedenklich verwenden könnte, kaum einen Mehrwert bieten. Man kommt mühelos auch ohne sie klar, oder nutzt andere, längst etablierte Hilfsmittel, Online-Bibliographien oder ähnliches, ohne das ständige Risiko des Datendiebstahls eingehen zu müssen. Der Reiz von generativer KI liegt also gerade im „Illegalen“ und Bedenklichen. Die Schwächen von KI-Tools werden sich möglicherweise als weniger entscheidend erweisen als die Schwächen der Spezies Mensch. Denn auf diese sind die meisten Tools abgestellt. Zu lernen ist anstrengend. Eine Maschine, die säuselt: „Drück‘ meine Taste, und Du wirst nie wieder leiden müssen“, kann da zu einer ernsten Versuchung werden. Hinzu kommt eine seit der Bologna-Reform von 1999 weitgehend auf den Hund gekommene Studienkultur. Wo Studierende mit heraushängender Zunge von Pflichtkurs zu Pflichtkurs gejagt werden; wo nur noch Credit-Points gezählt werden; wo am Ende alles auf eine bildungsschädigende Erhöhung des Tempos hinausläuft, die gerne mit dem Euphemismus: „Effizienz“ verbrämt wird, kann der Sirenengesang generativer KI für viele unwiderstehlich werden. Der Schreibforscher Otto Kruse hat sicherlich recht, wenn er mahnt, man solle Vertrauen in die Intelligenz junger Menschen haben. Dann allerdings müssen die Unis Strukturen schaffen, die ein solches Vertrauen auch rechtfertigen. **Ein kognitiver Schuldenberg** Was geschieht, wenn der primäre Sinn von generativer KI sich mehr und mehr durchsetzt, erweist eine Studie des Massachusetts Institute of Technology (MIT), die 2025 unter dem Titel „Your Brain on ChatGPT“ [‚Ihr Gehirn auf ChatGPT‘] veröffentlicht wurde. Dort wird der Begriff der „kognitiven Schulden“ eingeführt und folgendermaßen erläutert: Mit „kognitiven Schulden“ sei ein Zustand gemeint, „bei dem ausgelagerte Denkarbeit die eigene Lernfähigkeit und kritische Auseinandersetzung beeinträchtigt“. Eingeteilt in drei Gruppen, wurden 54 studentische Testpersonen gebeten, einen Essay zu schreiben. Die erste Gruppe arbeitete ausschließlich mit KI. Die zweite nutzte gängige digitale Hilfsmittel wie Google usw. Die dritte erledigte ihre Aufgabe ganz ohne technische Hilfsmittel. In einer vierten, optionalen Sitzung tauschten die KI-Gruppe und die technikfreie Gruppe die Plätze: Die KI-Gruppe musste nun ganz ohne Hilfsmittel auskommen, während die technikfreie Gruppe KI benutzen durfte. Dabei wurde die Hirnaktivität der ProbandInnen gemessen. Anschließend wurden die Testpersonen zum Inhalt ihrer Essays befragt. Die Ergebnisse waren wenig überraschend: Die Gruppe, die vor vorne herein mit KI gearbeitet hatte, machte die schlechteste Figur. Ihre Hirnaktivität lag weit unter jener der Gruppe mit gängigen Hilfsmitteln, vor allem aber der Gruppe ganz ohne technische Hilfsmittel. Im Laufe des Schreibprozesses, wenn man ihn denn überhaupt noch so nennen will, wurde sogar ein Absinken (!) ihrer neuronalen Aktivität beobachtet. Die Verfasser der Studie bezeichnen dieses Phänomen als „neuronale Effizienzanpassung“: Was das Gehirn nicht tun muss, das tut es eben auch nicht mehr. Bei den anschließenden Interviews war niemand aus der KI-Gruppe in der Lage, Zitate aus dem eigenen Text fehlerfrei wiederzugeben. Der Lerneffekt war also gleich Null. Als die KI-Gruppe dann auf sich allein gestellt war, stieg ihre Gehirnaktivität an. Sie erreichte aber nicht einmal im Ansatz das Niveau der technikfreien Gruppe. Die Teilnehmenden hatten sich „verschuldet“. „Kognitive Schulden“, so die Autoren der Studie, „verschieben die mentale Anstrengung kurzfristig, führen aber langfristig zu Kosten wie verminderter kritischer Nachfrage, erhöhter Anfälligkeit für Manipulation und geringerer Kreativität“. Eine unselbstständige, unkritische Bevölkerung, die mit den Mitteln des Netzes leicht zu manipulieren ist, ist der Wunschtraum der Autokraten. Egal, ob demokratisch umflort oder nicht. Generative KI im Studium: **Ausweg oder Irrweg?** Interessant waren die Ergebnisse der technikfreien Gruppe, die in der vierten Sitzung mit KI arbeiten sollte. Dort wurde die höchste neuronale Aktivität gemessen, höher sogar als bei derselben Gruppe in den ersten drei Durchgängen. Die Autoren der Studie erklären dies damit, dass die Teilnehmenden erstmals mit KI arbeiteten und sich in das Programm erst einarbeiten musste, sich aber vor allem in der Situation fanden, ihren zuvor eigenständig verfassten Text kritisch mit KI-generierten Entwürfen vergleichen zu können. Daraus lässt sich nur ein Schluss ziehen: Generative KI kann nicht didaktisch produktiv in die Vermittlung jener kognitiven Fähigkeiten eingebunden werden, für die sie eingesetzt werden soll. Diese müssen bereits vorher auf einem soliden Niveau vermittelt und eingeübt worden sein. Und zwar ohne KI. Wird KI eingesetzt, bevor diese kognitiven Fähigkeiten erworben sind, kann sie ihre Entwicklung sogar blockieren und führt zu einer deutlichen Schwächung der geistigen Leistungsfähigkeit. Zentrale geistige Fähigkeiten technikfrei einzuüben muss demnach das vorrangige Ziel von Bildungseinrichtungen sein, und nicht Fortbildungskurse für KI-Tools. Sonst wird es keinen „kritischen Umgang“ mit generativer KI geben können, sondern eben irgendwann nur noch KI. Mit Blick auf Tablets an Kindergärten und Schulen hatte der Neurowissenschaftler und Philosoph Manfred Spitzer diesen Umstand schon 2012 in seinem Buch „Digitale Demenz“ angemahnt: Wer kognitive Schulden schon in jungen Jahren übermäßig anhäuft, kann sie irgendwann nicht mehr abbezahlen. Wenn es also angeblich so sicher ist, dass KI sich im akademischen Studium durchsetzen wird: Was hindert dann die Unis daran, den Sinn des Studiums, nämlich die geistige Eigenständigkeit und Mündigkeit durch das Erkennen von Zusammenhängen, öffentlich gegen das lügenhafte Marketingversprechen grenzenloser Bequemlichkeit zu verteidigen? Man könnte ihnen dann schwerlich vorwerfen, sie würden die neue Technik nicht zur Kenntnis nehmen oder sie einfach aussitzen wollen. Wobei ich mir erlaube, darauf hinzuweisen, dass der Vorwurf der „Technikfeindlichkeit“, zumal an einer Universität, ohnehin eine aparte Idiotie ist: Es kann nicht die Aufgabe von Menschen sein, die in der Forschung und Lehre arbeiten, wie eine Horde Hofkinder jubelnd jeder Sau nachzulaufen, die durchs Dorf getrieben wird. Schon gar nicht, wenn diese Sau die Schweinepest hat. Es wird den Unis, wenn sie ihren Auftrag ernst nehmen, angesichts der neuen Erkenntnisse nichts anderes übrigbleiben, als die Nutzung generativer KI in den niederen Semestern bis zum Bachelor zu unterbinden. Gleichzeitig müssten mehr wissenschaftliche Schreibaufgaben gestellt werden, und die Unterstützung der Studierenden, deren Schwierigkeiten ohne technische Hilfe zu meistern, müsste zunehmen. Da man aber wissenschaftliches Arbeiten nicht in fünf Minuten lernen kann, müsste auch die Beschleunigung des Studiums beendet werden. Nur so bliebe eine Chance, dass Studentinnen und Studenten in den höheren Semestern tatsächlich in der Lage wären, generative KI eigenständig, zielgerichtet und didaktisch produktiv – eben „kritisch“ – für ihr Studium zu nutzen. Dort wäre dann auch der Platz für Workshops zu den neuen Programmen. Der Sinn dieser Maßnahmen wäre immer wieder zu erklären. Aufgabe der Unis wäre eine klare, wohlbegründete Positionsnahme gegen die Digitalisierung des Denkens, die das Misstrauen gegenüber KI vergrößern würde. Eine ideologische Gegenposition. Denn bei Lichte betrachtet ist die Digitalisierung weniger eine Technologie als eine Ideologie. Von den katastrophalen ökologischen Folgen der massenhaften Nutzung von KI ist in diesem Kommentar noch nicht einmal die Rede gewesen. Als der Taschenrechner auf den Markt kam, wurde nach langer Diskussion beschlossen, seine Benutzung an deutschen Schulen für die unteren Klassen zu verbieten und ihn erst in den höheren Klassen zuzulassen. Dort freilich wurden dann auch die gestellten Aufgaben anspruchsvoller. Die Gefährdung der geistigen Entwicklung junger Menschen durch generative KI lässt sich mit der durch einen simplen Taschenrechner nicht vergleichen. Genau dies ist aber nur ein weiterer Grund, bei der Wahl des hochschulpolitischen Umgangs mit der Herausforderung durch generative KI sorgsam vorzugehen und sich nicht von vorweg genommen Denkverboten verwirren zu lassen. **Fazit** KI wird die menschliche Kultur verändern und hat sie schon verändert. Ob sie sich dauerhaft im akademischen Studium etablieren wird, scheint weniger ausgemacht. Es sei denn, die Unis selbst sorgen dafür. So oder so gilt in kaum einem anderen Bereich menschlicher Tätigkeit so sehr der alte Satz: Nur wer ohne Technik leben kann, kann auch mit Technik leben. (1) Siehe „Schöne finstere Datenwelt. Die ökologischen Folgen der Digitalisierung“, Artikel von Joseph Steinbeiß, in: GWR 451, September 2020, https://www.graswurzel.net/gwr/2020/08/schoene-finstere-datenwelt/ **Dies ist ein Beitrag aus der aktuellen Ausgabe der Graswurzelrevolution. Schnupperabos zum Kennenlernen gibt es _hier._** ###### **Wir freuen uns auch über Spenden auf unserSpendenkonto.** Leitartikel

Joel Spolsky warnte schon 2000 davor, Code lieber neu zu schreiben als zu lesen. Mit LLMs wird seine Diagnose zur drängenden Frage für jedes Team.