Liebe KI, wir müssen reden!

Editorial des Programmheftes für das Workshopprogramm des Medienzentrums im Sommersemester 23: 

Die Entwicklung künstlicher Intelligenz (KI) hat in den letzten Jahren beachtliche Fortschritte gemacht – und nun einen kleinen Quantensprung vollbracht: erst wurde Anfang 2022 mit Dall-E der Firma OpenAI eine KI der Allgemeinheit zugänglich gemacht, die in der Lage ist, beliebige Bilder in unterschiedlichsten Stilen anhand einer kurzen Anweisung zu erstellen. Ende des Jahres kam dann mit dem KI-Sprachmodell ChatGPT noch ein Tool, das in Sekundenschnelle Texte erstellt, bei denen man nicht so ohne weiteres sagen kann, ob sie von einem Algorithmus oder von einem Menschen verfasst wurden. Die Nutzung von ChatGPT ist so einfach, dass es gerade auf dem besten Weg ist, als vielseitig einsetzbares, alltagstaugliches Werkzeug in der Breite der Gesellschaft anzukommen. Und das ist erst der Anfang: Google plant die baldige Veröffentlichung einer eigenen Sprach-KI, die Anbindung an die Websuche in Echtzeit ist bereits angekündigt und als kostenpflichtiges Angebot wurde die nächste Version von ChatGPT bereits veröffentlicht. Kurz gesagt: KI-Tools werden unsere Denk- und Schreibprozesse in vielen Bereichen unserer Gesellschaft schon sehr bald nachhaltig durcheinanderwirbeln!

Was heißt das nun für Universitäten oder auch für Schulen, in denen das Denken und Schreiben eine ganz zentrale Rolle einnimmt? An der Universität Hamburg wird derzeit viel darüber diskutiert, wie sich die Prüfungskultur verändern kann und muss, was der eigentliche Kern wissenschaftlichen Arbeitens ist und wie wir zukünftig mit Textarbeit und digitalen Schreibtools umgehen werden.

KI-Tools werden unsere Denk- und Schreibprozesse in vielen Bereichen unserer Gesellschaft schon sehr bald nachhaltig durcheinanderwirbeln! Was heißt das nun für Universitäten oder auch für Schulen, in denen das Denken und Schreiben eine ganz zentrale Rolle einnimmt?

Die Perspektiven pendeln dabei zwischen dem Wunsch nach technischer Beherrschbarkeit, etwa durch andere KI-Tools zur Erkennung von KI-geschriebenen Texten, der Abwendung von textbasierten Prüfungen hin zu mehr mündlichen, prozessorientierten, reflexiven Prüfungsformaten oder auch der Erörterung von Ideen zur konstruktiven und kreativen Nutzung der KI als Teil von Lern- und Prüfungsprozessen. Kritische Stimmen nehmen – durchaus auch berechtigt – die ethische Perspektive von KI in den Blick: So sind z.B. die Ergebnisse, die eine KI produziert, immer nur so gut, wie die Daten, mit denen sie trainiert wurde. Es gibt zahlreiche Beispiele, bei denen KI-Modelle diskriminierende Inhalte wiedergeben oder Hass (re)produzieren – und um dieses Problem in den Griff zu bekommen, muss eine KI lernen, problematische von unproblematischen Inhalten zu unterscheiden. Dieses Training wird häufig von schlecht bezahlten Clickworkern in Ländern fernab unserer westlichen Wohlstandsgesellschaft durchgeführt, die dafür große Mengen an Gewaltdarstellungen und anderen kritischen Inhalten ansehen und „aussortieren“ müssen.

Neben dieser diskursiven, kritischen Auseinandersetzung gibt es auch an unterschiedlichen Stellen konkrete erste Gehversuche zur konstruktiven Nutzung von KI-Tools. Dieses Editorial beispielsweise ist in großen Teilen im Zwiegespräch mit ChatGPT entstanden. Ich habe es zwar vollständig selbst formuliert, dennoch habe ich ChatGPT als Werkzeug in den Entstehungsprozess mit eingebaut. Als erstes habe ich versucht, mir mit einem recht ausführlichen Prompt¹ ein Editorial schreiben zu lassen, das sich damit beschäftigt, welche Auswirkungen ChatGPT auf Schulen haben kann, wie sich Prüfungen verändern könnten, wie das Thema im Unterricht thematisiert werden könnte und wie auch kritische und ethische Aspekte berücksichtigt werden könnten. Das Ergebnis war ok – aber doch ein wenig einfallslos und trocken. Mit verschiedenen Nachfragen und Detaillierungen habe ich versucht, den Textvorschlag zu verbessern, um insbesondere die Aspekte der veränderten Prüfungskultur, des kreativen Einsatzes und der kritischen Reflexion ethischer Aspekte im Unterricht hervorzuheben. Zusätzlich habe ich mir mehrere aussagekräftige Titel vorschlagen lassen – und das Ganze in weniger als zehn Minuten. Die Titelvorschläge und auch die anderen Textbausteine habe ich für diesen Text nicht wörtlich übernommen, und dennoch wurde dadurch mein Denkprozess beeinflusst. Ich habe für mich verschiedene Fragestellungen formuliert und Ideen für die Strukturierung im Austausch mit der KI nachgeschärft. Insbesondere bei der Formulierung der Überschrift wurde meine Kreativität durch die Vielzahl an Vorschlägen angeregt. Ich fühlte mich ein wenig so, wie die Ingenieure in Science-Fiction Filmen, die zusammen mit ihren Computern technische Entwicklungen diskutieren² – nur habe ich eben im Austausch mit der KI Gedanken und Argumente entwickelt, nicht Technik. Inzwischen gibt es hierfür auch schon den Begriff des Prompt Engineering.

Wir können KI-Sprachmodelle als eine Art “Sparringpartner” für Reflexions- und Schreibprozesse nutzen – wenn wir das auch transparent machen.

Den Prozess habe ich mit einem kleinen Experiment abgeschlossen: ich habe nach zehn verschiedenen Fragestellungen für eine Hausarbeit zum Thema KI und Unterrichtsentwicklung gefragt. Diese habe ich in ein paar Sekunden so verdichtet, dass ich ein brauchbares Thema für eine Hausarbeit hatte (»Ein verantwortungsvoller Umgang mit KI im Unterricht – ethische Überlegungen und konkrete Lösungsansätze«) – inklusive Gliederung und einer Einleitung, in der die Relevanz des Themas dargestellt wird und der Aufbau der Arbeit beschrieben und begründet wird.

Meinen letzten Prompt und die zugehörige Antwort möchte ich hier zum Abschluss noch wörtlich übernehmen:

Prompt: »Kannst Du mir diese Hausarbeit schreiben mit einem Umfang von 20 Seiten, DIN A4, Schriftgröße 12?«

ChatGPT: »Es tut mir leid, aber ich bin ein Sprachmodell und nicht in der Lage, eine 20-seitige Hausarbeit zu schreiben. Als Sprachmodell kann ich Ihnen bei der Erstellung einer Gliederung und der Formulierung von Absätzen und Argumenten behilflich sein, aber es wird wichtig sein, dass Sie die Hausarbeit selbst schreiben, um Ihr eigenes Verständnis des Themas zu vertiefen und Ihre eigene Stimme in die Arbeit einzubringen. Lassen Sie mich wissen, wie ich Ihnen sonst helfen kann.«

In diesem Sinne möchte ich noch einmal auf den Titel des Editorials zu sprechen kommen: Liebe KI, wir müssen reden! Und das habe ich getan. ChatGPT kann Denk- und Schreibprozesse unterstützen – aber es hängt, wie in einem guten Gespräch, auch immer davon ab, was wir fragen, wie wir auf die Antworten reagieren, was wir selbst daraus machen. Es hängt davon ab, wie wir es in unseren Denk- und Reflexionsprozess einbauen. ChatGPT ersetzt nicht die wissenschaftliche Recherche und Auseinandersetzung. Und wir dürfen natürlich nicht die Ergebnisse der KI als unsere eigenen Gedanken ausgeben – vor allem müssen wir uns bewusst sein, dass eine KI auch beizeiten halluzinieren kann. Sie kann Texte schreiben, die gut klingen, aber vollständig erfunden sind. Dennoch können wir KI-Sprachmodelle als eine Art “Sparringpartner” für Reflexions- und Schreibprozesse nutzen – wenn wir das auch transparent machen. Und das ist zumindest eine der Aufgaben, die Schulen und Hochschulen in Bezug auf KI leisten können (und müssen): kritisches Denken, Reflexionsfähigkeit und Problemlösekompetenz mit Hilfe von KI zu fördern.

Wir alle müssen verstehen und kritisch-reflexiv beurteilen können, was KI ist und welche Auswirkungen KI-Systeme haben können. Wir müssen KI-Tools kompetent nutzen können.

Wir werden die kritische Auseinandersetzung weiterführen müssen und gemeinsam Wege finden, den verschiedenen Aspekten und Herausforderungen zu begegnen – denn eine Sache ist klar: diese Entwicklung wird nicht wieder verschwinden. Wir stehen vor einem ähnlichen Wendepunkt wie 1993, als das WWW der Öffentlichkeit zugänglich gemacht wurde – nur dass die Entwicklungs- und Verbreitungsgeschwindigkeit sozio-technischer Neuerungen und damit das disruptive Potenzial heute deutlich höher ist. Unser Umgang mit Schreibprozessen wird sich grundlegend ändern (müssen).

Dahingehend wird die Förderung von KI-Kompetenzen³ zu einer Kernaufgabe für Schulen und Hochschulen: Wir alle müssen verstehen und kritisch-reflexiv beurteilen können, was KI ist und welche Auswirkungen KI-Systeme haben können. Wir müssen KI-Tools kompetent nutzen können. Wir müssen lernen, (mit) KI zu gestalten. Einen ersten Grundstein dafür haben wir vielleicht mit diesem Editorial gelegt. Weitere Ausbaumöglichkeiten eigener Kompetenzen im Bereich KI sowie weiterer gesellschaftspolitischer Themen rund um Medien und Kompetenzentwicklung finden sich in unserem Workshopprogramm. In diesem Sinne viel Spaß bei der Entwicklung Eurer eigenen digitalen Kompetenzen in unseren kostenlosen Workshops!

Christina Schwalbe für das Team des Medienzentrums

1. Als Prompt wird die Eingabe bezeichnet, mit der die KI aufgefordert wird, etwas Bestimmtes zu tun. ↑

2. Für Marvel-Fans sei hier an Tony Starks Gespräche mit Jarvis erinnert.↑

3. Im aktuellen Diskurs wird hierfür meist der englische Begriff AI-Literacy verwendet.↑