Nicht zu wissen, wie KI funktioniert, ist gefährlich

Herr Eckhard, Herr Weiss, Sie haben sich dafür eingesetzt, dass es an der ZU nun einen verpflichtenden Basiskurs für Künstliche Intelligenz gibt. Ist denn der Umgang mit KI eine neue Kulturtechnik, die man beherrschen muss?

Matthias Weiss: Ob der Umgang mit KI bereits eine Kulturtechnik ist, ist eine Frage der Definition. Gewiss ist aber, dass KI eine Technik ist, die beherrscht werden muss. Es braucht Kompetenzen im Umgang mit KI. Die blinde Anwendung, wie es aktuell oft der Fall ist, ist gefährlich. Weil bereits jetzt viele Entscheidungen auf Grundlage von KI getroffen werden, die Auswirkungen auf Menschen haben. Die Vermeidung von KI ist auch gefährlich. Weil dann Fehlentscheidungen nicht verhindert werden können. Ich bin der Meinung, dass der grundlegende Umgang mit dieser Technologie von jedem erlernt werden muss, der mit KI zu tun hat. Und das gilt schließlich für jeden von uns. Und ganz speziell gilt es für die jungen Menschen, die die Welt bald gar nicht mehr ohne KI kennen.

Steffen Eckhard: KI ist eine Technologie, die alle Bereiche berührt: im Privaten genauso wie im Beruflichen genauso wie in der Wissenschaft. Sie liegt sozusagen quer zu allem, was man heutzutage macht. Und sie ist transformativ. Sie wird alles verändern, was wir kennen: wie wir Autofahren und wie wir Entscheidungen treffen, wie wir produktiv sind, wie Unternehmen produktiv sind und wie sie Mehrwerte schaffen. Alles hängt mit KI zusammen.

Wenn sowieso niemand um KI herumkommt, wozu braucht es dann einen verpflichtenden KI-Kurs?

Steffen Eckhard: KI ist für die meisten eine Art Blackbox. Sie haben keine Ahnung, was darin vor sich geht. Wir müssen unsere Studierenden in die Lage versetzen zu verstehen, was KI ist. Wir müssen ihnen sozusagen einen Blick unter die Motorhaube ermöglichen. Es gibt unterschiedliche statistische Modelle und Wahrscheinlichkeitsrechnungen, die der KI zugrunde liegen. Um zu verstehen, wie KI funktioniert, muss man verstehen, wie diese Rechenmodelle funktionieren. Und dafür reicht oftmals schon ein recht oberflächlicher Ansatz, für den es keine besonderen mathematischen Kenntnisse braucht. Wer die Ergebnisse beurteilen will, die KI hervorbringt, muss verstehen, wie sie zustande kommen. Vor allem dann, wenn wichtige Entscheidungen darauf beruhen – wie zum Beispiel Behandlungspläne von Ärzten.

Matthias Weiss: Die ZU hat ein Studium Generale zum Thema KI angeboten. Da haben wir gesehen, was für ein enormes Informationsbedürfnis hierzu besteht. Wir betrachten den Pflichtkurs deshalb als notwendig, weil unsere Studierenden für das spätere Berufsleben gut vorbereitet sein müssen und es dort auch nicht mehr ohne KI gehen wird. Aber nicht nur die neuen Studierenden müssen das erlernen. Alle anderen auch. Daher bieten wir auch Zusatzkurse für die jetzigen Studierenden an.

Dinge kommen und gehen im Internet. Aber KI scheint nun für immer zu bleiben, oder?

 
Steffen Eckhard: Sie wird uns in allen Lebensbereichen beeinflussen – im Beruf wie auch im Privaten – sei es beim Arzt, in der Werkstatt, beim Hobby oder bei der Altersvorsorge. Deshalb ist es für mich auch entscheidend, dass unsere Studierenden sich systematisch damit auseinandersetzen, welche Chancen mit KI verbunden sind und welche Risiken. Das hat mit den Daten zu tun, auf denen KI basiert, und der Art und Weise, wie die KI diese Daten auswertet. Es ist auch oft so, dass mehrere Methoden miteinander verknüpft werden. Bei der Verschränkung können Verzerrungen entstehen, die man erkennen kann. Das müssen Expertinnen und Experten verstehen, aber auch Laien, zumindest im Ansatz. Weil man als Laie vielleicht mitreden will bei den Diagnosen, die der Arzt fällt. Man muss auch keine Expertin bzw. kein Programmierer sein, um KI zu verstehen. Das Basiswissen kann sich jeder aneignen. Man muss es nur tun.

Matthias Weiss: Auch wenn das eine neue Qualität ist, die KI mit sich bringt. Es lassen sich schon Parallelen zum Internet ziehen. Unsere Studierenden müssen auch den richtigen Umgang mit Wissensdatenbanken wie Wikipedia beispielsweise lernen. Sie müssen verstehen, wie die Informationen darin zusammenkommen. Wer sie einträgt und wie und ob die Informationen geprüft werden. Nicht alles, was in Wikipedia steht, stimmt automatisch. Die Informationen werden ja nicht nur von einschlägigen Wissenschaftler:innen verfasst. Da können sich Fehler einschleichen oder auch bewusst eingearbeitet, also gefälscht werden. Auch die Informationen, mit denen man es dort zu tun hat, muss man bewerten können. Und im Zweifel kommt man nicht um eine zusätzliche Recherche herum. Ganz ähnlich auch bei den Sozialen Netzwerken. Man muss verstehen, woher Informationen kommen und auf welche Weise sie verbreitet werden. Sonst kann man ein völlig falsches Verständnis von der Realität bekommen. Die Welt besteht nicht nur aus Gleichgesinnten und wir haben nicht alle dieselbe Meinung, wie es die Blasen vorgaukeln, in denen wir uns bewegen. Schlimmstenfalls radikalisieren sich sonst die Menschen. Also, ich glaube nicht, dass Bildung ein Allheilmittel ist, aber es ist auf jeden Fall immer der erste Schritt auf den richtigen Weg.

Steffen Eckhard: Wenn man anfängt, sich mit dem Thema zu beschäftigen, sieht man auch, dass es längst hunderte Anwendungsfälle gibt. Ich beschäftige mich zum Beispiel mit KI in öffentlichen Verwaltungen. Und da gibt es nun die ersten Chatbots, die Kundenanfragen annehmen. Es gibt Jugendämter, die KI zur Entscheidungshilfe einsetzen, wenn es darum geht einzuschätzen, ob Kinder Risikofälle sind. Da gibt es eine ganze Reihe von Anwendungen, die bereits da sind. Und wenn man mit den Mitarbeiter:innen spricht, die die KI anwenden, merkt man schnell, dass das Verständnis dafür fehlt, was die KI eigentlich genau macht. Und genau hier setzt unsere Idee an: Wir wollen dafür sorgen, dass es ein besseres Zusammenspiel zwischen künstlicher und menschlicher Intelligenz gibt – um bessere Entscheidungen treffen zu können.

Was war eigentlich der Anlass, den KI-Basiskurs auszuarbeiten?

Steffen Eckhard: An der Zeppelin Universität gibt es den Development Day. Da kommen Studierende und Lehrende zusammen, um zu überlegen, wie man die ZU weiterentwickeln kann. Letztes Jahr kam die Frage auf, wie wir an der Uni eigentlich mit ChatGPT umgehen wollen: Sollte es im Unterricht erlaubt sein? Sollte man damit Hausarbeiten schreiben dürfen? Das haben wir intensiv besprochen und dann Regeln dazu festgelegt. Mittlerweile haben wir den Umgang mit ChatGPT auch in der Prüfungsordnung verankert. Doch danach ging es noch weiter. Als erstes haben wir eine Ausbildung in Grundlagen und Methoden der KI entwickelt und jetzt sind wir an den Punkt gekommen, wo wir es für notwendig erachten, diesen Basiskurs als verpflichtenden Kurs einzuführen. Man muss verstehen, was hinter KI steckt. Dann entzaubert sich die KI übrigens auch ein wenig. Und man versteht besser, was wirklich funktioniert und was nicht, was hilfreich ist und was nicht.

Matthias Weiss: Die rasante Entwicklung im Bereich KI ist eine eigene Herausforderung. Ständig entstehen neue Start-ups und Technologien, die es zu verfolgen gilt. Aber die grundlegenden Prinzipien von KI ändern sich trotz dieses rasanten Wandels nicht. Anstatt uns also auf jede neue Entwicklung zu stürzen, sollten wir uns sinnvollerweise erst einmal ein Verständnis der Kernprinzipien aneignen. Mit dem Basiskurs schaffen wir ein Wissensfundament, das ermöglicht, langfristig mit der KI-Entwicklung Schritt zu halten, ohne ständig neues Wissen aneignen zu müssen.