Warum es ein Wettbewerbsvorteil sein kann, wenn man KI von Anfang an reguliert

Frau Wiesmüller, zunächst mal herzliche Gratulation. Max-Weber-Preis für Wirtschaftsethik, so heißt es genau, ein toller Preis für Ihre Promotion. Wie fühlen Sie sich denn jetzt erst mal?

Ja, tatsächlich ist es ein sehr schönes Gefühl, es freut mich sehr, am Ende einer harten Zeit, die einem viel abverlangt, so eine Würdigung zu bekommen. Ich habe die Doktorarbeit berufsbegleitend verfasst, da waren die Abende und Wochenenden teilweise sehr lang. Deshalb ist es schön, im Nachgang zu sehen, dass es sich wirklich gelohnt hat. Und auch, dass meine Doktorarbeit einen echten Beitrag leisten kann für Gesellschaft und für die Wirtschaft.

Es ist immer schwierig, eine Dissertation in kurze Worte zu fassen. Ich versuche es mal, aber eher als Einleitung für die nächste Frage. Sie haben sich damit beschäftigt, dass man diese Künstliche Intelligenz, die wir jetzt vor der Tür haben, nicht einfach so unreguliert auf die Wirtschaft entlassen sollte, richtig? Was spricht denn da dagegen?

Man sieht ja, dass Unternehmen aktuell die Treiber sind, wenn es darum geht, Künstliche Intelligenz mit der Gesellschaft in Kontakt zu bringen. Zum einen gibt es Forschungsinstitutionen, die Lösungen entwickeln, zum anderen, häufiger, dann Unternehmen, die diese Lösungen in Produkte umwandeln. Erst dann kommt der starke Einfluss auf die Gesellschaft zustande. Was dann passiert, ist nicht immer leicht vorherzusehen. KI soll dabei helfen, Muster in komplizierten Strukturen zu finden, zu vereinfachen und anschließend Handlungsempfehlungen zu geben. Aber wenn in den Daten, mit denen die KI arbeitet, bestimmte Charakteristiken in Datensätzen stärker ausgeprägt sind, kann es dazu führen, dass diese Daten später bevorteilt werden – was aber gar nicht im Sinne des Anwenders ist.

Nehmen wir beispielsweise das Recruiting von Amazon: Das Unternehmen hat eine Zeit lang keine Bewerbungen von Frauen mehr erhalten, was daran lag, dass die Daten der Firmenhistorie zeigten, dass hauptsächlich männliche Mitarbeiter angestellt worden waren. Basierend auf diesem dominanten Muster in den historischen Daten entschied die KI-Lösung, dass es sinnvoller sei, männliche Bewerber zu bevorzugen. Über einen gewissen Zeitraum fiel dies nicht auf, erst bewusste Analysen brachten diesen Effekt zum Vorschein.

Deswegen ist es bei Künstlicher Intelligenz wichtig, von Anfang an Datensätze nach Verzerrungen zu untersuchen, die Stabilität der Performance einer KI-Lösung zu prüfen und aktiv anzuerkennen, was die Technologie kann und was sie nicht kann. Wenn man versteht, welche Charakteristiken KI-Technologien haben, kann man diese gezielt für sich nutzen und Herausforderungen durch gezielte Maßnahmen ausgleichen. Derartige Vorgehensweisen waren also einer der Hauptpunkte meiner Arbeit.

Das ist der Dauerkritikpunkt bei den Large Language Models, nicht wahr? Dass unsere Literaturgeschichte eigentlich frauenfeindlich ist und viele dieser Modelle frauenfeindliche Vorurteile reproduzieren. Das muss man denen erst abtrainieren. Unsere moderne Vorstellung von Ethik entspricht nicht den ethischen Vorstellungen, die im Datensatz der Geschichte abgespeichert sind.

Was Sie ansprechen, ist eine der großen Herausforderungen bei Large Language Models: Wie bilden sie Minderheiten und benachteiligte Gruppen ab? Es gibt auch den Begriff der digitalen Ungleichheit. Diese unterrepräsentierten Gruppen haben nicht denselben Zugang zu digitalen Medien und nicht das notwendige Wissen oder die erforderlichen Fähigkeiten wie privilegierte Gruppen. Das wiederum verstärkt bestehende Strukturen und führt zu einer kontinuierlichen Unterrepräsentierung.

Eine andere große Herausforderung ist es, überhaupt erst einmal zu verstehen, welche Muster und Tendenzen in den zahllosen Datensätzen stecken, die uns durch das Internet zur Verfügung stehen, um diese Modelle zu trainieren. Das lässt sich in Gänze gar nicht analysieren und transparent machen. Daraus entsteht die Herausforderung, dass gesellschaftliche Folgen resultieren wie die des sogenannten händischen "labelings" von Datensätzen. Konkret bedeutet das, dass irgendjemand die vielen Daten, die in das Internet geladen werden, auch ansehen, bewerten und kategorisieren ("labeln") muss. Diese Tätigkeit wird oft in Entwicklungsländer ausgelagert und hat schlimme psychologische Folgen für die Beschäftigten. Denn sie sind diejenigen, die die Dinge aussortieren, die in den Trainingsdaten der KI nicht auftauchen sollen – wie Gewalt oder Pornographie.

 
Der Einsatz Künstlicher Intelligenz stellt uns also vor Herausforderungen und wenn man all das berücksichtigt, wird es noch schwerer, vorherzusagen, welche Ergebnisee eine KI produziert. Umso wichtiger ist es deshalb, durch gezielte Governance-Maßnahmen Leitplanken für die erfolgreiche und verantwortungsvolle Entwicklung und den Einsatz KI zu entwickeln.

Unternehmen mögen eine solche Regulierung gar nicht so gern, weil sie sich dann immer sehr schnell beschnitten, begrenzt fühlen und Sorge haben, nicht mehr genug Geld verdienen zu können. Darauf gehen Sie in Ihrer Promotion ein und stellen als Antwort die Relationale Ökonomie vor, die auch den menschlichen Faktor berücksichtigt. Was hat es denn mit dieser Relationalen Ökonomie auf sich?

Professor Dr. Josef Wieland hat die Relationale Theorie entwickelt. Er ist einer der führenden Wirtschaftsethiker in Deutschland. Die zwei Theoriestränge dafür kommen zum einen aus der Ökonomie und zum anderen aus der Soziologie. Im Kern geht es um verantwortungsvolles Wirtschaften und damit die Vereinbarkeit von Wirtschaft und Ethik. Meine Doktorarbeit beschäftigt sich damit, was das für Unternehmen in Bezug auf KI bedeutet und wie sie für sich damit möglicherweise sogar einen Wettbewerbsvorteil generieren können. Ich bin der Meinung, dass das sehr wohl möglich ist. Wenn Unternehmer nachhaltig in ihr Unternehmen und ihre Mitarbeiter:innen investieren, sie beispielsweise nicht nur im Ausland unter schlechten Bedingungen beschäftigen, dann macht sich das auf lange Sicht natürlich bezahlt.

Das betrifft auch die Künstliche Intelligenz. Dass ein Bewusstsein dafür existiert, dass der erfolgreiche Einsatz von KI auch Leitlinien erfordert, zeigt auch die Verabschiedung des "EU-AI-Acts", der Anfang 2024 von der EU verabschiedet wurde. Als Nächstes müssen ihn die EU-Länder nun auf nationaler Ebene ausformulieren. Wir warten also gerade auf die finale, nationale Ausarbeitung dieser Regulierung. Das EU-Gesetz ist die erste Regulierung von KI weltweit. Damit hat sich die EU also entschieden, dass der europäische KI-Markt nicht unreguliert bleiben soll. Für die Nutzer:innen ist das zunächst positiv, aber wir müssen genau hinschauen, wie sich die Regulierung auf europäische Innovation auswirken wird.

Vor allem bei Gründungen und Start-ups wird die Regulierung enormen Einfluss auf die Neuentwicklung von Ideen nehmen und diese zunächst womöglich erschweren. Wie gehen wir damit um? Wie wenden wir die Regulierung an? Und wie lassen sich proaktiv Mechanismen einbauen, wie zum Beispiel wiederkehrende Audits, um Verzerrungen wie bei dem Amazon-Beispiel zu verhindern. Wenn wir es schaffen, einen pragmatischen, praktischen und innovationsfreundlichen Ansatz hierfür zu finden, könnte Europa Vorreiter werden für verantwortungsvolle und sichere KI-Lösungen.

Was für eine Empfehlung könnten Unternehmen aus Ihrer Doktorarbeit mitnehmen?

Wenn eine Regulierung kommt, sind Unternehmen immer erst einmal damit beschäftigt, die Regulierung zu verstehen und anzuwenden. Das erfordert Zeit und ist also immer eine Zeitverzögerung, bis ein Unternehmen der Gesetzesvorlage entsprechen kann. Es empfiehlt sich daher, von vornherein auf verantwortungsbewusstes Unternehmertum zu setzen, weil sich damit diese Zeitverzögerung oder notwendige Umstrukturierungen verhindern lassen. Wer von vornherein Ethik mitdenkt bei der KI, muss sie nicht im Nachhinein integrieren, das Modell umtrainieren oder die Logik des Produkts anpassen. Das betrifft die Unternehmenskultur wie auch die interne Kommunikation oder Prozesse, aber auch Performance-Checks der KI-Lösungen und Ethik-Trainings für Individuen. Und wenn man alles – frei nach dem Motto „Tue Gutes und sprich darüber“  – auch noch transparent macht, kann man die Reputation bei Gesellschaftern und weiteren Stakeholdern, bei Belegschaft und Öffentlichkeit steigern.

Der Versuch, vier Jahre Arbeit in vier Minuten zu erklären, ist gelungen, finde ich. Vielen Dank. Was haben Sie als Nächstes vor?

Ich bin mittlerweile bei der Start2 Group. Wir sind ein Unternehmen, das im Kern Start-ups bei internationalen Markteintritten begleitet. Ursprünglich waren die Zielgruppe des Unternehmens einmal deutsche Start-ups, mittlerweile sind wir ein globales Unternehmen und arbeiten mit Start-ups aus aller Welt. Bei mir persönlich liegt dabei die Verantwortung für unsere Angebote und Partnerschaften rund um Künstliche Intelligenz in Europa. Das heißt, ich arbeite sowohl mit KI-Start-ups, die nach Europa expandieren möchten, mit europäischen Start-ups, die ins internationale Ausland skalieren möchten, als auch mit unseren europäischen Partnern im DeepTech-Bereich.

Also wenden Sie nun Ihre eigene Doktorarbeit an. Besser kann es nicht laufen. Noch einmal herzliche Gratulation, viel Erfolg und vielen Dank für das Gespräch.

Vielen Dank.

Der Preis wird seit 1992 vom Institut der deutschen Wirtschaft verliehen, einer in Köln ansässigen Forschungsanstalt. Der Preis ist mit insgesamt 5000 Euro für mehrere Werke dotiert. Er zeichnet Nachwuchswissenschaftler:innen für herausragende Beiträge zur Wirtschafts- und Unternehmensethik aus. 

Promoviert hat Dr. Sabine Wiesmüller im Fachbereich Wirtschaftswissenschaften am Lehrstuhl für Institutional Economics, Organisational Governance, Integrity Management & Transcultural Leadership von Professor Dr. Josef Wieland. Die Dissertation mit dem Titel „The Relational Governance of Artificial Intelligence – Forms and Interactions“ ist zu finden im Verlag Springer Nature Switzerland im Internet bei Springer Professional unter folgendem Link: