Weingarten – Künstliche Intelligenz verändere ähnlich wie die Elektrizität „nicht nur einen einzelnen Wirtschaftszweig, sondern wirke auf nahezu alle Bereiche von Wirtschaft und Gesellschaft“, stellt Marius Hofmeister (45) fest. Der Professor für Informatik und Studiendekan an der RWU Hochschule Ravensburg-Weingarten sieht in der „Technikentwicklungsgeschwindigkeit (…) eine große Herausforderung“ und fordert „eine demokratisch legitimierte Kontrolle über leistungsfähige KI-Systeme“. Der Wissenschaftler äußert sich auch zur Enzyklika „Magnifica humanitas“ von Papst Leo XIV.

Herr Prof. Hofmeister, Papst Leo XIV setzt sich in seiner ersten Enzyklika kritisch mit der Künstlichen Intelligenz auseinander. Was halten Sie davon?

Viele der in der Enzyklika genannten Aspekte wie beispielsweise, dass Technologien sich nicht in der Hand weniger konzentrieren dürfen, finden sich auch in der nichtchristlichen KI-Ethik wieder. Als Hochschullehrer und Informatiker halte ich es jedenfalls für essenziell, über die gesellschaftlichen Risiken Künstlicher Intelligenz in der Bevölkerung aufzuklären.

Der Papst fordert: ‚Künstliche Intelligenz muss entwaffnet werden, befreit von den Logiken, die sie zu einem Instrument der Herrschaft, der Ausgrenzung und des Todes machen.‘ Er stellt fest, Technologie sei weder gut noch böse, aber auch nie neutral, da die Technik die Werte ihrer Entwickler widerspiegele. Teilen Sie als Wissenschaftler diese Einschätzung mit welcher Schlussfolgerung?

Es ist richtig, dass Technik an sich weder gut, böse, noch neutral ist. Als Informatiker*innen haben wir eine besondere Verantwortung, da wir es sind, diese KI-Systeme bauen und gestalten. Unsere Fachgesellschaft hat daher bereits 1994 ethische Leitlinien veröffentlicht, die unverzichtbarer Bestandteil unserer Ausbildung sein müssen. Ich würde die Aussage des Papstes in meinen eigenen Worten wie folgt konkretisieren wollen: Ja, wir benötigen eine demokratisch legitimierte Kontrolle über leistungsfähige KI-Systeme. 

An Ihrer Hochschule wird zur Künstlichen Intelligenz geforscht und nach Anwendungen gesucht. Mit welcher Intention und welchen Ergebnissen?

Ich selbst arbeite in einem Projekt mit, das den Einsatz von KI in der Hochschulverwaltung zum Ziel hat. Im Rahmen des Projekts sollen KI-Lösungen pilothaft implementiert und evaluiert werden. Im Mittelpunkt steht die Analyse, welche KI-Werkzeuge sich für den konkreten Einsatz im Hochschul­kontext eignen und wie sie die tägliche Verwaltungs­arbeit erleichtern können. Abseits dieses konkreten Beispiels möchte ich betonen, dass Forschung und wissenschaftliche Erkenntnisse die Grundlage für faktenbasierte Debatten und Entscheidungen in unserer Gesellschaft sind; ein aktuell sehr hohes Gut.

Wie lässt sich die Künstliche Intelligenz im Rahmen des technischen Fortschritts einordnen?

Vergleicht man KI mit früheren technologischen Umbrüchen, wird sie als eine ‚General Purpose Technology‘ betrachtet ähnlich wie die Dampfmaschine oder die Elektrifizierung. Solche Technologien verändern nicht nur einen einzelnen Wirtschaftszweig, sondern wirken auf nahezu alle Bereiche von Wirtschaft und Gesellschaft.

Sie veranstalten Vorlesungen zur Künstlichen Intelligenz und deren Wirkungen auf Mensch, Gesellschaft und Politik. Wie groß ist der Aufklärungsbedarf?

Ich denke, der ist nach wie vor sehr groß. KI-Kompetenz und besonders kritische Urteilsfähigkeit in Bezug auf KI müssen gefördert werden. Zudem ist die Technikentwicklungsgeschwindigkeit aktuell höher als die Prozesse der gesellschaftlichen Adaption, das ist eine große Herausforderung.

Aus den Reihen der Experten, die maßgeblich an der Entwicklung der KI beteiligt waren und sind, kam die Forderung nach einem Moratorium, einer Pause, damit man sich über den Einsatz der KI verständigen kann, bevor die Technik, die Macht und die Konkurrenz vollendete Tatsachen schaffen. Sinnvoll oder Unsinn?

Ich habe diesen Vorschlag nie ernst nehmen können, da er mir nicht praktisch umsetzbar erschien. So kam es dann ja auch, wobei die an der Veröffentlichung beteiligten Personen und Unternehmen vor allem eine große Aufmerksamkeit erhielten. 

Welche Rolle spielt die Politik, die in der KI scheinbar die selig machende Zukunftsfähigkeit sieht?

So empfinde ich das nicht. Eigentlich wird häufig eher moniert, dass die im Gegensatz zur USA und China stärkere Regulierung in Europa ein Wettbewerbsnachteil um die besten KI-Modelle ist. Klar ist, dass wir Regulierung benötigen: Denken wir zum Beispiel an ‚Social Scoring‘, das Verhalten von Menschen individuell erfasst und bewertet und, nur wenn dieses Verhalten gewissen Erwartungen entspricht, Zugang zu Dienstleistungen oder Produkten bereitgestellt werden. Das ist inakzeptabel.

Papst Leo warnt vehement davor, mit der KI den alttestamentarischen Versuch des Turmbaus zu Babel zu wiederholen. Die Menschen scheiterten bekanntlich an ihrer Hybris und entzweiten sich darüber. Wie viel Realität steckt in dieser Warnung?

Der technische Fortschritt lässt sich nicht aufhalten, muss aber einer transparenten Kontrolle unterliegen. Wir benötigen mehr denn je eine starke und wehrhafte Demokratie, in der Regeln für den Einsatz technischer Lösungen im Sinne der Bürger*innen formuliert und auch durchgesetzt werden. Zudem kann und darf es nicht sein, dass wir als Gesellschaft dermaßen stark abhängig sind von digitalen Lösungen aus dem Ausland, was von den jeweiligen Staaten auch als Machtinstrument gegen uns genutzt werden kann. 

Autor: Roland Reck