Deutschland wird bald Weltmeister im Regulieren von KI-Modellen, die wir gar nicht haben

Top oder Flop? Alle Jahre wieder blicken die IT-Analyst:innen von Gartner in die Zukunft und verkünden die wichtigsten Tech-Trends der nächsten Monate. Ganz vorne mit dabei: Sicherheit und Nachhaltigkeit. Schön – aber wie sieht das in der Praxis aus? Wie nutzen Studierende Künstliche Intelligenz mittlerweile? Unsere Expert:innen in Forschung und Lehre mit dem Update aus der Praxis: Was ist wirklich wichtig? Und was nicht?

Frau Prof. Dr. Hermann, Herr Prof. Dr. Müller, Herr Prof. Dr. Konecny, neben der KI – Überraschung! – sah man bei Gartner für dieses Jahr einen Schwerpunkt bei den Themen Sicherheit und Sustainability. Wie beurteilen Sie das inzwischen?

Prof. Dr. Hermann: “Wir erleben es im Austausch mit unseren Studierenden, wie drängend diese Fragen sind. Wird der Datenschutz beachtet und wie lässt sich das künftig sicherstellen? Wie steht es um die ethischen Aspekte des Einsatzes von KI – Jaromir hatte das Beispiel der Schriftsteller:innen (hier geht es zu Teil 1 unseres Expert:innen-Interviews) genannt, die nun klagen. Es sind noch viele Fragen offen, auch das ist leider ein „Trend“.”

Wie sind Ihre Studierenden gegenüber der KI eingestellt?

Prof. Dr. Hermann: “Glücklicherweise sehr offen, das gilt für praktisch alle Fachrichtungen. Wenn ich auf meine MBA-Studierenden blicke, dann ist da eine große Bereitschaft, auch zu experimentieren. Für manche stellt sich ChatGPT heute so dar wie Google vor 20 Jahren. Manchmal bleibt es dann halt bei einer Art „Literaturrecherche extended“. Aber das ist wichtig. So erfahren sie, dass es zum Beispiel gefährlich sein kann, Zitationen der KI einfach für eine wissenschaftliche Arbeit zu übernehmen. Unsere Studierenden lernen, wo die Grenzen von KI liegen und wie man sie trotzdem sinnvoll einsetzt.”

Dr. Konecny: “Sicherheit und Nachhaltigkeit sind wichtig, keine Frage! Aber ich habe die Sorge, dass wir in Deutschland bald Weltmeister werden im Regulieren von KI-Modellen, die wir gar nicht haben!”

Aber ohne Regulierung wird es nicht gehen, oder?

Prof. Dr. Konecny: "Nein, deshalb haben sich Europaparlament und EU-Staaten nach langen Verhandlungen Ende 2023 auch auf den "AI Act" verständigt. Darin geht es unter anderem um die Qualität der Daten, um die Risiken von KI und um das eingangs erwähnte Urheberrecht. Aber wir müssen abwägen. Staaten wie die USA, China oder auch Russland werden wir nicht dazu bringen, unsere Regulationsprinzipien auf ihre Modelle anzuwenden. Außerdem halte ich manche Sorge vor der KI auch für übertrieben. Wir denken über Verbote nach – entwickeln aber nach wie vor neue Atomwaffen. Da sollte man über Verbote diskutieren! KI dagegen ist ein Werkzeug, das uns die Arbeit erleichtern soll."

Prof. Dr. Müller: “Regulierung ist aber doch ein Thema, denn es geht ums Kapital. In der Industriellen Ökonomie hat es noch gut funktioniert, wenn ein Staat den Rahmen vorgab. In der digitalen Ökonomie erleben wir globale, supranationale Strukturen, die können Staaten nicht mehr regulieren. Der Versuch, auf europäischer Ebene oder gar in Deutschland allein zu regulieren, das genügt nicht. Irgendeine Form der Governance wird es aber geben müssen. Wie das realisiert werden soll, ist noch nicht beantwortet.”