Ein Gespräch mit Urs Gasser, Professor für Public Policy, Governance and Innovative Technology an der Technischen Universität München (TUM) und Leiter einer Taskforce des TUM Think Tank zu generativer KI.
Italien hat den Einsatz von ChatGPT relativ schnell untersagt und Warnungen vor „gefährlichen“, weil selbstständigen KIs verbreiten sich derzeit medial. Wie schätzen Sie diese Warnungen und das Verbot ein – sinnvoll oder eher aufmerksamkeitsheischend?
Die Beweggründe für die Verbote und Warnungen sind sehr unterschiedlich und bespielen ein ganzes Spektrum, das von datenschutzrechtlichen Maßnahmen bis zu generellen Befürchtungen reicht, es könnte eine maschinelle Super-Intelligenz entstehen, welche die Menschheit bedroht. Entsprechend muss auch die Bewertung differenziert ausfallen: Wenn eine Datenschutzbehörde in einem Rechtsstaat ein Verbot anordnet, ist das ernst zu nehmen und kann in rechtsstaatlichen Verfahren auch gerichtlich überprüft werden. Dagegen sind Rufe nach kurzfristigen Moratorien wie jene von Elon Musk eher dem Bereich der Aufmerksamkeitserzeugung zuzuordnen und insgesamt wenig überzeugend. Immerhin aber tragen diese Interventionen zu einer breiteren öffentlichen Diskussion rund um Chancen und Risiken von KI bei, was wünschenswert ist, soweit dadurch nicht bloß Ängste geschürt werden, sondern angemessen informiert wird.
Politiker sind naturgemäß keine Expert:innen auf Fachgebieten wie KIs, Beratung tut also gerade hier besonders Not, um sinnvolle Regularien für den Umgang zu erarbeiten. Wo sehen Sie die größten Herausforderungen dabei?
In der Tat sehen wir uns mit verschiedenen Informations- und Wissensasymmetrien konfrontiert. Inzwischen hat die Industrie in der KI-Forschung die Nase in vielen Bereichen weit vorne, und der öffentliche Sektor hat oft das Nachsehen, was Ressourcen und Expertise betrifft. Diese wachsende Kluft kann ein Problem werden, wenn der Austausch zwischen dem privaten Sektor und dem Staat längerfristig nicht gesichert ist. Hier braucht es neuartige Schnittstellen und auch Anreize. Zu denken ist etwa an Austauschprogramme zwischen Technologieunternehmen und Staat, aber vor allem auch an Kapazitäten innerhalb der Verwaltung – inklusive gezielter Aus- und Weiterbildungsinitiativen, die über die teilweise veralteten Angebote innerhalb der Bundesverwaltung hinausgehen.
Hier kommt auch den Universitäten eine wichtige Rolle zu. An der Technischen Universität München bauen wir mit dem TUM Think Tank und der Generative AI Task Force eine Plattform auf, um den Erfahrungsaustausch zwischen den verschiedenen Akteuren in vertrauensvollem Rahmen zu ermöglichen. Wir müssen zudem sicherstellen, dass wir die Berufe im öffentlichen Sektor – inklusive an Bildungseinrichtungen – so attraktiv gestalten, dass die besten Leute nicht reflexartig in die KI-Industrie abwandern. Neben diesen längerfristigen Maßnahmen braucht es auch regulatorisch abgesicherte Schnittstellen, etwa nach dem Vorbild des Digital Services Act im Bereich der mächtigen digitalen Plattformen, und sinnvolle Transparenzvorschriften.
Endnutzer fühlen sich ebenso verunsichert, denn generierte Daten wie Bilder zu teils weltbekannten Persönlichkeiten könnten jederzeit völlig fake sein. Welche Risiken birgt generative KI für die Demokratie?
Die Risiken für die Demokratie sind erheblich, wenn auch belastbare Daten derzeit fehlen. Das angesprochene Problem der vom menschlichen Auge kaum mehr erkennbaren Manipulation von Bildern und Videos ist eine der kurzfristig besonders besorgniserregenden Entwicklungen, die nur schwer in den Griff zu kriegen ist. Die Macht des Bildes ist seit Jahren erforscht und erkannt – und durch die Möglichkeiten und Verfügbarkeiten von KI wird diese Macht potenziell entfesselt, ohne dass wir die entsprechenden individuellen und gesellschaftlichen Sicherungen eingebaut haben.
Hier braucht es dringend gezielte und koordinierte Maßnahmen, wobei KI-Unternehmen, Staat und Individuen eine gemeinsame Verantwortung zukommt. Es braucht technische Maßnahmen, wie etwa Wasserzeichen oder in Browsern eingebaute Detektoren von solchen Manipulationen, aber auch rechtliche Kennzeichenpflichten und weitere Initiativen im Bildungsbereich, Stichworte digitale Kompetenzen und kritisches Denken. Voraussichtlich gehen die möglichen Folgen für die Demokratie wesentlich über den Bereich Meinungsbildung hinaus: Wenn KI etwa in der Justiz, in der Bildung oder in kritischen Bereichen der Leistungsverwaltung großflächig Einzug hält, geht es um Grundinstitutionen der Demokratie, wo sichergestellt werden muss, dass es nicht zu Missbräuchen und unvorhergesehenen Konsequenzen kommt.
Zeitgleich können beispielsweise Branchen wie der Handel enorm von generativer KI profitieren, weil Werbemittel, Bilder, Videos deutlich weniger aufwändig produziert werden können. Denkbar wäre hier konkret auch der Einsatz smarter Spiegel, sodass Einzelhändler nicht mehr so massiv kapitalgebunden agieren müssen. Welche weiteren Branchen könnten besonders leicht und schnell und in welcher Form von generativer KI profitieren?
In der Tat ist es wichtig, nicht nur die Risiken im Blick zu haben, sondern gezielt auch das riesige Innovationspotenzial von KI im Umgang mit den großen gesellschaftlichen Herausforderungen unserer Zeit zu sehen – und dieses ebenso aktiv durch politische Maßnahmen zu begleiten wie im Kontext der Risikoregulierung. Aktuell zeichnet sich ab, dass generative KI in fast allen Bereichen des Wirtschaftens erhebliche Produktivitätssteigerungen mit sich bringen kann.
Neben dem erwähnten Bereich Marketing und Kommunikation sind auch die Finanzbranche und der Einsatz im juristischen Umfeld zu nennen, oder Effizienzsteigerungen beim Kundenservice und die Verbesserung interner Abläufe in allen Unternehmen. Anwendungen der generativen KI dürften die Art und Weise unseres Zusammenarbeitens erheblich verändern.