KI hat das Potenzial, eine Revolution in Wissenschaft und Industrie auszulösen – doch mit dieser Macht gehen auch große Herausforderungen einher. Prof. Kutyniok erforscht, wie KI zu ihren Entscheidungen kommt, um diese besser nachvollziehen zu können. Im Interview mit Chefredakteurin Bettina Riedel spricht sie darüber, warum Technologieoffenheit und kritisches Denken essenziell sind, welche Risiken unkontrollierte KI-Nutzung birgt und wie die Mathematik selbst durch KI-Anwendungen neu gedacht werden muss.
Prof. Kutyniok, bitte stellen Sie sich und Ihre Arbeit kurz vor.
An meinem Lehrstuhl arbeiten wir zum einen im Bereich der Erklärbarkeit von künstlicher Intelligenz. Dabei geht es darum zu verstehen, wie eine KI zu einer bestimmten Entscheidung kommt. Wenn eine KI etwa ein Bild analysiert und es als ein Haus klassifiziert, möchten wir nachvollziehen, welche Eingabedaten oder Merkmale zu dieser Ausgabe geführt haben. Dafür nutzen wir Techniken wie Stable Diffusion, die ebenfalls im Bereich der großen Sprachmodelle (Large Language Models) angesiedelt sind. Sie ermöglichen es uns, gezielte Fragen zu den Entscheidungen der KI zu stellen und so Entscheidungsprozesse besser zu verstehen. Eine zentrale weitere Forschungsrichtung ist der Bereich der Nachhaltigkeit von KI mit dem Ziel einer „grünen KI“ auch mittels neuartiger Hardware wie neuromorphem Computing.
Wo sehen Sie persönlich den größten Nutzen von KI – eher in der Wissenschaft, Industrie oder für die Gesellschaft?
Ich sehe den Nutzen tatsächlich in allen genannten Bereichen. Im wissenschaftlichen Bereich hilft die KI vor allem dabei, riesige Datenmengen zu analysieren, wie sie beispielsweise in der Medizin oder Astrophysik anfallen. Hier unterstützt sie, indem sie Gesetzmäßigkeiten erkennt und so zur Wissensentdeckung beiträgt. Ein Beispiel ist die automatische Erkennung von physikalischen Gesetzen aus Daten. Darauf aufbauend können auch Prozesse simuliert werden, wie etwa die Entstehung von Sternen oder die Migrationsbewegungen von Völkern in der Geschichte. Man kann sagen, dass KI bereits in vielen wissenschaftlichen Disziplinen einen Paradigmenwechsel eingeleitet hat.
In der Industrie beobachten wir derzeit bereits enorme Transformationen, die sich in der Zukunft noch verstärken werden. KI vereinfacht repetitive, monotone Aufgaben oder übernimmt sie sogar vollständig, wie etwa in der Büroarbeit. Aber auch in gefährlichen Bereichen, wie bei Unterwasserarbeiten, kann KI sogar Menschenleben schützen und Risiken minimieren. Dies eröffnet auch neue Möglichkeiten und Kapazitäten für kreative Tätigkeiten und eine allgemein höhere Effizienz. Man sagt ja, wir stehen am Beginn der vierten industriellen Revolution durch KI.
Wir werden im nächsten Jahr noch viel erleben, also tiefgreifende Veränderungen in eigentlich fast allen Bereichen. KI wird dafür sorgen, dass Services personalisiert werden, sowohl im Bildungsbereich als auch zum Beispiel im medizinischen Bereich. Besonders im Kontext Bildung tut sich viel, da KI zunehmend dazu genutzt wird, das Lernen zu vereinfachen und individuell auf die Bedürfnisse der Schülerinnen und Schüler abzustimmen. Auch zu Hause wird sich einiges verändern, wenn nicht nur Alexa die Fähigkeiten von Menschen augmentiert, sondern Roboter die lästigen Tätigkeiten – wie Spülmaschinen ausräumen – übernehmen werden. Ich denke, jede und jeder wird enorm in der Zukunft davon profitieren.
Ein weiteres Beispiel ist die Medizin, insbesondere bei personalisierten Therapien und der Radiologie. Hier wird KI bereits bei Magnet-Resonanz-Tomographien und in CT-Scannern eingesetzt, um Diagnosen zu verbessern und zu beschleunigen. Auch in kreativen Branchen, wie Medien und Unterhaltung, entstehen durch KI neue Geschäftsmöglichkeiten – ebenso im Gesundheitswesen, Verkehr und Logistik.
„Besonders intensiv werden vor allem die Branchen verändert, in denen ein Prozess automatisiert und die Effizienz gesteigert werden kann.“
Was bedeutet das für die Einstiegsjobs junger Hochschulabsolvent:innen?
Viele Berufe werden durch KI erweitert oder transformiert. Besonders in Bereichen wie Forschung und Entwicklung wird KI neue Einsichten liefern, die die Arbeit bereichern. Auch im Marketing, bei der Content-Erstellung, in der Softwareentwicklung und im Design wird die KI dazu beitragen, kreative und technische Prozesse zu optimieren und zu modifizieren. Diese Berufe gehen über das Standardisierte hinaus und werden zunehmend von der KI profitieren.
Darüber hinaus entstehen natürlich auch neue Berufe, die sich auf den Umgang mit KI und Technologie konzentrieren. Dazu gehören KI-Entwickler, Datenethiker und viele weitere technologiebezogene Jobs, die wir derzeit noch nicht vollständig vorhersehen können. Besonders Hochschulabsolventinnen und -absolventen müssen sich keine Sorgen mehr über repetitive Tätigkeiten machen, da ihre Aufgaben eher in Bereichen liegen, die von KI unterstützt und erweitert werden.
Sollten Studierende jetzt trotzdem besondere Fähigkeiten intensiv kultivieren?
Es bieten sich sicherlich viele neue spannende Tätigkeiten, aber es ist entscheidend, offen für neue Technologien zu sein. Da KI nahezu alle Bereiche durchdringen wird, bekommen diejenigen Schwierigkeiten, die davor Angst haben. Neben dieser Technologieoffenheit ist auch ein grundlegendes technologisches Verständnis wichtig. Man sollte sich ein Grundwissen dazu aneignen, wie KI funktioniert, um zu verstehen, wann Fehler auftreten können und wie sie entstehen. Zum Beispiel bieten wir an der LMU Studierenden aller Fachbereiche die Möglichkeit, KI als Nebenfach zu wählen, um dieses Verständnis zu fördern. Darüber hinaus sind kritisches Denken und eine adäquate ethische Haltung im Umgang mit KI unerlässlich.
Wieso gerade eine ethische Haltung – könnte die Nutzung von KI aus dem Ruder laufen?
Ja, das ist durchaus vorstellbar – insbesondere in einer Welt, in der KI oft Fehler macht oder problematische Muster wie etwa Rassismus reproduziert. Man muss lernen, die Auswirkungen von KI auf die Gesellschaft zu erkennen und damit verantwortungsbewusst umzugehen. Einerseits ist unvorhersehbares Verhalten von KI möglich, bei dem man die Kontrolle über sie teilweise verlieren könnte, insbesondere wenn entsprechende Steuerungsmechanismen fehlen. Andererseits stellt der Missbrauch von KI durch Menschen ein großes Risiko dar. Ein Beispiel dafür ist die Verbreitung von Desinformationen in den Medien oder die Nutzung von KI im Sicherheitsbereich, etwa durch autonome Waffensysteme. In einigen Ländern gibt es bereits solche Systeme, die potenziell missbraucht werden könnten.
Ein drittes Problem entsteht durch unvorhersehbare Fehler der KI, wie wir sie zum Beispiel bei ChatGPT manchmal erleben können. Wenn man KI zu viel Vertrauen schenkt, können solche Fehler ernsthafte Probleme verursachen, im schlimmsten Fall sogar wirtschaftliche Konsequenzen wie eine Finanzkrise nach sich ziehen. Es gibt also auf jeden Fall ethisch-moralisch gelagerte Risiken, bei denen KI aus dem Ruder laufen kann, insbesondere wenn sie problematische Muster wie Rassismus weiterverbreitet.
Ganz grundsätzlich modellieren KIs das menschliche Gehirn. Ist ein Zeitpunkt denkbar, an dem KI technologisch so weit entwickelt wurde, dass das Konzept des neuronalen Netzes ausgedient hat? Der Mensch ist ein Universalist – wir können viele unterschiedliche Aufgaben gut erledigen. Wenn eine KI jedoch nur für eine sehr spezialisierte Aufgabe entwickelt werden soll, könnte es sein, dass man sich von dem Vorbild des menschlichen Gehirns löst. Auf der anderen Seite haben wir als Menschen einen großen Vorteil: Unser Gehirn ist extrem energieeffizient – viel effizienter als die heutigen GPU-Cluster, für die in den USA teilweise sogar eigens neue Kernkraftwerke gebaut werden. Unsere Physiologie ist immer noch überlegen. Ich denke, dass die Zukunft wahrscheinlich eine Mischung aus biologisch inspirierten Modellen und technologisch optimierten Ansätzen für spezifische Anwendungsfelder bereithalten wird.
Wie tief zieht sich diese Entwicklung – müssen sich auch die mathematischen Grundlagen anpassen?
Ja, denn als technologiegetriebene Disziplin und mit der Weiterentwicklung von Modellen – angefangen bei den klassischen neuronalen Netzen bis hin zu den Transformers – müssen sich auch die mathematischen Konzepte anpassen. Interessant ist, dass eigentlich die gesamte Mathematik für KI relevant wird. Es gibt kaum einen mathematischen Bereich, der nicht zum tieferen Verständnis von KI beiträgt. Exotische Gebiete wie algebraische Geometrie werden beispielsweise genutzt, um die „Energielandschaft“ zu verstehen, die während des Trainingsprozesses optimiert wird. Das ist so spannend, weil es manchmal notwendig ist, Mathematik signifikant weiterzuentwickeln, um KI wirklich zu begreifen.
Ein Beispiel dafür ist die Approximationstheorie, die verwendet wird, um zu überprüfen, ob ein neuronales Netz bestimmte Gesetzmäßigkeiten darstellen kann. Die Art und Weise, wie neuronale Netze aufgebaut sind – in Form von hintereinandergeschalteten Schichten – wurde in der Approximationstheorie bisher nicht ausreichend bedacht. Um dies zu verstehen, muss diese Theorie weiterentwickelt werden, was einen tiefen Einblick in die Mathematik und KI bietet und sehr faszinierend ist.
Kann KI andersherum nicht auch bei Mathe helfen?
Ja, auf jeden Fall. KI kann bereits jetzt in vielen Bereichen der Mathematik hilfreich sein, insbesondere in der numerischen Mathematik. Ein gutes Beispiel ist der Bereich der inversen Probleme. Hier geht es darum, die Originaldaten zurückzugewinnen, die durch Messprozesse wie CT-Scanner oder astrophysische Mikroskope aufgenommen wurden. Die KI hat bei der Lösung dieser Probleme tatsächlich zu großen Durchbrüchen geführt. KI versteht Mathematik jedoch nicht auf die gleiche Weise wie ein Mensch. Sie zieht keine kausalen Schlüsse und argumentiert auch nicht auf logische Weise. Stattdessen erkennt sie Gesetzmäßigkeiten und extrahiert daraus Informationen.
Sie untersuchen unter anderem, wie KI zu Entscheidungen kommt. Gibt es eine einfache Antwort darauf, wie das funktioniert?
In einfachen Beispielen, wie der Unterscheidung von Bildern von Hunden und Katzen, bekommt die KI Trainingsdaten – also Bilder von Hunden und Katzen mit den entsprechenden Labels. Die KI versucht, Muster und Gesetzmäßigkeiten in diesen Bildern zu erkennen. Sobald sie diese Muster erlernt hat, kann sie sie auf neue, unbekannte Daten anwenden und davon ausgehen, dass sie die richtige Entscheidung trifft. Doch wie genau diese Entscheidungen zustande kommen, bleibt oft undurchsichtig, was eine der großen Herausforderungen in der Forschung zur Erklärbarkeit von KI ist.
Foto: Pablo Castagnola
Prof. Dr. Gitta Kutyniok hat seit 2020 den Lehrstuhl für mathematische Grundlagen der künstlichen Intelligenz an der LMU inne. Vorherige Stationen umfassen unter anderem den Einstein-Lehrstuhl für Mathematik an der TU Berlin, einen Forschungsaufenthalt an der Yale University, sowie Gastforschungsaufenthalte in Stanford und Princeton. Mehr Informationen zu Prof. Kutyniok und ihrem aktuellen Lehrstuhl findest du hier.
Weitere Beiträge aus dem Karrierenetzwerk KI findest du unter diesem Link.