Von Robotern ersetzt zu werden ist eine sehr spezielle Angst, die oft und leicht geschürt wird. Eigentlich soll die mensch-zentrierte KI beispielsweise helfen, die Energiewende zu beschleunigen – unterstützen, nicht den Mensch irrelevant machen. Und am Ende? Steht eine lange und hohe Lebensqualität für alle.
Prof. Hoos, eines Ihrer Ziele ist, mensch-zentrierte KI in der Breite einsetzbar zu machen – aber vernünftig und verantwortungsvoll, weil sie in allen Bereichen der Gesellschaft große Auswirkungen haben kann. Was können dafür Entwickler, Politiker oder Nutzer beitragen?
Erstens braucht es hierzu einen stärkeren Fokus auf KI-Systeme und -Methoden, die menschliche Intelligenz sinnvoll und nutzbringend ergänzen, statt diese komplett ersetzen zu wollen. Das ist die Definition von mensch-zentrierter KI.
Zweitens braucht es offenere Kommunikation über die Schwächen und Unzulänglichkeiten derzeitiger KI-Technologie, und eine gute Prise Skepsis gegenüber den Marketingaussagen, die man leider auch immer wieder von Wissenschaftler:innen hört. Drittens ist es sehr wichtig, dass seitens der Politik die Entwicklung und der Einsatz von KI nicht nur im Hinblick auf Risiken reguliert werden, sondern auch mit Blick auf gesellschaftlichen Nutzen und soziale Verträglichkeit gezielt und wirksam gefördert werden.
Fokus auf mensch-zentrierte KI
Warum legen Sie Ihren Fokus auf mensch-zentrierte KI und nicht KI im Allgemeinen?
Würden Sie einen Fokus auf Technologieentwicklung befürworten, der darauf abzielt, Sie und viele andere Menschen in Ihrer Tätigkeit zu ersetzen, primär zum Zweck der Profitmaximierung für eine kleine Anzahl großer Unternehmen? Denn das wäre die Alternative, die übrigens nicht nur die große Mehrheit meiner Kolleg:innen in der KI ablehnen, sondern auch die Europäische Union und ihre Mitgliedsstaaten.
Welche disruptiven Auswirkungen könnte KI in den nächsten 10 Jahren Ihrer Ansicht nach auf das menschliche Leben haben?
Ich rechne damit, dass der Einsatz von KI-Systemen alle Bereiche unseres Lebens stark verändert. Zwei Beispiele: Erstens wird die KI eine Schlüsselrolle dabei spielen, das Generationenproblem Klimawandel besser zu bewältigen und unsere Umwelt lebenswert zu halten. Dabei geht es um die technologische Beschleunigung der Energiewende, um die technologiebasierte Verbesserung der Nutzung von Energie und anderer Rohstoffe und um den Umgang mit den jetzt schon unvermeidlichen Folgen des Klimawandels. Zweitens hat der Einsatz von KI-Methoden bereits eine Revolution in der Medizin, aus wissenschaftlicher und technischer Hinsicht, angestoßen, die letztlich dazu führen wird, dass wir alle wesentlich länger eine hohe Lebensqualität genießen können.
Regulierung von KI auf EU-Ebene
Auf der EU-Ebene werden KI-Systeme eher runterreguliert als gestärkt. Dabei vertreten Sie die Meinung, dass Europa sicherstellen muss, dass viele der fortschrittlichen Technologien, Produkte, Systeme und Dienstleistungen von Morgen europäisch sind. Welcher Vorteil liegt darin, den europäischen KI-Standort zu stärken und nicht durch Regulierung einzuschränken?
Eigentlich liegt das auf der Hand, oder? Technologische Souveränität im Bereich KI ist eine unverzichtbare Grundlage für die globale Konkurrenzfähigkeit unserer Industrie. Technologische Abhängigkeit in diesem Bereich führt zu wirtschaftlicher Abhängigkeit und gefährdet damit unseren Wohlstand. Zum zweiten ist es wichtig, dass KI als breit eingesetzte Schlüsseltechnologie auf der Grundlage gemeinsamer europäischer Werte entwickelt wird und damit auch zum Erhalt dieser Werte innerhalb unserer Gesellschaften in Europa beiträgt.
Was bringen all diese Bemühungen, wenn der Fachkräftemangel nicht gelöst werden kann?
Die Lösung des Fachkräftemangels ist direkt an die Stärke des europäischen und der nationalen KI-Ökosysteme gekoppelt. Die effektivste Art, dieses wirklich wichtige Problem anzugehen ist, das KI-Ökosystem als Ganzes zu stärken, angefangen mit der Grundlagenforschung. Dafür ist die Ausbildung von Fachkräften, beginnend in der Schule, von großer Wichtigkeit und die internationale Konkurrenzfähigkeit der Forschung an Universitäten und anderen öffentlichen Forschungseinrichtungen ein Schlüsselfaktor.
Inwiefern würde es kurzfristig helfen, die Industrie in Sachen KI von der Forschung an Universitäten sogar abzukoppeln?
Es ist richtig, dass öffentliche Forschungseinrichtungen und Industrie derzeit in einem harten Konkurrenzkampf um Talente im Bereich KI stehen. Die von Ihnen angerissene Abkopplung wäre aber aus meiner Sicht ein gänzlich falscher Weg. Wir müssen die öffentliche Forschung und deren industrielle Anwendungen stärken. In der KI, wo der Weg von der Grundlagenforschung zur Anwendung oft recht kurz ist, geht das am besten, wenn man beide näher zusammenbringt. Dabei sollte der Fokus der öffentlichen Förderung auf der an öffentlichen Einrichtungen betriebenen Grundlagenforschung liegen.
KI & Nachhaltigkeit
Sie erwähnen auch die möglichen Umweltnutzen, beispielsweise ein gesenkter CO2-Ausstoß bei Rechenzentren durch effizientere Technologie. Wie viel lässt sich hier wirklich einsparen?
Mindestens 50%, vielleicht sogar bis zu 90%. Dazu braucht es aber einen deutlichen Fokus auf Grundlagenforschung und Entwicklung im Bereich ressourcen-schonendes Rechnen, und insbesondere ressourcen-schonende KI-Methoden. In unserer Forschung haben wir bereits nachweisen können, dass in einzelnen Fällen mithilfe spezieller KI-Methoden der Rechenaufwand zur Lösung anwendungsrelevanter industrieller Optimierungsprobleme um über 98% verringert werden kann.
Bisherige KI-Systeme sind durchaus noch mit Arbeit verbunden und nicht so hochautomatisch wie gewünscht. Welche Aufgaben leiten sich beispielsweise daraus ab, wenn sich der Anwendungsfall ändert und wie ließe sich dies zukünftig (stärker) automatisieren?
Wenn sich die von einem KI-System bearbeiteten Aufgaben ändern, was recht häufig vorkommt, dann muss es in der Regel angepasst werden. Diese Neukonfiguration kann recht aufwendig sein, in Bezug auf Rechenzeit, aber insbesondere auch auf die Arbeitszeit von KI-Experten. Manchmal muss auch der Nachweis (formal oder experimentell) neu geführt werden, dass das System sich so verhält wie erwünscht oder gefordert. Natürlich wäre es sehr wünschenswert, den Aufwand hierfür durch Automatisierung zu reduzieren und zumindest weitgehend vom Menschen auf die Maschine zu übertragen. Darum geht es in einem guten Teil der Forschung, die in meiner Gruppe an der RWTH Aachen stattfindet; das läuft unter dem Stichwort ‚AutoAI’, also ‚Automated AI’. Weitgehend automatische Anpassung an geänderte Einsatzbedingungen kann auch erheblich dazu beitragen, die hochgefragten Fachkräfte im Bereich KI zu entlasten und ihnen damit zu ermöglichen, sich verstärkt anderen, kreativeren Aufgaben zu widmen.
Ihre Bemühungen scheinen sehr auf das Schaffen eines neuen Bewusstseins für die Stärkung von KI in Europa ausgerichtet. Wie balancieren Sie diese Arbeit zusammen mit Lehre und eigener Forschung?Das ist schon eine Herausforderung. Natürlich steht bei mir die Forschung absolut im Mittelpunkt, und auch die Lehre spielt eine enorm wichtige Rolle. Aber große technologische Umwälzungen, wie wir sie jetzt und in den kommenden Jahren durch die KI erleben, sind selten, und sie erfordern, dass sich zumindest einige Spitzenforscher und -forscherinnen in die öffentlichen Diskussionen einbringen. Wir haben eine Verantwortung, dies zu tun und auch eine einmalige Chance, dazu beizutragen, dass diese zukunftsbestimmende Technologie zum Nutzen der Gesellschaft, in all ihrer Vielfalt, entwickelt und eingesetzt wird. Aber realistisch gesehen bedeutet das für mich und viele meiner Kolleginnen und Kollegen auch, dass wir uns ganz erheblich außerhalb gewöhnlicher Arbeitszeiten engagieren.