ls3 logo 2024

Leibniz Universität Hannover

KI ist gut. Vertrauenswürdige KI ist besser.

Die Geschichte der KI-Forschung in Hannover begann mit drei „L“ und einem „S“: Learning Lab Lower Saxony. Die Expo 2000 war gerade zu Ende gegangen, und in den leeren Deutschen Pavillon hielten die IT-Wissenschaftler der Leibniz Universität Einzug. Damals, im Jahr 2001, drehte sich noch alles um die Frage, wie sich Lernen und Wissensvermittlung durch digitale Technologien verbessern lassen. Doch dabei sollte es längst nicht bleiben.

Heute sitzt das L3S in der Appelstraße 9a, mitten in Hannovers Uni-Viertel, es wir gemeinsam geführt durch die Leibniz Universität und die Technische Universität Braunschweig, und genießt internationales Renommee als „KI-Forschungszentrum für vertrauenswürdige Künstliche Intelligenz und digitale Transformation“. Der Name ist Programm. Etwa 200  internationale WissenschaftlerInnen – aus der Informatik, aber auch aus Jura, Philosophie, Soziologie und anderen Disziplinen – entwickeln KI-Methoden und -technologien, sie forschen über digitale Transformation, Cybersicherheit, Maschinen- und Rotoberlernen, Quantencomputing, KI-Ethik- oder KI-Recht. 

Das L3S verbindet Grundlagen- und Methodenforschung mit Anwendungsbedarfen und ist an verschiedenen Forschungs- und Transferinitiativen beteiligt. Darunter:

  • Für Produktion, Mobilität und Handwerk: Das Projekt DAISEC (European Digital Innovation Hub for AI and Cybersecurity) unterstützt kleine und mittlere Unternehmen sowie den öffentlichen Sektor bei der Einführung von KI- und Cybersicherheitslösungen.
  • Für präzisere medizinische Entscheidungen in Diagnostik und Therapie: Das Zentrum CAIMed (Lower Saxony Center for AI and Causal Methods in Medicine) verbindet KI-Forschung, kausale Methoden, medizinische Informatik, klinische Daten und medizinische Forschung. Beteiligt sind unter anderem die Leibniz Universität Hannover, die Medizinische Hochschule Hannover, das Helmholtz-Zentrum für Infektionsforschung.
  • Für technologische Souveränität und den Einsatz offener KI-Modelle in Wirtschaft und Gesellschaft: Ein eigene Sprachmodell, als Open Source bereitgestellt, ist das Ziel des Projekts SOOFI (Sovereign Open Source Foundation Models). Darüber hinaus wird ein Reasoning-Modell entwickelt, das Schlussfolgerungen und mehrstufige Problemlösung verbessern soll.
  • Für den Forschungstandort: Ende 2028 soll Hannover ein neues, großes Campus bekommen. Im Digital Innovation Campus werden das L3S und das CISPA Helmholtz-Zentrum für Informationssicherheit gemeinsam zu Künstlicher Intelligenz und Cybersicherheit forschen. Zugleich wird KI dort durch Exponate und Dialogveranstaltungen unmittelbar erlebbar.

Das Leitmotiv sämtlicher L3S-Forschungsprojekte und -initiativen: KI muss vertrauenswürdig sein: technisch zuverlässig, sicher, nachvollziehbar, verantwortungsvoll und natürlich ethisch wie rechtlich unangreifbar. Und sie muss dem Nutzen der Gesellschaft dienen. Immer.

3 Fragen an

dr johannes winter 2025

Dr. Johannes Winter

Chief Strategy Officer des KI-Forschungszentrums L3S, Geschäftsführer von CAIMed.  

Frage: „Vertrauenswürdige KI & Digitale Transformation“ ist das Leitmotiv des L3S Forschungszentrums. Warum ist Vertrauen so wichtig in der KI-Forschung?

Jeden, der mit ChatGPT, Gemini oder anderen Bots interagiert, begleitet ständig die Frage: „Ist diese Antwort jetzt korrekt, oder klingt sie nur plausibel?“ Generative KI kann halluzinieren, und Verzerrungen (Bias) in Daten oder Modellen können zu falschen oder diskriminierenden Ergebnissen führen. Sprachmodelle erzeugen Antworten auf Grundlage statistischer Muster, die sie aus großen Datenmengen gelernt haben. Sie erkennen Zusammenhänge, verstehen aber nicht automatisch, welche Ursachen dahinterstehen. Gerade deshalb ist die Erforschung kausaler Zusammenhänge so wichtig. Sie hilft uns, Korrelationen von Ursache und Wirkung zu unterscheiden und besser zu verstehen, unter welchen Bedingungen KI-generierte Schlussfolgerungen tatsächlich belastbar sind. Werden zusätzlich externe Quellen, Datenbanken oder aktuelle Informationen eingebunden, stellt sich auch die Frage, wie verlässlich diese Quellen sind und wie nachvollziehbar ihre Nutzung ist. Deshalb geht es bei vertrauenswürdiger KI nicht nur um Erklärbarkeit, sondern ebenso um Robustheit, Sicherheit, Fairness, Datenschutz und Verantwortlichkeit. Zugleich brauchen wir in Deutschland und Europa eigene Forschung und technologische Kompetenzen, um Abhängigkeiten zu reduzieren und die Grenzen und Fähigkeiten von KI-Systemen besser beurteilen zu können. 

Frage: Auch Journalisten und Kreative, die vom Veröffentlichen im Internet leben, kämpfen gerade um Vertrauen. Die Grenzen zwischen Fakten und Fake News, zwischen professionellem Handwerk und synthetischen Inhalten verschwimmen. Für Publikum und Kunden ist nicht mehr ersichtlich, welche Art von Erzeugnis sie für ihr Geld bekommen. Haben Sie eine Lösung?

Natürlich gibt es technologische Teillösungen. Watermarking oder digitale Wasserzeichen beispielsweise helfen, KI-generierte Inhalte oder ihre Herkunft transparent zu machen: dabei werden robuste digitale Kennzeichen in Bilder oder andere Inhalte eingebettet. Das ist real, das ist böswillig manipuliert, das ist einfach ein bisschen optimiert. Das eigentliche Problem aber, Fake News und Manipulation, kann nur im Zusammenspiel mit gesellschaftlichen, journalistischen und regulatorischen Maßnahmen gelöst werden, nicht allein technologisch.

Frage: Warum sollten sich Hannovers Medien und Kreativbranchen für die KI-Forschung an der Leibniz Universität interessieren? 

Das Projekt DAISEC (European Digital Innovation Hub for AI and Cybersecurity) bietet Unternehmen kostenlose Unterstützung rund um Cybersicherheit und KI-Einführung und -Einsatz. Unsere Stärke ist es, Grundlagen- und Anwendungsforschung mit konkreten Angeboten für ihre Anwendung zu verbinden. Das kann auch für Medienunternehmen sehr interessant sein: KI für eigene Geschäftsprozesse oder die Erweiterung des Geschäftsmodell zu testen, Kompetenzen zu erlangen oder Unterstützung bei der Einhaltung der EU-KI-Verordnung zu erhalten.. Um die digitale Souveränität Europas zu erhöhen, trainieren wir derzeit zusammen mit anderen Partnern das Open Source-Sprachmodell SOOFI (Sovereign Open Source Foundation Models).Ziel ist nicht, ChatGPT einfach zu kopieren, dazu würden uns auch die Ressourcen ein Stück weit fehlen. Der entscheidende Vorteil offener Modelle liegt darin, dass sie nachvollzogen, an spezifische Anwendungen angepasst und auf kontrollierbarer Infrastruktur betrieben werden können. Gerade bei sensiblen Daten ist es wichtig zu wissen, wo Daten verarbeitet werden, welchem Rechtsraum sie unterliegen und welche Abhängigkeiten von einzelnen Technologieanbietern entstehen. Lokale und offene Modelle schaffen hier zusätzliche Optionen gegenüber amerikanischen und chinesischen Hyperscalern– und was toll zu sehen ist: Jeden Tag, an dem wir sie trainieren, werden sie besser. 

Kontakt

L3S Research Center
Trustworthy AI & Digital Transformation, Leibniz University of Hannover

E-Mail: winter(at)L3S.de 
Website: www.L3S.de 

 

ls3 logo 2024

Leibniz Universität Hannover

Forschungszentrum L3S

Vertrauenswürdige KI und digitale Transformation

Appelstraße 9a

30167 Hannover

www.L3S.de