Bedeutender Schritt nach vorn in der KI-Forschung
Neues Modell Aurora-M stellt Sicherheit in den Fokus
22.04.2024 von Friedrich/bjb
Informatik-Doktorand Felix Friedrich ist an der Entwicklung eines neuen KI-Modells beteiligt, das neben freier Zugänglichkeit und Mehrsprachigkeit einen Fokus auf Sicherheit legt. Friedrich forscht im Rahmen des TU-Projekts „Reasonable Artificial Intelligence (RAI)“, das bei der Exzellenzstrategie des Bundes und der Länder im Rennen um den Titel Exzellenzcluster ist.
In einer Zusammenarbeit von internationalen Forschenden wurde das neue KI-Modell Aurora-M entwickelt, das nicht nur frei zugänglich und mehrsprachig ist, sondern auch einen Fokus auf Sicherheit legt. Als Teil dieser globalen Initiative hat sich Felix Friedrich (Doktorand der Forschungsgruppe Künstliche Intelligenz und Maschinelles Lernen unter Professor Kristian Kersting der TU Darmstadt) auf das „Safety Tuning“ (Optimierung der Sicherheit) konzentriert. Dabei stellt er sicher, dass die KI nicht nur unseren Werten entspricht, sondern auch vor missbräuchlicher Verwendung geschützt ist. Für die Optimierung der Sicherheit wurde die US-amerikanische Biden-Harris Executive Order zu Künstlicher Intelligenz als wichtiger Kompass und Orientierungspunkt genutzt. Dieser Gesetzestext legt einen klaren Schwerpunkt auf die Sicherheit und Verantwortlichkeit von KI-Technologien und dient als Referenz, um einen demokratisch legitimierten Standard für unsere Werte und Sicherheit zu etablieren.
Open-Source-basiertes KI-Modell
Eine weitere Besonderheit am neuen KI-Modell liegt in seiner vollständigen Open-Source-Verfügbarkeit sowie seiner Fähigkeit, mehrere Sprachen zu verarbeiten. „Dieser Schritt ist von entscheidender Bedeutung, da KI-Technologien zunehmend unseren Alltag bestimmen und es unerlässlich ist, dass sie für eine Vielzahl von Menschen unterschiedlicher Sprachen und Kulturen zugänglich sind“, so Friedrich. Gerade die Nutzung von bisher vernachlässigten Sprachen wie Hindi, Vietnamesisch oder Finnisch stelle eine grundlegende Verbesserung der Zugänglichkeit dar. Durch die Offenlegung des Quellcodes ermöglichen die Entwickler:innen es Forschenden auf der ganzen Welt, von den Fortschritten zu lernen und darauf aufzubauen, was letztlich die Entwicklung der KI-Technologie insgesamt weiter vorantreiben wird.
Bestandteil des Exzellenzclusters „RAI"
Eine wichtige Verbindung besteht zu dem Projekt „Reasonable Artificial Intelligence (RAI)“, das im Rahmen der Exzellenzstrategie des Bundes und der Länder zur Vollantragstellung in der Förderlinie „Exzellenzcluster“ aufgerufen wurde. RAI hat sich zum Ziel gesetzt, KI-Technologien zu entwickeln und zu fördern, die nicht nur effektiv und leistungsfähig sind, sondern auch ethische Grundsätze wie Sicherheit, Fairness und Transparenz in den Vordergrund stellen. Das neue KI-Modell ist ein direktes Ergebnis dieser Bemühungen und unterstreicht das Engagement der TU für verantwortungsvolle KI-Forschung und -Entwicklung.
