Datensicherheit für KI-Systeme

Prof. Ahmad-Reza Sadeghi als Experte für verteiltes maschinelles Lernen

13.10.2022 von

Systeme des maschinellen Lernens werden vermehrt in Prozessen unserer Gesellschaft und Wirtschaft eingesetzt. So übernehmen maschinelle Lernalgorithmen beispielsweise wichtige Funktionen in selbstfahrenden Fahrzeugen oder im digitalen Gesundheitswesen. In diesen Anwendungsbereichen müssen KI-Systeme nicht nur verlässliche Vorhersagen treffen, sondern auch Angriffen und Manipulationen standhalten, um die Privatsphäre der teilweise sensiblen Daten zu gewährleisten und das Vertrauen in die Technologie zu erhalten.

In der aktuellen KI-Entwicklung ist die Methode des zentralisierten maschinellen Lernens sehr verbreitet, bei der ein statistisches Modell zentral auf einem Server trainiert wird. Ein Nachteil dieser Methode aus Sicht der Cybersicherheit ist, dass die Konzentration auf einen zentralen Server eine zentrale Datensammlung und einen einzelnen Angriffspunkt (Single Point of Attack) schafft. Es gibt jedoch Möglichkeiten, Datennutzung und Datenschutz zu verbinden. Ein Ansatz ist das verteilte maschinelle Lernen. „Verteiltes maschinelles Lernen eröffnet neue Möglichkeiten zur effektiven und skalierbaren Nutzung von Daten, ohne dass diese geteilt werden müssen. Dadurch werden viele nützliche Anwendungen mit sensiblen Daten überhaupt erst möglich“, sagt Professor Ahmad-Reza Sadeghi, Leiter des System Security Lab.

Beim verteilten maschinellen Lernen greift jedes Endgerät auf das aktuelle Trainingsmodell zu und trainiert es lokal mit dem eigenen Datensatz. Die neue Publikation „KI KOMPAKT. Verteiltes maschinelles Lernen“ (wird in neuem Tab geöffnet) von Lernende Systeme, der deutschen Plattform für Künstliche Intelligenz, erklärt, wie verschiedene Methoden des verteilten maschinellen Lernens funktionieren sowie deren Vor- und Nachteile mit Bezug auf den Datenschutz. Sadeghi, Mitglied der Arbeitsgruppe für IT-Sicherheit und Datenschutz, war einer der Experten für diese Publikation. Lesen Sie auch das ergänzende Interview „KI und Sicherheit: Braucht Künstliche Intelligenz neues Sicherheitsdenken?“ mit Professor Sadeghi von Online-Journalist Matthias Bastian bei THE DECODER.

Über den European Cybersecurity Month

Der ECSM ist ein europaweites Format zur Förderung der Cybersicherheit. Jeden Donnerstag im Oktober 2022 geben hessian.AI, das Hessische Zentrum für Künstliche Intelligenz und der Fachbereich Informatik der TU Darmstadt Einblicke, wie künstliche Intelligenz und Cybersicherheit erfolgreich zusammenspielen und voneinander profitieren. In der ersten Folge der Reihe stellt hessian.AI das Start-up-Projekt Queryella vor, das in der Forschungsgruppe von Professorin Mira Mezini entstanden ist. Nächsten Donnerstag (20.10.) könnt Ihr einige Gründungsprojekte und Startups aus dem Umfeld des Fachbereichs und aus hessian.AI live auf dem Darmstädter Innoday treffen. Auf unseren Social-Media-Kanälen finden Sie eine Zusammenfassung des Events.