„Die einzige wissenschaftliche Disziplin, in der es echte Gegner gibt“

Herr Backes, welchen Lebensbereich berührt Cybersicherheit eigentlich nicht?

Keinen. IT-Sicherheit ist eines der wichtigsten Themen des 21. Jahrhunderts, da sie quasi jede moderne technische Entwicklung berührt, vom autonomen Fahren bis hin zur Patientenversorgung in Krankenhäusern. Die viel diskutierte künstliche Intelligenz ist chancenlos ohne gründliche Absicherung. Selbst beim Schutz unserer Demokratien spielt Cybersicherheit eine wichtige Rolle, wenn Sie an Wahlautomaten oder E-Voting-Lösungen denken.

Haben die Verteidiger eigentlich eine realistische Chance gegen die Angreifer?

Man muss unterscheiden zwischen mangelnder Sorgfalt bei Unternehmen und Privatleuten, die immer größere Datenberge anhäufen und somit ins Visier von Cyberkriminellen geraten, und den Angreifern, die tatsächlich unbekannte Schwachstellen missbrauchen. Die Forschung, um solche Schwachstellen zu verhindern, ist eine vergleichsweise junge Wissenschaft. Außerdem ist es die einzige wissenschaftliche Disziplin, in der es echte Gegner gibt: Kaum dass ein Problem gelöst wird, kommt ein Angreifer und hebelt den Schutzmechanismus wieder aus. Daraus folgt ein Wettrüsten.

Die entscheidende Frage bleibt: Wie können die Verteidiger gewinnen?

Indem Unternehmen und Forscher aufhören, an den Symptomen herumzudoktern. Wer immer nur die nächste Software-Schwachstelle schließt, hat keine Zeit für Grundlegendes. Stattdessen müssen wir durch disruptive Forschung grundlegende Probleme aus der Welt schaffen; das wird nicht ein allumfassendes Konzept sein, sondern viele Lösungen für viele Probleme. Also ein Ansatz, die künstliche Intelligenz sicherer zu machen, einer für sichere Kommunikation, einer zum sicheren Surfen und so weiter.

Machen Sie sich mit dieser Aussage Freunde bei Unternehmen?

Moderne Unternehmen, die selbst Software entwickeln, haben große Sorgen vor Sicherheitslücken, vor allem im Zusammenhang mit autonomen Anwendungen wie selbstfahrenden Autos oder diagnostischen Systemen in der Medizin. Die derzeitigen Probleme lassen sich nur lösen, wenn man sie in der Tiefe versteht. Und da kommt die Forschung ins Spiel: Weil wir uns mit genau diesen Aufgaben beschäftigen, sucht die Industrie unser Wissen. Sie will auch endlich aufhören, Produkte immer nur ein bisschen sicherer zu machen, und erhofft sich vielmehr Verfahren, die nicht angreifbar sind.

Gibt es Beispiele für solche grundlegenden Verbesserungen?

Da fällt mir natürlich Verschlüsselung ein. Moderne kryptografische Verfahren wie hinreichend lange Schlüssel sind nicht zu knacken. Jedenfalls nicht, wenn die entsprechenden Verfahren korrekt als Software implementiert werden. Wer es schaffen will, eine solche Verschlüsselung zu brechen, müsste einen fundamentalen mathematischen Durchbruch erzielen. Sie erwähnten medizinische Systeme.

Wie kann die Wissenschaft hier helfen?

Wir arbeiten beispielsweise an einem Verfahren, das die zentrale Auswertung von Studiendaten erlaubt. Bisher dürfen Institute diese Daten nicht mit anderen teilen, aus Datenschutzgründen. Über Jahrzehnte gesammelte Daten von Zehntausenden Patienten können also nur dezentral analysiert werden. Das wollen wir ändern.

Könnte die Medizin davon wirklich profitieren?

Aber natürlich: Forscher könnten beispielsweise auf Machine Learning basierende Diagnoseverfahren entwickeln. Sie helfen, Krankheiten besser zu verstehen, indem sie die riesigen Datenmengen analysieren, die bereits vorhanden sind. Dieser Wissensschatz ist elementar für die Gesellschaft, aus ihm kann personalisierte Medizin entstehen, die bis hin zu besseren Therapieformen reichen kann. Wir helfen also dabei, die Stärken der Medizinforschung schneller zum Patienten zu bekommen.

Ein weiteres Feld, auf dem Sie forschen, sind autonom arbeitende Anwendungen. Was sind hier die Herausforderungen?

Autonome Systeme, wie sie für selbstfahrende Autos nötig sind, basieren meist auf maschinellem Lernen. Die Software muss Entscheidungen treffen, die zum Beispiel auf Daten aus Trainings und von Sensoren am Fahrzeug beruhen. Bedeutet das Objekt, das sich nähert, eine Gefahr oder hält es rechtzeitig an? Wir fragen uns, wie solche Systeme unter allen Umständen vertrauenswürdige Entscheidungen treffen können: Wie lässt sich zum Beispiel sicherstellen, dass sie nicht manipuliert wurden? Denn Fehler können etwa im Fall von Autos katastrophale Folgen haben.

Beherrschen denn die Entwickler die Verfahren zum maschinellen Lernen so gut, dass sie Fehler bei Programmierung und Konzeption ausschließen können?

Ich denke nicht. Die heute verwendete Technik der Deep Neural Networks trifft oftmals Entscheidungen, die ihre Entwickler nicht nachvollziehen können. Dabei spielt es keine Rolle, ob die Entscheidung richtig oder falsch ist. Die zugrunde liegenden Modelle sind so komplex, dass sie nicht mehr nachvollziehbar sind.

Greifen Sie denn in Ihrer Forschung solche Systeme gezielt an?

Ja, unter anderem die eben erwähnten neuronalen Netze. Wir forschen daran, wie man mit minimalem Aufwand eine fehlerhafte Klassifizierung durch das neuronale Netz provozieren kann. Wir versuchen, grundsätzlich zu verstehen, welche Angriffsvektoren es bei dieser Technik gibt, um dann entsprechende Gegenmaßnahmen zu entwickeln.

Was meinen Sie mit fehlerhafter Klassifizierung?

Bevor es auf die Straße darf, lernt das neuronale Netz durch Trainingsdaten, ein Auto von einem Fahrradfahrer, von einem Fußgänger, von einem Fußgänger mit Kinderwagen zu unterscheiden. Hält das System beispielsweise einen Lastwagenanhänger für ein Straßenschild, kann das fatale Folgen haben. Denken Sie an den Tesla-Unfall im Jahr 2016. (Anm.d. Red.: Der Tesla-Fahrer starb beim Zusammenstoß mit einem Lkw.)

Wie stehen denn die Chancen, dass es eines Tages sichere autonom fahrende Autos gibt?

Wenn wir uns die nötige Zeit nehmen und ich gehe hier von etlichen Jahren aus –, dann bin ich sehr zuversichtlich.

Das klingt vor allem nach Aufgaben für Experten. Wie steht es denn mit den normalen Computernutzern zu Hause -wie können sie sich schützen?

Die immer wieder genannten Schutzmechanismen wie Firewalls, Virenscanner, Zugriffskontrollen und Verschlüsselung sind in jedem Fall unabdingbar, da sie wirksam sind. Und das gilt nicht nur für Privatanwender, sondern auch für Unternehmen. Außerdem empfehle ich jedem Anwender, sich einen Passwortmanager zuzulegen, um die Sicherheit von Kennwörtern zu erhöhen. All dies ist aber natürlich nicht der Weisheit letzter Schluss, solange die Systeme nicht grundlegend sicherer werden. Und wir müssen daran arbeiten, das Wissen der Nutzer zu erhöhen.

Wie soll das gelingen? Es kann ja nicht jeder zum Informatiker werden.

Ich sehe darin eine politische Aufgabe: Die Nutzer lassen sich nur über Erziehung erreichen, und hier wird nicht genügend getan. Schulen müssen aufklären und sensibilisieren. Es darf nicht nur darum gehen, Medienkompetenz zu vermitteln; die Schüler müssen erfahren, wie das Internet tickt. Die Kids wissen besser als ihre Lehrer und Eltern, wie Snapchat und Instagram funktionieren –aber nicht, wie die zugrunde liegende Technik funktioniert. Sie sollten dies aber verstehen und wie Unternehmen mit den gesammelten Daten umgehen. Gefragt ist also Methodenkompetenz, um Probleme in der digitalisierten Welt lösen zu können. In Großbritannien und der Schweiz ist dies ein gesondertes Schulfach. Das brauchen wir auch – als einen Baustein, um die Sicherheit im Netz langfristig zu erhöhen.

Das Helmholtz-Zentrum für Informationssicherheit (CISPA)

Das Saarbrücker Center for IT-Security, Privacy and Accountability (CISPA) ist im Jahr 2011 durch eine Projektfinanzierung des Bundes gegründet und Ende 2017 in die CISPA – Helmholtz-Zentrum i.G. GmbH überführt worden. Auf Beschluss der Mitgliederversammlung der Helmholtz-Gemeinschaft vom September 2018 wurde es zum 1. Januar 2019 in die Forschungsgemeinschaft aufgenommen. Mittlerweile arbeiten dort rund 200 exzellente Wissenschaftlerinnen und Wissenschaftler. Bis etwa 2026 soll das Zentrum im Vollausbau bis zu 800 Mitarbeiterinnen und Mitarbeiter haben.

Website Helmholtz-Zentrum für Informationssicherheit (CISPA)