Entwicklungsdynamiken ausgewählter systemischer Risiken

Systemisches Risiko: Technikversagen und eingeschränkte Technikbeherrschbarkeit

Der digitale Bildungsmarkt gilt als Wachstumsmarkt, da die Nachfrage nach flexiblen, personalisierten und ortsunabhängigen Lernformaten stetig steigt. Technologischer Fortschritt, wachsender Qualifizierungsbedarf, der Fachkräftemangel sowie die zunehmende Verbreitung KI-gestützter Lernplattformen treiben diese Entwicklung voran. Besonders E-Learning, Learning Analytics (LA), Sprachmodelle wie ChatGPT, adaptive Lernsysteme und immersive Technologien wie Virtual Reality gewinnen an Bedeutung. Bildungseinrichtungen wie Schulen und Hochschulen integrieren zunehmend digitale Tools und Plattformen in ihre Lehrpläne, um Lernprozesse zu optimieren. Auch die weite Verbreitung von Smartphones und Tablets führt dazu, dass Lernende aus unterschiedlichsten Hintergründen jederzeit und ortsunabhängig auf Bildungsressourcen zugreifen können. Zudem investieren Staaten und Unternehmen verstärkt in digitale Bildungstechnologien, um den Zugang zu Wissen zu verbessern und Qualifikationslücken zu schließen.

Die zunehmende Digitalisierung bietet dem Infrastruktursystem Bildung und Forschung Chancen, seine Resilienz gegenüber systemischen Risiken wie Versorgungsengpässen durch Fachkräftemangel sowie Pandemien und Endemien zu stärken. Gleichzeitig bringt der zunehmende Einsatz komplexer Bildungstechnologien wie adaptiver Lernplattformen auch neue Herausforderungen mit sich. Kurz- und mittelfristig wächst die Abhängigkeit von der Technik und die Kontrolle und die sichere Beherrschbarkeit dieser Bildungstechnologien wird erschwert. Dies liegt unter anderem an der hohen technischen Komplexität, der mangelnden Transparenz algorithmischer Entscheidungsprozesse sowie an der Abhängigkeit von ggf. proprietären Systemen. Hinzu kommen die intensivierten Bemühungen von Technologieunternehmen, Schulen und Universitäten als lukrative Märkte zu erschließen, indem sie unternehmenseigene Hard- und Software gezielt in Bildungseinrichtungen integrieren. Da der Wechsel etablierter technischer Systeme mit hohen finanziellen und organisatorischen Hürden verbunden ist, entstehen langfristige Abhängigkeiten, die nur durch erhebliche Investitionen aufgelöst werden können [1]. Die digitale Abhängigkeit Deutschlands von ausländischen Technologien, insbesondere aus den USA und China, verschärft dieses Problem und erhöht die Abhängigkeit von wenigen dominierenden Softwareunternehmen sowie das Risiko von Technikversagen und eingeschränkter Technikbeherrschbarkeit [2]. Setzen Bildungseinrichtungen verstärkt auf die Software eines bestimmten Anbieters, können Unternehmensinsolvenzen oder ausbleibende Softwareupdates zu langfristigen Ausfällen der Technik und der Störung etablierter Lernprozesse führen.

Hinzu kommt, dass viele digitale Bildungsangebote von technologiegetriebenen Unternehmen ohne pädagogische Expertise entwickelt werden. Dies kann die Bildungsqualität beeinträchtigen, etwa wenn interaktive multimediale Elemente ohne didaktischen Mehrwert eingesetzt werden [3]. Studien zeigen zudem, dass aktuelle digitale Bildungspraktiken oft nicht auf neuesten lerntheoretischen Erkenntnissen basieren. Stattdessen werden teils überholte didaktische Konzepte genutzt, die z. B. stark auf extrinsische Belohnungssysteme setzen [4]. Auch der vermehrte Einsatz und die schnelle Entwicklung von KI-Systemen schränkt die Technikbeherrschbarkeit weiter ein, insbesondere dann, wenn KI in Bildungstechnologien wie digitale Lernplattformen oder Bewertungssysteme integriert wird. Es besteht das Risiko algorithmischer Verzerrungen, da unsicher ist, inwieweit ein eingesetztes KI-System Faktoren wie Geschlecht, Ethnie oder Sprache bei der Bewertung von Ergebnissen oder in die Ableitung von Handlungsempfehlungen einließen lässt [5]. Diskriminierende oder benachteiligende Entscheidungen gegenüber bestimmten Nutzergruppen können die Folge sein [6].

Systemisches Risiko: Machtkonzentration

Die Entwicklungsdynamik des systemischen Risikos Machtkonzentration ist durch die zunehmende Digitalisierung des Infrastruktursystems und das steigende kommerzielle Interesse von sog. EdTech-Unternehmen (meist privatwirtschaftliche Akteure, die digitale Lerntechnologien entwickeln und vertreiben) und Wissenschaftsverlagen am Bildungs- und Forschungssystem als Absatzmarkt geprägt. Die Auswirkungen der zunehmenden Machtkonzentration US-amerikanischer Technologiekonzerne im Bereich Digitalwirtschaft, Bildungstechnologien und KI bergen bereits kurzfristig ein erhöhtes Risikopotenzial für das Infrastruktursystem, wenn neue Datenschutzlücken entstehen und sensible Daten kommerziell verwertet werden. Im Forschungsbereich besteht zudem die Gefahr, dass Informationen und Daten an Unternehmen abfließen, bspw. über die Eingabe von Prompts (Eingabeaufforderung oder auch Anweisung, die einem KI-Modell gegeben wird) oder das Hochladen von Dateien in kommerzielle KI-Anwendungen wie ChatGPT. Nicht nur Technologiekonzerne können ihre Marktmacht im Zuge der Digitalisierung stärken, auch die dominierenden Wissenschaftsverlage könnten ihre Position zukünftig ausbauen, indem sie neue und profitable Geschäftsfelder erschließen, z. B. durch das Sammeln und Verkaufen von Nutzungsdaten [7]. Durch die zunehmende Digitalisierung der Forschung können entsprechend umfangreiche Daten entlang des Forschungsprozesses gesammelt und verkauft werden. Es besteht die Gefahr, dass Daten zunehmend an außerwissenschaftliche Akteure verkauft und wirtschaftlich verwertet oder im Zuge von Cyberkriminalität bspw. zu Spionagezwecken genutzt werden [7].

Systemisches Risiko: Cyberkriminalität

Eine weitere Entwicklungsdynamik ergibt sich aus der zunehmenden und professionalisierten Cyberkriminalität sowie der Verschärfung geopolitischer Konflikte. Diese Faktoren tragen bereits kurzfristig zu einer steigenden Gefährdungslage für das Bildungs- und Forschungssystem bei. Staatliche und staatsnahe Akteure setzen angesichts globaler Spannungen und hybrider Konflikte verstärkt digitale Instrumente ein, um geopolitische Interessen zu verfolgen. Zusätzlich verschärft sich die Bedrohung durch den Missbrauch von KI-Technologien: KI-gestützte Cyberangriffe können automatisiert, schneller und in größerem Umfang durchgeführt werden [8]. In den Jahren 2022 bis 2024 wurden dem Bundeskriminalamt insgesamt 42 Cyberangriffe auf Hochschulen und Wissenschaftseinrichtungen gemeldet [9], Expert/innen erwarten für die kommenden Jahre einen weiteren Anstieg. Die finanziellen und operativen Schäden solcher Angriffe sind erheblich. So entstand der Helmholtz-Gemeinschaft durch Cyberangriffe allein im Jahr 2023 ein Schaden in Höhe von 12,3 Mio. Euro [9]. Neben den finanziellen Schäden führen Cyberangriffe häufig zu langen Ausfallzeiten der IT-Systeme und einer eingeschränkten Funktionsfähigkeit der betroffenen Einrichtungen. Besonders gefährdet sind Universitätskliniken, da sie sowohl Teil des Forschungs- als auch des Gesundheitssystems sind und hochsensible Patientendaten verwalten. Cyberangriffe können dort nicht nur den Forschungsbetrieb stören, sondern auch die medizinische Versorgung gefährden, etwa durch den Ausfall lebenswichtiger Geräte, verzögerte Diagnosen oder eingeschränkten Zugang zu Patientendaten. Dem wachsenden Risiko durch Cyberkriminalität stehen gleichzeitig geringe Kompetenzen von Lernenden und Personal im Bereich Cybersicherheit gegenüber. Laut Hochschulbarometer geben nur knapp 30 % der befragten Hochschulen an, Sicherheitsschulungen für das Personal durchzuführen und nur 10 % bieten Schulungen für Studierende an [10]. Auch bei Schüler/innen bestehen Wissenslücken im Bereich IT-Sicherheit und Datenschutz [11].

Systemisches Risiko: Geopolitische Konflikte

Das systemische Risiko geopolitische Konflikte wird durch Entwicklungsdynamiken in der internationalen Ordnung geprägt. Die jüngsten Veränderungen sind durch den russischen Angriffskrieg gegen die Ukraine, den Machtwechsel in den USA sowie das Erstarken Chinas als Wissenschafts- und Wirtschaftsmacht geprägt, womit kurz- bis mittelfristig die Gefährdung des Infrastruktursystems vor allem im Forschungsbereich steigt (s. Trendteil). Die geopolitischen Spannungen haben wachsenden Einfluss auf die Forschungssicherheit in Deutschland sowie auf internationale Forschungskooperationen. Universitäten und Forschungseinrichtungen, Projektträger und Politik reagieren darauf mit Positionspapieren sowie der Aktualisierung bestehender Handlungsempfehlungen und Leitlinien, um das Bewusstsein für die Risiken und Bedrohungen im Forschungssystem zu schärfen. In der Abschlusserklärung des G7-Wissenschaftsministertreffens im Jahr 2022 werden u. a. folgende Risiken als besonders bedeutsam eingestuft: unzulässige Beeinflussung, Beeinträchtigung oder widerrechtliche Nutzung der Forschung, der direkte Diebstahl von Ideen, Forschungsergebnissen und geistigem Eigentum durch Staaten, Militär und deren Bevollmächtigte sowie durch nichtstaatliche Akteure [12]. Ein aktuelles Beispiel mit Bezug zur Osteuropaforschung zeigt, wie die Forschung in Deutschland durch Russland beeinflusst wird. Die Deutsche Gesellschaft für Osteuropakunde (DGO) in Berlin wurde im Sommer 2024 durch Russland als „extremistische Organisation“ eingestuft. In der Folge können Wissenschaftler/innen aus Deutschland nicht mehr sicher in Russland arbeiten, gleichzeitig drohen russischen Wissenschaftler/innen mit Kontakt zum Forschungsinstitut DGO strafrechtliche Konsequenzen, einschließlich möglicher Haftstrafen [13]. Die DGO war bereits im Frühjahr 2024 Ziel eines mehrmonatigen Cyberangriffs. Es besteht der Verdacht, dass dieser Angriff von russischen Hacker/innen ausging. Das DGO geht davon aus, dass gezielt Informationen über ihre wissenschaftliche Arbeit ausspioniert wurden.