Experten aus Industrie und Wissenschaft haben sich am Mittwoch, 13.9., an der Universität Passau getroffen, um über „sichere und zuverlässige Nutzung von KI“ zu diskutieren. Experten- Vorträge und Diskussionsrunden ermöglichten es, über den aktuellen Hype um generative KI wie ChatGPT hinauszuschauen, das Problemfeld zu erörtern sowie Lösungswege zu erkennen. Zu Gast war auch Arvid Rosinski, Chief Information Security Officer der AUDI AG.

Vor 50 geladenen Gästen eröffnete Universitätspräsident Prof. Dr. Ulrich Bartosch die Veranstaltung und unterstrich dabei die Wichtigkeit der IT-Sicherheitsforschung auch für den sicheren und zuverlässigen Einsatz von KI-Systemen. „Die Universität Passau wird nicht müde werden, gemeinsam mit den bayerischen Universitäten und Hochschulen für angewandte Wissenschaften, um eine schlagkräftige vernetzte Forschung und Entwicklung zur Stärkung der Abwehrfähigkeit in Bayern zu ringen“, so Bartosch. Es folgten Vorträge der Passauer Informatiker Prof. Dr. Stefan Katzenbeisser, Inhaber des Lehrstuhls für Technische Informatik, und Prof. Dr. Michael Granitzer, Inhaber des Lehrstuhls Data Science. Katzenbeisser sprach über relevante laufendende Forschungsprojekte im Passau Institute of Digital Security (PIDS), das an der Universität Passau interdisziplinär die Forschung zur Digitalen Sicherheit vereint (mit Lehrstühlen aus den Wirtschaftswissenschaften, der Soziologie, der Mathematik, dem Recht sowie der Informatik). Granitzer referierte zu den Problemen und Risiken von KI-Systemen und führte dabei in die zum Verständnis wichtigen Grundlagen heutiger KI-Systeme und ihren grundlegenden Aufbau ein. Wie KI in einem Unternehmen wie der AUDI AG eingesetzt wird, erläuterte Arvid Rosinski (Chief Information Security Officer der AUDI AG). KI komme schon lange und sehr erfolgreich, aber immer erst nach eingehender Untersuchung und einer Risikoabwägung zum sinnvollen Einsatz. „Die Möglichkeiten, die KI in der betrieblichen Anwendung mit sich bringt, haben zuletzt durch ChatGPT eine hohe Aufmerksamkeit zu diesem Thema nach sich gezogen. Ich bin überzeugt, dass eine stärkere Vernetzung mit der akademischen Forschung große Chancen birgt. Ich würde einen solchen weiterführenden Dialog sehr begrüßen“, so Rosinski.

Einigkeit bestand allgemein darin, dass es sowohl Forschungsbedarf als auch Entwicklungspotenzial gibt. Um einen sicheren und zuverlässigen Einsatz von Künstlicher Intelligenz zu ermöglichen, braucht es eine interdisziplinäre Zusammenarbeit. Insbesondere wurde der benötigte Kompetenzaufbau

hervorgehoben, um als Mensch das KI-System richtig einschätzen und als Werkzeug sicher nutzen zu können. An der abschließenden Podiumsdiskussion unter der Leitung von Projektleiter Dr. Henrich C. Pöhls nahmen neben den Vortragenden auch Taras Holoyad (zuständig für KI Standardisierung bei der Bundesnetzagentur) und Prof. Dr. Joachim Posegga (Inhaber des Lehrstuhls für IT-Sicherheit an der Universität Passau) teil. Posegga verglich die disruptive Kraft der aktuellen generativen KI-Systeme mit der Wirkung des Internetzugangs für private Haushalte. Damit sei die Problemstellung verbunden, dass KI-Systeme seit ChatGPT nicht mehr nur durch speziell geschultes Personal, sondern durch jede Anwenderin und jeden Anwender sicher und zuverlässig nutzbar sein sollten. Taras Holoyad gab den rund 50 Teilnehmerinnen und Teilnehmern Einblick in die derzeit laufenden Standardisierungsbestrebungen in Deutschland und Europa. „In Kooperation mit Forschung und Industrie erarbeitet die Bundesnetzagentur Schemen zur Bewertung von KI-Systemen, insbesondere hinsichtlich Transparenz und Erklärbarkeit. Währenddessen münden entsprechende Konzepte in nationaler sowie darüber hinaus weltweiter Normungsarbeit“, erläuterte Holoyad.

Eine bayernweite Vernetzung von Universitäten, Hochschulen, außeruniversitären Forschungseinrichtungen und den Anwendern in Industrie und Gesellschaft, wie es die Initiative für das Bayerische Forschungsnetzwerk Digitale Sicherheit vorschlägt, wurde in den Gesprächen eindeutig begrüßt. Dieses Netzwerk soll die konsequente Weiterentwicklung existierender Zusammenarbeit von Spitzenforscherinnen und -forschern an verschiedenen bayerischen Standorten, die schon jetzt über eine signifikante Expertise im Themenfeld der Digitalen Sicherheit verfügen, ermöglichen. Die administrative Leitung des geplanten Netzwerks übernimmt die Universität Passau. Sie koordiniert den Aufbau und die nachhaltige Vernetzung, übernimmt essenzielle Administrationsaufgaben für das Netzwerk als Ganzes und koordiniert netzwerkweite interne und gemeinsame öffentliche Aktivitäten. Ein solches Forschungsnetzwerk zum Thema „Digitale Sicherheit“ existiert bisher weder in Bayern noch deutschlandweit. Die Präsidentinnen und Präsidenten der bayerischen Universitäten bekräftigten bereits am 17. März 2023 ihre Bereitschaft, das Bayerische Forschungsnetzwerk Digitale Sicherheit als gemeinsame Initiative aufzubauen und erklärten ihre Absicht, sich an dessen Aktivitäten zu beteiligen. Mit drei regionalen Bereichen für Süd-, Ost- und Nord-Bayern kann das geplante Netzwerk auch regionale Anwenderinnen und Anwender aus Wirtschaft und Gesellschaft mit ihren konkreten Problemen und lokalen Lösungsangeboten einbinden.