Digitalisierung und KI in Lehre und Studium: KI-Tutoren

Aufgrund der Datenverarbeitungstätigkeiten sind für eine datenschutzkonforme Nutzung eines cloudbasierten KI-Systems folgende Maßnahmen dringend zu beachten:

• Es dürfen keine personenbezogenen Daten im Sinne des Art. 4 Nr. 1 DSGVO sowie besondere Kategorien personenbezogener Daten im Sinne des Art. 9 DSGVO in KI-Systeme hochgeladen oder im Wege eines Prompts eingeben werden.
• Es dürfen zudem keine internen Informationen oder Dokumente, Betriebsgeheimnisse, keine dem Geheimschutz, dem Steuergeheimnis oder anderen gesetzlichen Verschwiegenheitspflichten unterliegenden Daten in KI-Systeme hochgeladen oder im Wege eines Prompts eingegeben werden.
• Anfragen sollten generisch gehalten werden (bspw. Anonymisierung anstatt Eingabe der Namen von echten Personen). Auch Angaben, durch die Personen mittelbar erkennbar wären, gelten als personenbezogene Daten und dürfen nicht eingegeben werden.
• Bei der Verwendung von KI-Systemen muss darauf geachtet werden, dass keine urheberrechtlich geschützten Inhalte erstellt oder in irgendeiner Form weiterverwendet werden.
• Ein Upload von Dateien sollte nicht durchgeführt werden. Es muss sichergestellt werden, dass die vorgenannten Maßnahmen eingehalten werden.
• Vor der Weiterverwendung von KI-generierten Inhalten sollte stets eine fachliche Prüfung durchgeführt werden. KI sollte ausschließlich zur Unterstützung dienen. Die endgültige Entscheidung muss i.S.d. DSGVO stets durch eine natürliche Person getroffen werden, die über einen tatsächlichen Entscheidungsspielraum verfügt.
• Bei vermuteter oder festgestellter unzulässiger Verarbeitung personenbezogener Daten ist unverzüglich der behördliche Datenschutzbeauftragte zu informieren und der Vorfall zu dokumentieren.

Für die lokalen KI-Systeme der Universität Passau gelten andere, erleichterte empfohlene Verhaltensregeln. Diese werden separat bekanntgegeben.

Aktuelle generative KI-Systeme verfügen über kein Verständnis der generierten Inhalte. Das kann dazu führen, dass trotz oft überzeugender Kohärenz statistische Beschränkungen zu inhaltlichen Fehlern führen. Die Entwicklung zeigt, dass generative KI trotz beeindruckender Fähigkeiten weiterhin auf Kombinationen mit wissensbasierten Systemen angewiesen ist, um verlässliche Ergebnisse zu liefern.

Aktuelle KI-Systeme sind nicht fehlerfrei. Trotz ständiger Entwicklung ist generative KI weiterhin auf wissensbasierte Systeme als Datenbasis angewiesen um verlässliche Ergebnisse zu liefern. Da sich dies nicht immer überprüfen lässt, empfiehlt es sich den Output auf Richtigkeit zu überprüfen.

Die Uni Passau hat mehrere KI-Tools die als Universitätsangehöriger genutzt werden können:

ZIMI: IT-Support-Chat der Uni Passau

Open Web UI: Chatbot-Plattform zur Nutzung verschiedener KI Sprachmodelle

Microsoft Copilot: KI Assistant in Microsoft-Anwendungen

Ja. Für technische Fragen stehen die Ansprechpartnerinnen und Ansprechpartner des ZIM zur Verfügung. Für Fragen zur didaktischen Nutzung von KI in der Lehre können Sie sich an die KSL wenden. Studierende und Lehrpersonen können hier Unterstützung durch die KI-TutorInnen erhalten.

Die Universität fördert den reflektierten und verantwortungsvollen Umgang mit KI durch Schulungen, Informationsangebote und die Entwicklung einer universitätsweiten KI-Strategie. Ziel ist es, Kompetenzen aufzubauen und gleichzeitig Transparenz und Fairness sicherzustellen. Konkrete Informationen und Angebote finden Sie auf unserer Website.

Der Schutz personenbezogener Daten erfordert beim Einsatz von KI-Systemen besondere Aufmerksamkeit und sorgfältige Planung. Die gängigen Datenschutzgrundsätze gelten hier in verstärktem Maße. Das Hochladen von Daten in kommerzielle Cloud-KI-Systeme ist meist datenschutzrechtlich bedenklich, wenn nicht sogar unzulässig. Eine zuvor durchgeführte Anonymisierung bietet oft keine ausreichende Sicherheit, da aus dem Kontext weiterhin Rückschlüsse auf Einzelpersonen möglich sein können, selbst wenn Namen und offensichtliche Identifikatoren entfernt wurden. Eine „echte“ und zuverlässige Anonymisierung ist aufwändig. Deshalb ist die Verarbeitung personenbezogener Daten in (Cloud-basierten) KI-Systemen regelmäßig datenschutzrechtlich nicht zu rechtfertigen, wenn nicht ausnahmsweise eine Verarbeitung erforderlich ist. Dann dürfen jedoch ausschließlich anonymisierte oder pseudonymisierte Daten verwendet werden und eine Re-Identifikation muss ausgeschlossen sein.

Nutzen Sie nach Möglichkeit KI-Modelle, die lokal auf Ihrem Rechner oder auf universitätseigenen Systemen laufen, anstatt Daten an externe Cloud-Dienste zu übermitteln. Erfassen und übermitteln Sie nur jene Daten, die für den angestrebten Zweck unbedingt erforderlich sind. Erläutern Sie den konkreten Zweck der Verarbeitung sowie die eingesetzten Werkzeuge. Die Datenverarbeitung muss sich auf eine angemessene rechtliche Basis stützen bzw. erfordert eine Rechtsgrundlage i.S.d. DSGVO. In der Praxis wird häufig eine Einwilligung eingeholt. Diese muss laut DSGVO allerdings freiwillig erfolgen und muss jederzeit mit Wirkung für die Zukunft widerrufen werden können. Konsultieren Sie die Ansprechpersonen für Datenschutz der Universität Passau. Die datenschutzkonforme Nutzung von KI erfordert Fachwissen und eine sorgfältige Risikoabwägung, die Sie nicht allein durchführen sollten (siehe hierzu auch: “Wie schützt man Daten von Studierenden beim Einsatz von KI-Systemen“).

Unabhängig des Genannten sollte darauf geachtet werden, Funktionen wie das KI-Training durch Nutzereingaben sowie Verlaufsspeicherungen („History“) grundsätzlich zu deaktivieren, da sie zu einer potenziellen Re-Identifikation von Nutzerinnen und Nutzern führen können. Bei der Auswahl von KI-Systemen ist darauf zu achten, dass die Datenerfassung administriert werden kann.

Bei der Nutzung von KI-Diensten gelten die Bestimmungen der Datenschutz-Grundverordnung (DSGVO). Es dürfen keine personenbezogenen oder sensiblen Daten (z. B. Namen, Matrikelnummern, Gesundheitsdaten) in externe KI-Systeme eingegeben werden, sofern keine datenschutzrechtliche Vereinbarung mit der Universität besteht.

Für universitätsinterne Tools, die datenschutzkonform betrieben werden, gelten gegebenenfalls andere Bestimmungen. Bei Unsicherheiten empfiehlt sich eine Rücksprache mit den Datenschutzbeauftragten der Universität.

Urheber können nur natürliche Personen sein, da nach § 2 Abs. 2 UrhG Werke im Sinne des UrhG nur persönliche geistige Schöpfungen sein können. Nach deutschem Recht gilt das Schöpferprinzip, welches verlangt, dass der Schöpfungsprozess von einem Menschen gesteuert wird. Entsprechend kann KI-Systemen mangels eigenständiger Geistestätigkeit keine Urheberschaft zugesprochen werden. Hard- und/oder Software darf zwar als Hilfsmittel bzw. Werkzeug für die Gestaltung eingesetzt werden. Dort wo der Automatisierungsgrad aber zu ausgeprägt ist, bleibt kein Raum für die Begründung einer Urheberschaft. Wenn die Technologie also den Schöpfungsprozess übernimmt, ist das Ergebnis kein Werk im Sinne des § 2 UrhG. Bei dieser Frage kommt es auf den Grad der Autonomie der KI an und es stellt im Zweifel eine Einzelfallentscheidung dar, ob die KI lediglich als Werkzeug in einem schöpferischen Prozess dient, der von einer natürlichen Person gesteuert wird, oder ob eine natürliche Person die Kontrolle über den schöpferischen Vorgang weitgehend an die Technologie abgegeben hat. Dabei sind es oft feine Nuancen, die darüber entscheiden, ob ein urheberrechtlich geschütztes Werk vorliegt oder ob jeglicher Schutz ausscheidet. Darüber hinaus kann ein von einer KI erzeugter Output aber wiederum urheberrechtlichen Schutz erlangen, wenn er von einer natürlichen Person so überarbeitet wird, dass ihm ein eigener schöpferischer Gehalt im Sinne des § 3 UrhG zukommt.

Werden KI-Inhalte eins zu eins übernommen, empfiehlt es sich nicht zuletzt aus Transparenzgründen grundsätzlich, den KI-Einsatz transparent zu machen.

KI-generierte Inhalte gelten in der Regel nicht als urheberrechtlich geschützte Werke, wenn sie vollständig autonom von einer KI erzeugt wurden bzw. keine menschliche Urheberschaft vorliegt. Daher ist grundsätzlich zwar weder eine Quellenangabe noch eine Kennzeichnung im Sinne des Zitatrechts erforderlich. Hiervon bestehen jedoch Ausnahmen:

Zum einen können Lizenz- und Nutzungsbedingungen der jeweiligen KI-Software abweichende Regelungen enthalten, die verlangen, dass bei der Nutzung ihrer generierten Inhalte auf die Verwendung der KI-Software verwiesen wird. Eine sorgfältige Prüfung dieser Bedingungen sollte daher immer vorab erfolgen.

Zum anderen sieht die KI-Verordnung in Artikel 50 KI-VO Kennzeichnungspflichten vor, die ab August 2026 gelten. Wer ein KI-System einsetzt, das Inhalte künstlich erzeugt oder manipuliert, muss dies je nach Zielrichtung und Maß der Beteiligung der KI offenlegen. Wurde ein Inhalt primär durch ein KI-System erzeugt, besteht grundsätzlich eine Kennzeichnungspflicht. Anders verhält es sich, wenn die KI lediglich unterstützend eingesetzt wurde – etwa zur Erstellung eines Entwurfs, der anschließend maßgeblich von einer natürlichen Person bearbeitet und inhaltlich geprägt wurde. Zusätzlich verpflichtet die KI-Verordnung die Anbieter von KI-Systemen dazu, ihre Inhalte technisch kennzeichnungsfähig zu machen.

Im Hochschulkontext, etwa bei wissenschaftlichen Arbeiten, gelten zusätzlich hochschulinterne Anforderungen an Transparenz und wissenschaftliche Redlichkeit. Auch wenn im Einzelfall keine urheberrechtliche oder gesetzliche Pflicht zur Kennzeichnung besteht, ist der KI-Einsatz in der Regel offenzulegen, da wissenschaftliches Arbeiten auf der eigenständigen Leistung des Verfassenden beruht. Besprechen Sie diese Thematik deshalb bei Unklarheiten direkt mit Ihrer Dozentin oder Ihrem Dozenten.

Urheberrechtlich geschützte Inhalte behalten auch dann ihren Schutz, wenn sie durch eine KI reproduziert werden. Es muss demnach immer sichergestellt werden, dass durch die Verwendung von KI-generierten Inhalten keine Urheberrechte Dritter verletzt werden. Es ist stets zu prüfen, ob der KI-Output geschützte Elemente fremder Werke enthält, die ansonsten ohne entsprechende Lizenzierung oder Zustimmung des Rechteinhabers genutzt würden.

Lehrende können sich u.a. auf der Website zur KI Kompetenz informieren. Dort finden Sie Fortbildungen, Praxisbeispiele und Ansprechpersonen für die Integration von KI-Werkzeugen in der Lehre.

Sofern es keine fakultäts- oder lehrstuhlspezifischen Regelungen gibt, liegt die Entscheidung bei Ihnen. Sie können festlegen, in welchen Aufgaben KI-Werkzeuge genutzt werden dürfen und in welchen nicht. Wichtig ist eine transparente Kommunikation dieser Regeln gegenüber den Studierenden. Wenn KI-Tools in Lehrveranstaltungen eingesetzt werden, sollten sie für alle Studierenden kostenfrei zugänglich sein. Besonders empfiehlt sich da die Nutzung der von der Uni Passau lizenzierten und zur Verfügung gestellten KI-Tools.

Bislang hat die Universität Passau keine speziellen rechtlichen Regelungen für den Einsatz von KI in den jeweiligen Studien- und Prüfungsordnungen erlassen. Somit gelten die allgemeinen Regelungen zum Prüfungsrecht, insbesondere zu Fragen von Täuschung und Unterschleif. Da die Nutzungsmöglichkeiten von generativer KI sehr vielfältig sind und sich nicht allein auf die Erstellung von Texten beschränken, ist ein generelles Verbot rechtlich kaum haltbar. Wer sich etwa nur bei der Recherche oder der Redaktion eines selbst formulierten Textes von KI-Systemen unterstützen lässt, wird zweifellos immer noch eine erhebliche Eigenleistung erbringen. Die Abgrenzung zu bereits üblicher Software, z.B. Rechtsschreibkontrolle innerhalb von Textverarbeitungsprogrammen, ist daher schwer möglich. Vor dem Hintergrund dieser mit rechtlichen Unsicherheiten behafteten Situation empfehlen wir keine pauschalen Verbote im Rahmen von Haus-, Seminar- oder Abschlussarbeiten auszusprechen, solange dafür (noch) keine explizite Rechtsgrundlage vorhanden ist.

Eine schrankenlose Gestattung zur Nutzung von KI-Systemen kann den Grundgedanken einer Leistungskontrolle konterkarieren und einen Verstoß des Grundsatzes auf Gleichbehandlung aus Art. 3 Abs. 1 GG darstellen. Daher ist der unbegrenzte Einsatz von KI in studentischen Arbeiten nicht zulässig. Die begrenzte Zulassung von KI-Systemen bei der Anfertigung häuslicher Arbeiten wirft jedoch nach derzeitigem Stand ebenso rechtliche Probleme auf, insbesondere in Bezug auf eine angemessene Zitation. Um eine Bewertung der jeweiligen Arbeit und eine Vergleichbarkeit der Leistungen untereinander zu gewährleisten, wird empfohlen nicht lediglich von den Studierenden zu verlangen, dass der Einsatz von KI offengelegt wird, sondern auch, dass mit KI erstellte Passagen z.B. in Form eines Protokolls dokumentiert werden. Vergleichbar einem Textzitat muss ersichtlich sein, was auf die eigene intellektuelle Leistung des Studierenden und was auf die Rechenleistung einer KI zurückzuführen ist. Ein solches Dokumentationserfordernis erscheint derzeit als der vernünftigste Ansatz zum Umgang mit KI bei häuslichen Arbeiten. Letztlich liegt die Verantwortung für die angemessene Einbeziehung von KI-Tools innerhalb Ihrer Lehrfreiheit aus Art. 5 Grundgesetz.

Nein, es besteht grundsätzlich ein Recht der Prüfungsteilnehmenden auf eine menschliche Bewertung. Eine ausschließlich automatisierte Korrektur und Bewertung sind demnach nicht zulässig. Dies schließt nicht aus, dass Sie sich von einer KI-Assistenz unterstützen lassen. Beachten Sie hierbei jedoch, dass KI-Systeme, die Prüfungsbewertungen vornehmen können oder die Überwachung verbotenen Verhaltens innerhalb einer Prüfungssituation ermöglichen, nach Art. 6 Abs. 2 iVm Anhang III Nr. 3 der KI-Verordnung der Europäischen Union als Hochrisiko-KI-Systeme gelten. Selbst wenn diese Systeme am Markt zugelassen sind, erfordert ihr Einsatz von Ihnen ein erhöhtes Problembewusstsein. Neben hochschulrechtlichen Aspekten sind auch datenschutzrechtliche Aspekte zu berücksichtigen. Wenn Sie über den Einsatz einer solchen Software nachdenken, empfehlen wir Ihnen daher vorab Kontakt mit dem Rechtsreferat und dem behördlichen Datenschutzbeauftragten der Universität Passau aufzunehmen, um die Zulässigkeit im Einzelfall prüfen zu lassen.

KI-Tools können die Forschungskapazitäten erheblich verbessern, indem sie große Datensätze analysieren, Muster erkennen und Erkenntnisse gewinnen, die für Menschen allein unmöglich zu erreichen wären. KI-gestützte Systeme können z.B. bei der Literaturrecherche, der Datenanalyse und bei der Formulierung von Forschungshypothesen helfen.

Für Inhalt und Integrität der wissenschaftlichen Arbeit sind weiterhin Sie als forschende Person allein verantwortlich. Dazu gehört die Verpflichtung, KI-generierte Inhalte stets auf ihre Richtigkeit zu überprüfen, um Fehlinterpretationen, Unrichtigkeiten oder Verzerrungen (sog. „Halluzinieren“) zu vermeiden. Dies umfasst auch die Pflicht sicherzustellen, dass durch den Einsatz von KI kein geistiges Eigentum verletzt wird, etwa in Form von Plagiaten. Ebenso obliegt es Ihnen als Autorin oder Autor, den Einsatz von KI-Tools in Ihrer Forschung transparent offenzulegen und die verwendeten Methoden zu dokumentieren, um eine Reproduzierbarkeit Ihrer Ergebnisse durch die Forschungsgemeinschaft zu ermöglichen.

Die Deutsche Forschungsgemeinschaft (DFG) hat frühzeitig eine Stellungnahme für den Umgang mit generativen KI-Modellen wie ChatGPT und DALL-E formuliert, an der Sie sich orientieren können.

Auf der Website der KSL, der Uni-Bibliothek sowie hier finden Sie eine Übersicht aktueller Schulungen und Workshops. Darüber hinaus bieten die KI-Tutorinnen und -Tutoren regelmäßig Einführungskurse, Beratungen und Sprechstunden an.

Bei der Nutzung von KI gelten die Regeln der guten wissenschaftlichen Praxis. Grundsätzlich wird empfohlen, den Einsatz von KI transparent zu kennzeichnen. Je nach Lehrstuhl können zudem spezifische Vorgaben oder Leitlinien gelten. Am besten ist es, mit der jeweiligen Lehrperson abzuklären, in welchem Umfang eine Kennzeichnung erforderlich ist.

KI kann Ihnen dabei von Nutzen sein, komplexe Theorien und Konzepte oder anspruchsvolle Texte besser zu durchdringen. Sie kann ein wertvolles Tool darstellen, um Inhalte zu erlernen oder bereits erlernte Inhalte zu vertiefen und einzuüben, etwa durch individualisierte Beispiele und Übungen. Bei fremdsprachigen Texten kann auch eine Übersetzung mittels KI wertvolle Dienste erweisen. Beim Erstellen von Texten schließlich ist der Einsatz von KI in allen Arbeitsphasen denkbar, vom Brainstorming über die Strukturierung der Argumentation bis hin zum Redegieren des Ergebnisses. Die Verwendung von KI als Hilfsmittel bei der Erstellung von Texten ist stets als solche offenzulegen; zudem sind die bestehenden Urheberrechte zu wahren und die geltenden Bestimmungen zum Schutz personenbezogener Daten zu beachten.

Es obliegt im Einzelfall den Prüferinnen und Prüfern über die Zulässigkeit von KI-Tools in Prüfungsarbeiten verbindliche Vorgaben zu machen. Dies umfasst auch den Ausschluss der Verwendung bestimmter Tools. Der Einsatz von KI ist in jedem Fall in geeigneter Weise kenntlich zu machen und nachvollziehbar zu dokumentieren, so dass eine Vergleichbarkeit und Bewertbarkeit Ihrer Leistung möglich bleibt. Das Risiko der unzulässigen Nutzung von KI liegt für den Fall, dass der Nachweis geführt werden kann, letztlich bei Ihnen selbst.

Nein. In Präsenzprüfungen unterfällt der Einsatz von KI-Systemen dem Verbot technischer Hilfsmittel und ist somit in aller Regel unzulässig.