KI-Governance an Hochschulen und in der öffentlichen Verwaltung

Die KI-VO ist eine produktsicherheitsrechtlich angelegte EU-Verordnung mit horizontalem Anspruch: Sie regelt das Inverkehrbringen, die Inbetriebnahme und die Verwendung von KI-Systemen sowie die Bereitstellung von KI-Modellen mit allgemeinem Verwendungszweck (GPAI). Anwendbar ist sie auf Anbieter (Art. 3 Nr. 3 KI-VO) und Betreiber (Art. 3 Nr. 4 KI-VO). Hochschulen und öffentliche Stellen sind beim Einsatz fertig zugekaufter Werkzeuge (etwa ChatGPT Edu, Microsoft Copilot) typischerweise Betreiber. Die konkrete Rolle hängt von Nutzungskonstellation, Anpassung, Integration und Aufgabenverteilung ab; eigene Anpassungen oder Integrationen können die Anbieterrolle (mit-)begründen.

Die KI-VO ist seit dem 01.08.2024 in Kraft. Wichtige Anwendungsdaten:

• 02.02.2025: Verbotene Praktiken (Art. 5) und KI-Kompetenz (Art. 4) anwendbar.
• 02.08.2025: Pflichten für GPAI-Modelle (Kapitel V), Governance-Strukturen, Sanktionen.
• 02.08.2026: allgemeine Anwendung – Pflichten für Hochrisiko-KI-Systeme nach Anhang III.
• 02.08.2027: Pflichten für Hochrisiko-KI-Systeme als Sicherheitsbauteile in Produkten (Anhang I).

Die KI-VO ersetzt die DSGVO nicht. Beide Regelwerke gelten parallel: Die KI-VO regelt die Sicherheit und Grundrechtskonformität des KI-Systems als Produkt, die DSGVO regelt die Verarbeitung personenbezogener Daten, die mit dessen Einsatz verbunden ist.

Die KI-VO folgt einem risikobasierten Ansatz. Je höher das Risiko für Grundrechte, Sicherheit und Gesundheit, desto strenger die Pflichten.

Sonderfall GPAI-Modelle: Modelle mit allgemeinem Verwendungszweck (Art. 3 Nr. 63 KI-VO) – etwa GPT, Claude, Gemini – unterliegen eigenen Anbieterpflichten nach Kapitel V KI-VO. Modelle mit systemischem Risiko (Art. 51 KI-VO) treffen verschärfte Pflichten nach Art. 55 KI-VO.

Anhang III KI-VO listet die Anwendungsbereiche auf, in denen KI-Systeme als hochrisikoreich eingestuft werden. Für Hochschulen und öffentliche Verwaltungen besonders relevant sind:

Praktische Konsequenz: Sobald eine Hochschule ein KI-System einsetzt, das in einen dieser Bereiche fällt, treffen sie als Betreiberin die Pflichten aus Art. 26 KI-VO – insbesondere zur menschlichen Aufsicht, zur Anweisungsbefolgung des Anbieters, zur Information betroffener Personen und zur Protokollierung. Der klassische Beispielfall ist KI-gestütztes Online-Proctoring von Prüfungen.

Pflichtenprogramm: Anbieter vs. Betreiber

Hochschulen treten typischerweise als Betreiber (Art. 3 Nr. 4 KI-VO) auf, seltener als Anbieter (Art. 3 Nr. 3 KI-VO). Wer ein beschafftes System wesentlich verändert oder unter eigenem Namen am Markt bereitstellt, kann nach Art. 25 KI-VO zum Anbieter werden. Die Pflichtenprogramme unterscheiden sich erheblich:

Art. 5 KI-VO untersagt acht Kategorien von KI-Anwendungen vollständig. Für den Bildungssektor besonders relevant:

• Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen – verboten mit Ausnahmen aus medizinischen oder Sicherheitsgründen.
• Biometrische Kategorisierung zur Ableitung sensibler Merkmale (z. B. politische Überzeugung, sexuelle Orientierung).
• Social Scoring durch Behörden mit kontextfremden Auswirkungen.
• Manipulative oder ausnutzende Beeinflussung vulnerabler Personen.

Verboten ist seit dem 02.02.2025. Art. 99 Abs. 3 KI-VO sieht für Verstöße gegen Art. 5 Geldbußen bis zu 35 Mio. Euro oder 7 % des weltweiten Jahresumsatzes vor. Anders als die DSGVO enthält die KI-VO keinen pauschalen Bußgeldausschluss für öffentliche Stellen; nach Art. 99 Abs. 8 KI-VO bleibt es jedoch den Mitgliedstaaten überlassen, in welchem Umfang Geldbußen gegen Behörden verhängt werden können. Ob und in welchem Umfang gegen öffentliche Stellen in Deutschland Geldbußen nach der KI-VO verhängt werden können, richtet sich damit nach der noch näher auszugestaltenden nationalen Durchsetzung; die Rechtslage ist für öffentliche Stellen mit Stand Q2/2026 nicht abschließend geklärt.

Art. 4 KI-VO verpflichtet Anbieter und Betreiber von KI-Systemen, sicherzustellen, dass ihr Personal und andere in ihrem Auftrag befasste Personen über ein ausreichendes Maß an KI-Kompetenz verfügen. Die Pflicht ist seit dem 02.02.2025 anwendbar und betrifft jede Stelle, die KI-Systeme einsetzt – unabhängig von der Risikoklasse.

KI-Kompetenz umfasst nach Art. 3 Nr. 56 KI-VO Fähigkeiten, Kenntnisse und Verständnis, die Anbietern, Betreibern und betroffenen Personen ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken sowie möglicher Schäden bewusst zu sein. Der Maßstab ist verhältnismäßig: Er hängt vom Kontext, der Rolle der Person und vom Risikograd des KI-Systems ab.

Typische Bausteine eines KI-Kompetenz-Konzepts

1. Zielgruppenanalyse: Welche Rollen kommen wie mit KI in Berührung (Endnutzende, Multiplikatoren, IT-Verantwortliche, Leitung)?
2. Kompetenzziele je Zielgruppe: Grundlagenwissen, rechtlicher Rahmen, ethische Reflexion, technisches Verständnis, Anwendungs- und Entscheidungskompetenz.
3. Lernformate: Pflicht-Mikrolernen für alle Beschäftigten, vertiefende Module für Multiplikatoren, fachbereichsspezifische Workshops.
4. Nachweisführung: Teilnahmenachweise, regelmäßige Auffrischung, Kompetenzkontrolle.
5. Integration in den Arbeitsalltag: Verbindung von Schulung mit konkreten Anwendungsfällen, FAQ-Datenbank, Ansprechpersonen.

Empfehlenswerte Lernangebote

Für den Aufbau von KI-Kompetenz an Hochschulen und in der öffentlichen Verwaltung bietet sich vor allem das Angebot des KI-Campus an – ein vom Bundesministerium für Bildung und Forschung gefördertes Lehrportal mit kostenfreien, hochschulnah erstellten Online-Kursen:

• ki-campus.org – kostenfreie Online-Kurse zu KI-Grundlagen, KI-Ethik, KI in der öffentlichen Verwaltung, KI-VO u. v. m.
• EU AI Act Essentials – Kompaktkurs zum Verständnis der KI-VO, entwickelt vom appliedAI Institute for Europe und der TU München.
• KI-Kompetenzen in der Hochschulverwaltung – speziell für Hochschulverwaltungen, gemeinsam von KDU.NRW und Stifterverband entwickelt; behandelt verantwortungsvollen und zielgerichteten Einsatz von KI-Werkzeugen im Verwaltungsalltag.
• KIÖV – KI in öffentlichen Verwaltungen – speziell für den öffentlichen Sektor konzipiert.

Ergänzend bieten Bundes- und Landesakademien sowie Anbieter wie IBM SkillsBuild, der Stifterverband oder einzelne Datenschutz- und KI-Schulungsanbieter passende Formate. Wichtig ist nicht die Quelle, sondern dass das Konzept die Pflicht aus Art. 4 KI-VO nachweisbar erfüllt.

KI-VO und DSGVO greifen ineinander, ohne sich gegenseitig zu ersetzen. Werden personenbezogene Daten in KI-Systemen verarbeitet, sind in der Praxis beide Rechtsregime parallel zu beachten:

• Rechtsgrundlage für die Datenverarbeitung folgt weiterhin aus Art. 6 DSGVO (für öffentliche Stellen regelmäßig Art. 6 Abs. 1 lit. e i. V. m. landesrechtlichen Aufgabennormen). Die KI-VO schafft keine eigenständige Rechtsgrundlage.
• Automatisierte Einzelfallentscheidung nach Art. 22 DSGVO greift, sobald eine KI-Entscheidung Rechtswirkung entfaltet oder erheblich beeinträchtigt. Erfordert eine der dort genannten Rechtfertigungen sowie geeignete Schutzmaßnahmen.
• Datenschutz-Folgenabschätzung nach Art. 35 DSGVO ist regelmäßig erforderlich – bei Hochrisiko-KI-Systemen fast immer. Eine Grundrechte-Folgenabschätzung (Fundamental Rights Impact Assessment, FRIA) nach Art. 27 KI-VO ist davon unabhängig zu erstellen, kann aber integriert werden.
• Informationspflichten kombinieren Art. 13/14 DSGVO und Art. 26 Abs. 11 KI-VO: Betroffene Personen müssen über die KI-Verwendung und die Datenverarbeitung informiert werden.
• Transparenz und Erklärbarkeit sind sowohl datenschutzrechtlich (Art. 13 Abs. 2 lit. f, Art. 15 Abs. 1 lit. h DSGVO) als auch KI-VO-rechtlich gefordert. Zu unterscheiden ist dabei: Art. 13 KI-VO regelt die Transparenz des Anbieters gegenüber dem Betreiber (mitgelieferte Informationen, Bedienungsanleitung); Art. 26 Abs. 11 KI-VO regelt die Information der betroffenen Personen durch den Betreiber bei Hochrisiko-KI-Systemen, die Entscheidungen mit Wirkung für natürliche Personen treffen.
• Kennzeichnungspflichten nach Art. 50 KI-VO treten gestaffelt in Kraft: Die Vorschrift selbst gilt nach Art. 113 KI-VO ab dem 02. August 2026. Für die in Art. 50 Abs. 7 KI-VO vorgesehenen Codes of Practice nennt die Verordnung keinen festen Stichtag; das Büro für Künstliche Intelligenz soll deren Ausarbeitung auf Unionsebene fördern und begleiten. Pflichten treffen sowohl Anbieter als auch Betreiber:
  • Anbieter müssen direkt mit Menschen interagierende KI-Systeme (insbesondere Chatbots) so gestalten, dass die natürliche Person die Interaktion mit einer KI erkennt (Art. 50 Abs. 1 KI-VO).
  • Anbieter KI-generierter Bilder, Audios, Videos und Texte müssen die Ausgaben in maschinenlesbarem Format als künstlich erzeugt oder manipuliert kennzeichnen (Art. 50 Abs. 2 KI-VO).
  • Betreiber von Emotionserkennungs- oder biometrischen Kategorisierungssystemen müssen betroffene Personen über deren Einsatz informieren (Art. 50 Abs. 3 KI-VO).
  • Betreiber, die Deepfakes erzeugen oder manipulieren, müssen offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden (Art. 50 Abs. 4 KI-VO). Für KI-generierte Texte zu Themen von öffentlichem Interesse besteht eine entsprechende Offenlegungspflicht.
  Für Hochschulen und öffentliche Verwaltungen sind insbesondere Chatbots im Erstkontakt mit Studierenden und Bürgerinnen und Bürgern, KI-generierte Inhalte in der Öffentlichkeitsarbeit sowie Emotions- oder Engagement-Analysen in Lehrveranstaltungen relevant.
• Recht auf Erläuterung der Einzelfallentscheidung (Art. 86 KI-VO) in Abgrenzung zu Art. 22 DSGVO: Art. 86 Abs. 1 KI-VO räumt jeder von einer Entscheidung betroffenen Person, die auf Grundlage des Outputs eines in Anhang III gelisteten Hochrisiko-KI-Systems (mit Ausnahme der dort unter Nummer 2 genannten kritischen Infrastruktur) getroffen wird und rechtliche Wirkung entfaltet oder die Person in vergleichbar erheblicher Weise beeinträchtigt, einen Anspruch auf klare und aussagekräftige Erläuterungen zur Rolle des KI-Systems im Entscheidungsverfahren und zu den wesentlichen Elementen der getroffenen Entscheidung ein. Während Art. 22 DSGVO eine ausschließlich automatisierte Entscheidung über personenbezogene Daten voraussetzt und ein Verbot mit Erlaubnisvorbehalt formuliert, setzt Art. 86 KI-VO bereits an, wenn der KI-Output Teil einer Entscheidung wird – auch bei finaler menschlicher Beteiligung – und auch dann, wenn anonyme Eingangsdaten verarbeitet werden. Die beiden Ansprüche überschneiden sich, schließen sich aber nicht aus (vgl. Art. 86 Abs. 3 KI-VO).

Verantwortlichkeit über den KI-Lebenszyklus

Datenschutzrechtliche Verantwortlichkeit nach Art. 4 Nr. 7 DSGVO und KI-VO-rechtliche Rollen (Anbieter nach Art. 3 Nr. 3 KI-VO, Betreiber nach Art. 3 Nr. 4 KI-VO) verteilen sich entlang des KI-Lebenszyklus unterschiedlich. Eine saubere Zuordnung in jeder Phase ist Voraussetzung für eine tragfähige Verarbeitungs­dokumentation und für die Antwort auf Betroffenenanfragen.

Zweckändernde Verarbeitung beim Einsatz und Finetuning von KI

Werden vorhandene Verwaltungs-, Forschungs- oder Hochschuldaten nachträglich in eine KI-gestützte Verarbeitung eingespeist – etwa als Trainings- oder Finetuning-Material für ein behördeneigenes Modell oder als Wissensquelle für ein RAG-System – liegt regelmäßig eine Zweckänderung im Sinne des Art. 6 Abs. 4 DSGVO vor. Diese ist nur in zwei Konstellationen zulässig:

• Variante 1 – nationale Rechtsgrundlage: Die Zweckänderung beruht auf einer in den Schranken des Art. 23 Abs. 1 DSGVO bewegenden Rechtsvorschrift des Unionsrechts oder der Mitgliedstaaten, die in einer demokratischen Gesellschaft eine notwendige und verhältnismäßige Maßnahme darstellt. Für öffentliche Stellen kommen hier insbesondere fachgesetzliche Befugnisnormen in Betracht (Hochschulgesetze, Forschungsdatenschutzregelungen wie § 27 DSAG LSA, bereichsspezifische Verarbeitungsbefugnisse).
• Variante 2 – Kompatibilitätstest: Fehlt eine spezielle Rechtsvorschrift, ist nach Art. 6 Abs. 4 lit. a–e DSGVO zu prüfen, ob der neue Zweck mit dem ursprünglichen vereinbar ist. Maßgebliche Faktoren sind: Verbindung zum ursprünglichen Zweck, Erhebungskontext (insbesondere Vertrauensverhältnis zur betroffenen Person), Art der Daten (besondere Kategorien nach Art. 9 DSGVO regelmäßig nicht vereinbar), mögliche Folgen für die Betroffenen sowie geeignete Garantien (Pseudonymisierung, Anonymisierung, Zugriffsbeschränkungen).

In der Praxis öffentlicher Stellen ist die Zweckänderung für KI-Training auf Basis bestehender Datenbestände häufig nicht trivial begründbar: Studierenden-, Bewerbungs-, Forschungs- und Personalakten wurden zu einem konkreten Verwaltungszweck erhoben; eine generische Nutzung für Modelltraining bewegt sich erkennbar außerhalb dieses Zwecks. Empfohlen wird daher entweder ein Verzicht auf Personenbezug (vollständige Anonymisierung vor dem Training), eine spezifische Rechtsgrundlage (zum Beispiel forschungsrechtliche Vorschriften mit Zweckbindung) oder eine frische Einwilligung – letzteres jedoch nur dort, wo die Freiwilligkeit nach Art. 7 DSGVO im Hinblick auf das Über-/Unterordnungsverhältnis zwischen Hochschule und Betroffenen tragfähig ist (typischerweise nicht im Beschäftigungs- und Prüfungsverhältnis). Art. 5 Abs. 1 lit. b, Art. 6 Abs. 4, Art. 9, Art. 23 Abs. 1 DSGVO; § 27 DSAG LSA (Forschungsdatenschutz); Erwägungsgrund 50 DSGVO

Eine tragfähige KI-Governance reicht über bloße Compliance hinaus: Sie verankert KI-Einsatz organisatorisch, schafft Transparenz und ermöglicht Innovation in einem definierten Rahmen. Bewährte Bausteine:

1. Strategieentscheidung der Leitung Klare Positionierung der Hochschulleitung bzw. Behördenleitung: Welche Ziele werden mit KI verfolgt, welche Risiken werden nicht eingegangen, welche Werte gelten?
2. KI-Inventar Systematisches Verzeichnis aller im Einsatz befindlichen KI-Systeme – analog zum Verarbeitungsverzeichnis nach Art. 30 DSGVO. Voraussetzung jeder weiteren Steuerung.
3. Risikoklassifizierung jedes Systems Einordnung in die Risikoklassen der KI-VO; Identifizierung von Hochrisiko-Konstellationen; Entscheidung über Einsatz, Auflagen oder Verzicht.
4. Genehmigungs- und Freigabeprozess Wer entscheidet über die Einführung neuer KI-Werkzeuge? Welche Stellen werden eingebunden (Datenschutz, IT-Sicherheit, Recht, Personalrat)? Welche Dokumentation ist erforderlich?
5. KI-Kompetenz-Konzept Schulungs- und Awareness-Programm nach Art. 4 KI-VO, rollenbasiert und nachweisfähig.
6. Nutzungsleitlinien Verbindliche Regeln für Beschäftigte und Studierende – was darf wofür genutzt werden, welche Daten dürfen eingegeben werden, welche Transparenzpflichten bestehen.
7. Dienstanweisung KI – Mindestinhalt Verbindliche Regelung als Dienstanweisung der Behörden- bzw. Hochschulleitung. Mindestinhalt: Beschränkung auf dienstliche Zwecke; ausdrücklich verbotene und ausdrücklich erlaubte Anwendungsbereiche; Verhaltensregeln (kein Input von Verschlusssachen, internen Dokumenten, Drittdaten ohne Rechtsgrundlage); Vorgaben zur Output-Prüfung (Vier-Augen-Prinzip bei rechtsrelevanten Entscheidungen); Pflicht zur Kennzeichnung KI-generierter Inhalte gegenüber Dritten; Ansprechpersonen (Datenschutz, IT, Fachvorgesetzte); Sanktionen bei Verstößen.
8. Technische Schutzschicht: Input-/Output-Filter Vor jeder Datenübergabe an externe LLM-Dienste empfiehlt sich eine Filterschicht, die personenbezogene Bestandteile automatisch erkennt und entfernt oder pseudonymisiert (Anonymisierungs-Layer). Outputseitig analoge Prüfungen, ob personenbezogene Daten halluziniert oder kombiniert werden. Damit lässt sich die Datenminimierungs- und Sicherheitspflicht (Art. 5 Abs. 1 lit. c, Art. 25, Art. 32 DSGVO) auch bei Cloud-Diensten praktikabel umsetzen.
9. Monitoring und Audit Regelmäßige Überprüfung der eingesetzten Systeme; Reaktion auf Vorfälle; Aktualisierung bei Änderungen der Rechtslage oder der Technologie.

Die KI-VO (Art. 15) und die DSGVO (Art. 32) verlangen dem Stand der Technik entsprechende Sicherheitsmaßnahmen, ohne sie konkret auszubuchstabieren. Das von der OWASP Foundation gepflegte „Top 10 für Large Language Model Applications" (genai.owasp.org) ist das international etablierte Bezugsdokument für die typischen Sicherheitsrisiken beim LLM-Einsatz und damit ein praxistaugliches Bindeglied zwischen beiden Normwelten.

Praktisch ist das Framework ein Bindeglied DSGVO ↔ KI-VO: Es bündelt Risikoklassen, die in Art. 32 DSGVO als „angemessene Sicherheitsmaßnahmen" gefordert werden, mit den produktsicherheitsrechtlichen Pflichten aus Art. 15 KI-VO (Genauigkeit, Robustheit, Cybersicherheit). In der Hochschul- und Verwaltungspraxis empfiehlt es sich, das OWASP-Raster bei jeder KI-Einführung gemeinsam mit der jeweils zuständigen Stelle für Informationssicherheit als Checkliste abzuarbeiten. OWASP Top 10 for Large Language Model Applications, genai.owasp.org; Art. 15 KI-VO; Art. 5 Abs. 1 lit. f, 32 DSGVO

Hochschulen setzen KI-Systeme zunehmend in Bereichen mit unmittelbarer Außenwirkung ein: Chatbots in Studierendenservices und Bibliotheken, KI-gestützte Suchassistenten in Verwaltungsportalen, automatische Transkriptions- und Protokollierungsdienste in Lehre und Gremien, generative KI in der Studienberatung. Diese Systeme erzeugen Aussagen, auf die Studierende, Beschäftigte oder Externe vertrauen – und die in der Praxis nicht immer zutreffen (sog. Halluzinationen). Daraus ergeben sich Zurechnungs- und Haftungsfragen, die für öffentliche Stellen anders gelagert sind als für privatwirtschaftliche Anbieter, im Kern aber denselben Gedanken folgen: Der Verwender kann sich nicht hinter dem KI-System verstecken.

Beide Entscheidungen sind primär wettbewerbs- und persönlichkeitsrechtlich geprägt und damit für privatwirtschaftliche Verwender unmittelbar einschlägig. Für öffentliche Hochschulen ergibt sich daraus die Frage, inwieweit diese Logik auf das hoheitliche Handeln übertragbar ist – und welche eigenen Rechtsfolgen stattdessen greifen.

10.1 Übertragbarkeit auf öffentliche Hochschulen

10.2 Schnittstelle zur KI-VO: Transparenz nach Art. 50

10.3 Operative Konsequenzen für die Hochschulpraxis

Diese vier Maßnahmen entsprechen weitgehend dem, was die OLG-Hamm- und LG-Kiel-Entscheidungen für privatwirtschaftliche Verwender erforderlich machen; sie sind im hoheitlichen Kontext ebenso geboten, weil der Zurechnungsmaßstab – unabhängig vom Rechtsregime – derselbe ist. Wer KI von Anfang an mit diesen Leitlinien einführt, reduziert das Haftungsrisiko erheblich und erfüllt zugleich die Anforderungen an KI-Kompetenz (Art. 4 KI-VO), an Transparenz (Art. 50 KI-VO) und an Datenrichtigkeit (Art. 5 Abs. 1 lit. d DSGVO). Eigene Verfasserposition; OLG Hamm, Urteil v. 12.05.2026 – 4 UKl 3/25 (n. rkr.); LG Kiel, Urteil v. 29.02.2024 – 6 O 151/23; Art. 4, Art. 50, Art. 113 KI-VO; Art. 5 Abs. 1 lit. d, Abs. 2 DSGVO; § 839 BGB i. V. m. Art. 34 GG.

Sieben Muster, die in KI-Einführungsprojekten an Hochschulen wiederkehren – und an denen sich Compliance-Lücken aufmachen:

1. Reine Compliance-Brille: Wird KI-Governance nur als Pflicht-Erfüllung verstanden, geht ihr strategischer praktischer Nutzen verloren. Empfohlen wird eine integrierte Sicht auf Innovation und Compliance.
2. Fehlendes KI-Inventar: Erfahrungsgemäß ist vielen Stellen nicht bekannt, welche KI-Systeme tatsächlich eingesetzt werden. „Schatten-KI" durch Eigeninitiative von Beschäftigten begegnet in der Praxis häufig. Empfohlen wird eine systematische Erfassung analog zum Verarbeitungsverzeichnis.
3. Verwechslung von KI-VO und DSGVO: Eine FRIA dürfte eine DSFA nicht ersetzen und umgekehrt. Empfohlen wird eine parallele oder integrierte Durchführung, sobald die jeweiligen Schwellen erreicht sind.
4. Symbolische Schulungen: Kurze Online-Pflichtschulungen ohne rollenspezifischen Bezug erfüllen Art. 4 KI-VO häufig nicht. Maßstab ist das tatsächliche Kompetenzniveau im Verhältnis zur Rolle. Empfohlen wird ein zielgruppenorientiertes Kompetenzkonzept.
5. Unklare Verantwortlichkeiten: Ohne klare Rollen für Einführungsentscheidungen und Vorfallmanagement entstehen häufig Compliance-Lücken. Empfohlen wird eine schriftliche Rollenmatrix.
6. Übersehene verbotene Praktiken: Insbesondere Emotionserkennung im Bildungs- und Beschäftigungskontext wird häufig unterschätzt. Es wird empfohlen, auch „Wellness"- oder „Engagement"-Werkzeuge auf einen möglichen Verbotscharakter zu prüfen.
7. Übersehene Drittlandsproblematik: Viele KI-Anbieter sitzen in den USA und verarbeiten Daten dort. Es wird empfohlen, vor Einführung jeweils ein TIA durchzuführen und die SCC-Lage gesondert zu bewerten. Vertiefung dazu auf der Themenseite Drittlandstransfer.

Die KI-VO ist als verhältnismäßig junges Regelwerk (Inkrafttreten 01. August 2024, allgemeine Anwendung ab 02. August 2026 nach Art. 113 KI-VO) an vielen Stellen interpretationsbedürftig. Insbesondere die Abgrenzung KI-Modell vs. KI-System, die Anbieter-/Betreiberrolle und die Reichweite des Wissenschaftsprivilegs sind in der Literatur und Aufsichtspraxis noch in Bewegung. Folgende Quellen haben sich aus meiner Beratungspraxis als besonders hilfreich für den Hochschulkontext erwiesen:

Rechtsquellen

• Verordnung (EU) 2024/1689 (KI-VO) – insb. Art. 3 (Begriffsbestimmungen); Art. 4 (KI-Kompetenz); Art. 5 (verbotene Praktiken); Art. 6 i. V. m. Anhang III (Hochrisiko-Klassifikation); Art. 16, 26 (Anbieter- und Betreiberpflichten); Art. 50 (Transparenzpflichten); Art. 86 (Recht auf Erläuterung der Einzelfallentscheidung); Art. 113 (Anwendungsdaten).
• Verordnung (EU) 2016/679 (DSGVO) – insb. Art. 5 (Grundsätze); Art. 6 (Rechtmäßigkeit); Art. 9 (besondere Kategorien); Art. 22 (automatisierte Entscheidungen); Art. 35 (DSFA).

Rechtsprechung

• EuGH, Urteil v. 07.12.2023 – C-634/21 (SCHUFA) – automatisierte Entscheidungsfindung nach Art. 22 DSGVO; einschlägig für die Einordnung von Hochrisiko-KI-Systemen mit Bewertungs- und Profiling-Funktion.
• Hinweis: Eine spezifisch zur KI-VO ergangene höchstrichterliche Rechtsprechung liegt – Stand Q2/2026 – noch nicht vor. Die allgemeinen Anwendungspflichten gelten erst ab dem 02. August 2026 (Art. 113 KI-VO).

Aufsichtspraxis

• EDPB Opinion 28/2024 – Stellungnahme des Europäischen Datenschutzausschusses zu datenschutzrechtlichen Fragen beim Einsatz von KI-Modellen, insbesondere zur Frage der Anonymität trainierter Modelle und zur Rechtsgrundlage für Training und Bereitstellung.
• DSK-Orientierungshilfe „Künstliche Intelligenz und Datenschutz" (06.05.2024, Version 1.0) – Positionspapier der deutschen Datenschutzkonferenz mit Fokus auf den Einsatz von KI-Anwendungen, insbesondere Large Language Models und Chatbots, durch Verantwortliche.
• DSK-Orientierungshilfe „Datenschutzrechtliche Anforderungen an KI-Systeme" (17.06.2025, Version 1.0) – Ergänzendes Papier mit Fokus auf TOM bei Entwicklung und Betrieb von KI-Systemen über den gesamten Lebenszyklus (Planung, Training, Betrieb). Praxisrelevant insbesondere dort, wo Hochschulen selbst zur Anbieterin im Sinne der KI-VO werden.
• DSK-Orientierungshilfe „Datenschutzrechtliche Besonderheiten generativer KI-Systeme mit RAG-Methode" (Oktober 2025, Version 1.0) – Konkretisierung der datenschutzrechtlichen Anforderungen an Retrieval-Augmented-Generation-Architekturen: Aufbau aus Retriever, Embedding-Modell, Vektordatenbank, Chunks und erweitertem Prompt; positive Effekte auf Richtigkeit, Nachvollziehbarkeit, Vertraulichkeit und Integrität sowie neue Risiken (Embedding-Inversion, Mandantenleaks, fortbestehende Intransparenz des LLM, Zweckbindungsrisiken bei Übergabe an das Modell). Stand der DSK-Würdigung: Einzelfallbezogene Bewertung erforderlich; vertieft in Sektion 7 oben.
• BSI, Themenseite Künstliche Intelligenz sowie der AI Cloud Service Compliance Criteria Catalogue (AIC4) – Sicherheitsanforderungen und Prüfkatalog für KI-Cloud-Dienste; einschlägig für die Anbieterprüfung bei TOMs nach Art. 32 DSGVO.
• BSI, „Generative KI-Modelle – Chancen und Risiken für Industrie und Behörden" – Whitepaper zu LLMs sowie Bild- und Videogeneratoren; behandelt u. a. Indirect Prompt Injection und Halluzinationen mit Gegenmaßnahmen; einschlägig für die deutschsprachige Behördenpraxis.
• Bundesnetzagentur – Marktüberwachung KI · KoKIVO (Koordinierungs- und Kompetenzzentrum) · FAQ KI-VO – die Bundesnetzagentur wird mit dem KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG) zur zentralen nationalen Koordinierungs- und Marktüberwachungsbehörde nach der KI-VO; Vorschriften zur Marktüberwachung gelten ab 02. August 2026 (Hochrisiko-KI nach Anhang III) bzw. 02. August 2027 (Anhang I).
• LfD Sachsen-Anhalt, Orientierungshilfen und Hinweisdokumente – aufsichtsbehördliche Praxis im Land Sachsen-Anhalt.

Querverweise auf eigene Themenseiten

• KI-Transkription – konkrete Anwendungskonstellation der KI-VO im Hochschulbetrieb.
• Schatten-KI – KI-Features in SaaS-Standardsoftware und Betreiberpflichten.
• Datenschutz-Folgenabschätzung – DSFA-Pflicht beim Einsatz von Hochrisiko-KI-Systemen.
• Datenpannen und Meldepflicht – Schnittstelle zu Art. 73 KI-VO (Meldung schwerwiegender Vorfälle).
• Hochschuldatenschutz – Normenrahmen und Rechtsgrundlagen für öffentliche Stellen.

Vertiefende Lektüre

• Hoeren, T. (2025): Rechtsgutachten zur Bedeutung der europäischen KI-Verordnung für Hochschulen. Bochum. DOI: 10.13154/294-13421 – siehe oben die Hervorhebung mit Inhalts-Übersicht.