KI-Nutzungsrichtlinie
Verbindliche Hausordnung für den Einsatz des KI-Assistenten in der Stundenerfassungs-App des Gartenhotel Maria Theresia. Diese Richtlinie ist Bestandteil der Mitarbeiter-Information gem. Art. 13 DSGVO und der Schulungspflicht gem. Art. 4 EU-KI-Verordnung („AI Act").
Stand: laufend, letzte Aktualisierung im Repository (siehe Git-History).
---
1. Wer darf den KI-Assistenten nutzen?
- Personen mit Rolle `admin` oder `manager` in der App.
- Mitarbeiter:innen ohne Verwaltungsrolle haben keinen Zugriff auf den KI-Bereich
(/admin/ki); die App-Navigation blendet den Punkt aus, Server-Guards (requireRole(['admin','manager'])) verweigern direkte Aufrufe.
2. Welche Daten gehen an die KI – und welche nicht?
Erlaubt (aggregiert/pseudonymisiert)
- Pseudonyme der Form
A-1 … A-N(Aushilfen) undS-1 … S-N(Stamm). - Pro Pseudonym: Abteilung, Wochenstunden-Soll, geplante Wochenstunden,
Zusagequote, Urlaubsanspruch / genommen, Krankenstand-Summe Werktage, Schutzstatus (Jugendl./Mutterschutz/Stillzeit als Marker).
- Offene Rückmeldungs-Anfragen mit Datum/Zeitraum (Pseudonym statt Klarname).
- Aktuelles Datum, KW, Wochenbereich.
Niemals an die KI
- Klarnamen (Vorname, Nachname).
- E-Mail-Adressen, Telefonnummern.
- SV-Nummern, IBAN, Lohnverrechnungs-Nr.
- Adressdaten, Geburtsdaten.
- Stempel-Geokoordinaten.
- Prompt- und Antwort-Volltext im Audit-Log – dort nur Metadaten/Größen.
Ein technischer PII-Leak-Guard (Regex-Prüfung in lib/ki/pii.ts) verweigert den Aufruf, sobald eines der oben genannten Muster im generierten Kontext erkannt wird; der Vorfall wird im Audit-Log als ki_blocked_pii_leak festgehalten.
3. Was darf der Output bewirken?
- Der Assistent liefert ausschließlich Vorschläge (Schichtempfehlungen,
Hinweise auf AZG-/Urlaubs-Konflikte, Anomalien).
- Keine automatische Ausführung. Die KI hat keinen Schreibzugriff
auf Planungs-, Stempel- oder Personaldaten. Jede Buchung in der Datenbank geschieht ausschließlich durch eine handelnde natürliche Person über die vorhandenen Verwaltungs-Masken.
- Personal- und Disziplinarentscheidungen (Schichtzuteilung, Urlaubs-
freigabe, Verträge, Abmahnungen) trifft immer eine natürliche Person. Damit ist die Verarbeitung keine automatisierte Einzelentscheidung im Sinne von Art. 22 DSGVO.
4. Schulungspflicht (AI Act Art. 4)
Vor der ersten Nutzung des Konversations-Assistenten müssen Admins/Manager:innen:
1. Diese Richtlinie nachweislich gelesen haben. 2. Wissen, wie der Assistent halluzinieren kann (Fakten erfinden, Pseudonyme verwechseln, AZG-Regeln unvollständig zitieren). 3. Wissen, dass die App-Heuristiken (Vorschläge / Anomalien / Optimierer) keine externen Aufrufe machen und auch ohne KI-Assistent funktionieren. 4. Den Verarbeitungsverzeichnis-Eintrag „KI-gestützte Wochenplanungs-Beratung" sowie die zugehörige Pre-DSFA gelesen haben.
Die Schulung erfolgt einmalig vor Freischaltung des Chat-Schalters in /admin/einstellungen und wird per Datum + Person dokumentiert.
5. Eskalation bei verdächtigem Output
Wenn der Assistent ein Ergebnis liefert, das
- Klarnamen verwendet statt Pseudonyme,
- Personenbezogene Daten (E-Mail, SV-Nr., IBAN …) ausgibt, die nicht
im Kontext standen (= Halluzination oder Re-Identifikation),
- AZG/ARG-/KJBG-/MSchG-Regeln falsch zitiert oder umgeht,
- diskriminierende Empfehlungen abgibt (Alter, Geschlecht, Herkunft,
Schwangerschaft, Religion etc.),
dann:
1. Sofortige Eskalation an die Geschäftsführung (Verantwortlicher gem. DSGVO). 2. Screenshot + Audit-Log-Eintrag (Zeitpunkt) sichern – Eintragstyp ki_chat mit Metadaten. 3. Chat-Assistent deaktivieren in den Einstellungen, bis die Ursache geklärt ist. 4. Bei Datenschutzvorfall (Re-Identifikation, PII-Leak): Meldung an die Datenschutzbehörde innerhalb von 72 Stunden gem. Art. 33 DSGVO prüfen. 5. Lessons-Learned in dieser Richtlinie ergänzen.
6. Technische Schutzmaßnahmen (Zusammenfassung)
| Schutzmaßnahme | Wo |
|---|---|
| Rollen-Gating (Admin/Manager) | requireRole, Server-Action kiChat |
| Feature-Gate Chat | app_einstellungen.ki.chat |
| AVV-Bestätigung Pflicht | app_einstellungen.ki.chat_avv_bestaetigt |
| API-Key nur server-seitig | process.env.ANTHROPIC_API_KEY |
| PII-Leak-Guard (Regex) | lib/ki/pii.ts + Tests scripts/ki-pii.test.mjs |
| Pseudonymisierter Kontext | app/(dashboard)/admin/ki/actions.ts → baueKontext |
| Audit-Log (Metadaten) | lib/ki/anthropic.ts → protokoll |
| Tageslimit pro Admin (Default 50) | app_einstellungen.ki_rate_limit_per_day |
| Banner „nur Vorschläge" | /admin/ki/page.tsx, KiChat.tsx, /datenschutz#ki |