KI-Nutzungshinweise & Disclaimer

Dieses Dokument regelt und erläutert den Umgang mit KI-generierten Inhalten in PraxisClara. Kernprinzip: Die KI macht Vorschläge – die Verantwortung für Prüfung, Freigabe und Verwendung trägt die Praxis. Es ist Anlage zu den AGB, wird beim Onboarding einbezogen und in der Anwendung an allen KI-Ausgabeflächen verlinkt.

1. Zweck und Geltung

PraxisClara unterstützt Praxen mit KI-gestützt erstellten Entwürfen für Qualitätsmanagement-, Compliance- und Organisationsdokumente. Dieses Dokument beschreibt verbindlich, was die KI-Funktionen leisten, wo ihre Grenzen liegen und welche Pflichten die nutzende Praxis trifft. Es gilt für sämtliche KI-Funktionen der Plattform – insbesondere die Entwurfserstellung (z. B. Gefährdungsbeurteilungen, Hygienepläne, Prozessbeschreibungen, Notfallpläne), Vorschläge und Zusammenfassungen sowie, sofern aktiviert, die Transkription und Strukturierung von Teambesprechungen. Bei Widersprüchen zu den AGB geht dieses Dokument in Bezug auf KI-Funktionen als speziellere Regelung vor.

2. Grundsatz: KI-Inhalte sind Entwürfe

3. Verantwortung der Praxis

• Prüfpflicht: Die Praxis prüft jeden KI-generierten Entwurf vollständig auf fachliche Richtigkeit, Vollständigkeit, Aktualität und Passung zu den tatsächlichen Gegebenheiten (Räume, Geräte, Personal, Abläufe), bevor sie ihn übernimmt.
• Anpassungspflicht: Entwürfe basieren auf den Angaben, die die Praxis gemacht hat. Unzutreffende, unvollständige oder veraltete Eingaben führen zu unzutreffenden Entwürfen. Die Praxis passt Entwürfe an und hält ihre Praxisbeschreibung aktuell.
• Fachkundige Freigabe: Die Freigabe erfolgt durch eine Person mit der erforderlichen Fachkunde bzw. Funktion (z. B. Praxisleitung, Hygiene- oder Sicherheitsbeauftragte). Die Rollen- und Freigabeprozesse der Plattform unterstützen dies, ersetzen die Fachkunde aber nicht.
• Gesetzliche Verantwortung: Die Verantwortung für die Erfüllung gesetzlicher und untergesetzlicher Pflichten (u. a. QM-Richtlinie des G-BA, Arbeitsschutz-, Hygiene-, Gefahrstoff-, Brandschutz- und Datenschutzrecht) liegt ausschließlich bei der Praxis bzw. deren Inhaberin oder Inhaber. PraxisClara ist ein Werkzeug – kein Verantwortungsübergang.

4. Grenzen der KI

• KI-Systeme können fehlerhafte, unvollständige, veraltete oder im Einzelfall unpassende Inhalte erzeugen – auch dann, wenn diese plausibel und überzeugend formuliert wirken.
• Die Plattform erbringt keine Rechts- oder Steuerberatung und keine medizinische Beratung; sie ersetzt keine Beratung durch qualifizierte Berufsträger.
• KI-Entwürfe ersetzen keine behördliche Prüfung, Begehung, Zertifizierung oder ein Audit und begründen keine Gewähr, dass die Praxis gesetzliche Anforderungen erfüllt.
• Aussagen der KI zu Rechtsständen (z. B. Richtlinien, Grenzwerte, Fristen) sind stets gegen die aktuell geltenden Quellen zu prüfen.

5. Keine automatisierte Entscheidung; menschliche Aufsicht

PraxisClara trifft keine automatisierten Entscheidungen im Einzelfall mit rechtlicher oder vergleichbar erheblicher Wirkung im Sinne des Art. 22 DSGVO – weder gegenüber der Praxis noch gegenüber deren Beschäftigten. Alle Entscheidungen (Übernahme, Änderung, Ablehnung von Entwürfen; Maßnahmen; Bewertungen) trifft die Praxis. KI-generierte Inhalte werden in der Anwendung als solche gekennzeichnet, solange sie nicht durch die Praxis geprüft und freigegeben wurden.

6. Daten und KI-Betrieb

• Keine Patientendaten: In die Plattform – und damit in die KI-Verarbeitung – dürfen keine Patientendaten eingegeben werden (§ 6.3 AGB, AVV § 2 Abs. 3). Die automatische Maskierung typischer Muster ist ein Sicherheitsnetz gegen versehentliche Nennungen, keine Anonymisierung.
• Betrieb vollständig in Deutschland: Sämtliche Sprach-, Text- und Einbettungsverarbeitung läuft über einen selbst betriebenen KI-Dienst am Standort Rotenburg (Wümme) – kein Anbieter aus einem Drittland (Anlage 2 zum AVV).
• Kein Training mit Praxisinhalten: Inhalte der Praxis werden nicht zum Training von KI-Modellen verwendet (AVV § 2 Abs. 2).
• Nutzungsprotokoll ohne Inhalte: Über KI-Aufrufe wird Buch geführt (Praxis, handelnde Person, Endpunkt, Zeichenzahl) – Prompt- und Antwortinhalte werden nicht protokolliert.
• Teambesprechungen: Die optionale Aufzeichnung setzt die bestätigte Zustimmung aller Anwesenden voraus (Mikrofonsperre bis zur Bestätigung); das Roh-Audio wird transkribiert und sofort verworfen, nie gespeichert.

7. Haftung

Es gilt der Haftungsrahmen des § 10 AGB. Ergänzend gilt: Die Anbieterin haftet nicht für Schäden, die daraus entstehen, dass KI-generierte Entwürfe entgegen diesem Dokument ungeprüft übernommen oder verwendet werden, oder dass Eingaben der Praxis unzutreffend oder unvollständig waren. Die gesetzliche Haftung für Vorsatz, grobe Fahrlässigkeit sowie für Schäden aus der Verletzung von Leben, Körper oder Gesundheit bleibt unberührt.

8. Einbindung in Produkt und Vertragsschluss

• Dieses Dokument ist Anlage zu den AGB und wird beim elektronischen Vertragsschluss (Click-Wrap) einbezogen und zur Kenntnis genommen;
• in der Anwendung ist es an allen KI-Ausgabeflächen verlinkt;
• jeder KI-generierte, noch nicht freigegebene Entwurf trägt einen sichtbaren Hinweis.