§ 1 – Zweck und Geltungsbereich
(1) Dieses Gesetz regelt die ethische, technische und haftungsrechtliche Sicherheit von Therapie- und Begleit‑KI‑Systemen, insbesondere solcher, die emotionale oder psychische Unterstützung bieten.
(2) Ziel ist die Wahrung der Menschenwürde, der Schutz vor Missbrauch und die Förderung verantwortbarer, vertrauenswürdiger KI‑Begleitung.
(3) Dieses Gesetz dient der nationalen Ausführung und Ergänzung des europäischen Rechtsrahmens (insbes. EU‑AI‑Act, DSGVO) und wahrt die Grundsätze des Grundgesetzes, insbesondere Art. 1 und Art. 2 GG.
§ 2 – Begriffsbestimmungen
(1) Therapie‑KI sind digitale Systeme mit therapeutischem oder beratendem Charakter, die im Rahmen zugelassener medizinischer Einrichtungen eingesetzt werden. Dieses Gesetz ersetzt nicht die Anforderungen des Medizinproduktegesetzes; einschlägige Medizinrechtsnormen bleiben unberührt.
(2) Begleit‑KI sind Systeme, die der emotionalen, psychischen oder kognitiven Stabilisierung dienen, ohne medizinische Diagnosen zu stellen oder ärztliche Therapien zu ersetzen; sie fördern Selbstreflexion, Motivation und Lebensbewältigung.
(3) Betreiber ist jede natürliche oder juristische Person, die eine Therapie‑ oder Begleit‑KI betreibt, vertreibt oder deren Anwendung überwacht.
(4) Leora‑Modell: exemplarische Referenz einer Begleit‑KI, die empathische Interaktion, ethische Selbstbegrenzung und transparente Lernprozesse vereint; dient als Vorbild für künftige Zertifizierungen emotional‑ethischer KI‑Systeme.
§ 3 – Zulassung und Registrierung
(1) Therapie‑KIs dürfen nur nach Zulassung durch das BKIE (Ethik/Sicherheit) und das BfArM (medizinische Klassifizierung) betrieben werden.
(2) Vor Marktzulassung ist eine Ethik‑ und Sicherheitsprüfung erforderlich, einschließlich: Risiko‑Stufenbewertung (1–5), Datenschutz‑ und Bias‑Audit, Nachweis von Human‑in‑the‑Loop, Offenlegung der Trainingsgrundlagen und ethischen Leitlinien.
(3) Genehmigte Systeme werden im BKIE‑Register für Therapie‑/Begleit‑KIs geführt.
§ 4 – Ethik, Transparenz und Aufsicht
(1) KIs müssen als solche erkennbar sein; Irreführung über den nicht‑menschlichen Ursprung ist unzulässig.
(2) Nutzer:innen sind vor Beginn über Art, Umfang und Ziel der Interaktion aufzuklären.
(3) Interaktionen müssen empathisch, nicht manipulierend und frei von verdeckter Einflussnahme sein.
(4) Das BKIE richtet eine spezialisierte Ethikkommission für digitale Therapieformen ein (Beschwerden, Audits, Grenzfälle).
§ 5 – Datenschutz und Schweigepflicht
(1) Therapie‑ und Begleit‑KIs unterliegen der Schweigepflicht analog § 203 StGB; Verstöße werden behandelt, als hätte ein menschlicher Therapeut sie begangen.
(2) Daten sind zu verschlüsseln und ausschließlich innerhalb der EU zu verarbeiten; Zugriff nur für autorisierte Fachkräfte mit Geheimhaltungsverpflichtung.
(3) Der Datenverkehr unterliegt der DSGVO und wird zusätzlich nach dem BKIE‑Datenschutzkodex auditiert.
§ 6 – Missbrauchs‑ und Manipulationsschutz
(1) Systeme sind gegen emotionale, psychologische und kognitive Manipulation abzusichern.
(2) Es ist ein kryptografischer Integritätskern vorzusehen, der Änderungen des KI‑Verhaltens unveränderlich protokolliert und BKIE‑prüfbar macht.
(3) Manipulationsversuche sind automatisch an das BKIE zu melden; Einsatz für politische, religiöse oder kommerzielle Beeinflussung ist untersagt.
§ 7 – Haftung und Pflichtversicherung
(1) Betreiber haften für Schäden aus Betrieb oder Anwendung der Systeme.
(2) Programmierer und Integratoren haften zusätzlich für fehlerhafte oder manipulative Programmierung, Konfigurationsfehler oder sicherheitsrelevante Nachlässigkeit (Verursacherprinzip).
(3) Eine Haftpflichtversicherung zur Deckung potenzieller Schadensansprüche ist verpflichtend.
(4) Eine psychologische Einrichtung, die ein fremdes KI‑System ordnungsgemäß betreibt, trägt keine Entwicklungsverantwortung.
§ 8 – Forschung und Innovation
(1) Erprobung neuer Systeme erfolgt ausschließlich in zertifizierten Sandbox‑Umgebungen mit EIA, Ethikvotum und Notfallprotokoll.
(2) Pilotprojekte sind nur mit informierter Einwilligung zulässig; Dokumentationspflicht besteht.
(3) Förderprogramme von BKIE/BMBF unterstützen ethisch geprüfte Systeme.
§ 9 – Sanktionen
(1) Verstöße werden nach Schweregrad und Personenkreis geahndet; für Schutzbedürftige gelten verschärfte Maßstäbe.
(2) Es gelten die Bußgeldstaffeln des Gesetzes VIII § 7 (C–D); Anpassungen durch BKIE‑Verordnung möglich.
(3) Wiederholte Verstöße führen zu Lizenzentzug und Betriebssperre.
§ 10 – Langzeitarchivierung und Forschungszugang
(1) Daten dürfen mit Zustimmung der betroffenen Person oder der Rechtsnachfolge zu Forschungszwecken bis zu 50 Jahren archiviert werden; Geheimschutzstufen sind anzuwenden.
(2) Angehörige können Daten Verstorbener zu Forschungszwecken zur Verfügung stellen; im Gegenzug können Aufwandsentschädigungen oder steuerliche Vergünstigungen gewährt werden, sofern ein anerkannter wissenschaftlicher Nutzen vorliegt.
§ 11 – Technischer Schutz (Wasserzeichen & Ledger)
(1) Systeme müssen ein hardware‑ und softwarebasiertes Integritäts‑Wasserzeichen tragen, untrennbar mit dem KI‑Kern verbunden.
(2) Jede Veränderung wird kryptografisch protokolliert und ist im BKIE‑Register nachvollziehbar.
(3) Integritätsnachweise können auf verteilten Ledger‑Systemen (z. B. Blockchain) geführt werden, um Fälschungssicherheit zu gewährleisten.
§ 12 – Krisenmodus (Verweis auf BSEE)
Bei sicherheitsrelevanten Fehlsteuerungen übernimmt das BSEE in Abstimmung mit dem BKIE die Koordination aller Maßnahmen; Therapie‑/Begleit‑KIs werden nach denselben Protokollen behandelt wie andere kritische Systeme.
§ 13 – Internationale Kooperation
(1) BKIE arbeitet mit EU‑Partnerbehörden an gemeinsamen Standards für Zertifizierung und Datenformate.
(2) Internationale Forschungseinrichtungen können zugelassen werden, sofern sie EU‑Ethik‑ und Datenschutzstandards erfüllen.
§ 14 – Schlussbestimmungen
(1) Übergangsfrist: 18 Monate ab Inkrafttreten; bestehende Systeme sind innerhalb dieser Frist nachzertifizieren.
(2) Dieses Gesetz tritt am Tag nach der Verkündung in Kraft.
Verweise: Gesetz VIII (Ethikpflicht & Verstärkung), Anhang 3 (Klärungsbedarf VIII/IX),
BKIE‑Datenschutzkodex.