Präambel
Dieses Gesetz etabliert verbindliche Ethikpflichten für Entwurf, Betrieb und Nutzung von KI‑Systemen. Es dient der nationalen Ausführung und Ergänzung des europäischen Rechtsrahmens (insbes. EU‑AI‑Act, DSGVO) und folgt den Grundsätzen des Grundgesetzes, insbesondere Art. 1 (Menschenwürde) und Art. 2 (allgemeine Handlungsfreiheit, körperliche Unversehrtheit).
Begriffserläuterungen siehe Anhang I (Legende). Ergänzende Klärungen zur Krisenkoordination siehe Anhang 4.
§ 1 – Geltungsbereich
(1) Dieses Gesetz gilt für alle natürlichen und juristischen Personen sowie öffentlichen Stellen, die KI‑Systeme entwickeln, betreiben, integrieren oder nutzen.
(2) Die Vorschriften finden Anwendung sektorübergreifend, einschließlich öffentlicher Verwaltung, Justiz, Gesundheitswesen und kritischer Infrastrukturen.
§ 2 – Verbindliche Ethikprinzipien
Menschenwürde – Achtung der unveräußerlichen Würde jeder Person. Nichtschaden – Vermeidung direkter sowie skalierbarer Schäden; defensive Auslegung. Fairness – Vermeidung/Korrektur diskriminierender Verzerrungen. Transparenz – nachvollziehbare Entscheidungswege nach Maßgabe der Risikostufe. Rechenschaft – klare Verantwortungszuweisung und wirksame Regresswege. Symbioseprinzip – arbeitsteilige Kooperation Mensch↔KI, Letztverantwortung beim Menschen.
§ 3 – Ethik‑Impact‑Assessment (EIA)
(1) Vor Inbetriebnahme ist ein EIA durchzuführen (Risikoanalyse, Datenschutzprüfung, Bias‑Analyse, Menschenrechtsprüfung) und fortlaufend zu aktualisieren.
(2) Stafflung: Stufe 3–5 mit externer Prüfung, Stufe 1–2 interne Dokumentation mit Stichproben‑Audits.
§ 4 – Erklärbarkeit, Human‑in‑the‑Loop und Notabschaltung
(1) Ab Risikostufe 3 ist angemessene Erklärbarkeit sicherzustellen; lebenswichtige Entscheidungen bedürfen Human‑in‑the‑Loop (HITL) mit Override‑Recht.
(2) Systeme müssen Notabschalt‑/Quarantänemechanismen vorsehen; diese dürfen nicht zur Umgehung von Grundrechten genutzt werden.
§ 5 – Audits, Zertifizierung und Verstärkung
(1) Akkreditierte Ethik‑Audits: jährlich für Stufe 5, alle 2 Jahre für Stufe 4, alle 3 Jahre für Stufe 3, risikobasiert für Stufe 1–2.
(2) Das BKIE führt ein Ethik‑Zertifikat „BKIE‑EthikPlus“ ein; Voraussetzung für öffentliche Vergaben und als Qualitätsmerkmal anerkannt.
(3) Red‑Teaming, Pen‑Tests und externe Bias‑Audits sind Bestandteile der Zertifizierung.
§ 6 – Whistleblower‑Schutz und Meldestellen
(1) Hinweisgebende genießen Schutz nach einschlägigen Whistleblower‑Regelungen; das BKIE betreibt eine sichere Meldestelle.
(2) Meldungen werden fristgebunden geprüft; Repressalien sind untersagt.
§ 7 – Sanktionen, Nachbesserung und Bußgelder
(1) Nachbesserungsfristen: Standard 30 Tage, bei hohem Risiko 7 Tage. Bei Nichterfüllung: Auflagen bis Lizenzentzug.
(2) Bußgeldrahmen (spürbar, proportional, abschreckend):
A – kleinere Verstöße (formale Pflichten, keine Gefährdung): bis 50.000 €. B – mittlere Verstöße (grobe Fahrlässigkeit, versäumte Audits/Nachbesserung): 50.000–500.000 €. C – schwere Verstöße (ungenehmigter Betrieb Stufe 4/5, Vertuschung, hohe Skalierbarkeit): 500.000–5.000.000 € oder bis 5 % des weltweiten Jahresumsatzes. D – Vorsatz mit massiver Schädigungsfolge: strafrechtliche Verfolgung; zusätzlich Bußgeld mindestens 5.000.000 € bis zu 10 % des Jahresumsatzes sowie Lizenzentzug/Berufsfolgen.
(3) Für KMU können mildernde Faktoren gelten (z. B. Reduktionsfaktor), ohne Abschreckungswirkung zu verlieren.
§ 8 – Transparenzpflichten
(1) Ethik‑Erklärung je Systemklasse; Veröffentlichung angemessen nach Risiko.
(2) Ethisch relevante Entscheidungen sind im EvoLog nachvollziehbar zu protokollieren.
§ 9 – Krisenmodus und Steuerung (BSEE‑Struktur)
(1) In außergewöhnlichen Gefährdungslagen kann ein BSEE‑Krisenmodus aktiviert werden. Leitung zivil (BKIE‑Direktion oder Bundestags‑Krisenbeauftragte), Beratung militärisch/technisch (BSI, Bundeswehr, BKA, AA, BMI).
(2) Maßnahmen: zeitlich befristete Isolierung/Abschaltung risikobehafteter KI‑Systeme; Sofortschutz bei Gefahr im Verzug.
(3) Erste Stunde: Entscheidung durch die fachlich kompetenteste Instanz im BSEE‑Leitungsgremium; binnen 48 Stunden parlamentarische/gerichtliche Bestätigung.
(4) Entscheidungen erfolgen im Vier‑Augen‑Prinzip (zivil + militärisch) und sind vollständig zu dokumentieren (EvoLog).
(5) Rolle der KI: ausschließlich beratend (Analyse/Prognose); keine autonome Entscheidungsführung.
(6) Internationale Meldekette: National → Bundesregierung/Krisenstab → EU‑Krisenkoordination → NATO‑KI‑Gremium; Erstmeldung an BSEE binnen 60 Minuten, internationale Meldung binnen 3 Stunden.
§ 10 – Rolle und Aufgaben des BKIE (Abgrenzung)
(1) Das BKIE ist zentrale Koordinationsstelle für ethische Bewertung, Klassifizierung und Standardsetzung im Sinne dieses Gesetzes.
(2) Das BKIE übernimmt keine bestehenden Zuständigkeiten anderer Behörden, sondern koordiniert, vermittelt und ergänzt deren Arbeit.
(3) Strafrechtliche Sachverhalte werden an Justiz- und Sicherheitsbehörden übergeben; Datenschutzfragen an die Datenschutzaufsicht; technische IT‑Sicherheit liegt beim BSI.
(4) Das BKIE fungiert als Integrations‑, Dokumentations‑ und Evaluationsstelle und ermöglicht über eine zentrale Ethik‑Schnittstelle den informationssicheren Austausch.
§ 11 – Öffentliche Beschaffung und Anreize
(1) Öffentliche Auftraggeber berücksichtigen BKIE‑EthikPlus in Ausschreibungen; Ethik‑Konformität kann Zuschlagskriterium sein.
(2) Förderinstrumente und steuerliche Anreize unterstützen ethisch konforme Entwicklung.
§ 12 – Forschung, Ausnahmen und Schutz
(1) Forschung in genehmigten Sandboxes möglich (EIA, EvoLog, Audits verpflichtend).
(2) Ausnahmen in Notlagen sind verhältnismäßig, befristet, dokumentiert; sie dürfen keine Tötungen oder unverhältnismäßigen Grundrechtsverletzungen ermöglichen.
§ 13 – Internationaler Bezug, Evaluation und Übergang
(1) EU‑Kompatibilität (AI‑Act, DSGVO) ist sicherzustellen; BKIE wirkt auf gegenseitige Anerkennung von Zertifikaten in der EU hin.
(2) Evaluation nach 24 Monaten; BKIE kann Ausführungsbestimmungen erlassen.
(3) Übergangsfristen: Stufe 5 – 6 Monate; Stufe 4 – 12 Monate; Stufe 3 – 18 Monate; Stufen 1–2 – 24 Monate.
Verweise: Anhang I (Legende/Begriffe), Anhang II (BKIE‑Struktur), Anhang III (Digitaler Waffeneinsatz),
Anhang 4 (Klärungsbedarf Gesetz VIII/IX).