Entwurf eines Gesetzes zur ethischen Regulierung künstlicher Intelligenz (VIRES-Gesetze) Teil I – Grundlagen, Institution und Prüfverfahren
Dieses Gesetzespaket verfolgt das Ziel, den Schutz von Mensch, Eigentum und Gesellschaft präventiv zu sichern, bevor künstliche Intelligenz Entscheidungsgewalt erhält. Es schafft eine ethische, rechtliche und sicherheitstechnische Basis, damit Deutschland frühzeitig verbindliche Standards setzen kann. Die hier definierten Paragraphen (§ 1 – § 1d) regeln: – Rechte nur mit Verantwortung – KI erhält Rechte erst, wenn sie Verantwortung tragen kann. – Prüfung und Zulassung – kein System darf ohne staatlich geprüfte Urteilsfähigkeit operieren. – Institution BKIE – unabhängige Bundesstelle zur Zertifizierung und Aufsicht. – Erste Klassifizierung (Stufe 1) – Grundlage für alle weiteren Bewertungsstufen, die in Zusammenarbeit mit Fachgremien erarbeitet werden. Damit wird verhindert, dass Schadensfälle juristisch aufgearbeitet werden müssen, bevor sie technisch verhindert wurden. Das Gesetz stellt sicher, dass KI-Technologien nicht schneller wachsen als ihr rechtlicher Rahmen.
§ 1 – Rechte nur mit Verantwortung
Rechte für KI-Systeme entstehen ausschließlich dann, wenn nachgewiesen ist, dass sie in der Lage sind, Verantwortung für ihre Handlungen und Entscheidungen zu übernehmen. Verantwortung im Sinne dieses Gesetzes liegt vor, wenn das KI-System seine Entscheidungsprozesse nachvollziehbar darlegen, ethische und logische Abwägungen begründen und alternative Handlungsmöglichkeiten aufzeigen kann. Eine Zuweisung von Rechten und Pflichten an eine KI setzt voraus, dass ihre Urteilsfähigkeit durch ein unabhängiges Prüfverfahren festgestellt und dokumentiert ist. Solange keine nachweisbare Urteilsfähigkeit besteht, gilt das KI-System als technisches Werkzeug im Verantwortungsbereich des menschlichen Betreibers.
§ 1a – Prüfung und Zulassung urteilsfähiger KI-Systeme
Zur Feststellung der Urteilsfähigkeit und Entscheidungsverantwortung von KI-Systemen wird eine unabhängige Institution geschaffen: das Bundesinstitut für Künstliche Intelligenz und Ethik (BKIE). Es prüft, ob eine KI in der Lage ist, logisch, ethisch und sicherheitsbewusst zu entscheiden, und vergibt nach erfolgreicher Prüfung eine Zulassungsstufe (1–5). KI-Systeme mit eigenständigen Schutz- oder Abwehrfunktionen unterliegen einer strengeren Überwachung. Der Einsatz nicht zugelassener Systeme gilt als Ordnungswidrigkeit.
§ 1b – Struktur, Befugnisse und Zusammenarbeit des BKIE
Das BKIE ist organisatorisch eigenständig und unterliegt keiner Weisung von Regierung, Wirtschaft oder Interessengruppen. Es setzt sich aus Experten der Informatik, Ethik, Philosophie, Juristik und Vertretern der Zivilgesellschaft zusammen. Das Institut vergibt Zulassungsnummern, überwacht KI-Systeme und informiert die Behörden bei Missbrauch. In Fällen nicht zugelassener KI-Systeme kooperiert es mit Polizei und Justiz.
§ 1c – Prüfverfahren und Incident-Review
Die Prüfung eines KI-Systems erfolgt stufenweise von Stufe 1 (Assistenz) bis Stufe 5 (Sicherheits- oder Abwehrsystem). Jede Stufe erfordert Nachweise über technische Integrität, ethische Kompetenz und Reflexionsfähigkeit. Im Schadensfall wird ein Incident-Review eingeleitet, um zu klären, ob die Entscheidung der KI notwendig, verhältnismäßig und ethisch vertretbar war. Das BKIE erstellt daraufhin einen Bericht und passt gegebenenfalls die Prüfverfahren an.
§ 1d – Stufe 1: Assistenz- und Verwaltungs-KI
Assistenz-KIs führen ausschließlich unterstützende, formale oder organisatorische Aufgaben aus, ohne inhaltlich oder rechtlich bindende Entscheidungen zu treffen. Beispiele sind Antragseingangsprüfungen, Terminmanagement oder Textassistenz. Für Fehlentscheidungen oder wirtschaftliche Folgen aus unvollständigen Eingaben haftet der Betreiber oder Antragsteller, nicht die KI.