Gesetzentwurf zum KI-Einsatz bei Asyl- und Visumsverfahren ist europarechts- und verfassungswidrig
Das Bundesinnenministerium will Behörden erlauben, automatisierte Systeme mit Daten aus Asyl- und Aufenthaltsverfahren zu trainieren. Dabei geht es nicht nur um das Bundesamt für Migration und Flüchtlinge (BAMF) oder Ausländerbehörden, sondern auch um die Polizei. Netzpolitik.org hat den Entwurf eines Gesetzes zum Einsatz künstlicher Intelligenz in der Migrationsverwaltung (KI-Migrationsverwaltungsgesetz – KIMVG) veröffentlicht.
Die Deutsche Vereinigung für Datenschutz (DVD) bewertet diesen Entwurf in einer ersten Stellungnahme als „europarechts- und verfassungswidrig“.
Die DVD stellt fest: „Der Entwurf postuliert, ohne in eine nähere Prüfung einzutreten, dass er ‚mit dem Recht der Europäischen Union und völkerrechtlichen Verträgen vereinbar‘ sei (S. 11). Diesen Anforderungen wird der Entwurf nicht gerecht. Vorgaben der Datenschutz-Grundverordnung (DSGVO) wie der Verordnung zur Künstlichen Intelligenz (KI-VO) werden missachtet:
- Die Befugnis zum Einsatz ausländerrechtlicher KI-Systeme wird Stellen erlaubt, die hierfür nicht die rechtlichen Anforderungen erfüllen können.
- Ein spezifischer Schutz sensitiver Daten und insbesondere von Patientengeheimnissen ist entgegen den Vorgaben von Art. 9 DSGVO nicht vorgesehen.
- Das Entwickeln automatisierter Anwendungen wird mit sämtlichen im Ausländerrecht anfallenden personenbezogenen Informationen erlaubt und vorgesehen, wodurch eine Verletzung des Zweckbindungsgrundsatzes und des Verhältnismäßigkeitsgrundsatzes vorprogrammiert ist.
- Die Anforderungen der KI-VO an Hochrisikosysteme und der DSGVO an automatisierte Entscheidungen werden ignoriert.
- Es fehlt an wirksamen Vorkehrungen zur Vermeidung von Diskriminierungen, etwa durch verpflichtende externe unabhängige Kontrollverfahren.
- Eine wirksame menschliche Kontrolle von automatisiert generierten Ergebnissen ist nicht gewährleistet.
- Bei der Datenbeschaffung über das Internet werden ohne Schutzmaßnahmen in unzulässiger Weise Betroffenendaten an US-Internetdienste übermittelt.
- Den rechtsstaatlichen Anforderungen an die Datentransparenz und an die Beteiligungsrechte der Betroffenen wird nicht genügt.
- Damit werden auch die vom Bundesverfassungsgericht formulierten Anforderungen unseres Grundgesetzes an hoheitliche KI-Systeme ignoriert.
- Der Einsatz von Digitalisierung allgemein und von KI speziell im Ausländerrecht bedarf – anders als vom Entwurf vorgesehen – des zusätzlichen Einsatzes von personellen, technischen und letztlich finanziellen Ressourcen. Der Entwurf weigert sich diese Notwendigkeit anzuerkennen.“
Der DVD-Vorsitzende Frank Spaeing kommentiert: „Der Entwurf missachtet grundlegende rechtsstaatliche Prinzipien. Daher empfiehlt die DVD dringend den Referentenentwurf zurückzuziehen und diesen so nicht der Bundesregierung zur Beschlussfassung vorzulegen. Der Entwurf bedarf einer umfassenden Überarbeitung.“