Generell befürworten wir, dass eine solche Bestimmung in das Verwaltungsrechtspflegegesetz und nicht in die kantonale Datenschutzgesetzgebung aufgenommen wurde. Dies schafft eine Gesetzesgrundlage für alle relevanten Entscheide.
Transparenz und Kontrolle
Zusätzlich zu der in § 37b Abs. 1 verankerten Kennzeichnungspflicht schlagen wir weitere Mechanismen zur Herstellung von Transparenz vor:
Die Behörden legen den Quellcode von Software offen, die sie für die Automatisierung der Entscheide entwickeln oder entwickeln lassen. Die eingesetzten Systeme werden für unabhängige Testabfragen geöffnet (zur Verfügung gestellt), um die Nachvollziehbarkeit der Funktionsweise dieser Systeme zu kontrollieren, insbesondere auch bezüglich unbekannter systematischer Verzerrungen. Es wird im Gesetz die Führung eines öffentlichen Registers über den Einsatz algorithmischer Systeme (ADM-Register) und Mindestinhalte des Registers verankert. Der § 37b Abs. 1 «In der Begründung ist die massgebliche Logik der Entscheidung dazulegen» wird wie folgt abgeändert: “Die Begründung wird adressatengerecht dargelegt.” Die Daten müssen regelmässig überprüft werden, um deren Qualität sicherzustellen. Dies kann auch auf der Verordnungsstufe geregelt werden.
Rechtssicherheit
Um Rechtssicherheit zu schaffen, schlagen wir vor, im Gesetz zu ergänzen, dass vollautomatisiert erlassene Entscheide als Entscheide i.S.v. § 26 VRPG gelten.
Automatisierung ohne maschinelle Lernverfahren
Die jetzige Formulierung des § 37a Abs. 2 Bst. c "(c) die verwendeten Trainingsdaten” impliziert, dass nur maschinelle Lernverfahren von der Regelung erfasst werden. Dabei kann eine Vollautomatisierung aber auch mit anderen Systemen erfolgen. Aus diesem Grund schlagen wir die folgende Umformulierung vor: "(c) falls Trainingsdaten verwendet werden, diese eingesetzten Trainingsdaten".
Sie können unsere Vernehmlassungsantwort hier herunterladen:
Vernehmlassungen von anderen Organisationen/Parteien:
SP Aargau (generelle Ablehnung autom. Entscheide)
Grüne Aargau (generelle Ablehnung autom. Entscheide)
SVP Aargau (generelle Ablehnung autom. Entscheide)
Grünliberale Aargau (keine Stellungnahme zu autom. Entscheiden)
AlgorithmWatch (sieht autom. Entscheide kritisch, begrüsst Folgenabschätzung)