Die Postulierenden laden die Regierung ein, die notwendigen rechtlichen Grundlagen zu schaffen, damit die Verwaltung, aber auch Gerichte, die Legislative sowie die (Einwohner)-Gemeinden KI-basierte Anwendungen sicher und rasch implementieren können. Insbesondere soll das Datenschutzgesetz (DSG) und die aktuellen Grundlagen, wie die Informationssicherheit von Personendaten (VIP, BGS 157.12), dahingehend überprüft und ggf. angepasst werden, dass datenschutzrechtliche Rahmenbedingungen geschaffen werden, die den transparenten Einsatz von KI-Anwendungen gewährleistet und fördert. Dabei soll der Fokus auf ‘Privacy bei Design’ liegen – sprich einer technischen und organisatorischen Umsetzung von Datenschutzvorgaben. Beispielsweise indem festgelegt wird, für welche Klassifizierung von Daten nach ISO 271001 die verschlüsselte oder unverschlüsselte Datenverarbeitung erlaubt ist. Zudem soll eine Datenschutz-Folgenabschätzung bei automatisierten Entscheiden erfolgen, auch wenn diese nicht eine Mehrzahl von Personen betrifft.
Weiter soll geprüft werden, inwiefern rechtliche, technische oder organisatorische Grundlagen und Massnahmen bei der öffentlichen Beschaffung von KI-Anwendungen erforderlich sind. Dies, um sicherzustellen, dass der Datenschutz und die Informationssicherheit von Personendaten sichergestellt sind, Transparenz über die Datenlokalisation geschaffen wird und mögliche Abhängigkeiten von einzelnen, meist ausländischen Technologie-Providern (lock-in Effekte), verhindert werden.
Wir laden die Regierung zudem ein, zu prüfen, wie gegenüber der Bevölkerung, Entscheide oder Verfügungen von Verwaltungseinheiten, Gerichten oder Gemeinden, die basierend auf KI-Modellen teilautomatisiert oder automatisiert erfolgen, offengelegt werden. Dies soll ohne übermässigen Reporting-Aufwand umsetzbar sein beispielsweise durch einfach verständliche und gut sichtbare Hinweise in Applikationen oder auf Websiten. So soll das Vertrauen der Bevölkerung in KI-basierte Anwendungen gestärkt werden.
Begründung:
Die Verarbeitung von Personendaten und besonders schützenswerter Personendaten wird durch den zunehmenden Einsatz von KI-Modellen in Zukunft vermutlich zunehmen. Auch wenn derzeit KI-Anwendungen bei der Verwaltung noch nicht flächendeckend eingesetzt werden, sehen wir viele potenzielle Anwendungsmöglichkeiten: Übersetzungsleistungen bei den Gerichten, KI-Basierte Transkription von Sitzungen, KI-basierte Verkehrsplanung, Einsatz von Chatbots für eGov-Dienstleistungen etc. Der Einsatz von KI kann sowohl Effizienzsteigerungen als auch verbesserte Ergebnisse bei der Bearbeitung von Daten und einen personalisierteeren Service auch von Behördenaufgaben ermöglichen. Das Postulat beabsichtigt entsprechend in keiner Weise, den Einsatz von Technologien zu hemmen, sondern möchte den transparenten und sicheren Einsatz ermöglichen. Der verantwortungsvolle Umgang mit KI ist aus Sicht der Postulierenden unabdingbar für die Akzeptanz von KI-basierten Entscheiden und die Nachvollziehbarkeit durch die betroffenen Personen.
Aus diesem Grund erachten wir die Überprüfung der rechtlichen Rahmenbedingungen sowie eine allfällige Schaffung von technischen oder organisatorischen Massnahmen bei der Verwaltung, um eine sichere Beschaffung und den transparenten Einsatz von KI-Modellen zu gewähren, als zielführend.
Definition KI:
Da keine einheitliche Begriffsdefinition von KI besteht, möchten die Postulierenden darauf verweisen, dass unter KI sämtliche Anwendungen verstanden werden, die basierend auf einer grossen Menge von Daten, Muster analysieren und diese nutzen, um Vorhersagen zu machen, um Entscheide zu unterstützen oder zu treffen. Die reine Automatisierung im Sinne einer RPA (robotic process automation) ohne den Einsatz bspw. von Machine Learning Modellen, ist daher nur als Vorstufe zu KI zu verstehen.
Joëlle Gautier, Jill Nussbaumer, Etienne Schumpf, Alex Haslimann, Michael Felber