Verantwortung und Rechenschaftspflicht für den Einsatz von KI in der Strafverfolgung in der Europäischen Union

Verloren im Verhandlungsprozess?

Abstract

Dieser Beitrag untersucht die Anwendung der europäischen KI-Verordnung auf den Bereich der Strafverfolgung und zeigt auf, wie dieser Bereich in den risikobasierten Ansatz integriert ist und inwiefern dies zu einer Schwächung von Schutzmaßmechanismen für betroffene Personen führen kann. Es wird argumentiert, dass der neu geschaffene Rahmen für Rechenschaftspflichten sehr komplex ist, aber nur begrenzte Anfechtungsmöglichkeiten für betroffene Personen bietet. Um einen echten Grundrechtsschutz zu gewährleisten, sollten die enthaltenen Ausnahmen (‚Hintertüren‘) kritisch betrachtet, Anfechtungsmechanismen gestärkt und die Verantwortlichkeiten von Anbietenden und Betreibenden von Hochrisiko-KI geklärt werden. Ein rechtsbasierter Ansatz sollte in den risikobasierten Ansatz an geeigneten Stellen integriert werden, damit klargestellt wird, dass Grundrechte als nicht verhandelbar behandelt werden. Dies ist unerlässlich, um den Einsatz von KI mit dem in der KI-Verordnung verfolgten doppelten Ansatz von Grundrechtsschutz und Innovationsförderung in Einklang zu bringen.