Connect with us

Deutsch

Selbst Computerexperten halten es für eine sehr schlechte Idee, die menschliche Aufsicht über KI zu beenden

Published

on

Das Recht auf eine menschliche Überprüfung wird in vielen Fällen unpraktisch und unverhältnismäßig, da in den nächsten Jahren KI-Anwendungen zunehmen, heißt es in einer Konsultation der britischen Regierung.

Bild: iStock / Getty Images Plus

Während die größten Volkswirtschaften der Welt an neuen Gesetzen arbeiten, um die KI unter Kontrolle zu halten, um zu verhindern, dass die Technologie unbeabsichtigte Schäden verursacht, scheint Großbritannien auf einen etwas anderen Ansatz zu drängen. Die Regierung hat kürzlich vorgeschlagen, einige der bereits bestehenden Regeln abzuschaffen, um den Einsatz von Algorithmen zu unterbrechen – und Experten warnen jetzt, dass dies ein gefährlicher Weg ist.

In einer Anfang dieses Jahres eingeleiteten Konsultation forderte das Department for Digital, Culture, Media and Sport (DCMS) Experten auf, ihre Gedanken zu einigen neuen Vorschlägen zur Reform des britischen Datenschutzsystems vorzulegen.

Darunter war ein Versuch, eine gesetzliche Bestimmung zu streichen, die es den Bürgern derzeit ermöglicht, eine Entscheidung, die über sie durch eine automatisierte Entscheidungstechnologie getroffen wurde, anzufechten und eine menschliche Überprüfung der Entscheidung zu verlangen.

SEHEN: Bericht stellt erschreckendes Desinteresse an ethischem und verantwortungsvollem Einsatz von KI bei Führungskräften fest

In der Konsultation wurde festgestellt, dass diese Regel in vielen Fällen unpraktisch und unverhältnismäßig werden wird, da die KI-Anwendungen in den nächsten Jahren wachsen und die Planung für die Notwendigkeit, die Fähigkeit zur Überprüfung durch Menschen immer aufrechtzuerhalten, nicht durchführbar ist.

Experten des britischen IT-Instituts BCS warnen jedoch vor der geplanten Abschaffung des Gesetzes.

„Bei dieser Regel geht es im Wesentlichen darum, eine Art von Transparenz und Schutz für den Einzelnen bei der Entscheidungsfindung durch vollautomatisierte Prozesse zu schaffen, die jemandem erheblichen Schaden zufügen könnten“, sagte Sam De Silva, Partner bei der Anwaltskanzlei CMS und Vorsitzender von BCS’s Fachgruppe Recht, sagt ZDNet. “Es muss einen gewissen Schutz geben, anstatt sich auf eine komplette Blackbox zu verlassen.”

Hinter dem Versuch des Vereinigten Königreichs, die Datenschutzbestimmungen des Landes zu ändern, steht der Wunsch, sich von seiner bisherigen Verpflichtung zur Einhaltung der Datenschutz-Grundverordnung (DSGVO) der EU zu lösen.

Das „Recht auf eine menschliche Überprüfung“ stellt praktisch den 22. Artikel der EU-DSGVO dar und wurde als solcher ordnungsgemäß in die nationale DSGVO des Vereinigten Königreichs aufgenommen, die bis vor kurzem den geltenden Gesetzen des Blocks entsprechen musste.

Seit dem Austritt des Landes aus der EU möchte die Regierung jedoch die neu gewonnene Unabhängigkeit betonen – und insbesondere die Fähigkeit Großbritanniens, beim Datenschutz eigene Regeln aufzustellen.

„Außerhalb der EU kann das Vereinigte Königreich seinen Regulierungsansatz umgestalten und mit seinen neuen Regulierungsfreiheiten Chancen nutzen, um Wachstum, Innovation und Wettbewerb im ganzen Land voranzutreiben“, beginnt die Konsultation von DCMS zum Datenschutz.

Art. 22 DSGVO wurde für eine solche zukunftssichere Regelung als ungeeignet erachtet. In der Konsultation wird anerkannt, dass die gesetzlich vorgesehenen Sicherheitsvorkehrungen in einer ausgewählten Anzahl von Anwendungsfällen mit hohem Risiko erforderlich sein könnten – der Bericht kommt jedoch zu dem Schluss, dass die automatisierte Entscheidungsfindung in den kommenden Jahren in den kommenden Jahren voraussichtlich zunehmen wird, es jetzt jedoch erforderlich ist, zu bewerten ob die Sicherung erforderlich ist.

Einige Monate vor Beginn der Konsultation hat eine separate Regierungs-Taskforce eine ähnliche Empfehlung vorgelegt und argumentiert, dass die Anforderungen von Artikel 22 mühsam und kostspielig sind, da sie bedeuten, dass Organisationen selbst dann einen alternativen manuellen Prozess finden müssen Automatisierung von Routineabläufen.

Die Taskforce empfahl, Artikel 22 vollständig aus dem britischen Recht zu streichen, und DCMS bestätigte in der Konsultation, dass die Regierung diesen Vorschlag nun erwägt.

Laut De Silva ist die Motivation hinter dem Umzug wirtschaftlicher Natur. “Die Regierung argumentiert, dass Artikel 22 die Innovation hemmen könnte”, sagt De Silva. “Das scheint ihr Grund zu sein, seine Entfernung vorzuschlagen.”

Die Konsultation unterstreicht effektiv die Notwendigkeit, Datengesetze zu schaffen, die den Unternehmen zugutekommen. DCMS hat ein „wachstumsfreundliches“ und „innovationsfreundliches“ Gesetzespaket vorgestellt, das mehr Forschung und Innovation freisetzen und gleichzeitig die Compliance-Kosten für Unternehmen senken wird, und erwartet von neuen Vorschriften erhebliche finanzielle Vorteile.

Für De Silva ist das Risiko einer Deregulierung der Technologie jedoch zu groß. Von der Personalbeschaffung bis hin zur Finanzierung haben automatisierte Entscheidungen das Potenzial, das Leben der Bürgerinnen und Bürger tiefgreifend zu beeinflussen, und eine zu frühe Abschaffung von Schutzgesetzen könnte gefährliche Folgen haben.

SEHEN: Programmiersprachen: Python hat gerade einen großen Sprung nach vorne gemacht

Das heißt nicht, dass die Bestimmungen der DSGVO ausreichen. Einige der Beschwerden, die in der Konsultation des DCMS zu Artikel 22 beschrieben werden, seien berechtigt, sagt De Silva: Zum Beispiel mangelt es dem Gesetz an Sicherheit, indem es besagt, dass Bürger das Recht haben, eine menschliche Überprüfung zu verlangen, wenn die Entscheidung ausschließlich auf einer automatisierten Verarbeitung beruht, ohne dass dies näher spezifiziert wird zu diesem Zeitpunkt kann davon ausgegangen werden, dass ein Mensch beteiligt war.

“Ich stimme zu, dass es nicht ganz klar ist und es keine wirklich gut formulierte Bestimmung ist”, sagt De Silva. “Meiner Ansicht nach müssen wir uns das weiter ansehen, aber ich glaube nicht, dass es die Lösung ist, es zu entfernen. Es ist wahrscheinlich die am wenigsten vorzuziehende Option.”

Wenn überhaupt, so De Silva, sollten die bestehenden Regeln geändert werden, um noch weiter zu gehen. Artikel 22 ist nur eine Klausel innerhalb einer weitreichenden Verordnung, die sich auf personenbezogene Daten konzentriert – wenn das Thema wahrscheinlich eine eigene Gesetzgebung vertragen könnte.

Dieser fehlende Anwendungsbereich kann auch erklären, warum es der Bestimmung an Klarheit mangelt, und unterstreicht die Notwendigkeit substanziellerer Gesetze.

„Artikel 22 steht in der DSGVO, es geht also nur um den Umgang mit personenbezogenen Daten“, sagt De Silva. „Wenn wir es breiter machen wollen, dann müssen wir prüfen, ob wir KI im Allgemeinen regulieren. Das ist eine größere Frage.“

Eine Frage, die wahrscheinlich auch die britischen Aufsichtsbehörden beschäftigt. Die nächsten Monate werden zeigen, welche Antworten sie gegebenenfalls gefunden haben.

Continue Reading

Copyright © 2021 Meta Mag Inc.