Die Europäische Kommission hat letzte Woche ein Dokument zur europäischen Datenstrategie und ein Weißbuch zur KI-Strategie veröffentlicht. Wir haben bereits einen Artikel über die Datenstrategie geschrieben, und hier folgen unsere Kommentare zum KI-Whitepaper.
Künstliche Intelligenz – Ein europäischer Ansatz für Exzellenz und Vertrauen
Im Rahmen der Veröffentlichung von "Shaping Europe's digital future" hat die Europäische Kommission am 19. Februar 2020 das Weißbuch zu künstlicher Intelligenz veröffentlicht. Das Weißbuch KI ist, wie der Name schon sagt, eine Einladung zum Dialog mit den Stakeholdern. EU-Mitglieder, Bürger, Unternehmen und Nichtregierungsorganisationen, sind aufgefordert, bis zum 21. Mai 2020 ihre Kommentare zu dem Papier abzugeben, und die Kommission plant, den Mitgliedstaaten bis Ende 2020 einen angenommenen Plan vorzulegen.
Die Kommission wird mit ziemlicher Sicherheit viele Bemerkungen zu konsolidieren haben, da die Einzelheiten des Weißbuchs sehr fehlen oder vage sind. Man kann nur hoffen, dass die endgültige Version, sobald sie verfügbar ist, marktreifer ist als beispielsweise die früheren Vorschriften, die die digitale Wirtschaft eng berühren, die DSGVO und die PSD2.
Das KI-Whitepaper wurde nicht ohne Grund am selben Tag wie die Datenstrategie veröffentlicht. Die Gestaltung der digitalen Zukunft Europas erfordert zunächst eine Datenstrategie, die die Qualität und Quantität der verfügbaren Daten sicherstellt, die dann den Aufbau künstlicher Intelligenz ermöglichen.
Die Exzellenz aufbauen
Wie bei der EU-Datenstrategie unterstreicht die Kommission den Wert von Daten für das derzeitige und künftige nachhaltige Wirtschaftswachstum und das gesellschaftliche Wohlergehen Europas. KI ist eine der wichtigsten Anwendungen der Datenwirtschaft, und daher werden in dem Papier Pläne für die Schaffung neuer Exzellenz- und Testzentren und die Mobilisierung von Investitionen in Höhe von über 20 Mrd. EUR pro Jahr in die europäische KI-Forschung genannt, was sicherlich zu begrüßen ist und dazu beiträgt, die Wettbewerbsfähigkeit der europäischen Industrie zu erhalten.
Vertrauen gewinnen
Die andere Seite des Whitepapers besteht darin, sicherzustellen, dass KI-Systeme "vertrauenswürdig" sind. Für den Rest dieses Artikels werden wir uns auf diesen Aspekt konzentrieren, d.h. wie die Kommission mit dem Aufbau und der Gewinnung von Vertrauen für KI-Systeme umgeht.
Wenn KI verantwortungsvoll eingesetzt wird, kann sie dazu beitragen, die Sicherheit der Bürgerinnen und Bürger zu schützen und ihnen die Wahrnehmung ihrer Grundrechte zu ermöglichen. Aus dem gleichen Grund befürchtet die Kommission auch, dass KI unbeabsichtigte Auswirkungen haben oder sogar für böswillige Zwecke eingesetzt werden kann. Diese Bedenken werden durch einen Rechtsrahmen für KI-Technologien ausgeräumt, der im Whitepaper skizziert wird. Die Herausforderung für die Kommission und die gesamte europäische Datenindustrie besteht darin, diesen Entwurf in ein Arbeitsmodell umzusetzen, bevor der Plan veröffentlicht wird.
Das Papier schlägt vor, dass sich die Vorschriften nur auf Hochrisikoanwendungen konzentrieren werden. Als Hochrisikoanwendungen für KI gelten solche, die 1) in bestimmten Branchen wie Gesundheitswesen, Transport oder Energie eingesetzt werden und 2) erhebliche Auswirkungen wie Verletzungen oder Tod auf eine Person oder erhebliche Schäden für ein Unternehmen verursachen können. Darüber hinaus sind bestimmte Anwendungen immer mit einem hohen Risiko verbunden, wie z. B. die biometrische Identifizierung und Rekrutierung. Mit dieser Definition des Begriffs "hohes Risiko" versucht die Kommission, den Verwaltungsaufwand für das KI-Ökosystem zu verringern, aber ist es möglich, klar zu definieren, ob eine Anwendung innerhalb eines komplexen Geflechts von KI-Anwendungen ein hohes Risiko darstellt oder nicht?
Für Anwendungen mit hohem Risiko sind folgende regulatorische Anforderungen geplant:
Trainingsdaten
Es müssen hinreichende Garantien dafür gegeben werden, dass die für die Erstellung des Modells verwendeten Trainingsdaten relevante Szenarien abdecken, der Datenschutz geschützt ist und Maßnahmen zur Vermeidung von Diskriminierung ergriffen werden sollten. Das sind alles relevante Ziele, denen fast jeder in der Branche zustimmen wird, aber wie definieren Sie, was sinnvolle und relevante Maßnahmen zur Definition Ihrer Trainingsdaten sind?
Daten- und Aufzeichnungspflicht
Aus Gründen der Transparenz sehen die Vorschriften vor, dass Aufzeichnungen über den Datensatz, der zum Trainieren und Testen des KI-Systems verwendet wird, oder die Daten selbst zur Aufzeichnung aufbewahrt werden müssen. Darüber hinaus müssen die Schulungsmethoden und -prozesse dokumentiert werden, damit die Einhaltung jederzeit überprüft werden kann. Dies führt möglicherweise zu Konflikten mit anderen Vorschriften, die möglicherweise die Vernichtung von Daten nach einer bestimmten Zeit erfordern.
Informationen zu den Funktionen
Aus Gründen der Transparenz schlägt das Papier auch vor, dass die Nutzer von KI-Systemen über die Fähigkeiten und Grenzen der Systeme informiert werden müssen und die Bürger darauf aufmerksam gemacht werden müssen, dass sie mit einem KI-System und nicht mit Menschen interagieren. Dies sind gültige und vernünftige Anforderungen, obwohl sich die Kommunikation der genauen Fähigkeiten eines KI-Systems als Herausforderung erweisen kann. Die Forderung nach erklärbarer KI könnte eine bessere Option sein, um die Transparenz zu verbessern und Systeme für Menschen verständlich zu machen.
Robustheit und Genauigkeit
Ein KI-System muss technisch robust und genau sein, um vertrauenswürdig zu sein, was bedeutet, dass solche Systeme verantwortungsvoll entwickelt werden müssen. Dies sind offensichtliche Anforderungen an jedes System, unabhängig davon, ob es KI verwendet oder nicht. Die zusätzliche Anforderung ist, dass ein KI-System widerstandsfähig gegen Angriffe sein muss, die Daten oder Algorithmen selbst manipulieren würden, was vernünftige Anforderungen sind und zusätzliche Überlegungen erfordern, wenn KI-basierte Technologien verwendet werden.
Menschliche Aufsicht
Der nächste Punkt auf der Liste der Anforderungen ist die menschliche Überwachung von KI-Systemen. Menschen müssen in der Lage sein, KI-basierte Entscheidungen zu überwachen, zu überprüfen, einzugreifen oder aufzuheben. Dies ist eine interessante Anforderung, da bereits heute eine große Anzahl von Entscheidungen mit KI-Algorithmen getroffen wird und der Business Case für diese Systeme oft die Fähigkeit ist, menschliche Eingriffe zu reduzieren. Es ist unklar, was Human Decision Monitoring in der Praxis bedeuten würde. Schließlich fügt diese Anforderung hinzu, dass ein KI-System den Betrieb einstellen muss, wenn bestimmte Bedingungen erfüllt sind (z. B. im Falle einer Fehlfunktion), was sicherlich sinnvoll ist und in jedem Fall eine gute Designanforderung ist.
Besondere Anforderungen an die biometrische Identifizierung
Diese letzte Hochrisikoanforderung bezieht sich auf die Verwendung biometrischer Daten und wurde bereits vor der Veröffentlichung dieses Papiers diskutiert. Dieses veröffentlichte Papier bezieht sich auf die geltenden EU-Datenschutzvorschriften und die Charta der Grundrechte der EU, die so ausgelegt werden können, dass KI nur dann für Zwecke der biometrischen Fernidentifizierung eingesetzt werden kann, wenn eine solche Verwendung hinreichend begründet und verhältnismäßig ist und angemessenen Garantien unterliegt. Das Papier lädt die Community ein, über die Umstände zu diskutieren, unter denen biometrische Ausweispapiere erlaubt wären.
Wen rufen Sie an?
Es wird nicht einfach sein, die besonderen Anforderungen für Hochrisikoanwendungen zu bewältigen. Neben der Komplexität der oben diskutierten regulatorischen Anforderungen stellt sich auch die Frage, wer dafür verantwortlich sein soll. In einem größeren System ist die Wertschöpfungskette kann zahlreiche Entwickler, Integratoren, Distributoren und Ursprünge von Daten umfassen. Die Kommission ist der Ansicht, dass jede Verpflichtung an die Akteure gerichtet werden sollte, die am besten in der Lage sind, potenziellen Risiken zu begegnen. Dieses Prinzip ist gültig, aber in der Praxis ziemlich komplex zu handhaben. Mit vielen Stakeholdern und potenziell Millionen von Euro an Verbindlichkeiten ist es schwer vorstellbar, dass sich viele Freiwillige melden. Und ist die Definition von Anwendungen mit niedrigem und hohem Risiko klar genug, um die Grenze zu ziehen?
Wie geht es weiter?
Das Weißbuch enthält viele positive Aspekte, da die Kommission die potenziellen Vorteile der KI-Technologie erkannt hat und die europäischen Aktivitäten in diesem Bereich unterstützen möchte. Dieses Papier ist ein guter Versuch, die Risiken zu managen, die mit dieser neuen Technologie entstehen, und auch das Format, den Dialog durch ein Weißbuch zu eröffnen, anstatt mit einem festen Plan, ist zu begrüßen.
Auf der anderen Seite fehlt es dem Papier an positiver Sicht und es konzentriert sich zu sehr auf das Negative. In dem Dokument zur europäischen Datenstrategie wird klar dargelegt, wie Europa die Nutzung von Daten zum Wohle des Kontinents vorantreiben wird. Wir brauchen eine ähnlich positive Wendung wie das KI-Papier.
Aus Sicht der Industrie sehen wir das Risiko, dass die Definition der Anforderungen teilweise nur schwer oder gar nicht umsetzbar sein wird, was die Entwicklung von KI-Systemen in Europa definitiv verlangsamen und damit der Branche schaden würde. Sicherlich gibt es Vertrauensprobleme mit KI, aber sollte das das Hauptaugenmerk sein? Wenn wir zum Beispiel die Ausbreitung des Corona-Virus mit Hilfe von Biometrie verhindern können, sollten wir dann zunächst abwarten und uns auf die Risiken konzentrieren? Oder wenn ein Chirurg, der KI-gestützte Tools verwendet, genauer ist als ein Arzt ohne diese Werkzeuge, ist es dann fair, dass der Patient den Arzt, der KI einsetzt, kriminalisiert?
Zusammenfassend lässt sich sagen, dass das KI-Weißbuch ein guter erster Schritt ist, aber die KI-Politik muss praktischer, befürwortender und weniger einschränkend werden. Um dies zu unterstützen und dem Plan eine positive Wendung zu geben, senden Sie der Kommission bis zum 21. Mai über diese Seite Ihr konstruktives Feedback.