Computer Vision als Technologie mit künstlicher Intelligenz (KI) gibt es schon seit Jahrzehnten. Die Möglichkeiten, große Datenmengen in einem Moment zu verarbeiten, haben sich jedoch so weit erhöht, dass Computer-Vision-Technologien verwendet werden können und werden, um detailliertere und personalisiertere Informationen zu einem bestimmten Zeitpunkt zu erfassen. Es sind jedoch Bedenken hinsichtlich der Ethik der KI für maschinelles Sehen aufgetaucht, die im Zuge der Entwicklung der Technologien ein viel allgemeineres öffentliches Bewusstsein und eine viel breitere Diskussion erfordern.
Computer Vision KI für Menschen kann erhebliche Auswirkungen auf das Leben, die Kultur und die Gesellschaft haben – sowohl im Positiven als auch im Negativen. Unfairness durch Algorithmen und Fehler mögen für die unbeabsichtigten Folgen von KI verantwortlich sein, aber wenn man sie mit der auf den Menschen angewandten Computer-Vision-Technologie zusammenbringt, werfen die negativen potenziellen Folgen äußerst dringende ethische Fragen und Probleme auf. Zu den möglichen negativen Auswirkungen von KI für maschinelles Sehen gehören Identitätsdiebstahl, böswillige Angriffe auf die Identität, Diskriminierung aufgrund der Identität, Identitätsfehler und Fehlinformationen, Spionage und Urheberrechtsverletzungen.
Auf der anderen Seite bietet KI für maschinelles Sehen eine überzeugende Gelegenheit für positive, lebensverändernde Technologien, die für das soziale Wohl eingesetzt werden können – wie z. B. die Bereitstellung hilfreicher Informationen für blinde und sehbehinderte Menschen, aber auch zur Unterstützung von Gleichberechtigung und Inklusion. Emotionale Anerkennung bringt die Technologie noch einen Schritt weiter – auf der positiven Seite könnte emotionale Anerkennung wertvolles Feedback in der Bildung, Gesundheitsdiagnostik und Sozialdemokratisierung liefern, aber schnell zur Kontrolle und Manipulation des Massenverhaltens verwendet werden, in einem solchen Fall, in dem die Gesellschaft in eine Ära der automatischen quantitativen Realität eintritt.
Saara Hyvönen, Mitbegründerin von DAIN Studios und DAIN StudiosDer KI-Ethikexperte beantwortet einige Fragen zum Einsatz von KI in der maschinellen Bildverarbeitung und zur emotionalen Gesichtserkennung und zu den Diskussionen, die sie mit der Gesichtsemotionserkennung Naama von DAIN angeregt hat, die auf der Slush zu sehen sein wird.
Um die Diskussion über die Ethik der Künstlichen Intelligenz (KI) zu beginnen, erzählen Sie uns von den Aktivitäten DAIN Studios in Bezug auf die KI-Ethik beteiligt war.
Im Mai 2017 startete Wirtschaftsminister Mika Lintilä das Programm für künstliche Intelligenz, um darüber nachzudenken, wie Finnland zu einem der Vorreiter unter den Ländern werden kann, die künstliche Intelligenz einsetzen. Ich war Mitglied der Untergruppe Ethik dieses Programms. Der Schwerpunkt dieser Gruppe lag darauf, eine Diskussion über KI-Ethik anzuregen und auf die Erneuerung von Betriebsmodellen zu drängen, um ethische Richtlinien zu berücksichtigen.
Aber schon vorher waren Compliance und Ethik ein interessantes Thema: Wenn man Innovationen rund um Daten und KI entwickelt, muss man immer an den breiteren Kontext denken: Benutzererfahrung, rechtliche Aspekte und, ja, ethische Überlegungen. Daten und Algorithmen leben nicht im luftleeren Raum.
DAIN Studios wird eine Facial Emotion Recognition API namens Naama mit Computer Vision AI bei Slush haben – was war Ihre erste Reaktion auf den Vorschlag, Computer Vision AI zu verwenden?
Meine Reaktion ist zweigeteilt: Diese Art von Technologie ist wirklich interessant, aber natürlich hat die Gesichtserkennung auch dieses unangenehme "Big Brother"-Gefühl. Was wir hier zeigen wollen, sind die Möglichkeiten dieser Art von Technologie, aber auch der Teil der Erklärbarkeit: wie Emotionen erkannt werden, was für den Algorithmus von Bedeutung ist.
Was sind aus Sicht der KI-Ethik einige der Probleme, die Programmierer und Entwickler, die ähnliche Technologien verwenden, berücksichtigen sollten?
In der KI-Entwicklung können wir ethische Fragen grob in zwei Teile unterteilen: Intention und Umsetzung. Intention befasst sich damit, was wir mit KI machen wollen; Dies ist eher eine strategische/geschäftliche Frage. Entwickler stoßen eher auf implementierungsbezogene Fragen: Wie entwickeln wir KI? Hier ist es wichtig, darüber nachzudenken, welche Art von Verzerrungen sich in den Daten und im Ergebnis der Entwicklung verbergen können. Ist der Algorithmus fair? Wie wird Fairness definiert, wie beweisen wir sie?
Was sind die Hauptbedenken für einen KI-Ethikexperten wie Sie in Bezug auf KI-Anwendungsfälle für maschinelles Sehen, die Gesichtserkennung verwenden?
Das Recht auf Privatsphäre wäre mein Hauptanliegen bei der Verwendung von Gesichtserkennungssoftware. Wir wissen bereits aus dem weit verbreiteten Fall des Sozialkreditsystems in China, dass diese Art von Technologie für die Massenüberwachung auf eine Weise eingesetzt werden kann, die sich auf alle Aspekte des Lebens eines Individuums auswirkt. Dies unterstreicht, wie wichtig es ist, darüber nachzudenken, was wir als Gesellschaft wollen und wie diese Art von Technologien eingesetzt werden sollten und wie nicht.