Ethik-Leitlinien in der Technik: Wenn die Wirtschaft die Forschung übernimmt

• Autor:
• Autorenname

  Quantumrun-Vorausschau
• 15. Februar 2023

Zusammenfassung der Einblicke

Aufgrund der potenziellen Gefahren und algorithmischen Verzerrungen, die Systeme der künstlichen Intelligenz (KI) für ausgewählte Minderheitengruppen mit sich bringen können, fordern viele Bundesbehörden und Unternehmen zunehmend von Technologieanbietern die Veröffentlichung ethischer Richtlinien für die Art und Weise, wie sie KI entwickeln und einsetzen. Die Anwendung dieser Richtlinien im wirklichen Leben ist jedoch viel komplexer und unklarer.

Kontext des Ethikkonflikts

Im Silicon Valley erforschen Unternehmen immer noch, wie sie ethische Grundsätze am besten in die Praxis umsetzen können, und stellen sich dabei auch die Frage: „Wie viel kostet es, Ethik in den Vordergrund zu stellen?“ Am 2. Dezember 2020 veröffentlichte Timnit Gebru, Co-Leiterin des ethischen KI-Teams von Google, einen Tweet, in dem sie sagte, sie sei gefeuert worden. Sie genoss in der KI-Community großes Ansehen für ihre Voreingenommenheits- und Gesichtserkennungsforschung. Der Vorfall, der zu ihrer Entlassung führte, betraf einen von ihr mitverfassten Artikel, der nach Ansicht von Google nicht seinen Veröffentlichungsstandards entsprach. 

Gebru und andere argumentieren jedoch, dass die Entlassung eher durch Öffentlichkeitsarbeit als durch Fortschritt motiviert war. Die Entlassung erfolgte, nachdem Gebru eine Anordnung in Frage gestellt hatte, keine Studie darüber zu veröffentlichen, wie KI, die die menschliche Sprache nachahmt, marginalisierten Bevölkerungsgruppen schaden kann. Im Februar 2021 wurde auch Gebrus Co-Autorin Margaret Mitchell entlassen. 

Google gab an, dass Mitchell gegen den Verhaltenskodex und die Sicherheitsrichtlinien des Unternehmens verstoßen habe, indem er elektronische Dateien außerhalb des Unternehmens verschoben habe. Zu den Gründen ihrer Entlassung machte Mitchell keine näheren Angaben. Der Schritt löste eine Lawine der Kritik aus und veranlasste Google, bis Februar 2021 Änderungen an seinen Diversitäts- und Forschungsrichtlinien anzukündigen. Dieser Vorfall ist nur ein Beispiel dafür, wie ethische Konflikte große Technologieunternehmen und ihre vermeintlich objektiven Forschungsabteilungen spalten.

Störende Wirkung

Laut Harvard Business Review besteht die größte Herausforderung für Unternehmer darin, ein Gleichgewicht zwischen dem externen Druck, auf ethische Krisen zu reagieren, und den internen Anforderungen ihrer Unternehmen und Branchen zu finden. Externe Kritik veranlasst Unternehmen dazu, ihre Geschäftspraktiken neu zu bewerten. Allerdings können der Druck des Managements, des Branchenwettbewerbs und allgemeine Markterwartungen an die Art und Weise, wie Unternehmen geführt werden sollten, manchmal gegenläufige Anreize schaffen, die den Status quo begünstigen. Dementsprechend werden ethische Konflikte nur noch zunehmen, wenn sich kulturelle Normen weiterentwickeln und Unternehmen (insbesondere einflussreiche Technologieunternehmen) weiterhin die Grenzen neuer Geschäftspraktiken überschreiten, die sie zur Generierung neuer Einnahmen umsetzen können.

Ein weiteres Beispiel für Unternehmen, die mit diesem ethischen Gleichgewicht zu kämpfen haben, ist das Unternehmen Meta. Um seine öffentlich bekannt gewordenen ethischen Mängel zu beheben, richtete Facebook im Jahr 2020 ein unabhängiges Aufsichtsgremium ein, das befugt ist, Entscheidungen zur Moderation von Inhalten aufzuheben, selbst die des Gründers Mark Zuckerberg. Im Januar 2021 traf das Komitee seine ersten Entscheidungen zu umstrittenen Inhalten und hob die meisten Fälle auf, die es behandelte. 

Allerdings arbeitet das Aufsichtsgremium mit täglich Milliarden von Posts auf Facebook und unzähligen Inhaltsbeschwerden viel langsamer als traditionelle Regierungen. Dennoch hatte der Vorstand einige gültige Empfehlungen ausgesprochen. Im Jahr 2022 empfahl das Gremium Meta Platforms, gegen auf Facebook veröffentlichte Doxxing-Vorfälle vorzugehen, indem es Nutzern verbietet, die Privatadressen von Einzelpersonen auf Plattformen weiterzugeben, selbst wenn diese öffentlich zugänglich sind. Der Vorstand plädierte außerdem dafür, dass Facebook einen Kommunikationskanal eröffnet, um transparent zu erklären, warum es zu Verstößen kommt und wie mit ihnen umgegangen wird.

Auswirkungen von ethischen Konflikten im Privatsektor

Weitere Auswirkungen ethischer Konflikte im privaten Sektor können sein: 

• Immer mehr Unternehmen bauen unabhängige Ethikgremien auf, um die Umsetzung ethischer Richtlinien in ihren jeweiligen Geschäftspraktiken zu überwachen.
• Zunehmende Kritik aus der Wissenschaft an der Art und Weise, wie die Kommerzialisierung der Technologieforschung zu fragwürdigeren Praktiken und Systemen geführt hat.
• Stärkere Abwanderung von Fachkräften aus dem öffentlichen Sektor, da Technologiefirmen talentierte öffentliche und universitäre KI-Forscher abwerben und ihnen beträchtliche Gehälter und Sozialleistungen bieten.
• Regierungen fordern zunehmend von allen Unternehmen, ihre ethischen Richtlinien zu veröffentlichen, unabhängig davon, ob sie Technologiedienstleistungen anbieten oder nicht.
• Offenherzigere Forscher werden aufgrund von Interessenkonflikten aus großen Unternehmen entlassen, um dann schnell ersetzt zu werden.

Fragen zu berücksichtigen

• Wie werden sich ethische Konflikte Ihrer Meinung nach auf die Art der Produkte und Dienstleistungen auswirken, die Verbraucher erhalten?
• Was können Unternehmen tun, um Transparenz in ihrer Technologieforschung zu gewährleisten?