Haftpflichtversicherung für künstliche Intelligenz: Wer soll haften, wenn KI versagt?

• Autor:
• Autorenname

  Quantumrun-Vorausschau
• 5. August 2022

Zusammenfassung der Einblicke

Da Unternehmen künstliche Intelligenz und maschinelles Lernen (KI/ML) integrieren, entstehen spezielle Versicherungspolicen, um einzigartige Risiken wie Datenkorruption und Modelldiebstahl abzuwehren. Diese KI/ML-spezifischen Policen unterscheiden sich von herkömmlichen Cyberversicherungen und zielen auf Probleme ab, die über digitale Systemausfälle hinausgehen, wie beispielsweise KI-induzierte physische Schäden. Der zunehmende Einsatz von KI führt zu neuen rechtlichen Rahmenbedingungen, speziellen Berufsrollen und branchenübergreifenden Standards und beeinflusst alles vom Verbraucherschutz bis hin zu KI-Forschungsprioritäten.

Kontext der KI-Haftpflichtversicherung

Unternehmen integrieren zunehmend KI/ML in ihre Abläufe, was zur Entstehung spezialisierter Versicherungspolicen führt. Diese Richtlinien sollen die Risiken mindern, die speziell für KI- und ML-Anwendungen gelten. Auch wenn diese KI-/ML-spezifischen Versicherungspolicen noch in den Kinderschuhen stecken, werden sie immer wichtiger, da Unternehmen ihre Nutzung dieser Technologien ausweiten. Der genaue Geltungsbereich dieser Richtlinien ist noch nicht vollständig definiert, es wird jedoch erwartet, dass sie Probleme wie Datenkorruption, Diebstahl geistigen Eigentums im Zusammenhang mit KI-Modellen und Verluste durch gegnerische Angriffe angehen.

Es gibt einen deutlichen Unterschied zwischen allgemeiner Cyberversicherung und KI/ML-spezifischer Versicherung. Herkömmliche Cyberversicherungen decken in der Regel Ausfälle digitaler Systeme ab und umfassen Aspekte wie Betriebsunterbrechungen sowie Haftungen im Zusammenhang mit Informationssicherheits- und Datenschutzverletzungen. KI-/ML-spezifische Versicherungen konzentrieren sich jedoch auf die einzigartigen Risiken, die durch den Einsatz von KI-Technologien entstehen. Beispielsweise deckt eine allgemeine Cyberversicherung möglicherweise keine Schäden durch Ausfälle von KI-Systemen ab, die zu körperlichen Schäden oder erheblichen Markenschäden führen.

Beispiele wie der Unfall mit dem selbstfahrenden Auto von Uber in Arizona, bei dem ein Fußgänger ums Leben kam, verdeutlichen die Notwendigkeit einer KI-spezifischen Abdeckung. Traditionelle Cyberversicherungen, die auf der Finanzversicherung basieren, schließen solche Haftungen oft aus. Wenn die KI-basierte Antiviren-Engine von Blackberry Security eine schädliche Ransomware fälschlicherweise als harmlos identifizierte, wäre der potenzielle Markenschaden durch einen solchen Vorfall in der Regel nicht durch herkömmliche Cyberversicherungen abgedeckt. 

Störende Wirkung

Künstliche Intelligenzsysteme sind nicht perfekt. Beispielsweise könnten sie ein Gesicht falsch identifizieren oder dazu führen, dass ein autonomes Fahrzeug mit einem anderen Auto zusammenstößt. Wenn dies passiert, kann man sagen, dass das KI-System „voreingenommen“ oder „fehleranfällig“ ist. Solche potenziellen Fehler sind der Grund, warum es wichtig ist, zu verstehen, wie KI funktioniert. Wenn etwas mit einem KI-System schief geht, wer ist verantwortlich? Sind es die Leute, die das KI-System gemacht haben, oder diejenigen, die es benutzt haben? Solche Fälle stellen eine herausfordernde Frage in einem neu entstehenden Rechtsgebiet dar. Manchmal ist klar, wer verantwortlich ist, und manchmal nicht. Wer ist beispielsweise verantwortlich, wenn ein KI-System verwendet wird, um eine finanzielle Entscheidung zu treffen, und es verliert Geld? In solchen Fällen kann eine AI/ML-Versicherung helfen, Verbindlichkeiten zu identifizieren oder zu klären.

Es wird viel darüber diskutiert, wie KI für ihre Handlungen verantwortlich gemacht werden soll. Einige Branchenanalysten schlagen vor, dass KI eine Rechtspersönlichkeit verliehen werden sollte, damit sie Dinge besitzen und vor Gericht verklagt werden kann. Ein weiterer Vorschlag sieht vor, dass die Regierung ein System einrichtet, in dem Experten Algorithmen (in einem bestimmten Umfang) genehmigen, bevor sie öffentlich verwendet werden. Diese Aufsichtsteams könnten möglicherweise sicherstellen, dass neue kommerzielle oder öffentliche Algorithmen bestimmte Standards erfüllen. 

Einige Gerichtsbarkeiten, wie die USA und Europa, haben ihre eigenen KI-spezifischen Vorschriften erlassen, die überwachen, wie KI zur Rechenschaft gezogen werden kann. Die USA haben den Fair Credit Reporting Act und den Equal Credit Opportunity Act, die nun betrügerische und betrügerische Aktivitäten im Zusammenhang mit KI-gestützter automatisierter Entscheidungsfindung verbieten. Unterdessen veröffentlichte die Europäische Union einen Vorschlag für den Artificial Intelligence Act im Jahr 2021, einen umfassenden Rechtsrahmen, der sich auf die Überwachung von KI-Anwendungen mit hohem Risiko konzentriert. Darüber hinaus ist eine KI-Haftpflichtversicherung erforderlich, um das öffentliche Vertrauen aufrechtzuerhalten, und kann von Betreibern von KI-Systemen mit hohem Risiko verlangt werden.

Auswirkungen einer KI-Haftpflichtversicherung 

Weitere Auswirkungen einer KI-Haftpflichtversicherung können sein:

• Versicherungsunternehmen bieten umfassende KI/ML-Haftpflichtversicherungspläne an, die zu einem verbesserten Risikomanagement für neue Technologien wie selbstfahrende Autos, KI im Gesundheitswesen und automatisierte Finanzsysteme führen.
• Regierungen erlassen präzise KI-Haftungsgesetze, was zu strengeren Vorschriften für ausländische KI-Dienstleister und möglicherweise hohen Geldstrafen für multinationale Unternehmen im Falle von KI-bezogenen Vorfällen führt.
• Unternehmen richten spezielle Teams für die KI-Überwachung ein und verbessern die Verantwortlichkeit und Sicherheit bei KI-Einsätzen durch die Einbeziehung von Datenwissenschaftlern, Sicherheitsexperten und Risikomanagern.
• Die Bildung branchenübergreifender Verbände zur Festlegung von KI-Haftungsstandards, die zu einer verantwortungsvollen KI-Nutzung beitragen und Umwelt-, Sozial- und Governance-Kennzahlen (ESG) zur Anlegerorientierung beeinflussen.
• Die zunehmende öffentliche Skepsis gegenüber KI, ausgelöst durch aufsehenerregende KI-Fehler, führt zu einem vorsichtigen Ansatz bei der KI-Einführung und der Forderung nach mehr Transparenz bei KI-Operationen.
• Eine Zunahme spezialisierter Anwaltskanzleien, die sich auf KI-bezogene Fälle konzentrieren und Fachwissen im Umgang mit der Komplexität der KI-Technologie und ihren gesellschaftlichen Auswirkungen bieten.
• Verbesserte Rahmenbedingungen für den Verbraucherschutz, um KI-bedingte Schäden zu bekämpfen und eine faire Entschädigung und Rechte für Personen zu gewährleisten, die von KI-Fehlern oder -Fehlfunktionen betroffen sind.
• Eine Weiterentwicklung der beruflichen Rollen und Qualifikationsanforderungen mit einem wachsenden Bedarf an Fachkräften, die in KI-Ethik, Risikobewertung und Einhaltung gesetzlicher Vorschriften geschult sind.
• Eine Verschiebung der Prioritäten der KI-Forschung, wobei der Schwerpunkt auf der Entwicklung sichererer und zuverlässigerer KI-Systeme als Reaktion auf gestiegene Haftungsbedenken und Versicherungsanforderungen liegt.
• Änderungen in den KI-Ausbildungs- und Schulungsprogrammen mit Schwerpunkt auf ethischer KI-Entwicklung und Risikomanagement, um zukünftige Fachkräfte auf die sich entwickelnde KI-Landschaft und ihre Auswirkungen vorzubereiten.

Fragen zu berücksichtigen

• Wer sollte Ihrer Meinung nach für Ausfälle von KI-Systemen verantwortlich gemacht werden?
• Wie würde sich Ihrer Meinung nach die Versicherungsbranche an die steigenden KI-Haftungen anpassen?