การประกันภัยความรับผิดของปัญญาประดิษฐ์: ใครควรรับผิดชอบเมื่อ AI ล้มเหลว?

• เขียนโดย:
• ชื่อผู้เขียน

  มองการณ์ไกลควอนตัมรัน
• สิงหาคม 5, 2022

สรุปข้อมูลเชิงลึก

ในขณะที่ธุรกิจต่างๆ ผสานรวมปัญญาประดิษฐ์และการเรียนรู้ของเครื่อง (AI/ML) กรมธรรม์ประกันภัยเฉพาะทางจึงเกิดขึ้นเพื่อจัดการกับความเสี่ยงเฉพาะ เช่น ข้อมูลเสียหายและการขโมยแบบจำลอง นโยบายเฉพาะด้าน AI/ML เหล่านี้แตกต่างจากการประกันภัยทางไซเบอร์แบบดั้งเดิม โดยมุ่งเป้าไปที่ปัญหาที่นอกเหนือไปจากความล้มเหลวของระบบดิจิทัล เช่น ความเสียหายทางกายภาพที่เกิดจาก AI การใช้ AI ที่เพิ่มมากขึ้นทำให้เกิดกรอบทางกฎหมายใหม่ บทบาทงานเฉพาะด้าน และมาตรฐานข้ามอุตสาหกรรม ซึ่งมีอิทธิพลต่อทุกสิ่งตั้งแต่การคุ้มครองผู้บริโภคไปจนถึงลำดับความสำคัญในการวิจัยของ AI

บริบทการประกันภัยความรับผิดของ AI

ธุรกิจต่างๆ กำลังบูรณาการ AI/ML เข้ากับการดำเนินงานมากขึ้นเรื่อยๆ ซึ่งนำไปสู่การเกิดขึ้นของกรมธรรม์ประกันภัยเฉพาะทาง นโยบายเหล่านี้ออกแบบมาเพื่อลดความเสี่ยงเฉพาะของแอปพลิเคชัน AI และ ML แม้จะยังอยู่ในช่วงเริ่มต้น กรมธรรม์ประกันภัยเฉพาะด้าน AI/ML เหล่านี้กำลังกลายเป็นสิ่งจำเป็น เนื่องจากธุรกิจต่างๆ ขยายการใช้เทคโนโลยีเหล่านี้ ความครอบคลุมที่แน่นอนของนโยบายเหล่านี้ยังไม่ได้รับการกำหนดไว้อย่างครบถ้วน แต่คาดว่าจะแก้ไขปัญหาต่างๆ เช่น ข้อมูลเสียหาย การขโมยทรัพย์สินทางปัญญาที่เกี่ยวข้องกับโมเดล AI และความสูญเสียจากการโจมตีของฝ่ายตรงข้าม

มีความแตกต่างที่ชัดเจนระหว่างการประกันภัยไซเบอร์ทั่วไปและการประกันภัยเฉพาะ AI/ML โดยทั่วไปแล้ว การประกันภัยทางไซเบอร์แบบดั้งเดิมจะจัดการกับความล้มเหลวของระบบดิจิทัล ครอบคลุมประเด็นต่างๆ เช่น การหยุดชะงักในการดำเนินธุรกิจ และความรับผิดที่เกี่ยวข้องกับความปลอดภัยของข้อมูลและการละเมิดความเป็นส่วนตัว อย่างไรก็ตาม การประกันภัยเฉพาะ AI/ML มุ่งเน้นไปที่ความเสี่ยงเฉพาะที่เกิดจากการใช้เทคโนโลยี AI ตัวอย่างเช่น การประกันภัยไซเบอร์ทั่วไปอาจไม่ครอบคลุมความเสียหายจากความล้มเหลวของระบบ AI ที่ก่อให้เกิดอันตรายต่อร่างกายหรือความเสียหายต่อแบรนด์อย่างมีนัยสำคัญ

ตัวอย่าง เช่น อุบัติเหตุที่เกี่ยวข้องกับรถยนต์ไร้คนขับของ Uber ในรัฐแอริโซนา ซึ่งส่งผลให้คนเดินถนนเสียชีวิต เน้นย้ำถึงความจำเป็นในการครอบคลุมข้อมูลเฉพาะของ AI การประกันภัยทางไซเบอร์แบบดั้งเดิมซึ่งมีรากฐานมาจากการประกันภัยสายการเงิน มักจะไม่รวมหนี้สินดังกล่าว ในทำนองเดียวกัน เมื่อกลไกแอนตี้ไวรัสที่ใช้ AI ของ Blackberry Security ระบุแรนซัมแวร์ที่เป็นอันตรายโดยไม่ตั้งใจว่าไม่เป็นพิษเป็นภัย ความเสียหายของแบรนด์ที่อาจเกิดขึ้นจากเหตุการณ์ดังกล่าว โดยทั่วไปจะไม่ครอบคลุมอยู่ในประกันทางไซเบอร์ทั่วไป 

ผลกระทบก่อกวน

ระบบปัญญาประดิษฐ์ไม่สมบูรณ์แบบ ตัวอย่างเช่น พวกเขาอาจระบุใบหน้าผิดหรือทำให้ยานพาหนะที่เป็นอิสระชนกับรถคันอื่น เมื่อสิ่งนี้เกิดขึ้น อาจกล่าวได้ว่าระบบ AI นั้น “ลำเอียง” หรือ “มีแนวโน้มที่จะเกิดข้อผิดพลาด” ข้อผิดพลาดที่อาจเกิดขึ้นดังกล่าวจึงเป็นสาเหตุสำคัญที่ต้องทำความเข้าใจว่า AI ทำงานอย่างไร เมื่อมีสิ่งผิดปกติเกิดขึ้นกับระบบ AI ใครรับผิดชอบ? คนทำระบบ AI หรือคนใช้ ? กรณีดังกล่าวเป็นคำถามที่ท้าทายในสาขากฎหมายที่กำลังเกิดขึ้น บางครั้งก็ชัดเจนว่าใครเป็นผู้รับผิดชอบและบางครั้งก็ไม่ ตัวอย่างเช่น ใครเป็นผู้รับผิดชอบ หากระบบ AI ถูกใช้ในการตัดสินใจทางการเงินและสูญเสียเงิน? กรณีดังกล่าวเป็นการประกัน AI/ML อาจช่วยระบุหรือชี้แจงหนี้สินได้

มีการถกเถียงกันมากมายเกี่ยวกับวิธีที่ AI จะรับผิดชอบต่อการกระทำของมัน นักวิเคราะห์อุตสาหกรรมบางคนแนะนำว่า AI ควรได้รับสถานะบุคคลตามกฎหมายเพื่อให้สามารถเป็นเจ้าของสิ่งต่างๆ และถูกฟ้องร้องในศาลได้ ข้อเสนออีกประการหนึ่งคือให้รัฐบาลมีระบบที่ผู้เชี่ยวชาญอนุมัติอัลกอริธึม (ในระดับใดระดับหนึ่ง) ก่อนนำไปใช้ในที่สาธารณะ ทีมกำกับดูแลเหล่านี้สามารถมั่นใจได้ว่าอัลกอริธึมเชิงพาณิชย์หรือภาครัฐใหม่เป็นไปตามมาตรฐานเฉพาะ 

เขตอำนาจศาลบางแห่ง เช่น สหรัฐอเมริกาและยุโรป ได้ออกกฎข้อบังคับเฉพาะของ AI ซึ่งดูแลว่า AI สามารถรับผิดชอบได้อย่างไร สหรัฐอเมริกามีกฎหมายว่าด้วยการรายงานสินเชื่อที่เป็นธรรมและกฎหมายว่าด้วยโอกาสด้านสินเชื่อที่เท่าเทียมกัน ซึ่งขณะนี้ห้ามกิจกรรมที่เป็นการหลอกลวงและฉ้อฉลที่เชื่อมโยงกับการตัดสินใจอัตโนมัติที่ขับเคลื่อนด้วย AI ในขณะเดียวกัน สหภาพยุโรปได้ออกข้อเสนอสำหรับพระราชบัญญัติปัญญาประดิษฐ์ในปี พ.ศ. 2021 ซึ่งเป็นกรอบกฎหมายที่ครอบคลุมซึ่งมุ่งเน้นไปที่การกำกับดูแลแอปพลิเคชัน AI ที่มีความเสี่ยงสูง นอกจากนี้ การประกันภัยความรับผิดของ AI ยังจำเป็นเพื่อรักษาความไว้วางใจจากสาธารณะ และอาจจำเป็นโดยผู้ดำเนินการระบบ AI ที่มีความเสี่ยงสูง

ผลกระทบของการประกันภัยความรับผิดของ AI 

ผลกระทบที่กว้างขึ้นของการประกันภัยความรับผิดของ AI อาจรวมถึง:

• บริษัทประกันภัยที่เสนอแผนประกันภัยความรับผิดด้าน AI/ML ที่ครอบคลุม ซึ่งนำไปสู่การบริหารความเสี่ยงที่ดีขึ้นสำหรับเทคโนโลยีเกิดใหม่ เช่น รถยนต์ที่ขับเคลื่อนด้วยตนเอง AI ในการดูแลสุขภาพ และระบบการเงินอัตโนมัติ
• รัฐบาลออกกฎหมายความรับผิดด้าน AI ที่แม่นยำ ส่งผลให้มีกฎระเบียบที่เข้มงวดมากขึ้นสำหรับผู้ให้บริการ AI ต่างประเทศ และอาจต้องเสียค่าปรับจำนวนมากสำหรับบริษัทข้ามชาติในกรณีที่เกิดเหตุการณ์ที่เกี่ยวข้องกับ AI
• ธุรกิจต่างๆ จัดตั้งทีมเฉพาะสำหรับการกำกับดูแล AI เพิ่มความรับผิดชอบและความปลอดภัยในการปรับใช้ AI ผ่านการมีส่วนร่วมของนักวิทยาศาสตร์ข้อมูล ผู้เชี่ยวชาญด้านความปลอดภัย และผู้จัดการความเสี่ยง
• การก่อตั้งสมาคมข้ามอุตสาหกรรมเพื่อกำหนดมาตรฐานความรับผิดของ AI ซึ่งมีส่วนทำให้เกิดการใช้ AI อย่างมีความรับผิดชอบ และมีอิทธิพลต่อการวัดผลด้านสิ่งแวดล้อม สังคม และการกำกับดูแล (ESG) เพื่อเป็นแนวทางสำหรับนักลงทุน
• ความกังขาของสาธารณชนที่มีต่อ AI เพิ่มขึ้น ซึ่งได้รับแรงหนุนจากความล้มเหลวของ AI ที่มีชื่อเสียงโด่งดัง นำไปสู่แนวทางที่ระมัดระวังในการนำ AI มาใช้ และความต้องการเพื่อความโปร่งใสมากขึ้นในการดำเนินงานของ AI
• การเพิ่มขึ้นของแนวทางปฏิบัติทางกฎหมายเฉพาะทางที่มุ่งเน้นไปที่คดีที่เกี่ยวข้องกับ AI โดยนำเสนอความเชี่ยวชาญในการนำทางความซับซ้อนของเทคโนโลยี AI และผลกระทบทางสังคม
• กรอบการคุ้มครองผู้บริโภคที่ได้รับการปรับปรุงเพื่อจัดการกับอันตรายที่เกี่ยวข้องกับ AI เพื่อให้มั่นใจว่ามีการชดเชยที่ยุติธรรมและสิทธิ์สำหรับบุคคลที่ได้รับผลกระทบจากข้อผิดพลาดหรือการทำงานผิดพลาดของ AI
• วิวัฒนาการในบทบาทงานและความต้องการทักษะ พร้อมความต้องการที่เพิ่มขึ้นสำหรับมืออาชีพที่ได้รับการฝึกอบรมเกี่ยวกับจริยธรรมของ AI การประเมินความเสี่ยง และการปฏิบัติตามกฎหมาย
• การเปลี่ยนแปลงลำดับความสำคัญในการวิจัย AI โดยเน้นการพัฒนาระบบ AI ที่ปลอดภัยและเชื่อถือได้มากขึ้น เพื่อตอบสนองต่อข้อกังวลด้านความรับผิดที่เพิ่มขึ้นและข้อกำหนดด้านการประกันภัย
• การเปลี่ยนแปลงโปรแกรมการศึกษาและการฝึกอบรม AI โดยมุ่งเน้นไปที่การพัฒนา AI อย่างมีจริยธรรมและการบริหารความเสี่ยง เพื่อเตรียมมืออาชีพในอนาคตสำหรับภูมิทัศน์ที่เปลี่ยนแปลงไปของ AI และผลกระทบของมัน

คำถามที่ต้องพิจารณา

• คุณคิดว่าใครควรรับผิดชอบต่อความล้มเหลวของระบบ AI?
• คุณคิดว่าอุตสาหกรรมประกันภัยจะปรับตัวให้เข้ากับหนี้สิน AI ที่เพิ่มขึ้นได้อย่างไร?