อคติของปัญญาประดิษฐ์: เครื่องจักรไม่ได้มีวัตถุประสงค์อย่างที่เราหวังไว้

เครดิตภาพ:
เครดิตภาพ
iStock

อคติของปัญญาประดิษฐ์: เครื่องจักรไม่ได้มีวัตถุประสงค์อย่างที่เราหวังไว้

อคติของปัญญาประดิษฐ์: เครื่องจักรไม่ได้มีวัตถุประสงค์อย่างที่เราหวังไว้

ข้อความหัวข้อย่อย
ทุกคนเห็นพ้องต้องกันว่า AI ควรมีความเป็นกลาง แต่การขจัดอคตินั้นเป็นปัญหา
    • เขียนโดย:
    • ชื่อผู้เขียน
      มองการณ์ไกลควอนตัมรัน
    • กุมภาพันธ์ 8, 2022

    สรุปข้อมูลเชิงลึก

    ในขณะที่เทคโนโลยีที่ขับเคลื่อนด้วยข้อมูลถือเป็นคำมั่นสัญญาในการส่งเสริมสังคมที่ยุติธรรม แต่ก็มักจะสะท้อนอคติเดียวกันกับที่มนุษย์เก็บงำ ซึ่งนำไปสู่ความอยุติธรรมที่อาจเกิดขึ้น ตัวอย่างเช่น อคติในระบบปัญญาประดิษฐ์ (AI) อาจทำให้ภาพลักษณ์ที่เป็นอันตรายแย่ลงโดยไม่ได้ตั้งใจ อย่างไรก็ตาม ความพยายามกำลังดำเนินการเพื่อทำให้ระบบ AI มีความเท่าเทียมกันมากขึ้น แม้ว่าสิ่งนี้จะทำให้เกิดคำถามที่ซับซ้อนเกี่ยวกับความสมดุลระหว่างประโยชน์ใช้สอยและความเป็นธรรม ตลอดจนความจำเป็นในการควบคุมอย่างรอบคอบและความหลากหลายในทีมเทคโนโลยี

    บริบททั่วไปของอคติ AI

    ความหวังคือเทคโนโลยีที่ขับเคลื่อนด้วยข้อมูลจะช่วยมนุษยชาติในการสร้างสังคมที่ความเป็นธรรมเป็นบรรทัดฐานสำหรับทุกคน อย่างไรก็ตาม ความจริงในปัจจุบันวาดภาพต่างออกไป อคติหลายอย่างที่มนุษย์มี ซึ่งนำไปสู่ความอยุติธรรมในอดีต กำลังสะท้อนอยู่ในอัลกอริทึมที่ควบคุมโลกดิจิทัลของเรา อคติเหล่านี้ในระบบ AI มักเกิดจากอคติของบุคคลที่พัฒนาระบบเหล่านี้ และอคติเหล่านี้มักจะแทรกซึมเข้าไปในงานของพวกเขา

    ยกตัวอย่างเช่น โครงการในปี 2012 ที่รู้จักกันในชื่อ ImageNet ซึ่งพยายามรวบรวมการติดฉลากรูปภาพสำหรับการฝึกอบรมระบบแมชชีนเลิร์นนิง โครงข่ายประสาทเทียมขนาดใหญ่ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลนี้สามารถระบุวัตถุได้ด้วยความแม่นยำที่น่าประทับใจ อย่างไรก็ตาม เมื่อตรวจสอบอย่างใกล้ชิด นักวิจัยได้ค้นพบอคติที่ซ่อนอยู่ในข้อมูล ImageNet ในกรณีหนึ่ง อัลกอริทึมที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลนี้มีอคติต่อสมมติฐานที่ว่าโปรแกรมเมอร์ซอฟต์แวร์ทั้งหมดเป็นคนผิวขาว

    ความลำเอียงนี้อาจส่งผลให้ผู้หญิงถูกมองข้ามบทบาทดังกล่าวเมื่อกระบวนการจ้างงานเป็นไปโดยอัตโนมัติ อคติเข้ามาอยู่ในชุดข้อมูลเพราะแต่ละคนเพิ่มป้ายกำกับให้กับรูปภาพของ "ผู้หญิง" รวมถึงป้ายกำกับเพิ่มเติมที่ประกอบด้วยคำที่เสื่อมเสีย ตัวอย่างนี้แสดงให้เห็นว่าอคติไม่ว่าจะโดยตั้งใจหรือไม่ตั้งใจสามารถแทรกซึมเข้าไปในระบบ AI ที่ซับซ้อนที่สุดได้อย่างไร ซึ่งอาจทำให้เป็นแบบแผนและความไม่เท่าเทียมกันที่เป็นอันตราย

    ผลกระทบก่อกวน 

    ความพยายามที่จะจัดการกับอคติในข้อมูลและอัลกอริทึมได้ริเริ่มโดยนักวิจัยจากองค์กรภาครัฐและเอกชนต่างๆ ตัวอย่างเช่น ในกรณีของโครงการ ImageNet การใช้ฝูงชนเพื่อระบุและกำจัดเงื่อนไขการติดฉลากที่สร้างความเสื่อมเสียให้กับภาพบางภาพ มาตรการเหล่านี้แสดงให้เห็นว่าเป็นไปได้จริงที่จะกำหนดค่าระบบ AI ใหม่ให้มีความเท่าเทียมกันมากขึ้น

    อย่างไรก็ตาม ผู้เชี่ยวชาญบางคนแย้งว่าการลบอคติอาจทำให้ชุดข้อมูลมีประสิทธิภาพน้อยลง โดยเฉพาะอย่างยิ่งเมื่อมีอคติหลายอย่างเกิดขึ้น ชุดข้อมูลที่ไม่มีอคติบางอย่างอาจทำให้ขาดข้อมูลเพียงพอสำหรับการใช้งานอย่างมีประสิทธิภาพ มันทำให้เกิดคำถามว่าชุดข้อมูลภาพที่มีความหลากหลายอย่างแท้จริงจะมีลักษณะอย่างไร และจะนำไปใช้ได้อย่างไรโดยไม่ลดทอนประโยชน์การใช้งาน

    แนวโน้มนี้เน้นย้ำถึงความจำเป็นของวิธีการที่รอบคอบในการใช้ AI และเทคโนโลยีที่ขับเคลื่อนด้วยข้อมูล สำหรับบริษัทต่างๆ นี่อาจหมายถึงการลงทุนในเครื่องมือตรวจจับอคติและส่งเสริมความหลากหลายในทีมเทคโนโลยี สำหรับรัฐบาล อาจเกี่ยวข้องกับการนำกฎระเบียบมาใช้เพื่อให้แน่ใจว่ามีการใช้ AI อย่างยุติธรรม 

    ผลกระทบของอคติ AI

    ความหมายที่กว้างขึ้นของอคติ AI อาจรวมถึง:

    • องค์กรมีความกระตือรือร้นในการสร้างความมั่นใจในความยุติธรรมและการไม่เลือกปฏิบัติในขณะที่ใช้ประโยชน์จาก AI เพื่อปรับปรุงประสิทธิภาพและประสิทธิภาพ 
    • การมีนักจริยธรรม AI ในทีมพัฒนาเพื่อตรวจหาและลดความเสี่ยงด้านจริยธรรมในช่วงต้นของโครงการ 
    • การออกแบบผลิตภัณฑ์ AI โดยคำนึงถึงปัจจัยที่หลากหลาย เช่น เพศ เชื้อชาติ ชนชั้น และวัฒนธรรมอย่างชัดเจน
    • รับตัวแทนจากหลากหลายกลุ่มที่จะใช้ผลิตภัณฑ์ AI ของบริษัทเพื่อทดสอบก่อนวางจำหน่าย
    • บริการสาธารณะต่าง ๆ ถูก จำกัด จากสมาชิกบางคนของประชาชน
    • สมาชิกสาธารณะบางคนไม่สามารถเข้าถึงหรือมีคุณสมบัติสำหรับโอกาสในการทำงานบางอย่าง
    • หน่วยงานบังคับใช้กฎหมายและผู้เชี่ยวชาญที่กำหนดเป้าหมายสมาชิกบางคนในสังคมอย่างไม่เป็นธรรมมากกว่าผู้อื่น 

    คำถามที่ต้องพิจารณา

    • คุณมองโลกในแง่ดีว่าการตัดสินใจแบบอัตโนมัติจะยุติธรรมในอนาคตหรือไม่?
    • แล้วการตัดสินใจของ AI ที่ทำให้คุณประหม่าที่สุดล่ะ?

    ข้อมูลอ้างอิงเชิงลึก

    ลิงก์ที่เป็นที่นิยมและลิงก์สถาบันต่อไปนี้ถูกอ้างอิงสำหรับข้อมูลเชิงลึกนี้: