Franken-Algorithms: อัลกอริทึมหายไป

• เขียนโดย:
• ชื่อผู้เขียน

  มองการณ์ไกลควอนตัมรัน
• April 12, 2023

เมื่ออัลกอริทึมแมชชีนเลิร์นนิง (ML) มีความก้าวหน้ามากขึ้น พวกเขาสามารถเรียนรู้และปรับให้เข้ากับรูปแบบในชุดข้อมูลขนาดใหญ่ได้ด้วยตนเอง กระบวนการนี้เรียกว่า "การเรียนรู้แบบอิสระ" อาจส่งผลให้อัลกอริทึมสร้างรหัสหรือกฎของตนเองเพื่อทำการตัดสินใจ ปัญหาของสิ่งนี้คือโค้ดที่สร้างโดยอัลกอริทึมอาจยากหรือเป็นไปไม่ได้สำหรับมนุษย์ที่จะเข้าใจ ทำให้ยากต่อการระบุอคติ 

บริบทแฟรงเกน-อัลกอริทึม

Franken-Algorithms หมายถึงอัลกอริทึม (กฎที่คอมพิวเตอร์ปฏิบัติตามเมื่อประมวลผลข้อมูลและตอบสนองต่อคำสั่ง) ซึ่งมีความซับซ้อนและเกี่ยวพันกันจนมนุษย์ไม่สามารถถอดรหัสได้อีกต่อไป คำนี้เป็นการยกย่องนิยายวิทยาศาสตร์ของ Mary Shelley เกี่ยวกับ "สัตว์ประหลาด" ที่สร้างขึ้นโดยนักวิทยาศาสตร์บ้า Dr. Frankenstein แม้ว่าอัลกอริทึมและโค้ดจะเป็นรากฐานของเทคโนโลยีขนาดใหญ่ และทำให้ Facebook และ Google เป็นบริษัทที่ทรงอิทธิพลในปัจจุบัน แต่ก็ยังมีเทคโนโลยีอีกมากมายที่มนุษย์ไม่รู้ 

เมื่อโปรแกรมเมอร์สร้างโค้ดและเรียกใช้ผ่านซอฟต์แวร์ ML ช่วยให้คอมพิวเตอร์เข้าใจและคาดการณ์รูปแบบได้ ในขณะที่เทคโนโลยีขนาดใหญ่อ้างว่าอัลกอริทึมมีวัตถุประสงค์เพราะอารมณ์ของมนุษย์และความไม่แน่นอนไม่มีอิทธิพลต่อพวกเขา อัลกอริทึมเหล่านี้สามารถพัฒนาและเขียนกฎของตัวเองได้ ซึ่งนำไปสู่ผลลัพธ์ที่เลวร้าย รหัสที่สร้างโดยอัลกอริทึมเหล่านี้มักซับซ้อนและคลุมเครือ ทำให้นักวิจัยหรือผู้ปฏิบัติงานตีความการตัดสินใจของอัลกอริทึมหรือระบุอคติใดๆ ที่อาจมีอยู่ในกระบวนการตัดสินใจของอัลกอริทึมได้ยาก สิ่งกีดขวางนี้อาจสร้างความท้าทายที่สำคัญสำหรับธุรกิจที่ใช้อัลกอริทึมเหล่านี้ในการตัดสินใจ เนื่องจากอาจไม่สามารถเข้าใจหรืออธิบายเหตุผลที่อยู่เบื้องหลังการตัดสินใจเหล่านั้นได้

ผลกระทบก่อกวน

เมื่อแฟรงเกน-อัลกอริทึมทำงานผิดพลาด อาจเป็นเรื่องของชีวิตและความตาย ตัวอย่างคืออุบัติเหตุในปี 2018 เมื่อรถยนต์ไร้คนขับในรัฐแอริโซนาพุ่งชนผู้หญิงที่ขี่จักรยานจนเสียชีวิต อัลกอริทึมของรถไม่สามารถระบุได้อย่างถูกต้องว่าเธอเป็นมนุษย์ ผู้เชี่ยวชาญวิเคราะห์ถึงต้นตอของอุบัติเหตุ นั่นคือรถตั้งโปรแกรมไม่ถูกต้อง และอัลกอริทึมซับซ้อนเกินไปสำหรับตัวมันเองหรือไม่ อย่างไรก็ตาม สิ่งที่โปรแกรมเมอร์เห็นพ้องต้องกันก็คือจำเป็นต้องมีระบบการควบคุมดูแลสำหรับบริษัทซอฟต์แวร์ ซึ่งเป็นจรรยาบรรณ 

อย่างไรก็ตาม หลักจรรยาบรรณนี้มาพร้อมกับการตอบโต้กลับจากเทคโนโลยีขนาดใหญ่ เนื่องจากพวกเขาอยู่ในธุรกิจขายข้อมูลและอัลกอริทึม และไม่สามารถควบคุมหรือกำหนดให้โปร่งใสได้ นอกจากนี้ การพัฒนาล่าสุดที่สร้างความกังวลให้กับพนักงานด้านเทคโนโลยีขนาดใหญ่คือการใช้อัลกอริธึมภายในกองทัพที่เพิ่มขึ้น เช่น ความร่วมมือของ Google กับกระทรวงกลาโหมสหรัฐฯ เพื่อรวมอัลกอริทึมในเทคโนโลยีทางการทหาร เช่น โดรนไร้คนขับ แอปพลิเคชันนี้ทำให้พนักงานบางคนลาออกและผู้เชี่ยวชาญแสดงความกังวลว่าอัลกอริทึมยังคงคาดเดาไม่ได้เกินกว่าที่จะใช้เป็นเครื่องจักรสังหาร 

ข้อกังวลอีกประการหนึ่งคือแฟรงเกน-อัลกอริทึมอาจยืดเยื้อและแม้แต่ขยายอคติเนื่องจากชุดข้อมูลที่ได้รับการฝึกฝน กระบวนการนี้อาจนำไปสู่ปัญหาสังคมต่างๆ รวมถึงการเลือกปฏิบัติ ความไม่เท่าเทียมกัน และการจับกุมโดยมิชอบ เนื่องจากความเสี่ยงที่เพิ่มสูงขึ้นเหล่านี้ บริษัทเทคโนโลยีหลายแห่งจึงเริ่มเผยแพร่แนวทางปฏิบัติด้านจริยธรรมของ AI เพื่อให้มีความโปร่งใสเกี่ยวกับวิธีการพัฒนา ใช้งาน และตรวจสอบอัลกอริทึมของตน

ความหมายที่กว้างขึ้นสำหรับแฟรงเกน-อัลกอริทึม

ความหมายที่เป็นไปได้สำหรับแฟรงเกน-อัลกอริทึมอาจรวมถึง:

• การพัฒนาระบบอิสระที่สามารถตัดสินใจและดำเนินการโดยปราศจากการกำกับดูแลของมนุษย์ ทำให้เกิดความกังวลเกี่ยวกับความรับผิดชอบและความปลอดภัย อย่างไรก็ตาม อัลกอริธึมดังกล่าวอาจลดค่าใช้จ่ายในการพัฒนาซอฟต์แวร์และหุ่นยนต์ที่สามารถทำให้แรงงานมนุษย์ทำงานอัตโนมัติในอุตสาหกรรมส่วนใหญ่ได้ 
• การพิจารณาเพิ่มเติมเกี่ยวกับวิธีที่อัลกอริทึมสามารถทำให้เทคโนโลยีทางทหารเป็นอัตโนมัติและสนับสนุนอาวุธและยานพาหนะที่เป็นอิสระ
• เพิ่มแรงกดดันให้รัฐบาลและผู้นำในอุตสาหกรรมนำหลักจริยธรรมและข้อบังคับของอัลกอริทึมไปใช้
• Franken-Algorithms ส่งผลกระทบต่อกลุ่มประชากรบางกลุ่มอย่างไม่สมส่วน เช่น ชุมชนที่มีรายได้น้อยหรือชนกลุ่มน้อย
• Franken-Algorithm สามารถขยายเวลาและขยายการเลือกปฏิบัติและความลำเอียงในการตัดสินใจ เช่น การตัดสินใจจ้างงานและให้ยืม
• อัลกอริธึมเหล่านี้ถูกใช้โดยอาชญากรไซเบอร์เพื่อตรวจสอบและใช้ประโยชน์จากจุดอ่อนในระบบ โดยเฉพาะในสถาบันการเงิน
• ผู้มีบทบาททางการเมืองที่ใช้อัลกอริทึมอันธพาลเพื่อทำให้แคมเปญการตลาดเป็นไปโดยอัตโนมัติโดยใช้ระบบ AI เชิงสร้างสรรค์ในรูปแบบที่สามารถมีอิทธิพลต่อความคิดเห็นของประชาชนและมีอิทธิพลต่อการเลือกตั้ง

คำถามที่ต้องพิจารณา

• คุณคิดว่าอัลกอริทึมจะพัฒนาต่อไปอย่างไรในอนาคต
• รัฐบาลและบริษัทต่างๆ สามารถทำอะไรได้บ้างเพื่อควบคุมแฟรงเกน-อัลกอริทึม