Franken-Algorithms: ალგორითმები გაქრა

• ავტორი:
• ავტორის სახელი

  Quantumrun Foresight
• აპრილი 12, 2023

რაც უფრო მოწინავე ხდება მანქანათმცოდნეობის (ML) ალგორითმები, მათ შეუძლიათ დამოუკიდებლად ისწავლონ და შეეგუონ შაბლონებს დიდ მონაცემთა ნაკრებებში. ეს პროცესი, რომელიც ცნობილია როგორც „ავტონომიური სწავლება“, შეიძლება გამოიწვიოს ალგორითმის მიერ გადაწყვეტილების მისაღებად საკუთარი კოდის ან წესების გენერირება. პრობლემა ის არის, რომ ალგორითმის მიერ წარმოქმნილი კოდი შეიძლება რთული ან შეუძლებელი იყოს ადამიანებისთვის გასაგები, რაც რთულს ხდის მიკერძოების დადგენას. 

Franken-Algorithms კონტექსტი

Franken-Algorithms ეხება ალგორითმებს (წესებს, რომლებსაც კომპიუტერები იცავენ მონაცემთა დამუშავებისას და ბრძანებებზე რეაგირებისას), რომლებიც იმდენად რთული და გადახლართული გახდა, რომ ადამიანებს მათი გაშიფვრა აღარ შეუძლიათ. ეს ტერმინი წარმოადგენს მერი შელის სამეცნიერო ფანტასტიკას შეშლილი მეცნიერის დოქტორ ფრანკენშტეინის მიერ შექმნილი „მონსტრის“ შესახებ. მიუხედავად იმისა, რომ ალგორითმები და კოდები დიდი ტექნოლოგიის საშენი ბლოკია და საშუალებას აძლევს Facebook-სა და Google-ს გახდნენ გავლენიანი კომპანიები, როგორებიც ახლა არიან, ტექნოლოგიების შესახებ ჯერ კიდევ იმდენია, რაც ადამიანებმა არ იციან. 

როდესაც პროგრამისტები ქმნიან კოდებს და აწარმოებენ მათ პროგრამული უზრუნველყოფის საშუალებით, ML საშუალებას აძლევს კომპიუტერებს გაიგონ და იწინასწარმეტყველონ შაბლონები. მიუხედავად იმისა, რომ დიდი ტექნოლოგიები ირწმუნებიან, რომ ალგორითმები ობიექტურია, რადგან ადამიანის ემოციები და არაპროგნოზირებადობა გავლენას არ ახდენს მათზე, ამ ალგორითმებს შეუძლიათ განვითარდნენ და დაწერონ საკუთარი წესები, რაც სავალალო შედეგებამდე მიგვიყვანს. ამ ალგორითმების მიერ გენერირებული კოდი ხშირად რთული და გაუმჭვირვალეა, რაც ართულებს მკვლევარებს ან პრაქტიკოსებს ალგორითმის გადაწყვეტილებების ინტერპრეტაციას ან რაიმე მიკერძოების იდენტიფიცირებას, რომელიც შეიძლება იყოს ალგორითმის გადაწყვეტილების მიღების პროცესში. ამ საკონტროლო ბლოკმა შეიძლება შექმნას მნიშვნელოვანი გამოწვევები ბიზნესებისთვის, რომლებიც ეყრდნობიან ამ ალგორითმებს გადაწყვეტილების მისაღებად, რადგან მათ შეიძლება ვერ გააცნობიერონ ან ახსნან ამ გადაწყვეტილებების მიღმა არსებული მსჯელობა.

დამრღვევი გავლენა

როდესაც Franken-Algorithms გაფუჭებულია, ეს შეიძლება იყოს სიცოცხლისა და სიკვდილის საკითხი. ამის მაგალითი იყო ავარია 2018 წელს, როდესაც თვითმართვადი მანქანა არიზონაში დაეჯახა და მოკლა ველოსიპედით მჯდომი ქალი. მანქანის ალგორითმებმა ვერ შეძლეს მისი, როგორც ადამიანის იდენტიფიცირება. ექსპერტები ცდილობდნენ ავარიის ძირეულ მიზეზს - იყო თუ არა მანქანა არასწორად დაპროგრამებული და გახდა თუ არა ალგორითმი ძალიან რთული მისი სასიკეთოდ? თუმცა, რაზეც პროგრამისტები შეთანხმდნენ, არის ის, რომ საჭიროა არსებობდეს პროგრამული უზრუნველყოფის კომპანიების ზედამხედველობის სისტემა - ეთიკის კოდექსი. 

თუმცა, ამ ეთიკის კოდექსს მოჰყვება გარკვეული უკუჩვენება დიდი ტექნოლოგიებისგან, რადგან ისინი ეწევიან მონაცემთა და ალგორითმების გაყიდვის ბიზნესს და არ შეუძლიათ მათი რეგულირება ან გამჭვირვალობა. გარდა ამისა, ბოლოდროინდელმა განვითარებამ, რამაც გამოიწვია დიდი ტექნიკური თანამშრომლების შეშფოთება, არის ალგორითმების მზარდი გამოყენება სამხედროებში, როგორიცაა Google-ის პარტნიორობა აშშ-ს თავდაცვის დეპარტამენტთან ალგორითმების ჩართვა სამხედრო ტექნოლოგიებში, როგორიცაა ავტონომიური თვითმფრინავები. ამ აპლიკაციამ გამოიწვია ის, რომ ზოგიერთი თანამშრომელი თანამდებობიდან გადადგა და ექსპერტებმა გამოთქვეს შეშფოთება, რომ ალგორითმები ჯერ კიდევ ძალიან არაპროგნოზირებადია მკვლელობის მანქანებად გამოსაყენებლად. 

კიდევ ერთი შეშფოთება არის ის, რომ Franken-Algorithms-მა შეიძლება გააძლიეროს და კიდევ გააძლიეროს მიკერძოება მონაცემთა ნაკრების გამო, რომლებზეც ისინი სწავლობენ. ამ პროცესმა შეიძლება გამოიწვიოს სხვადასხვა სოციალური საკითხები, მათ შორის დისკრიმინაცია, უთანასწორობა და უკანონო დაპატიმრებები. ამ გაზრდილი რისკების გამო, ბევრი ტექნიკური კომპანია იწყებს თავისი ეთიკური AI მითითებების გამოქვეყნებას, რათა იყოს გამჭვირვალე, თუ როგორ ავითარებენ, იყენებენ და აკონტროლებენ თავიანთ ალგორითმებს.

უფრო ფართო შედეგები Franken-Algorithms-ისთვის

Franken-ალგორითმების პოტენციური შედეგები შეიძლება შეიცავდეს:

• ავტონომიური სისტემების შემუშავება, რომელსაც შეუძლია გადაწყვეტილებების მიღება და ქმედებები ადამიანის ზედამხედველობის გარეშე, რაც იწვევს ანგარიშვალდებულებასა და უსაფრთხოებას. თუმცა, ასეთმა ალგორითმებმა შეიძლება შეამცირონ პროგრამული უზრუნველყოფისა და რობოტიკის შემუშავების ხარჯები, რომლებსაც შეუძლიათ ადამიანის შრომის ავტომატიზაცია უმეტეს ინდუსტრიებში. 
• მეტი გამოკვლევა იმის შესახებ, თუ როგორ შეუძლიათ ალგორითმებს სამხედრო ტექნოლოგიების ავტომატიზაცია და ავტონომიური იარაღისა და მანქანების მხარდაჭერა.
• გაზრდილი ზეწოლა მთავრობებზე და ინდუსტრიის ლიდერებზე ეთიკისა და რეგულაციების ალგორითმის კოდექსის დანერგვისთვის.
• ფრანკენ-ალგორითმები არაპროპორციულად მოქმედებს გარკვეულ დემოგრაფიულ ჯგუფზე, როგორიცაა დაბალი შემოსავლის მქონე თემები ან უმცირესობების მოსახლეობა.
• ფრანკენ-ალგორითმებს შეუძლიათ გააძლიერონ და გააძლიერონ დისკრიმინაცია და მიკერძოება გადაწყვეტილების მიღებისას, როგორიცაა დაქირავება და სესხის აღება.
• ამ ალგორითმებს იყენებენ კიბერკრიმინალები სისტემების სისუსტეების მონიტორინგისა და გამოსაყენებლად, განსაკუთრებით ფინანსურ ინსტიტუტებში.
• პოლიტიკური აქტორები, რომლებიც იყენებენ თაღლითურ ალგორითმებს მარკეტინგული კამპანიების ავტომატიზაციისთვის, გენერაციული ხელოვნური ინტელექტის სისტემების გამოყენებით, რათა გავლენა მოახდინონ საზოგადოებრივ აზრზე და გავლენა მოახდინონ არჩევნებზე.

კითხვები გასათვალისწინებელია

• როგორ ფიქრობთ, როგორ განვითარდება ალგორითმები მომავალში?
• რა შეუძლიათ გააკეთონ მთავრობებმა და კომპანიებმა Franken-Algorithms-ის გასაკონტროლებლად?