Deepfakes და შევიწროება: როგორ გამოიყენება სინთეზური შინაარსი ქალების შევიწროების მიზნით

• ავტორი:
• ავტორის სახელი

  Quantumrun Foresight
• დეკემბერი 14, 2022

Insight რეზიუმე

Deepfake ტექნოლოგიების განვითარებამ გამოიწვია სექსუალური შევიწროების შემთხვევების ზრდა, განსაკუთრებით ქალების მიმართ. ექსპერტები თვლიან, რომ ბოროტად გამოყენება გაუარესდება, თუ არ იქნება უფრო მკაცრი კანონები სინთეზური მედიის შექმნის, გამოყენებისა და გავრცელების შესახებ. დეფფეიკის შევიწროების მიზნით გამოყენების გრძელვადიანი შედეგები შეიძლება მოიცავდეს სასამართლო პროცესების გაზრდას და უფრო მოწინავე ღრმა ფეიკის ტექნოლოგიებსა და ფილტრებს.

Deepfakes და შევიწროების კონტექსტი

2017 წელს, სადისკუსიო დაფა ვებგვერდზე Reddit-ზე პირველად გამოიყენეს ხელოვნური ინტელექტის (AI) მანიპულირებული პორნოგრაფიის მასპინძლობისთვის. ერთ თვეში Reddit თემა გახდა ვირუსული და ათასობით ადამიანმა გამოაქვეყნა მათი ღრმა ყალბი პორნოგრაფია საიტზე. ყალბი პორნოგრაფიის ან შევიწროების შესაქმნელად გამოყენებული სინთეზური კონტენტი სულ უფრო ხშირია, თუმცა საზოგადოების ინტერესი ხშირად ფოკუსირებულია პროპაგანდისტულ ღრმა ფეიქებზე, რომლებიც ხელს უწყობენ დეზინფორმაციას და პოლიტიკურ არასტაბილურობას. 

ტერმინი "deepfake" არის "ღრმა სწავლისა" და "ყალბი" ერთობლიობა, მეთოდი ფოტოებისა და ვიდეოების ხელახალი შექმნისთვის ხელოვნური ინტელექტის დახმარებით. ამ კონტენტის წარმოების არსებითი კომპონენტია მანქანათმცოდნეობა (ML), რომელიც საშუალებას იძლევა სწრაფად და იაფად შექმნას ყალბი მასალა, რომლის ამოცნობაც ადამიანთა მაყურებლისთვის სულ უფრო რთულია.

 ნერვული ქსელი გაწვრთნილია სამიზნე პირის კადრებით ღრმა ყალბი ვიდეოს შესაქმნელად. რაც უფრო მეტი კადრები იქნება გამოყენებული ტრენინგის მონაცემებში, მით უფრო რეალური იქნება შედეგები; ქსელი შეისწავლის ამ ადამიანის მანერებს და სხვა პიროვნულ თვისებებს. მას შემდეგ, რაც ნერვული ქსელი გაწვრთნის, ნებისმიერს შეუძლია გამოიყენოს კომპიუტერული გრაფიკის ტექნიკა სხვა მსახიობზე ან სხეულზე ადამიანის მსგავსების ასლის გადასატანად. ამ კოპირებამ გამოიწვია პორნოგრაფიული მასალების მზარდი რაოდენობა, სადაც ცნობილი ქალები და სამოქალაქო პირები არ იცოდნენ, რომ მათი სურათები ამ გზით იქნა გამოყენებული. კვლევითი ფირმა Sensity AI-ის თანახმად, ყველა ღრმა ფაქიზი ვიდეოების დაახლოებით 90-დან 95 პროცენტამდე შედის არაკონსენსუალურ პორნოგრაფიის კატეგორიაში.

დამრღვევი გავლენა

Deepfakes-მა გააუარესა შურისძიების პორნოს პრაქტიკა, ძირითადად ქალების მიმართ, რათა გამოავლინონ ისინი საზოგადოებრივი დამცირებისა და ტრავმების წინაშე. ქალთა კონფიდენციალურობა და უსაფრთხოება საფრთხის ქვეშაა, რადგან ყალბი ვიდეო ტექნოლოგია სულ უფრო და უფრო იარაღდება, მაგალითად, ავიწროებს, აშინებს, ამცირებს და ამცირებს ქალებს პიროვნულად და პროფესიულად. უარესი, არ არის საკმარისი რეგულაცია ამ ტიპის შინაარსის წინააღმდეგ.

მაგალითად, 2022 წლის მდგომარეობით, შურისძიების პორნო შინაარსი აკრძალულია აშშ-ს 46 შტატში და მხოლოდ ორი შტატი აშუქებს ცალსახად სინთეზურ მედიას მათ აკრძალვაში. Deepfakes თავისთავად არ არის უკანონო, მხოლოდ მაშინ, როდესაც ისინი არღვევენ საავტორო უფლებებს ან ცილისმწამებლები ხდებიან. ეს შეზღუდვები ართულებს მსხვერპლს სამართლებრივი ქმედებების განხორციელებას, მით უმეტეს, რომ არ არსებობს ამ კონტენტის სამუდამოდ წაშლის საშუალება.

ამასობაში, სინთეზური შინაარსის კიდევ ერთი ფორმა, ავატარები (მომხმარებლების ონლაინ წარმოდგენები), ასევე ექვემდებარება თავდასხმებს. არაკომერციული ადვოკატირების ორგანიზაციის SumOfUs-ის 2022 წლის ანგარიშის მიხედვით, ქალი, რომელიც ორგანიზაციის სახელით იკვლევდა, სავარაუდოდ თავს დაესხნენ Metaverse პლატფორმას Horizon Worlds. ქალმა განაცხადა, რომ სხვა მომხმარებელმა სექსუალური შეურაცხყოფა მიაყენა მის ავატარს, როცა სხვები უყურებდნენ. როდესაც მსხვერპლმა მეტას ყურადღება მიაქცია ინციდენტს, მეტას სპიკერმა თქვა, რომ მკვლევარმა გამორთო პირადი საზღვრის ვარიანტი. ფუნქცია დაინერგა 2022 წლის თებერვალში, როგორც უსაფრთხოების ზომები, რომელიც ჩართულია ნაგულისხმევად და ხელს უშლიდა უცნობებს ავატართან მიახლოებას ოთხი ფუტის მანძილზე.

ღრმა ფეიქისა და შევიწროების შედეგები

ღრმა ფეიქისა და შევიწროების უფრო ფართო შედეგები შეიძლება მოიცავდეს: 

• გაიზარდა ზეწოლა მთავრობებზე, რომ განახორციელონ გლობალური მარეგულირებელი პოლიტიკა დიპფეიქების წინააღმდეგ, რომლებიც გამოიყენება ციფრული შევიწროებისა და თავდასხმისთვის.
• უფრო მეტი ქალი ემსხვერპლა ღრმა ცრუ ტექნოლოგიას, განსაკუთრებით ცნობილი ადამიანები, ჟურნალისტები და აქტივისტები.
• გაიზარდა სარჩელები ღრმა ფეიკის შევიწროებისა და ცილისწამების მსხვერპლთა მხრიდან. 
• გაიზარდა არასათანადო ქცევის შემთხვევები ავატარებისა და სხვა ონლაინ წარმომადგენლობების მიმართ მეტავერსიულ თემებში.
• გამოშვებულია ახალი და სულ უფრო ადვილი გამოსაყენებელი ღრმა ყალბი აპლიკაციები და ფილტრები, რომლებსაც შეუძლიათ შექმნან რეალისტური კონტენტი, რაც გამოიწვევს არაკონსენსუალური ღრმა ყალბი კონტენტის, განსაკუთრებით პორნოგრაფიის, კომოდიფიკაციას.
• სოციალური მედიისა და ვებსაიტების ჰოსტინგის პლატფორმები უფრო მეტ ინვესტიციას ახდენენ მათ პლატფორმებზე გავრცელებული კონტენტის მონიტორინგისთვის, მათ შორის ინდივიდების აკრძალვაზე ან ჯგუფური გვერდების წაშლაზე.

კითხვები გასათვალისწინებელია

• როგორ ებრძვის თქვენი მთავრობა ღრმა შევიწროებას?
• რა არის სხვა გზები, რომლითაც ონლაინ მომხმარებლებს შეუძლიათ დაიცვან თავი ღრმა ფეიკის შემქმნელების მსხვერპლისგან?