Deepfakes và quấy rối: Cách sử dụng nội dung tổng hợp để quấy rối phụ nữ

• tác giả:
• tên tác giả

  Tầm nhìn lượng tử
• 14 Tháng mười hai, 2022

Tóm tắt thông tin chi tiết

Sự phát triển của công nghệ deepfake đã dẫn đến sự gia tăng các vụ quấy rối tình dục, đặc biệt là đối với phụ nữ. Các chuyên gia tin rằng tình trạng lạm dụng sẽ trở nên tồi tệ hơn trừ khi luật nghiêm ngặt hơn về cách tạo, sử dụng và phân phối phương tiện tổng hợp được thực thi. Tác động lâu dài của việc sử dụng deepfake để quấy rối có thể bao gồm các vụ kiện tụng gia tăng cũng như các công nghệ và bộ lọc deepfake tiên tiến hơn.

Bối cảnh của Deepfakes và quấy rối

Vào năm 2017, một bảng thảo luận trên trang web Reddit đã được sử dụng để lưu trữ nội dung khiêu dâm được điều khiển bằng trí tuệ nhân tạo (AI) lần đầu tiên. Trong vòng một tháng, chủ đề Reddit lan truyền mạnh mẽ và hàng nghìn người đã đăng nội dung khiêu dâm deepfake của họ trên trang web. Nội dung tổng hợp được sử dụng để tạo ra nội dung khiêu dâm hoặc quấy rối giả đang ngày càng phổ biến, tuy nhiên sự quan tâm của công chúng thường tập trung vào các nội dung tuyên truyền sâu sắc nhằm thúc đẩy thông tin sai lệch và bất ổn chính trị. 

Thuật ngữ "deepfake" là sự kết hợp của "học sâu" và "giả", một phương pháp để tạo lại ảnh và video với sự trợ giúp của AI. Thành phần thiết yếu trong quá trình sản xuất nội dung này là máy học (ML), cho phép tạo ra tài liệu giả một cách nhanh chóng và rẻ tiền mà người xem ngày càng khó phát hiện.

 Một mạng lưới thần kinh được đào tạo với cảnh quay của người được nhắm mục tiêu để tạo video deepfake. Càng nhiều cảnh quay được sử dụng trong dữ liệu đào tạo, kết quả sẽ càng thực tế hơn; mạng sẽ tìm hiểu cách cư xử và các đặc điểm tính cách khác của người đó. Sau khi mạng nơ-ron được đào tạo, bất kỳ ai cũng có thể sử dụng các kỹ thuật đồ họa máy tính để chồng một bản sao giống của một người lên một diễn viên hoặc cơ thể khác. Việc sao chép này đã dẫn đến một số lượng tăng đột biến các tài liệu khiêu dâm của các nữ nhân vật nổi tiếng và thường dân không biết rằng hình ảnh của họ đã được sử dụng theo cách này. Theo công ty nghiên cứu Sensity AI, khoảng 90 đến 95% tất cả các video deepfake đều thuộc thể loại khiêu dâm phi thường.

Tác động gián đoạn

Deepfake đã làm trầm trọng thêm hoạt động trả thù khiêu dâm, chủ yếu nhắm vào phụ nữ để khiến họ phải chịu sự sỉ nhục và tổn thương trước công chúng. Quyền riêng tư và an toàn của phụ nữ đang bị đe dọa khi công nghệ video giả mạo từ đầu đến cuối ngày càng được vũ khí hóa, ví dụ như quấy rối, hăm dọa, hạ thấp phẩm giá và hạ thấp phẩm giá phụ nữ về mặt cá nhân và nghề nghiệp. Tệ hơn nữa, không có đủ quy định chống lại loại nội dung này.

Ví dụ: kể từ năm 2022, nội dung khiêu dâm trả thù bị cấm ở 46 tiểu bang của Hoa Kỳ và chỉ có hai tiểu bang đưa ra lệnh cấm rõ ràng về phương tiện truyền thông tổng hợp. Bản thân deepfake không bất hợp pháp, chỉ khi chúng vi phạm bản quyền hoặc mang tính chất phỉ báng. Những hạn chế này khiến nạn nhân gặp khó khăn trong việc khởi kiện, đặc biệt là vì không có cách nào để xóa nội dung này trực tuyến vĩnh viễn.

Trong khi đó, một dạng nội dung tổng hợp khác là ảnh đại diện (ảnh đại diện trực tuyến của người dùng) cũng đang bị tấn công. Theo báo cáo năm 2022 của tổ chức vận động phi lợi nhuận SumOfUs, một phụ nữ nghiên cứu thay mặt tổ chức đã bị cáo buộc tấn công trong nền tảng Metaverse Horizon Worlds. Người phụ nữ báo cáo rằng một người dùng khác đã tấn công tình dục ảnh đại diện của cô ấy trong khi những người khác xem. Khi nạn nhân đưa sự việc cho Meta chú ý, một phát ngôn viên của Meta nói rằng nhà nghiên cứu đã vô hiệu hóa tùy chọn Ranh giới cá nhân. Tính năng này được giới thiệu vào tháng 2022 năm XNUMX như một biện pháp phòng ngừa an toàn được bật theo mặc định và ngăn người lạ tiếp cận hình đại diện trong vòng bốn mét.

Hệ lụy của việc lừa đảo và quấy rối

Các tác động sâu rộng hơn của việc lừa đảo và quấy rối có thể bao gồm: 

• Gia tăng áp lực đối với các chính phủ trong việc thực hiện một chính sách quy định toàn cầu chống lại những kẻ lừa đảo được sử dụng để quấy rối và tấn công kỹ thuật số.
• Ngày càng có nhiều phụ nữ trở thành nạn nhân của công nghệ deepfake, đặc biệt là những người nổi tiếng, nhà báo và nhà hoạt động.
• Sự gia tăng các vụ kiện từ các nạn nhân của hành vi quấy rối và phỉ báng sâu sắc. 
• Gia tăng các sự cố về hành vi không phù hợp đối với hình đại diện và các hình đại diện trực tuyến khác trong các cộng đồng metaverse.
• Các ứng dụng và bộ lọc deepfake mới và ngày càng dễ sử dụng được phát hành có thể tạo ra nội dung thực tế, dẫn đến việc phổ biến nội dung deepfake phi thường, đặc biệt là nội dung khiêu dâm.
• Phương tiện truyền thông xã hội và các nền tảng lưu trữ trang web đầu tư nhiều hơn để giám sát chặt chẽ nội dung được lưu hành trên nền tảng của họ, bao gồm cả việc cấm các cá nhân hoặc gỡ bỏ các trang nhóm.

Các câu hỏi cần xem xét

• Chính phủ của bạn giải quyết vấn đề quấy rối deepfake như thế nào?
• Những cách khác mà người dùng trực tuyến có thể tự bảo vệ mình khỏi bị những người sáng tạo deepfake làm nạn nhân là gì?