ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಮತ್ತು ಕಿರುಕುಳ: ಮಹಿಳೆಯರಿಗೆ ಕಿರುಕುಳ ನೀಡಲು ಸಿಂಥೆಟಿಕ್ ವಿಷಯವನ್ನು ಹೇಗೆ ಬಳಸಲಾಗುತ್ತದೆ

• ಲೇಖಕ ಬಗ್ಗೆ:
• ಲೇಖಕ ಹೆಸರು

  ಕ್ವಾಂಟಮ್ರನ್ ದೂರದೃಷ್ಟಿ
• ಡಿಸೆಂಬರ್ 14, 2022

ಒಳನೋಟ ಸಾರಾಂಶ

ಡೀಪ್‌ಫೇಕ್ ತಂತ್ರಜ್ಞಾನದಲ್ಲಿನ ಬೆಳವಣಿಗೆಗಳು ಲೈಂಗಿಕ ಕಿರುಕುಳ, ವಿಶೇಷವಾಗಿ ಮಹಿಳೆಯರ ವಿರುದ್ಧ ಹೆಚ್ಚುತ್ತಿರುವ ಘಟನೆಗಳಿಗೆ ಕಾರಣವಾಗಿವೆ. ಸಂಶ್ಲೇಷಿತ ಮಾಧ್ಯಮವನ್ನು ಹೇಗೆ ರಚಿಸಲಾಗಿದೆ, ಬಳಸುವುದು ಮತ್ತು ವಿತರಿಸಲಾಗುತ್ತದೆ ಎಂಬುದರ ಕುರಿತು ಕಠಿಣ ಕಾನೂನುಗಳನ್ನು ಜಾರಿಗೊಳಿಸದ ಹೊರತು ನಿಂದನೆಯು ಇನ್ನಷ್ಟು ಹದಗೆಡುತ್ತದೆ ಎಂದು ತಜ್ಞರು ನಂಬುತ್ತಾರೆ. ಕಿರುಕುಳಕ್ಕಾಗಿ ಡೀಪ್‌ಫೇಕ್‌ಗಳನ್ನು ಬಳಸುವ ದೀರ್ಘಾವಧಿಯ ಪರಿಣಾಮಗಳು ಹೆಚ್ಚಿದ ಮೊಕದ್ದಮೆಗಳು ಮತ್ತು ಹೆಚ್ಚು ಸುಧಾರಿತ ಡೀಪ್‌ಫೇಕ್ ತಂತ್ರಜ್ಞಾನಗಳು ಮತ್ತು ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಒಳಗೊಂಡಿರಬಹುದು.

ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಮತ್ತು ಕಿರುಕುಳದ ಸಂದರ್ಭ

2017 ರಲ್ಲಿ, ರೆಡ್ಡಿಟ್ ವೆಬ್‌ಸೈಟ್‌ನಲ್ಲಿ ಮೊದಲ ಬಾರಿಗೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (AI)-ಕುಶಲ ಅಶ್ಲೀಲತೆಯನ್ನು ಹೋಸ್ಟ್ ಮಾಡಲು ಚರ್ಚಾ ಫಲಕವನ್ನು ಬಳಸಲಾಯಿತು. ಒಂದು ತಿಂಗಳೊಳಗೆ, ರೆಡ್ಡಿಟ್ ಥ್ರೆಡ್ ವೈರಲ್ ಆಯಿತು ಮತ್ತು ಸಾವಿರಾರು ಜನರು ತಮ್ಮ ಡೀಪ್‌ಫೇಕ್ ಅಶ್ಲೀಲತೆಯನ್ನು ಸೈಟ್‌ನಲ್ಲಿ ಪೋಸ್ಟ್ ಮಾಡಿದ್ದಾರೆ. ನಕಲಿ ಅಶ್ಲೀಲತೆ ಅಥವಾ ಕಿರುಕುಳವನ್ನು ರಚಿಸಲು ಬಳಸುವ ಸಂಶ್ಲೇಷಿತ ವಿಷಯವು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿದೆ, ಆದರೂ ಸಾರ್ವಜನಿಕ ಹಿತಾಸಕ್ತಿಯು ಅಪಪ್ರಚಾರ ಮತ್ತು ರಾಜಕೀಯ ಅಸ್ಥಿರತೆಯನ್ನು ಉತ್ತೇಜಿಸುವ ಪ್ರಚಾರದ ಡೀಪ್‌ಫೇಕ್‌ಗಳ ಮೇಲೆ ಆಗಾಗ್ಗೆ ಕೇಂದ್ರೀಕೃತವಾಗಿರುತ್ತದೆ. 

"ಡೀಪ್‌ಫೇಕ್" ಎಂಬ ಪದವು "ಆಳವಾದ ಕಲಿಕೆ" ಮತ್ತು "ನಕಲಿ" ಯ ಸಂಯೋಜನೆಯಾಗಿದೆ, ಇದು AI ಸಹಾಯದಿಂದ ಛಾಯಾಚಿತ್ರಗಳು ಮತ್ತು ವೀಡಿಯೊಗಳನ್ನು ಮರುಸೃಷ್ಟಿಸುವ ವಿಧಾನವಾಗಿದೆ. ಈ ವಿಷಯದ ಉತ್ಪಾದನೆಯಲ್ಲಿ ಅತ್ಯಗತ್ಯ ಅಂಶವೆಂದರೆ ಯಂತ್ರ ಕಲಿಕೆ (ML), ಇದು ಮಾನವ ವೀಕ್ಷಕರಿಗೆ ಪತ್ತೆಹಚ್ಚಲು ಹೆಚ್ಚು ಕಷ್ಟಕರವಾದ ನಕಲಿ ವಸ್ತುಗಳ ತ್ವರಿತ ಮತ್ತು ಅಗ್ಗದ ಸೃಷ್ಟಿಗೆ ಅನುಮತಿಸುತ್ತದೆ.

 ಡೀಪ್‌ಫೇಕ್ ವೀಡಿಯೊವನ್ನು ರಚಿಸಲು ಉದ್ದೇಶಿತ ವ್ಯಕ್ತಿಯ ತುಣುಕನ್ನು ಹೊಂದಿರುವ ನರಗಳ ನೆಟ್‌ವರ್ಕ್ ಅನ್ನು ತರಬೇತಿ ನೀಡಲಾಗುತ್ತದೆ. ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿ ಹೆಚ್ಚು ತುಣುಕನ್ನು ಬಳಸಿದರೆ, ಫಲಿತಾಂಶಗಳು ಹೆಚ್ಚು ನೈಜವಾಗಿರುತ್ತವೆ; ನೆಟ್‌ವರ್ಕ್ ಆ ವ್ಯಕ್ತಿಯ ನಡವಳಿಕೆಗಳು ಮತ್ತು ಇತರ ವ್ಯಕ್ತಿತ್ವದ ಲಕ್ಷಣಗಳನ್ನು ಕಲಿಯುತ್ತದೆ. ಒಮ್ಮೆ ನರಮಂಡಲದ ತರಬೇತಿ ಪಡೆದ ನಂತರ, ಯಾರಾದರೂ ಇನ್ನೊಬ್ಬ ನಟ ಅಥವಾ ದೇಹದ ಮೇಲೆ ವ್ಯಕ್ತಿಯ ಹೋಲಿಕೆಯ ನಕಲನ್ನು ಅತಿಕ್ರಮಿಸಲು ಕಂಪ್ಯೂಟರ್-ಗ್ರಾಫಿಕ್ಸ್ ತಂತ್ರಗಳನ್ನು ಬಳಸಬಹುದು. ಈ ನಕಲು ಮಾಡುವಿಕೆಯಿಂದಾಗಿ ಮಹಿಳಾ ಸೆಲೆಬ್ರಿಟಿಗಳು ಮತ್ತು ನಾಗರಿಕರ ಅಶ್ಲೀಲ ವಸ್ತುಗಳ ಸಂಖ್ಯೆ ಹೆಚ್ಚಾಗುತ್ತಿದೆ, ಅವರ ಚಿತ್ರಗಳನ್ನು ಈ ರೀತಿ ಬಳಸಲಾಗಿದೆ ಎಂದು ತಿಳಿದಿಲ್ಲ. ಸಂಶೋಧನಾ ಸಂಸ್ಥೆ ಸೆನ್ಸಿಟಿ ಎಐ ಪ್ರಕಾರ, ಸರಿಸುಮಾರು 90 ರಿಂದ 95 ಪ್ರತಿಶತದಷ್ಟು ಡೀಪ್‌ಫೇಕ್ ವೀಡಿಯೊಗಳು ಒಮ್ಮತವಿಲ್ಲದ ಅಶ್ಲೀಲತೆಯ ವರ್ಗಕ್ಕೆ ಸೇರುತ್ತವೆ.

ಅಡ್ಡಿಪಡಿಸುವ ಪರಿಣಾಮ

ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಸೇಡು ತೀರಿಸಿಕೊಳ್ಳುವ ಅಶ್ಲೀಲತೆಯ ಅಭ್ಯಾಸವನ್ನು ಹದಗೆಟ್ಟಿದೆ, ಪ್ರಾಥಮಿಕವಾಗಿ ಮಹಿಳೆಯರನ್ನು ಸಾರ್ವಜನಿಕ ಅವಮಾನ ಮತ್ತು ಆಘಾತಕ್ಕೆ ಒಡ್ಡಲು ಗುರಿಪಡಿಸುತ್ತದೆ. ಮಹಿಳೆಯರ ಗೌಪ್ಯತೆ ಮತ್ತು ಸುರಕ್ಷತೆಯು ಎಂಡ್-ಟು-ಎಂಡ್ ನಕಲಿ ವೀಡಿಯೊ ತಂತ್ರಜ್ಞಾನವು ಹೆಚ್ಚು ಶಸ್ತ್ರಾಸ್ತ್ರಗಳನ್ನು ಹೊಂದಿರುವುದರಿಂದ ಅಪಾಯದಲ್ಲಿದೆ, ಉದಾಹರಣೆಗೆ, ಕಿರುಕುಳ, ಬೆದರಿಕೆ, ಕೀಳರಿಮೆ ಮತ್ತು ಮಹಿಳೆಯರನ್ನು ವೈಯಕ್ತಿಕವಾಗಿ ಮತ್ತು ವೃತ್ತಿಪರವಾಗಿ ಕೀಳಾಗಿಸುತ್ತಿದೆ. ಕೆಟ್ಟದಾಗಿ, ಈ ರೀತಿಯ ವಿಷಯದ ವಿರುದ್ಧ ಸಾಕಷ್ಟು ನಿಯಂತ್ರಣವಿಲ್ಲ.

ಉದಾಹರಣೆಗೆ, 2022 ರ ಹೊತ್ತಿಗೆ, 46 US ರಾಜ್ಯಗಳಲ್ಲಿ ಸೇಡಿನ ಅಶ್ಲೀಲ ವಿಷಯವನ್ನು ನಿಷೇಧಿಸಲಾಗಿದೆ ಮತ್ತು ಕೇವಲ ಎರಡು ರಾಜ್ಯಗಳು ತಮ್ಮ ನಿಷೇಧದಲ್ಲಿ ಸಿಂಥೆಟಿಕ್ ಮಾಧ್ಯಮವನ್ನು ಸ್ಪಷ್ಟವಾಗಿ ಒಳಗೊಂಡಿವೆ. ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಕಾನೂನುಬಾಹಿರವಲ್ಲ, ಅವು ಹಕ್ಕುಸ್ವಾಮ್ಯಗಳನ್ನು ಉಲ್ಲಂಘಿಸಿದಾಗ ಅಥವಾ ಮಾನಹಾನಿಕರವಾದಾಗ ಮಾತ್ರ. ಈ ಮಿತಿಗಳು ಸಂತ್ರಸ್ತರಿಗೆ ಕಾನೂನು ಕ್ರಮವನ್ನು ಅನುಸರಿಸಲು ಕಷ್ಟಕರವಾಗಿಸುತ್ತದೆ, ವಿಶೇಷವಾಗಿ ಆನ್‌ಲೈನ್‌ನಲ್ಲಿ ಈ ವಿಷಯವನ್ನು ಶಾಶ್ವತವಾಗಿ ಅಳಿಸಲು ಯಾವುದೇ ಮಾರ್ಗವಿಲ್ಲ.

ಏತನ್ಮಧ್ಯೆ, ಸಂಶ್ಲೇಷಿತ ವಿಷಯದ ಮತ್ತೊಂದು ರೂಪ, ಅವತಾರಗಳು (ಬಳಕೆದಾರರ ಆನ್‌ಲೈನ್ ಪ್ರಾತಿನಿಧ್ಯಗಳು) ಸಹ ಆಕ್ರಮಣಗಳಿಗೆ ಒಳಗಾಗುತ್ತಿವೆ. 2022 ರ ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ವಕಾಲತ್ತು ಸಂಸ್ಥೆ SumOfUs ವರದಿಯ ಪ್ರಕಾರ, ಸಂಸ್ಥೆಯ ಪರವಾಗಿ ಸಂಶೋಧನೆ ನಡೆಸುತ್ತಿರುವ ಮಹಿಳೆಯ ಮೇಲೆ ಮೆಟಾವರ್ಸ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಹರೈಸನ್ ವರ್ಲ್ಡ್ಸ್‌ನಲ್ಲಿ ಹಲ್ಲೆ ಮಾಡಲಾಗಿದೆ ಎಂದು ಆರೋಪಿಸಲಾಗಿದೆ. ಇತರರು ನೋಡುತ್ತಿರುವಾಗ ಮತ್ತೊಬ್ಬ ಬಳಕೆದಾರ ತನ್ನ ಅವತಾರವನ್ನು ಲೈಂಗಿಕವಾಗಿ ನಿಂದಿಸಿದ್ದಾರೆ ಎಂದು ಮಹಿಳೆ ವರದಿ ಮಾಡಿದ್ದಾರೆ. ಸಂತ್ರಸ್ತೆ ಘಟನೆಯನ್ನು ಮೆಟಾ ಅವರ ಗಮನಕ್ಕೆ ತಂದಾಗ, ಸಂಶೋಧಕರು ವೈಯಕ್ತಿಕ ಗಡಿ ಆಯ್ಕೆಯನ್ನು ನಿಷ್ಕ್ರಿಯಗೊಳಿಸಿದ್ದಾರೆ ಎಂದು ಮೆಟಾ ವಕ್ತಾರರು ತಿಳಿಸಿದ್ದಾರೆ. ಡೀಫಾಲ್ಟ್ ಆಗಿ ಸಕ್ರಿಯಗೊಳಿಸಲಾದ ಸುರಕ್ಷತಾ ಮುನ್ನೆಚ್ಚರಿಕೆಯಾಗಿ ಫೆಬ್ರವರಿ 2022 ರಲ್ಲಿ ವೈಶಿಷ್ಟ್ಯವನ್ನು ಪರಿಚಯಿಸಲಾಯಿತು ಮತ್ತು ಅಪರಿಚಿತರು ನಾಲ್ಕು ಅಡಿಗಳೊಳಗೆ ಅವತಾರವನ್ನು ಸಮೀಪಿಸುವುದನ್ನು ತಡೆಯುತ್ತದೆ.

ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಮತ್ತು ಕಿರುಕುಳದ ಪರಿಣಾಮಗಳು

ಡೀಪ್‌ಫೇಕ್‌ಗಳು ಮತ್ತು ಕಿರುಕುಳದ ವ್ಯಾಪಕ ಪರಿಣಾಮಗಳು ಒಳಗೊಂಡಿರಬಹುದು: 

• ಡಿಜಿಟಲ್ ಕಿರುಕುಳ ಮತ್ತು ಆಕ್ರಮಣಕ್ಕಾಗಿ ಬಳಸಲಾಗುವ ಡೀಪ್‌ಫೇಕ್‌ಗಳ ವಿರುದ್ಧ ಜಾಗತಿಕ ನಿಯಂತ್ರಣ ನೀತಿಯನ್ನು ಜಾರಿಗೆ ತರಲು ಸರ್ಕಾರಗಳಿಗೆ ಹೆಚ್ಚಿದ ಒತ್ತಡ.
• ಡೀಪ್‌ಫೇಕ್ ತಂತ್ರಜ್ಞಾನದಿಂದ ಹೆಚ್ಚು ಮಹಿಳೆಯರು ಬಲಿಯಾಗುತ್ತಿದ್ದಾರೆ, ವಿಶೇಷವಾಗಿ ಸೆಲೆಬ್ರಿಟಿಗಳು, ಪತ್ರಕರ್ತರು ಮತ್ತು ಕಾರ್ಯಕರ್ತರು.
• ಡೀಪ್‌ಫೇಕ್ ಕಿರುಕುಳ ಮತ್ತು ಮಾನನಷ್ಟಕ್ಕೆ ಬಲಿಯಾದವರಿಂದ ಮೊಕದ್ದಮೆಗಳ ಹೆಚ್ಚಳ. 
• ಮೆಟಾವರ್ಸ್ ಸಮುದಾಯಗಳಲ್ಲಿ ಅವತಾರಗಳು ಮತ್ತು ಇತರ ಆನ್‌ಲೈನ್ ಪ್ರಾತಿನಿಧ್ಯಗಳ ಕಡೆಗೆ ಅನುಚಿತ ವರ್ತನೆಯ ಹೆಚ್ಚಿದ ಘಟನೆಗಳು.
• ಹೊಸ ಮತ್ತು ಹೆಚ್ಚು ಬಳಸಲು ಸುಲಭವಾದ ಡೀಪ್‌ಫೇಕ್ ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಮತ್ತು ಫಿಲ್ಟರ್‌ಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡಲಾಗುತ್ತಿದೆ, ಅದು ವಾಸ್ತವಿಕ ವಿಷಯವನ್ನು ರಚಿಸಬಹುದು, ಇದು ಒಪ್ಪಿಗೆಯಿಲ್ಲದ ಡೀಪ್‌ಫೇಕ್ ವಿಷಯದ, ವಿಶೇಷವಾಗಿ ಅಶ್ಲೀಲತೆಯ ವ್ಯಾಪಾರೀಕರಣಕ್ಕೆ ಕಾರಣವಾಗುತ್ತದೆ.
• ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮ ಮತ್ತು ವೆಬ್‌ಸೈಟ್ ಹೋಸ್ಟಿಂಗ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ವ್ಯಕ್ತಿಗಳನ್ನು ನಿಷೇಧಿಸುವುದು ಅಥವಾ ಗುಂಪು ಪುಟಗಳನ್ನು ತೆಗೆದುಹಾಕುವುದು ಸೇರಿದಂತೆ ತಮ್ಮ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಲ್ಲಿ ಪ್ರಸಾರವಾಗುವ ವಿಷಯವನ್ನು ಹೆಚ್ಚು ಮೇಲ್ವಿಚಾರಣೆ ಮಾಡಲು ಹೆಚ್ಚು ಹೂಡಿಕೆ ಮಾಡುತ್ತವೆ.

ಪರಿಗಣಿಸಬೇಕಾದ ಪ್ರಶ್ನೆಗಳು

• ಡೀಪ್‌ಫೇಕ್ ಕಿರುಕುಳವನ್ನು ನಿಮ್ಮ ಸರ್ಕಾರ ಹೇಗೆ ಪರಿಹರಿಸುತ್ತಿದೆ?
• ಆನ್‌ಲೈನ್ ಬಳಕೆದಾರರು ಡೀಪ್‌ಫೇಕ್ ರಚನೆಕಾರರಿಂದ ಬಲಿಪಶುವಾಗದಂತೆ ತಮ್ಮನ್ನು ತಾವು ರಕ್ಷಿಸಿಕೊಳ್ಳುವ ಇತರ ಮಾರ್ಗಗಳು ಯಾವುವು?