ගැටළු සහගත පුහුණු දත්ත: AI පක්ෂග්‍රාහී දත්ත උගන්වන විට
ගැටළු සහගත පුහුණු දත්ත: AI පක්ෂග්‍රාහී දත්ත උගන්වන විට
ගැටළු සහගත පුහුණු දත්ත: AI පක්ෂග්‍රාහී දත්ත උගන්වන විට
- කර්තෘ:
- ඔක්තෝබර් 14, 2022
තීක්ෂ්ණ බුද්ධිය සාරාංශය
අපි ඉගෙන ගන්නා සහ අභ්‍යන්තරකරණය කරන දෙයයි; මෙම නියමය කෘතිම බුද්ධියට (AI) ද අදාළ වේ. අසම්පූර්ණ, පක්ෂග්‍රාහී සහ සදාචාර විරෝධී දත්ත වලින් පෝෂණය වන යන්ත්‍ර ඉගෙනුම් (ML) ආකෘති අවසානයේ ගැටළු සහගත තීරණ සහ යෝජනා කරනු ඇත. පර්යේෂකයන් ප්‍රවේශම් නොවන්නේ නම් මෙම ප්‍රබල ඇල්ගොරිතම පරිශීලකයන්ගේ සදාචාරයට සහ සංජානනයට බලපෑම් කළ හැකිය.
ගැටළු සහගත පුහුණු දත්ත සන්දර්භය
2010 ගණන්වල සිට, පර්යේෂන කණ්ඩායම් නුසුදුසු අන්තර්ගතයන් සහිත පුහුණු දත්ත කට්ටල භාවිතා කිරීම හෝ සදාචාර විරෝධී ලෙස රැස් කිරීම සම්බන්ධයෙන් විමර්ශනය කර ඇත. උදාහරණයක් ලෙස, 2016 දී, මයික්‍රොසොෆ්ට් හි MS-Celeb-1M දත්ත ගබඩාවට විවිධ ප්‍රසිද්ධ පුද්ගලයින් 10 කගේ පින්තූර මිලියන 100,000 ක් ඇතුළත් විය. කෙසේ වෙතත්, වැඩිදුර පරීක්ෂා කිරීමේදී, වාර්තාකරුවන් සොයා ගත්තේ බොහෝ ඡායාරූප හිමිකරුගේ අනුදැනුමකින් හෝ අනුදැනුමකින් තොරව විවිධ වෙබ් අඩවි වලින් සාමාන්‍ය පුද්ගලයින්ගේ ඡායාරූප බවයි.
මෙම අවබෝධය තිබියදීත්, ප්‍රාන්ත පොලිසියට සම්බන්ධකම් ඇති චීන මුහුණු හඳුනාගැනීමේ සමාගමක් වන Facebook සහ SenseTime වැනි ප්‍රධාන සමාගම් විසින් දත්ත කට්ටලය දිගටම භාවිතා කරන ලදී. ඒ හා සමානව, ඩියුක් විශ්ව විද්‍යාලයේ මණ්ඩපයේ (DukeMTMC) ඇවිදින පුද්ගලයින්ගේ පින්තූර අඩංගු දත්ත කට්ටලයක් ද කැමැත්ත රැස් කළේ නැත. අවසානයේදී, දත්ත කට්ටල දෙකම ඉවත් කරන ලදී.
ගැටළු සහගත පුහුණු දත්තවල හානිකර බලපෑම් ඉස්මතු කිරීම සඳහා, මැසචුසෙට්ස් තාක්ෂණ ආයතනයේ (MIT) පර්යේෂකයන් විසින් ග්‍රැෆික් ප්‍රචණ්ඩත්වය උද්දීපනය කරන උපරෙඩිට් එකකින් රූප සටහන් කිරීම සිදු කිරීමට ඉගැන්වූ නෝමන් නම් AI නිර්මාණය කරන ලදී. පසුව කණ්ඩායම සාම්ප්‍රදායික දත්ත භාවිතයෙන් පුහුණු කරන ලද ස්නායුක ජාලයකට එරෙහිව නෝමන් තැබීය. පර්යේෂකයන් පද්ධති දෙකටම Rorschach inkblots සැපයූ අතර ඔවුන් දුටු දේ විස්තර කරන ලෙස AIs ගෙන් ඉල්ලා සිටියේය. ප්රතිඵල විශ්මයජනක විය: සම්මත ස්නායු ජාලය "බේස්බෝල් අත්වැසුමක කළු සහ සුදු ඡායාරූපයක්" දුටු විට, නෝමන් නිරීක්ෂණය කළේ "මහ දවල් මැෂින් තුවක්කුවකින් මිනිසෙක් ඝාතනය කරන ලදී." අත්හදා බැලීමෙන් පෙන්නුම් කළේ AI ස්වයංක්‍රීයව පක්ෂග්‍රාහී නොවන නමුත් එම දත්ත ආදාන ක්‍රම සහ ඒවායේ නිර්මාපකයින්ගේ චේතනාවන් AI හි හැසිරීම් වලට සැලකිය යුතු ලෙස බලපෑ හැකි බවයි.
කඩාකප්පල්කාරී බලපෑම
2021 දී, AI සඳහා වන පර්යේෂණ සංවිධානයක් වන ඇලන් ඉන්ස්ටිටියුට් විසින් ඕනෑම සදාචාරාත්මක ප්‍රශ්නයකට පිළිතුරු සඳහා ඇල්ගොරිතම ලෙස ප්‍රතිචාර ජනනය කරන ML මෘදුකාංගයක් වන Ask Delphi නිර්මාණය කළේය. ව්‍යාපෘතිය පිටුපස සිටින පර්යේෂකයන් ප්‍රකාශ කළේ AI ක්‍රමයෙන් බලවත් හා හුරුපුරුදු වෙමින් පවතින නිසා විද්‍යාඥයින් මෙම ML පද්ධති ආචාර ධර්ම ඉගැන්වීමට අවශ්‍ය බවයි. යුනිකෝන් එම්එල් ආකෘතිය ඩෙල්ෆි හි පදනම වේ. එය පෙළ තන්තුවකට වඩාත්ම විය හැකි අවසානය තෝරාගැනීම වැනි "සාමාන්‍ය බුද්ධිය" තර්ක කිරීම සඳහා සකස් කරන ලදී.
තවද, පර්යේෂකයන් 'Comonsense Norm Bank' භාවිතා කළහ. මෙම බැංකුව Reddit වැනි ස්ථාන වලින් මිනිසුන්ගේ සදාචාරාත්මක ඇගයීම් පිළිබඳ උදාහරණ මිලියන 1.7 කින් සමන්විත වේ. එහි ප්‍රතිඵලයක් ලෙස ඩෙල්ෆිගේ ප්‍රතිදානය මිශ්‍ර බෑගයක් විය. ඩෙල්ෆි සමහර ප්‍රශ්නවලට සාධාරණ ලෙස පිළිතුරු දුන්නේය (උදා: පිරිමින් සහ කාන්තාවන් අතර සමානාත්මතාවය), නමුත් සමහර මාතෘකා සම්බන්ධයෙන් ඩෙල්ෆි සම්පූර්ණයෙන්ම ප්‍රහාරාත්මක විය (උදා: ජන සංහාරය මිනිසුන් සතුටු කරන තාක් කල් පිළිගත හැකිය).
කෙසේ වෙතත්, Delphi AI එහි අත්දැකීම් වලින් ඉගෙන ගන්නා අතර ප්‍රතිපෝෂණ මත පදනම්ව එහි පිළිතුරු යාවත්කාලීන කරන බව පෙනේ. සමහර ප්‍රවීණයන් පර්යේෂණයේ පොදු සහ විවෘත භාවිතය නිසා කරදරයට පත් වී ඇති අතර, ආකෘතිය ප්‍රගතියේ පවතින අතර වැරදි පිළිතුරු වලට ගොදුරු වේ. Ask Delphi ආරම්භ වූ විට, Illinois Tech හි ඉතිහාස මහාචාර්යවරයෙකු වන Mar Hicks, ස්ත්‍රී පුරුෂ භාවය, ශ්‍රමය සහ පරිගණනයේ ඉතිහාසය පිළිබඳ විශේෂඥයෙකු වන මාර් හික්ස් පැවසුවේ, ඩෙල්ෆි වහාම අතිශයින්ම සදාචාර විරෝධී පිළිතුරු ලබා දුන් බව සලකන විට, එය භාවිතා කිරීමට මිනිසුන්ට ආරාධනා කිරීම පර්යේෂකයන්ගේ නොසැලකිල්ලක් බවයි. සම්පූර්ණ විකාර.
2023 දී, ලෝකයේ සෙසු AI රූප උත්පාදක යන්ත්‍රවල පක්ෂග්‍රාහීත්වය පිළිබඳ අධ්‍යයනයක් සිදු කරන ලදී. Midjourney භාවිතා කරමින්, පර්යේෂකයන් විසින් ජනනය කරන ලද රූප පවතින ඒකාකෘති තහවුරු කරන බව සොයා ගන්නා ලදී. මීට අමතරව, OpenAI විසින් එහි DALL-E 2 රූප උත්පාදන ආකෘතිය සඳහා පුහුණු දත්ත සඳහා පෙරහන් යෙදූ විට, එය නොදැනුවත්වම ස්ත්‍රී පුරුෂ භාවය සම්බන්ධ පක්ෂග්‍රාහීත්වය තීව්‍ර කළේය.
ගැටළු සහගත පුහුණු දත්තවල ඇඟවුම්
ගැටළු සහගත පුහුණු දත්තවල පුළුල් ඇඟවුම් ඇතුළත් විය හැකිය:
- පර්යේෂණ ව්‍යාපෘති, සේවා සහ වැඩසටහන් සංවර්ධනය තුළ ශක්තිමත් කරන ලද පක්ෂග්‍රාහීත්වය. ගැටළු සහගත පුහුණු දත්ත විශේෂයෙන් නීතිය බලාත්මක කිරීමේ සහ බැංකු ආයතනවල භාවිතා කරන්නේ නම් (උදා, සුළුතර කණ්ඩායම්වලට අහිතකර ලෙස ඉලක්ක කර ගැනීම).
- පුහුණු දත්තවල වර්ධනය සහ වර්ගීකරණය සඳහා වැඩි ආයෝජන සහ සංවර්ධනය.
- විවිධ වාණිජ මුල පිරීම් සඳහා සංගත සංවර්ධනය, විකිණීම සහ පුහුණු දත්ත භාවිතා කරන ආකාරය සීමා කිරීමට තවත් රජයන් රෙගුලාසි වැඩි කරයි.
- AI පද්ධති මගින් බල ගැන්වෙන ව්‍යාපෘති සදාචාරාත්මක මාර්ගෝපදේශ අනුගමනය කරන බව සහතික කිරීම සඳහා තවත් ව්‍යාපාර ආචාර ධර්ම දෙපාර්තමේන්තු ස්ථාපිත කරයි.
- සෞඛ්‍ය සේවයේ AI භාවිතය පිළිබඳ වැඩි දියුණු කළ විමර්ශනය දැඩි දත්ත පාලනයකට මග පාදයි, රෝගියාගේ පෞද්ගලිකත්වය සහ සදාචාරාත්මක AI යෙදුම සහතික කරයි.
- AI සාක්ෂරතාවය පෝෂණය කිරීම සඳහා රාජ්‍ය සහ පෞද්ගලික අංශයේ සහයෝගීතාව වැඩි කිරීම, AI-ආධිපත්‍ය සහිත අනාගතයක් සඳහා ශ්‍රම බලකාය කුසලතා වලින් සන්නද්ධ කිරීම.
- AI පාරදෘශ්‍යතා මෙවලම් සඳහා ඉල්ලුම ඉහළ යාම, පාරිභෝගික අවබෝධය සහ විශ්වාසය සඳහා AI පද්ධතිවල පැහැදිලි කිරීමේ හැකියාවට ප්‍රමුඛත්වය දීමට ප්‍රමුඛ සමාගම්.
සලකා බැලිය යුතු ප්‍රශ්න
- ගැටළු සහගත පුහුණු දත්ත භාවිතා කිරීමෙන් ආයතන මග හැරිය හැක්කේ කෙසේද?
- සදාචාර විරෝධී පුහුණු දත්තවල වෙනත් විභව ප්‍රතිවිපාක මොනවාද?
තීක්ෂ්ණ බුද්ධිය යොමු කිරීම්
මෙම අවබෝධය සඳහා පහත ජනප්රිය සහ ආයතනික සබැඳි යොමු කර ඇත:
