Ҳамоҳангсозии AI: Мутобиқати ҳадафҳои зеҳни сунъӣ ба арзишҳои инсонӣ мувофиқат мекунад

• Муаллиф:
• Номи муаллиф

  Пешгӯии Quantumrun
• Январи соли 25, 2023

Ҳамоҳангсозии зеҳни сунъӣ (AI) вақтест, ки ҳадафҳои системаи AI ба арзишҳои инсонӣ мувофиқат мекунанд. Ширкатҳо ба монанди OpenAI, DeepMind ва Anthropic дорои гурӯҳҳои муҳаққиқон мебошанд, ки ҳадафи ягонаи онҳо омӯзиши паноҳгоҳҳо барои сенарияҳои мухталифе мебошад, ки дар онҳо ин метавонад рух диҳад.

Контексти ҳамоҳангсозии AI

Тибқи як таҳқиқоти тадқиқотии Донишгоҳи Корнел дар соли 2021, якчанд таҳқиқот нишон доданд, ки асбобҳо ё моделҳои аз ҷониби алгоритмҳо сохташуда ғаразеро нишон медиҳанд, ки аз маълумоте, ки дар онҳо омӯхта шудаанд, нишон медиҳанд. Масалан, дар коркарди забони табиӣ (NLP), моделҳои интихобшудаи NLP, ки дар маҷмӯи маълумотҳои маҳдуд таълим дода шудаанд, ҳуҷҷатгузорӣ карда шудаанд, ки пешгӯиҳо дар асоси стереотипҳои гендерии зараровар нисбати занон мебошанд. Ба ҳамин монанд, дигар тадқиқотҳо нишон доданд, ки алгоритмҳои дар маҷмӯи маълумотҳои вайроншуда омӯзонидашуда боиси тавсияҳои ғаразноки нажодӣ, алахусус дар полис гардид.

Мисолҳои зиёде мавҷуданд, ки дар онҳо системаҳои омӯзиши мошинсозӣ барои ақаллиятҳо ё гурӯҳҳое, ки аз нуқсонҳои зиёд азият мекашанд, бадтар кардаанд. Махсусан, таҳлили автоматии рӯй ва ташхиси тиббӣ одатан барои занон ва одамони ранга чандон хуб кор намекунад. Вақте ки системаҳои интиқодӣ, ки бояд ба далелҳо ва мантиқ ба ҷои эҳсосот асос ёбанд, дар контекстҳо ба монанди тақсимоти соҳаи тандурустӣ ё маориф истифода мешаванд, онҳо метавонанд бо роҳи душвортар кардани муайян кардани далелҳои ин тавсияҳо зарари бештар расонанд.

Дар натиҷа, ширкатҳои технологӣ гурӯҳҳои ҳамоҳангсозии AI эҷод мекунанд, то ба нигоҳ доштани алгоритмҳо одилона ва башардӯстона таваҷҷӯҳ кунанд. Таҳқиқот барои фаҳмидани самти системаҳои пешрафтаи AI ва инчунин мушкилоте, ки мо бо афзоиши қобилиятҳои AI дучор мешавем, муҳим аст.

Таъсири вайронкунанда

Ба гуфтаи Ян Лейк, роҳбари ҳамоҳангсозии AI дар OpenAI (2021), бо назардошти он, ки системаҳои AI танҳо дар солҳои 2010-ум қобилиятнок шудаанд, фаҳмо аст, ки аксари таҳқиқоти ҳамоҳангсозии AI аз ҷиҳати назариявӣ вазнин буданд. Вақте ки системаҳои бениҳоят пурқуввати AI ҳамоҳанг карда мешаванд, яке аз мушкилоте, ки одамон бо онҳо рӯ ба рӯ мешаванд, ин аст, ки ин мошинҳо метавонанд қарорҳое эҷод кунанд, ки барои баррасӣ ва арзёбӣ кардани онҳо аз ҷиҳати ахлоқӣ хеле мураккабанд.

Leike стратегияи моделсозии мукофоти рекурсивӣ (RRM) барои ҳалли ин мушкилот таҳия кардааст. Бо RRM, якчанд AI-ҳои "ёрирасон" таълим дода мешаванд, то ба инсон дар арзёбии хуб будани АИ мураккабтар кӯмак расонанд. Вай дар бораи имкони эҷоди чизе, ки ӯро ҳамчун "ҳамоҳангсозии MVP" меноманд, хушбин аст. Дар истилоҳи оғозёбӣ, MVP (ё ҳадди ақали маҳсулоти қобили ҳаёт) соддатарин маҳсулоти имконпазирест, ки ширкат метавонад барои санҷиши идея созад. Умед аст, ки рӯзе AI ба кори инсон дар таҳқиқоти AI ва ҳамоҳангии он бо арзишҳо мувофиқат мекунад ва ҳамзамон функсионалӣ мебошад.

Дар ҳоле ки афзоиши таваҷҷӯҳ ба ҳамоҳангсозии AI як мусбати холис аст, бисёре аз таҳлилгарон дар ин соҳа фикр мекунанд, ки қисми зиёди кори "ахлоқи" дар лабораторияҳои пешбари AI танҳо равобити оммавӣ аст, ки ширкатҳои технологӣ хуб ба назар мерасанд ва аз таблиғоти манфӣ пешгирӣ мекунанд. Ин афрод интизор надоранд, ки таҷрибаҳои рушди ахлоқӣ барои ин ширкатҳо ба зудӣ авлавият пайдо кунанд.

Ин мушоҳидаҳо аҳамияти равишҳои байнисоҳавӣ барои кӯшишҳои ҳамоҳангсозии арзишҳоро таъкид мекунанд, зеро ин як соҳаи нисбатан нави таҳқиқоти ахлоқӣ ва техникӣ мебошад. Соҳаҳои гуногуни дониш бояд як қисми барномаи тадқиқоти фарогир бошанд. Ин ташаббус инчунин ба зарурати технологҳо ва сиёсатмадорон ишора мекунад, ки аз контексти иҷтимоӣ ва ҷонибҳои манфиатдори худ огоҳ бошанд, ҳатто вақте ки системаҳои AI пешрафтатар мешаванд.

Оқибатҳои ҳамоҳангсозии AI

Оқибатҳои васеътари ҳамоҳангсозии AI метавонанд инҳоро дар бар гиранд: 

• Лабораторияҳои зеҳни сунъӣ шӯроҳои гуногуни ахлоқиро барои назорат кардани лоиҳаҳо ва иҷрои дастурҳои ахлоқии AI киро мекунанд. 
• Ҳукуматҳо қонунҳоеро таҳия мекунанд, ки аз ширкатҳо талаб мекунанд, ки чаҳорчӯбаи масъулиятноки AI-и худро пешниҳод кунанд ва чӣ гуна онҳо нақшаи рушди минбаъдаи лоиҳаҳои AI-и худро доранд.
• Афзоиши баҳсҳо дар бораи истифодаи алгоритмҳо дар интихоби кадрҳо, назорати ҷамъиятӣ ва ҳифзи ҳуқуқ.
• Тадқиқотчиён аз лабораторияҳои бузурги AI бо сабаби бархӯрди манфиатҳо байни ахлоқ ва ҳадафҳои корпоративӣ ихроҷ карда мешаванд.
• Фишори бештаре барои ҳукуматҳо барои танзими системаҳои пешрафтаи AI, ки ҳарду бениҳоят тавоноанд, аммо метавонанд ҳуқуқи инсонро поймол кунанд.

Саволҳо барои шарҳ

• Чӣ гуна ширкатҳоро барои системаҳои AI-и эҷодкардаашон ҷавобгар кардан мумкин аст?
• Агар номутаносибии AI вуҷуд дошта бошад, дигар хатарҳои эҳтимолӣ кадомҳоянд?