ក្បួនដោះស្រាយ Franken algorithms ចាញ់បោក

ឥណទានរូបភាព៖

iStock

Franken-Algorithms៖ ក្បួនដោះស្រាយមិនត្រឹមត្រូវ

ជាមួយនឹងការវិវឌ្ឍន៍នៃបញ្ញាសិប្បនិមិត្ត ក្បួនដោះស្រាយកំពុងវិវឌ្ឍលឿនជាងការរំពឹងទុករបស់មនុស្ស។

អ្នកនិពន្ធ:
ឈ្មោះអ្នកនិពន្ធ
ការទស្សន៍ទាយ Quantumrun
ខែមេសា 12, 2023

នៅពេលដែលក្បួនដោះស្រាយការរៀនម៉ាស៊ីន (ML) កាន់តែជឿនលឿន ពួកគេអាចរៀន និងសម្របខ្លួនទៅនឹងគំរូនៅក្នុងសំណុំទិន្នន័យធំដោយខ្លួនឯង។ ដំណើរការនេះ ត្រូវបានគេស្គាល់ថាជា "ការរៀនដោយស្វយ័ត" អាចបណ្តាលឱ្យមានក្បួនដោះស្រាយបង្កើតកូដ ឬច្បាប់ផ្ទាល់ខ្លួនដើម្បីធ្វើការសម្រេចចិត្ត។ បញ្ហានេះគឺថាកូដដែលបង្កើតដោយក្បួនដោះស្រាយអាចនឹងពិបាកឬមិនអាចយល់បានសម្រាប់មនុស្សដែលធ្វើឱ្យវាពិបាកក្នុងការកំណត់ភាពលំអៀង។

បរិបទ Franken-Algorithms

Franken-Algorithms សំដៅលើក្បួនដោះស្រាយ (ច្បាប់ដែលកុំព្យូទ័រធ្វើតាមនៅពេលដំណើរការទិន្នន័យ និងឆ្លើយតបនឹងពាក្យបញ្ជា) ដែលមានភាពស្មុគ្រស្មាញ និងជាប់ទាក់ទងគ្នា ដែលមនុស្សមិនអាចបកស្រាយពួកវាបានទៀតទេ។ ពាក្យនេះគឺជាការស្រមើស្រមៃចំពោះប្រឌិតវិទ្យាសាស្រ្តរបស់ Mary Shelley អំពី "សត្វចម្លែក" ដែលបង្កើតឡើងដោយអ្នកវិទ្យាសាស្ត្រឆ្កួតលោក Dr. Frankenstein ។ ខណៈពេលដែល algorithms និង codes គឺជាបណ្តុំនៃបច្ចេកវិទ្យាធំៗ ហើយបានអនុញ្ញាតឱ្យ Facebook និង Google ក្លាយជាក្រុមហ៊ុនដ៏មានឥទ្ធិពលដែលពួកគេកំពុងមាននៅពេលនេះ វានៅតែមានច្រើនអំពីបច្ចេកវិទ្យាដែលមនុស្សយើងមិនដឹង។

នៅពេលអ្នកសរសេរកម្មវិធីបង្កើតកូដ និងដំណើរការពួកវាតាមរយៈកម្មវិធី ML អនុញ្ញាតឱ្យកុំព្យូទ័រយល់ និងទស្សន៍ទាយលំនាំ។ ខណៈពេលដែលបច្ចេកវិទ្យាធំអះអាងថា algorithms គឺជាកម្មវត្ថុ ដោយសារតែអារម្មណ៍របស់មនុស្ស និងភាពមិនអាចទាយទុកជាមុនបានមិនមានឥទ្ធិពលលើពួកគេនោះ algorithms ទាំងនេះអាចវិវឌ្ឍ និងសរសេរច្បាប់របស់ពួកគេ ដែលនាំទៅរកលទ្ធផលមហន្តរាយ។ កូដដែលបង្កើតដោយក្បួនដោះស្រាយទាំងនេះច្រើនតែស្មុគ្រស្មាញ និងស្រអាប់ ដែលធ្វើឱ្យវាពិបាកសម្រាប់អ្នកស្រាវជ្រាវ ឬអ្នកអនុវត្តក្នុងការបកស្រាយការសម្រេចចិត្តរបស់ក្បួនដោះស្រាយ ឬដើម្បីកំណត់ភាពលំអៀងដែលអាចមានវត្តមាននៅក្នុងដំណើរការធ្វើការសម្រេចចិត្តរបស់ក្បួនដោះស្រាយ។ ការបិទផ្លូវនេះអាចបង្កើតបញ្ហាប្រឈមសំខាន់ៗសម្រាប់អាជីវកម្មដែលពឹងផ្អែកលើក្បួនដោះស្រាយទាំងនេះដើម្បីធ្វើការសម្រេចចិត្ត ដោយសារពួកគេប្រហែលជាមិនអាចយល់ ឬពន្យល់ពីហេតុផលនៅពីក្រោយការសម្រេចចិត្តទាំងនោះ។

ផលប៉ះពាល់រំខាន

នៅពេលដែល Franken-Algorithms មានភាពខុសឆ្គង វាអាចជាបញ្ហានៃជីវិត និងការស្លាប់។ ឧទាហរណ៍មួយគឺឧបទ្ទវហេតុមួយក្នុងឆ្នាំ 2018 ដែលរថយន្តបើកបរដោយខ្លួនឯងនៅរដ្ឋ Arizona បានបុកនិងសម្លាប់ស្ត្រីម្នាក់ដែលជិះកង់។ ក្បួនដោះស្រាយរបស់រថយន្តមិនអាចកំណត់អត្តសញ្ញាណបានត្រឹមត្រូវថានាងជាមនុស្សនោះទេ។ អ្នកជំនាញត្រូវបានហែកហួរដោយមូលហេតុឫសគល់នៃឧប្បត្តិហេតុនេះ — តើរថយន្តត្រូវបានកម្មវិធីមិនត្រឹមត្រូវ ហើយតើក្បួនដោះស្រាយមានភាពស្មុគ្រស្មាញពេកសម្រាប់ផលប្រយោជន៍របស់វាដែរឬទេ? ទោះជាយ៉ាងណាក៏ដោយ អ្វីដែលអ្នកសរសេរកម្មវិធីអាចយល់ស្របនោះគឺថា ចាំបាច់ត្រូវមានប្រព័ន្ធត្រួតពិនិត្យសម្រាប់ក្រុមហ៊ុនសូហ្វវែរ ដែលជាក្រមសីលធម៌។

ទោះជាយ៉ាងណាក៏ដោយ ក្រមសីលធម៌នេះភ្ជាប់មកជាមួយការរុញច្រានពីបច្ចេកវិទ្យាធំៗ ដោយសារពួកគេស្ថិតក្នុងអាជីវកម្មលក់ទិន្នន័យ និងក្បួនដោះស្រាយ ហើយមិនអាចមានលទ្ធភាពគ្រប់គ្រង ឬទាមទារឱ្យមានតម្លាភាព។ លើសពីនេះ ការអភិវឌ្ឍន៍នាពេលថ្មីៗនេះ ដែលបង្កឱ្យមានការព្រួយបារម្ភចំពោះបុគ្គលិកបច្ចេកវិទ្យាធំៗ គឺការប្រើប្រាស់ក្បួនដោះស្រាយដែលកំពុងកើនឡើងនៅក្នុងជួរយោធា ដូចជាភាពជាដៃគូរបស់ Google ជាមួយក្រសួងការពារជាតិសហរដ្ឋអាមេរិក ដើម្បីបញ្ចូលក្បួនដោះស្រាយនៅក្នុងបច្ចេកវិទ្យាយោធា ដូចជាយន្តហោះគ្មានមនុស្សបើកស្វ័យប្រវត្តិជាដើម។ កម្មវិធីនេះបាននាំឱ្យបុគ្គលិកមួយចំនួនលាលែងពីតំណែង ហើយអ្នកជំនាញបានសម្តែងការព្រួយបារម្ភថា ក្បួនដោះស្រាយនៅតែមិនអាចទាយទុកជាមុនបានពេកក្នុងការប្រើជាម៉ាស៊ីនសម្លាប់។

ក្តីបារម្ភមួយទៀតគឺថា Franken-Algorithms អាចបន្តកើតមាន ហើយថែមទាំងពង្រីកភាពលំអៀងដោយសារតែសំណុំទិន្នន័យដែលពួកគេត្រូវបានបណ្តុះបណ្តាល។ ដំណើរការនេះអាចនាំឱ្យមានបញ្ហាសង្គមផ្សេងៗ រួមទាំងការរើសអើង វិសមភាព និងការចាប់ខ្លួនខុស។ ដោយសារតែហានិភ័យកើនឡើងទាំងនេះ ក្រុមហ៊ុនបច្ចេកវិទ្យាជាច្រើនកំពុងចាប់ផ្តើមផ្សព្វផ្សាយគោលការណ៍ណែនាំ AI ប្រកបដោយសីលធម៌របស់ពួកគេដើម្បីឱ្យមានតម្លាភាពអំពីរបៀបដែលពួកគេអភិវឌ្ឍ ប្រើប្រាស់ និងត្រួតពិនិត្យក្បួនដោះស្រាយរបស់ពួកគេ។

ផលប៉ះពាល់កាន់តែទូលំទូលាយសម្រាប់ Franken-Algorithms

ផលប៉ះពាល់សក្តានុពលសម្រាប់ Franken-Algorithms អាចរួមមាន:

ការអភិវឌ្ឍន៍ប្រព័ន្ធស្វយ័តដែលអាចធ្វើការសម្រេចចិត្ត និងធ្វើសកម្មភាពដោយគ្មានការត្រួតពិនិត្យពីមនុស្ស ដោយបង្កើនការព្រួយបារម្ភអំពីការទទួលខុសត្រូវ និងសុវត្ថិភាព។ ទោះជាយ៉ាងណាក៏ដោយ ក្បួនដោះស្រាយបែបនេះអាចកាត់បន្ថយការចំណាយលើការបង្កើតកម្មវិធី និងមនុស្សយន្ត ដែលអាចធ្វើស្វ័យប្រវត្តិកម្មពលកម្មមនុស្សនៅទូទាំងឧស្សាហកម្មភាគច្រើន។
ការត្រួតពិនិត្យបន្ថែមទៀតអំពីរបៀបដែលក្បួនដោះស្រាយអាចធ្វើស្វ័យប្រវត្តិកម្មបច្ចេកវិទ្យាយោធា និងគាំទ្រអាវុធស្វយ័ត និងយានជំនិះ។
សម្ពាធកើនឡើងសម្រាប់រដ្ឋាភិបាល និងអ្នកដឹកនាំឧស្សាហកម្ម ដើម្បីអនុវត្តក្រមសីលធម៌ និងបទប្បញ្ញត្តិក្បួនដោះស្រាយ។
Franken-Algorithms ប៉ះពាល់ដល់ក្រុមប្រជាសាស្រ្តមួយចំនួនដូចជាសហគមន៍ដែលមានចំណូលទាប ឬប្រជាជនជនជាតិភាគតិច។
Franken-Algorithms អាចបន្ត និងពង្រីកការរើសអើង និងភាពលំអៀងក្នុងការសម្រេចចិត្ត ដូចជាការសម្រេចចិត្តជួល និងការផ្តល់ប្រាក់កម្ចីជាដើម។
ក្បួនដោះស្រាយទាំងនេះត្រូវបានប្រើប្រាស់ដោយឧក្រិដ្ឋជនតាមអ៊ីនធឺណិត ដើម្បីតាមដាន និងទាញយកភាពទន់ខ្សោយនៅក្នុងប្រព័ន្ធ ជាពិសេសនៅក្នុងស្ថាប័នហិរញ្ញវត្ថុ។
តួអង្គនយោបាយដោយប្រើក្បួនដោះស្រាយបញ្ឆោតទាំងឡាយដើម្បីធ្វើយុទ្ធនាការទីផ្សារដោយស្វ័យប្រវត្តិដោយប្រើប្រព័ន្ធ AI ទូទៅតាមរបៀបដែលអាចមានឥទ្ធិពលលើមតិសាធារណៈ និងការបោះឆ្នោត។