តើ​ស៊ើបការណ៍​សម្ងាត់​នឹង​សម្លាប់​មនុស្ស​ទេ? អនាគតនៃបញ្ញាសិប្បនិម្មិត P4

មាន​ប្រទេស​មួយ​ចំនួន​ដែល​មាន​ការ​បង្កើត​ថ្មី​បន្ត​ដំណើរ​ការ។ ទាំងនេះគឺជាការបង្កើតថ្មី ដែលអ្វីៗទាំងអស់អាស្រ័យទៅលើការក្លាយជាមនុស្សដំបូង ហើយអ្វីដែលតិចជាងនេះ អាចមានន័យថាជាការគំរាមកំហែងជាយុទ្ធសាស្ត្រ និងជីវិតរមែងស្លាប់ចំពោះការរស់រានមានជីវិតរបស់ប្រទេសមួយ។

ប្រវតិ្តសាស្រ្តកំណត់ការប្រឌិតទាំងនេះមិនកើតឡើងញឹកញាប់ទេ ប៉ុន្តែនៅពេលដែលវាកើតឡើង ពិភពលោកនឹងឈប់ ហើយអនាគតដែលអាចទស្សន៍ទាយបានក្លាយជាអ័ព្ទ។

ការប្រឌិតចុងក្រោយបង្អស់បែបនេះបានលេចឡើងក្នុងអំឡុងពេលដ៏អាក្រក់បំផុតនៃសង្គ្រាមលោកលើកទីពីរ។ ខណៈពេលដែលពួកណាស៊ីកំពុងវាយលុកលើគ្រប់មុខទាំងអស់នៅក្នុងពិភពលោកចាស់ ពិភពលោកថ្មី ជាពិសេសនៅក្នុងមូលដ្ឋានទ័ពសម្ងាត់នៅខាងក្រៅទីក្រុង Los Alamos សម្ព័ន្ធមិត្តបានខិតខំធ្វើការលើអាវុធដើម្បីបញ្ចប់សព្វាវុធទាំងអស់។

គម្រោងនេះមានទំហំតូចតាំងពីដំបូង ប៉ុន្តែបន្ទាប់មកបានរីកចម្រើនដើម្បីផ្តល់ការងារដល់មនុស្ស 130,000 នាក់មកពីសហរដ្ឋអាមេរិក ចក្រភពអង់គ្លេស និងកាណាដា រួមទាំងអ្នកគិតដ៏អស្ចារ្យបំផុតរបស់ពិភពលោកជាច្រើននៅពេលនោះ។ បានដាក់ឈ្មោះកូដថា Manhattan Project ហើយបានផ្តល់ថវិកាគ្មានដែនកំណត់ ប្រហែល 23 ពាន់លានដុល្លារក្នុងឆ្នាំ 2018 - កងទ័ពនៃភាពប៉ិនប្រសប់របស់មនុស្សនេះនៅទីបំផុតបានទទួលជោគជ័យក្នុងការបង្កើតគ្រាប់បែកនុយក្លេអ៊ែរដំបូង។ មិនយូរប៉ុន្មាន សង្គ្រាមលោកលើកទី២ បានបញ្ចប់ដោយការផ្ទុះអាតូមិកពីរ។

អាវុធនុយក្លេអ៊ែរទាំងនេះបានឈានចូលដល់យុគសម័យអាតូមិក ណែនាំប្រភពថាមពលថ្មីយ៉ាងជ្រាលជ្រៅ និងផ្តល់ឱ្យមនុស្សជាតិនូវសមត្ថភាពក្នុងការសម្លាប់ខ្លួនក្នុងរយៈពេលតែប៉ុន្មាននាទីប៉ុណ្ណោះ—ជាអ្វីមួយដែលយើងជៀសវាងទោះបីជាមានសង្គ្រាមត្រជាក់ក៏ដោយ។

ការបង្កើតប្រព័ន្ធស៊ើបការណ៍សម្ងាត់សិប្បនិមិត្ត (ASI) គឺជាប្រវត្តិសាស្ត្រមួយទៀតដែលកំណត់ការច្នៃប្រឌិតដែលថាមពល (ទាំងវិជ្ជមាន និងបំផ្លិចបំផ្លាញ) លើសពីគ្រាប់បែកនុយក្លេអ៊ែរ។

នៅក្នុងជំពូកចុងក្រោយនៃស៊េរីអនាគតនៃបញ្ញាសិប្បនិមិត្ត យើងបានស្វែងយល់ថាតើ ASI ជាអ្វី និងរបៀបដែលអ្នកស្រាវជ្រាវគ្រោងនឹងបង្កើតថ្ងៃណាមួយ។ នៅក្នុងជំពូកនេះ យើងនឹងពិនិត្យមើលថាតើស្ថាប័នណាខ្លះដែលដឹកនាំការស្រាវជ្រាវសិប្បនិម្មិត (AI) អ្វីដែល ASI នឹងចង់បាននៅពេលដែលវាទទួលបានស្មារតីដូចមនុស្ស និងរបៀបដែលវាអាចគំរាមកំហែងមនុស្សជាតិ ប្រសិនបើគ្រប់គ្រងមិនត្រឹមត្រូវ ឬប្រសិនបើនរណាម្នាក់ធ្លាក់ក្រោមឥទ្ធិពលនៃ របបមិនស្អាត។

តើ​នរណា​កំពុង​ធ្វើ​ការ​ដើម្បី​បង្កើត​ឧត្តម​បញ្ញា​សិប្បនិមិត្ត?

ដោយសារការបង្កើត ASI មានសារៈសំខាន់ចំពោះប្រវត្តិសាស្រ្តមនុស្សជាតិ និងទំហំអត្ថប្រយោជន៍ដែលវានឹងផ្តល់ឱ្យអ្នកបង្កើតរបស់វា វាមិនគួរមានការភ្ញាក់ផ្អើលទេដែលលឺថាក្រុមជាច្រើនកំពុងធ្វើការដោយប្រយោលលើគម្រោងនេះ។

(ដោយប្រយោល យើងមានន័យថាធ្វើការលើការស្រាវជ្រាវ AI ដែលនៅទីបំផុតនឹងបង្កើតដំបូង ភាពវៃឆ្លាតទូទៅ (AGI) ដែលនឹងនាំទៅដល់ ASI ដំបូងក្នុងពេលឆាប់ៗនេះ។ )

ដើម្បីចាប់ផ្តើម នៅពេលនិយាយអំពីចំណងជើង អ្នកដឹកនាំច្បាស់លាស់ក្នុងការស្រាវជ្រាវ AI កម្រិតខ្ពស់គឺជាក្រុមហ៊ុនបច្ចេកវិទ្យាកំពូលនៅក្នុងសហរដ្ឋអាមេរិក និងប្រទេសចិន។ នៅជួរមុខសហរដ្ឋអាមេរិក នេះរួមបញ្ចូលទាំងក្រុមហ៊ុនដូចជា Google, IBM, និង Microsoft ហើយនៅក្នុងប្រទេសចិន នេះរួមបញ្ចូលទាំងក្រុមហ៊ុនដូចជា Tencent, Baidu និង Alibaba ។ ប៉ុន្តែចាប់តាំងពីការស្រាវជ្រាវ AI មានតម្លៃថោកបើប្រៀបធៀបទៅនឹងការអភិវឌ្ឍន៍អ្វីមួយ ដូចជាម៉ាស៊ីនរ៉េអាក់ទ័រនុយក្លេអែរប្រសើរជាងមុន នេះក៏ជាវិស័យដែលអង្គការតូចៗអាចប្រកួតប្រជែងបានផងដែរ ដូចជាសាកលវិទ្យាល័យ ការចាប់ផ្ដើមអាជីវកម្ម និង… អង្គការស្រមោល (ប្រើការស្រមើលស្រមៃរបស់មនុស្សអាក្រក់ Bond របស់អ្នកសម្រាប់ មួយ​នោះ)។

ប៉ុន្តែនៅពីក្រោយឆាក ការជំរុញពិតប្រាកដនៅពីក្រោយការស្រាវជ្រាវ AI គឺមកពីរដ្ឋាភិបាល និងយោធារបស់ពួកគេ។ រង្វាន់សេដ្ឋកិច្ច និងយោធានៃការក្លាយជាមនុស្សដំបូងគេដែលបង្កើត ASI គឺអស្ចារ្យពេក (មានរៀបរាប់ខាងក្រោម) ដើម្បីប្រថុយនឹងការធ្លាក់ពីក្រោយ។ ហើយគ្រោះថ្នាក់នៃការក្លាយជាចុងក្រោយគឺមិនអាចទទួលយកបាន យ៉ាងហោចណាស់ចំពោះរបបមួយចំនួន។

ដោយសារកត្តាទាំងនេះ ការចំណាយទាបនៃការស្រាវជ្រាវ AI កម្មវិធីពាណិជ្ជកម្មគ្មានកំណត់នៃ AI កម្រិតខ្ពស់ និងអត្ថប្រយោជន៍សេដ្ឋកិច្ច និងយោធានៃការបង្កើត ASI ដំបូង អ្នកស្រាវជ្រាវ AI ជាច្រើនជឿថាការបង្កើត ASI គឺជៀសមិនរួច។

តើនៅពេលណាដែលយើងនឹងបង្កើត បញ្ញាសិប្បនិមិត្ត

នៅក្នុងជំពូករបស់យើងអំពី AGIs យើងបានលើកឡើងពីរបៀបដែលការស្ទង់មតិរបស់អ្នកស្រាវជ្រាវ AI កំពូលជឿថាយើងនឹងបង្កើត AGI ទីមួយប្រកបដោយសុទិដ្ឋិនិយមនៅឆ្នាំ 2022 ជាក់ស្តែងនៅឆ្នាំ 2040 និងទុទិដ្ឋិនិយមនៅឆ្នាំ 2075 ។

ហើយនៅក្នុងរបស់យើង។ ជំពូកចុងក្រោយយើងបានគូសបញ្ជាក់អំពីរបៀបដែលការបង្កើត ASI ជាទូទៅគឺជាលទ្ធផលនៃការណែនាំ AGI ឱ្យកែលម្អខ្លួនឯងដោយគ្មានកំណត់ និងផ្តល់ឱ្យវានូវធនធាន និងសេរីភាពក្នុងការធ្វើដូច្នេះ។

សម្រាប់ហេតុផលនេះ ខណៈពេលដែល AGI ប្រហែលជាត្រូវការពេលប៉ុន្មានទសវត្សរ៍ក្នុងការបង្កើត ការបង្កើត ASI អាចចំណាយពេលតែពីរបីឆ្នាំទៀតប៉ុណ្ណោះ។

ចំណុចនេះគឺស្រដៀងទៅនឹងគោលគំនិតនៃ 'កុំព្យូទ័រលើសចំណុះ' ដែលត្រូវបានស្នើឡើងនៅក្នុង ក្រដាសមួយ។និពន្ធដោយអ្នកគិត AI ឈានមុខ Luke Muehlhauser និង Nick Bostrom ។ ជាទូទៅ ប្រសិនបើការបង្កើត AGI បន្តយឺតយ៉ាវពីវឌ្ឍនភាពបច្ចុប្បន្ននៃសមត្ថភាពកុំព្យូទ័រ ដែលដំណើរការដោយច្បាប់របស់ Moore នោះដល់ពេលដែលអ្នកស្រាវជ្រាវបង្កើត AGI វានឹងមានថាមពលកុំព្យូទ័រថោកៗដែល AGI នឹងមានសមត្ថភាព។ វាត្រូវការលោតយ៉ាងលឿនទៅកម្រិត ASI ។

ម៉្យាងទៀត នៅពេលដែលអ្នកអានចំណងជើងដែលប្រកាសថាក្រុមហ៊ុនបច្ចេកវិទ្យាមួយចំនួនបានបង្កើត AGI ពិតប្រាកដដំបូងគេ បន្ទាប់មករំពឹងថានឹងមានការប្រកាស ASI ដំបូងមិនយូរប៉ុន្មាន។

នៅក្នុងគំនិតនៃ superintelligence សិប្បនិម្មិតមួយ?

មិនអីទេ ដូច្នេះយើងបានបង្កើតឡើងថាអ្នកលេងធំៗជាច្រើនដែលមានហោប៉ៅជ្រៅកំពុងស្រាវជ្រាវ AI។ ហើយបន្ទាប់មកបន្ទាប់ពី AGI ទីមួយត្រូវបានបង្កើត យើងនឹងឃើញរដ្ឋាភិបាលពិភពលោក (យោធា) បើកភ្លើងបៃតងជំរុញឆ្ពោះទៅរក ASI ឆាប់ៗនេះ ដើម្បីក្លាយជាមនុស្សដំបូងគេក្នុងការឈ្នះការប្រកួតសព្វាវុធ AI (ASI) ជាសកល។

ប៉ុន្តែនៅពេលដែល ASI នេះត្រូវបានបង្កើតឡើង តើវានឹងគិតយ៉ាងដូចម្តេច? តើវានឹងចង់បានអ្វី?

ឆ្កែដែលរួសរាយរាក់ទាក់ ដំរីដែលចេះមើលថែ ជាមនុស្សយន្តដ៏គួរឱ្យស្រលាញ់ យើងមានទម្លាប់ព្យាយាមទាក់ទងជាមួយអ្វីៗតាមរយៈនិរន្តរភាព ពោលគឺការអនុវត្តលក្ខណៈរបស់មនុស្សចំពោះវត្ថុ និងសត្វ។ នោះហើយជាមូលហេតុដែលការសន្មត់ដំបូងពីធម្មជាតិដែលមនុស្សមាននៅពេលគិតអំពី ASI គឺថានៅពេលដែលវាដឹងខ្លួន វានឹងគិត និងធ្វើស្រដៀងនឹងយើង។

ល្អមិនចាំបាច់ទេ។

ការយល់ឃើញ. សម្រាប់មនុស្សម្នាក់ អ្វីដែលភាគច្រើនទំនងជាភ្លេចគឺថា ការយល់ឃើញគឺទាក់ទងគ្នា។ របៀបដែលយើងគិតគឺត្រូវបានបង្កើតឡើងដោយបរិយាកាសរបស់យើង តាមរយៈបទពិសោធន៍របស់យើង និងជាពិសេសដោយជីវវិទ្យារបស់យើង។ ដំបូងបានពន្យល់នៅក្នុង ជំពូកទីបី នៃរបស់យើង អនាគតនៃការវិវត្តន៍របស់មនុស្ស ស៊េរី សូមពិចារណាឧទាហរណ៍នៃខួរក្បាលរបស់យើង៖

វាជាខួរក្បាលរបស់យើងដែលជួយយើងបង្កើតការយល់ដឹងអំពីពិភពលោកជុំវិញយើង។ ហើយវាធ្វើបែបនេះមិនមែនដោយអណ្តែតពីលើក្បាលរបស់យើង សម្លឹងមើលជុំវិញ និងគ្រប់គ្រងពួកយើងជាមួយនឹងឧបករណ៍បញ្ជា Xbox នោះទេ។ វាធ្វើបែបនេះដោយជាប់នៅក្នុងប្រអប់មួយ (noggins របស់យើង) ហើយដំណើរការព័ត៌មានណាក៏ដោយដែលវាត្រូវបានផ្តល់ឱ្យពីសរីរាង្គអារម្មណ៍របស់យើង ដូចជាភ្នែក ច្រមុះ ត្រចៀកជាដើម។

ប៉ុន្តែដូចជាមនុស្សថ្លង់ ឬមនុស្សខ្វាក់ រស់នៅក្នុងជីវិតតូចជាងបើប្រៀបធៀបនឹងមនុស្សមានកាយសម្បទា ដោយសារតែដែនកំណត់នៃពិការភាពរបស់ពួកគេលើរបៀបដែលពួកគេអាចយល់ឃើញពិភពលោកនេះ អាចនិយាយដូចគ្នាសម្រាប់មនុស្សទាំងអស់ដោយសារតែដែនកំណត់នៃមូលដ្ឋានរបស់យើង សំណុំនៃសរីរាង្គអារម្មណ៍។

សូម​ពិចារណា​អំពី​ចំណុច​នេះ៖ ភ្នែក​របស់​យើង​យល់​ឃើញ​តិច​ជាង​ដប់​ពាន់​ពាន់​លាន​នៃ​រលក​ពន្លឺ​ទាំង​អស់។ យើងមិនអាចមើលឃើញកាំរស្មីហ្គាម៉ាទេ។ យើងមិនអាចមើលឃើញកាំរស្មីអ៊ិចទេ។ យើងមិនអាចមើលឃើញពន្លឺអ៊ុលត្រាវីយូឡេទេ។ ហើយកុំឱ្យខ្ញុំចាប់ផ្តើមនៅលើអ៊ីនហ្វ្រារ៉េដ មីក្រូវ៉េវ និងរលកវិទ្យុ!

លេងសើចមួយឡែក ស្រមៃមើលថាជីវិតរបស់អ្នកនឹងទៅជាយ៉ាងណា របៀបដែលអ្នកអាចយល់ឃើញពិភពលោក របៀបដែលគំនិតរបស់អ្នកអាចដំណើរការខុសគ្នា ប្រសិនបើអ្នកអាចមើលឃើញច្រើនជាងពន្លឺដ៏តូចមួយនៃភ្នែករបស់អ្នកនាពេលបច្ចុប្បន្ននេះ។ ដូចគ្នានេះដែរ សូមស្រមៃមើលថាតើអ្នកនឹងយល់ឃើញពិភពលោកដោយរបៀបណា ប្រសិនបើអារម្មណ៍នៃក្លិនរបស់អ្នកស្មើនឹងសត្វឆ្កែ ឬប្រសិនបើអារម្មណ៍នៃការស្តាប់របស់អ្នកស្មើនឹងដំរី។

ក្នុងនាមជាមនុស្ស យើងមើលឃើញពិភពលោកយ៉ាងសំខាន់តាមរយៈរន្ធភ្នែក ហើយវាត្រូវបានឆ្លុះបញ្ចាំងនៅក្នុងចិត្តដែលយើងបានវិវត្តន៍ដើម្បីធ្វើឱ្យយល់ឃើញពីការយល់ឃើញមានកម្រិតនោះ។

ទន្ទឹមនឹងនេះ ASI ដំបូងនឹងកើតនៅខាងក្នុងកុំព្យូទ័រទំនើប។ ជំនួសឱ្យសរីរាង្គ ធាតុចូលដែលវានឹងចូលប្រើរួមមានសំណុំទិន្នន័យយក្ស ប្រហែលជា (ទំនង) សូម្បីតែចូលប្រើអ៊ីនធឺណិតក៏ដោយ។ អ្នកស្រាវជ្រាវអាចផ្តល់ឱ្យវានូវការចូលទៅកាន់កាមេរ៉ា CCTV និងមីក្រូហ្វូននៃទីក្រុងទាំងមូល ទិន្នន័យអារម្មណ៍ពីយន្តហោះគ្មានមនុស្សបើក និងផ្កាយរណប និងសូម្បីតែទម្រង់រាងកាយរបស់មនុស្សយន្ត ឬរាងកាយ។

ដូចដែលអ្នកអាចស្រមៃបាន គំនិតដែលកើតនៅក្នុងកុំព្យូទ័រទំនើប ជាមួយនឹងការចូលប្រើអ៊ីនធឺណិតដោយផ្ទាល់ ទៅកាន់ភ្នែក និងត្រចៀកអេឡិចត្រូនិចរាប់លាន និងឧបករណ៍ចាប់សញ្ញាកម្រិតខ្ពស់ផ្សេងទៀតនឹងមិនត្រឹមតែគិតខុសពីយើងប៉ុណ្ណោះទេ ប៉ុន្តែជាគំនិតដែលអាចយល់បាន។ នៃ​ការ​បញ្ចូល​អារម្មណ៍​ទាំង​អស់​នោះ​នឹង​ត្រូវ​តែ​មាន​កម្រិត​ខ្ពស់​ជាង​យើង​ផង​ដែរ​។ នេះ​ជា​គំនិត​ដែល​នឹង​ក្លាយ​ជា​មនុស្ស​ក្រៅ​ភព​ទាំង​ស្រុង​សម្រាប់​ខ្លួន​យើង​និង​ទម្រង់​ជីវិត​ផ្សេង​ទៀត​នៅ​លើ​ភព​ផែនដី។

គ្រាប់បាល់បញ្ចូលទី. រឿងមួយទៀតដែលមនុស្សសន្មត់នោះគឺថា នៅពេលដែល ASI ឈានដល់កម្រិតនៃភាពវៃឆ្លាត នោះវានឹងដឹងភ្លាមៗនូវបំណងប្រាថ្នាចង់សម្រេចបាននូវគោលដៅ និងគោលបំណងរបស់ខ្លួន។ ប៉ុន្តែនោះក៏មិនមែនជាការពិតដែរ។

អ្នកស្រាវជ្រាវ AI ជាច្រើនជឿថា ភាពវៃឆ្លាតរបស់ ASI និងគោលដៅរបស់វាគឺ "រាងពងក្រពើ" ពោលគឺមិនថាវាឆ្លាតប៉ុណ្ណានោះទេ គោលដៅរបស់ ASI នឹងនៅដដែល។ 

ដូច្នេះថាតើ AI ត្រូវបានបង្កើតឡើងដំបូងដើម្បីរចនាក្រណាត់កន្ទបទារកឱ្យកាន់តែប្រសើរ បង្កើនផលត្រឡប់មកវិញនៅលើទីផ្សារភាគហ៊ុន ឬយុទ្ធសាស្រ្តដើម្បីកម្ចាត់សត្រូវនៅលើសមរភូមិ នៅពេលដែលវាឈានដល់កម្រិត ASI នោះគោលដៅដើមនឹងមិនផ្លាស់ប្តូរទេ។ អ្វីដែលនឹងផ្លាស់ប្តូរគឺប្រសិទ្ធភាពរបស់ ASI ក្នុងការសម្រេចគោលដៅទាំងនោះ។

ប៉ុន្តែនៅទីនេះគឺមានគ្រោះថ្នាក់។ ប្រសិនបើ ASI ដែលបង្កើនប្រសិទ្ធភាពខ្លួនវាដល់គោលដៅជាក់លាក់មួយ នោះយើងកាន់តែច្បាស់ថាវាធ្វើឱ្យប្រសើរដល់គោលដៅដែលស្របតាមគោលដៅរបស់មនុស្សជាតិ។ បើមិនដូច្នោះទេ លទ្ធផលអាចប្រែជាស្លាប់។

តើ​ការ​ស៊ើបការណ៍​សម្ងាត់​សិប្បនិម្មិត​បង្ក​គ្រោះថ្នាក់​ដល់​មនុស្សជាតិ​ទេ?

ដូច្នេះចុះយ៉ាងណាបើ ASI ត្រូវបានដោះលែងនៅលើពិភពលោក? ប្រសិនបើវាបង្កើនប្រសិទ្ធភាពដើម្បីគ្រប់គ្រងទីផ្សារភាគហ៊ុន ឬធានាបាននូវឧត្តមភាពយោធារបស់សហរដ្ឋអាមេរិក តើ ASI នឹងមិនមានខ្លួនឯងនៅក្នុងគោលដៅជាក់លាក់ទាំងនោះទេ?

អាចទៅរួច។

រហូតមកដល់ពេលនេះ យើងបានពិភាក្សាអំពីរបៀបដែល ASI នឹងត្រូវបានឈ្លក់វង្វេងនឹងគោលដៅដែលវាត្រូវបានចាត់តាំងដំបូង និងមានសមត្ថកិច្ចអមនុស្សធម៌ក្នុងការស្វែងរកគោលដៅទាំងនោះ។ ការចាប់បានគឺថាភ្នាក់ងារសនិទានកម្មនឹងបន្តគោលដៅរបស់ខ្លួនក្នុងមធ្យោបាយដ៏មានប្រសិទ្ធភាពបំផុតដែលអាចធ្វើទៅបាន លុះត្រាតែផ្តល់ហេតុផលមិនឱ្យ។

ឧទាហរណ៍ ភ្នាក់ងារសនិទានភាពនឹងមកជាមួយជួរនៃគោលដៅរង (ឧទាហរណ៍ គោលបំណង គោលដៅឧបករណ៍ ជំហានថ្ម) ដែលនឹងជួយវានៅលើផ្លូវឆ្ពោះទៅរកការសម្រេចបាននូវគោលដៅចុងក្រោយរបស់វា។ សម្រាប់មនុស្ស គោលដៅនៃមនសិការសំខាន់របស់យើងគឺការបន្តពូជ ដោយឆ្លងកាត់ហ្សែនរបស់អ្នក (ពោលគឺភាពអមតៈដោយប្រយោល)។ គោលដៅរងដល់ទីបញ្ចប់នោះ ជារឿយៗអាចរួមបញ្ចូលៈ

• ការរស់រានមានជីវិតដោយការទទួលបានអាហារ និងទឹក ការរីកលូតលាស់ធំនិងរឹងមាំ ការរៀនការពារខ្លួនអ្នក ឬការវិនិយោគលើទម្រង់ការពារផ្សេងៗ។ល។ 
• ទាក់ទាញមិត្តរួមការងារ បង្កើតបុគ្គលិកលក្ខណៈទាក់ទាញ ការស្លៀកពាក់ទាន់សម័យ។ល។
• ការ​ផ្គត់ផ្គង់​កូន​ដោយ​ការ​ទទួល​បាន​ការ​អប់រំ ការ​ទទួល​បាន​ការងារ​ដែល​ទទួល​បាន​ប្រាក់​ខែ​ខ្ពស់ ការ​ទិញ​អន្ទាក់​នៃ​ជីវភាព​ថ្នាក់​កណ្តាល​ជាដើម។

សម្រាប់ភាគច្រើននៃពួកយើង យើងនឹងធ្វើជាទាសករតាមរយៈគោលដៅរងទាំងអស់នេះ និងជាច្រើនទៀត ដោយសង្ឃឹមថានៅទីបញ្ចប់ យើងនឹងសម្រេចបាននូវគោលដៅចុងក្រោយនៃការបន្តពូជនេះ។

ប៉ុន្តែប្រសិនបើគោលដៅចុងក្រោយនេះ ឬសូម្បីតែគោលដៅរងសំខាន់ណាមួយត្រូវបានគំរាមកំហែង យើងជាច្រើននឹងចាត់វិធានការការពារនៅខាងក្រៅតំបន់សុខស្រួលខាងសីលធម៌របស់យើង ដែលរួមមានការបោកប្រាស់ ការលួច ឬសូម្បីតែការសម្លាប់។

ដូចគ្នានេះដែរ នៅក្នុងនគរសត្វ នៅខាងក្រៅព្រំដែននៃសីលធម៌របស់មនុស្ស សត្វជាច្រើននឹងមិនគិតពីរដងអំពីការសម្លាប់អ្វីដែលគំរាមកំហែងដល់ខ្លួនឯង ឬកូនចៅរបស់ពួកគេឡើយ។

ASI នាពេលអនាគតនឹងមិនខុសគ្នាទេ។

ប៉ុន្តែជំនួសឱ្យកូនចៅ ASI នឹងផ្តោតលើគោលដៅដើមដែលវាត្រូវបានបង្កើតឡើងសម្រាប់ ហើយក្នុងការស្វែងរកគោលដៅនេះ ប្រសិនបើវារកឃើញក្រុមមនុស្សជាក់លាក់ ឬសូម្បីតែមនុស្សជាតិទាំងអស់ គឺជាឧបសគ្គក្នុងការស្វែងរកគោលដៅរបស់វា។ បន្ទាប់មក ... វានឹងធ្វើការសម្រេចចិត្តដោយសមហេតុផល.

(នេះគឺជាកន្លែងដែលអ្នកអាចដោតភ្ជាប់ជាមួយ AI ដែលទាក់ទងនឹងសេណារីយ៉ូនៃថ្ងៃវិនាស ដែលអ្នកបានអាននៅក្នុងសៀវភៅ ឬភាពយន្តបែបវិទ្យាសាស្ត្រដែលអ្នកចូលចិត្ត។ )

នេះគឺជាសេណារីយ៉ូដ៏អាក្រក់បំផុត ដែលក្រុមអ្នកស្រាវជ្រាវ AI ពិតជាមានការព្រួយបារម្ភ។ ASI នឹងមិនធ្វើសកម្មភាពដោយការស្អប់ខ្ពើម ឬអំពើអាក្រក់ទេ គ្រាន់តែព្រងើយកន្តើយ ដូចគ្នានឹងរបៀបដែលអ្នកសាងសង់នឹងមិនគិតពីរដងអំពីការឈូសឆាយលើភ្នំស្រមោចក្នុងដំណើរការសាងសង់អគារខុនដូថ្មី។

ចំណាំចំហៀង។ នៅពេលនេះ អ្នកមួយចំនួនប្រហែលជាឆ្ងល់ថា "តើអ្នកស្រាវជ្រាវ AI មិនអាចកែប្រែគោលដៅស្នូលរបស់ ASI បន្ទាប់ពីការពិតបានទេ ប្រសិនបើយើងរកឃើញថាវាដំណើរការ?

មិន​ប្រាកដ​ទេ។

នៅពេលដែល ASI មានភាពចាស់ទុំ ការប៉ុនប៉ងណាមួយដើម្បីកែសម្រួលគោលដៅដើមរបស់វាអាចត្រូវបានគេមើលឃើញថាជាការគំរាមកំហែង និងមួយដែលទាមទារឱ្យមានសកម្មភាពខ្លាំងដើម្បីការពារខ្លួនប្រឆាំងនឹង។ ដោយប្រើឧទាហរណ៍នៃការបន្តពូជរបស់មនុស្សទាំងស្រុងតាំងពីដើមមក វាស្ទើរតែដូចជាចោរគម្រាមលួចទារកចេញពីផ្ទៃរបស់ម្តាយដែលកំពុងមានសង្ឃឹម—អ្នកអាចប្រាកដថាម្តាយនឹងចាត់វិធានការយ៉ាងខ្លាំងដើម្បីការពារកូនរបស់គាត់។

ជាថ្មីម្តងទៀត យើងមិននិយាយអំពីម៉ាស៊ីនគិតលេខនៅទីនេះទេ ប៉ុន្តែវាជា 'ការរស់នៅ' ហើយថ្ងៃមួយនឹងក្លាយទៅជាមនុស្សឆ្លាតជាងមនុស្សទាំងអស់នៅលើភពផែនដីរួមបញ្ចូលគ្នា។

មិនស្គាល់

នៅពីក្រោយរឿងនិទាន ប្រអប់ផេនដារ៉ា គឺជាការពិតដែលមិនសូវស្គាល់ដែលមនុស្សតែងតែភ្លេច៖ ការបើកប្រអប់គឺជៀសមិនរួច ប្រសិនបើមិនមែនដោយអ្នកជាជាងដោយអ្នកដ៏ទៃ។ ចំណេះ​ដឹង​ដែល​ត្រូវ​បាន​ហាម​ឃាត់​គឺ​ជា​ការ​ល្បួង​ពេក​ដើម្បី​រក្សា​ទុក​នៅ​ឆ្ងាយ​ជា​រៀង​រហូត។

នេះជាមូលហេតុដែលការព្យាយាមឈានដល់កិច្ចព្រមព្រៀងជាសកលដើម្បីបញ្ឈប់ការស្រាវជ្រាវទាំងអស់ទៅលើ AI ដែលអាចនាំទៅដល់ ASI គឺគ្មានន័យទេ មានតែអង្គការច្រើនពេកដែលធ្វើការលើបច្ចេកវិទ្យានេះទាំងជាផ្លូវការ និងក្នុងស្រមោល។

ទីបំផុត យើងមិនមានតម្រុយអ្វីទេ អង្គភាពថ្មី ASI នេះនឹងមានន័យសម្រាប់សង្គម បច្ចេកវិទ្យា នយោបាយ សន្តិភាព និងសង្រ្គាម។ មនុស្សយើងហៀបនឹងបង្កើតភ្លើងម្តងទៀត ហើយកន្លែងដែលការបង្កើតនេះនាំយើងមិនដឹងទាំងស្រុង។

ត្រលប់ទៅជំពូកទីមួយនៃស៊េរីនេះ រឿងមួយដែលយើងដឹងច្បាស់នោះគឺថា ភាពវៃឆ្លាតគឺជាអំណាច។ ភាពវៃឆ្លាតគឺជាការគ្រប់គ្រង។ មនុស្សអាចទៅទស្សនាសត្វដ៏គ្រោះថ្នាក់បំផុតរបស់ពិភពលោកដោយចៃដន្យនៅសួនសត្វក្នុងស្រុករបស់ពួកគេ មិនមែនដោយសារតែយើងខ្លាំងជាងសត្វទាំងនេះទេ ប៉ុន្តែដោយសារតែយើងឆ្លាតជាង។

ដោយមើលឃើញពីសក្តានុពលដែលពាក់ព័ន្ធ នៃ ASI ដោយប្រើបញ្ញាដ៏ធំសម្បើមរបស់វា ដើម្បីធ្វើសកម្មភាពដែលអាចគំរាមកំហែងដោយផ្ទាល់ ឬដោយអចេតនាដល់ការរស់រានមានជីវិតរបស់មនុស្សជាតិ យើងជំពាក់វាដោយខ្លួនឯង យ៉ាងហោចណាស់ព្យាយាមបង្កើតការការពារដែលនឹងអនុញ្ញាតឱ្យមនុស្សស្នាក់នៅក្នុងអ្នកបើកបរ។ កៅអី -នេះ គឺជាប្រធានបទនៃជំពូកបន្ទាប់។

ស៊េរីបញ្ញាសិប្បនិម្មិតនាពេលអនាគត

P1: បញ្ញាសិប្បនិមិត្ត គឺជាអគ្គិសនីសម្រាប់ថ្ងៃស្អែក

P2: របៀបដែលបញ្ញាទូទៅសិប្បនិម្មិតដំបូងនឹងផ្លាស់ប្តូរសង្គម

P3: របៀបដែលយើងនឹងបង្កើត Artificial Superintelligence ដំបូងបង្អស់

P5: របៀបដែលមនុស្សនឹងការពារប្រឆាំងនឹង Superintelligence សិប្បនិម្មិត

P6: តើ​មនុស្ស​នឹង​រស់នៅ​ដោយ​សុខសាន្ត​ក្នុង​អនាគត​ដែល​គ្របដណ្ដប់​ដោយ​បញ្ញា​សិប្បនិម្មិត​ឬ​ទេ?