AI mengambil alih Internet: Adakah bot akan merampas dunia dalam talian?

• Pengarang
• Nama pengarang

  Quantumrun Foresight
• Januari 3, 2023

Internet dipenuhi dengan algoritma dan AI yang mengurus semua proses yang boleh kita fikirkan—daripada perkhidmatan pelanggan kepada urus niaga kepada hiburan penstriman. Walau bagaimanapun, manusia mungkin perlu lebih berhati-hati dalam menjejak kemajuan bot apabila AI menjadi semakin maju.

AI mengambil alih konteks Internet

Pada zaman awal Internet, kebanyakan kandungan adalah statik (cth., teks dan imej dengan interaktiviti minimum), dan kebanyakan aktiviti dalam talian dimulakan oleh gesaan atau arahan manusia. Walau bagaimanapun, Zaman Manusia Internet ini mungkin akan berakhir tidak lama lagi kerana organisasi terus mereka bentuk, memasang dan menyegerakkan lebih banyak algoritma dan bot dalam talian. (Untuk konteks, bot ialah program autonomi di internet atau rangkaian lain yang boleh berinteraksi dengan sistem atau pengguna.) Menurut firma keselamatan siber awan Imperva Incapsula, pada 2013, hanya 31 peratus daripada trafik Internet terdiri daripada enjin carian dan “bot yang baik. ” Selebihnya mengandungi unsur berniat jahat seperti spammer (penggodam e-mel), pengikis (mencuri maklumat peribadi daripada pangkalan data tapak web), dan penyamar (menghasut serangan penafian perkhidmatan yang diedarkan, yang mengatasi trafik Internet ke pelayan yang disasarkan.

Interaksi bot-manusia menjadi lebih biasa dalam talian apabila pembantu maya melakukan tugas yang lebih kompleks. Sebagai contoh, Google Assistant boleh membuat panggilan ke salun rambut untuk menjadualkan janji temu dan bukannya hanya menyediakan peringatan kalendar atau menghantar mesej teks ringkas. Langkah seterusnya ialah interaksi bot-ke-bot, di mana dua bot melaksanakan tugas bagi pihak pemiliknya, seperti memohon pekerjaan secara autonomi di satu pihak dan meminta permohonan ini diproses di pihak yang lain.

Kesan yang mengganggu

Memandangkan keluasan perkongsian data, urus niaga dan keupayaan kesalinghubungan yang dimungkinkan dalam talian terus berkembang, terdapat insentif yang semakin meningkat untuk mengautomasikan lebih banyak interaksi manusia dan komersial. Dalam banyak kes, automasi ini akan dilaksanakan daripada algoritma atau pembantu maya, yang sama sekali boleh mewakili sebahagian besar trafik web dalam talian, menyesakkan manusia keluar.    

Tambahan pula, peningkatan kehadiran bot di Internet boleh berkembang dengan pantas melangkaui campur tangan manusia. Organisasi bukan untung, Forum Ekonomi Dunia, memanggil penyebaran bot yang tidak terkawal dalam talian sebagai Web Kusut. Dalam persekitaran ini, algoritma peringkat rendah, pada mulanya dikodkan untuk melaksanakan tugas mudah, belajar untuk berkembang melalui data, menyusup infrastruktur siber dan mengelak tembok api. Senario terburuk ialah "rumpai AI" yang merebak ke seluruh Internet, akhirnya menjangkau dan mengganggu sektor penting, seperti sistem pengurusan air dan tenaga. Senario yang lebih berbahaya ialah jika rumpai ini "mencekik" satelit dan sistem kawalan nuklear. 

Untuk mengelakkan kemunculan "bot menjadi penyangak" yang berkembang sendiri, syarikat mungkin mendedikasikan lebih banyak sumber untuk memantau algoritma mereka dengan ketat, tertakluk kepada ujian yang ketat sebelum dikeluarkan dan mempunyai "suis bunuh" dalam keadaan siap sedia sekiranya ia tidak berfungsi. Kegagalan untuk mematuhi piawaian ini juga harus dipenuhi dengan denda dan sekatan yang berat untuk memastikan bahawa peraturan yang direka untuk mengawal bot dipatuhi dengan betul.

Implikasi untuk sistem AI yang mengawal Internet

Implikasi yang lebih luas untuk algoritma dan bot yang memonopoli sebahagian besar trafik web mungkin termasuk:

• Perkhidmatan perniagaan dan awam menjadi semakin cekap dan kos rendah apabila lebih banyak aktiviti pemantauan, pentadbiran dan transaksi dikendalikan secara autonomi.
• Peraturan dan dasar global yang memantau, mengaudit dan memastikan syarikat bertanggungjawab untuk setiap bot yang dikeluarkan dan dikemas kini di Internet.
• Meningkatkan interaksi bot-ke-bot yang boleh membawa kepada set data yang lebih besar yang memerlukan lebih banyak superkomputer untuk diproses. Ini, seterusnya, akan meningkatkan penggunaan tenaga Internet global.
• Sistem kecerdasan buatan menjadi cukup peka untuk wujud dalam metaverses mereka sendiri, di mana mereka boleh bekerjasama dengan manusia atau mengancam kawalan dalam talian jika tidak dikawal.

Soalan untuk diulas

• Apakah pengalaman anda semasa berinteraksi dengan bot Internet, seperti bot sembang perkhidmatan pelanggan? 
• Adakah anda menggunakan bantuan maya dalam kehidupan seharian anda?