AI preuzima internet: Da li će botovi preoteti online svijet?

• Autor:
• Ime autora

  Quantumrun Foresight
• Januar 3, 2023

Internet je prepun algoritama i AI koji upravljaju svim procesima o kojima možemo zamisliti – od korisničke usluge preko transakcija do streaminga zabave. Međutim, ljudi će možda morati da budu oprezniji u praćenju napretka botova kako AI postaje sve naprednija.

AI preuzima internet kontekst

U ranim danima interneta, većina sadržaja je bila statična (npr. tekst i slike sa minimalnom interaktivnošću), a veliki dio aktivnosti na mreži pokretan je ljudskim uputama ili naredbama. Međutim, ovo ljudsko doba interneta moglo bi se uskoro završiti jer organizacije nastavljaju da dizajniraju, instaliraju i sinhronizuju sve više algoritama i botova na mreži. (Za kontekst, botovi su autonomni programi na internetu ili nekoj drugoj mreži koji mogu komunicirati sa sistemima ili korisnicima.) Prema kompaniji Imperva Incapsula za kibernetičku sigurnost u oblaku, 2013. godine, samo 31 posto internet prometa se sastojalo od pretraživača i „dobrih botova. ” Ostatak sadrži zlonamjerne elemente kao što su spameri (hakeri e-pošte), scraperi (krađa privatnih informacija iz baza podataka web stranica) i imitatori (pokreću distribuirane napade uskraćivanja usluge, koji preplavljuju internetski promet do ciljanog servera.

Interakcija bot-ljud postaje sve češća na mreži jer virtuelni asistenti obavljaju složenije zadatke. Na primjer, Google Assistant može zvati frizerske salone kako bi zakazao termin umjesto da samo postavlja podsjetnik u kalendaru ili šalje jednostavnu tekstualnu poruku. Sljedeći korak je interakcija bot-to-bot, gdje dva bota obavljaju zadatke u ime svojih vlasnika, kao što je autonomno prijavljivanje za poslove s jedne strane i obrada ovih aplikacija s druge strane.

Ometajući uticaj

Kako širina mogućnosti dijeljenja podataka, transakcija i međusobnog povezivanja koje su omogućene na mreži nastavlja da raste, postoji sve veći poticaj za automatizaciju sve više i više ljudskih i komercijalnih interakcija. U mnogim slučajevima, ove automatizacije će se izvoditi pomoću algoritma ili virtuelnog asistenta, što bi u cjelini moglo predstavljati ogromnu većinu mrežnog prometa na mreži, istiskujući ljude.    

Nadalje, sve veće prisustvo botova na internetu može brzo evoluirati izvan ljudske intervencije. Neprofitna organizacija, Svjetski ekonomski forum, naziva neregulisano širenje botova na mreži kao zamršenu mrežu. U ovom okruženju, algoritmi niskog nivoa, prvobitno kodirani za obavljanje jednostavnih zadataka, uče da evoluiraju kroz podatke, infiltriraju se u sajber infrastrukturu i izbjegavaju firewall. Najgori scenario je „AI korov“ koji se širi internetom i na kraju dopre do i poremeti ključne sektore, kao što su sistemi upravljanja vodom i energijom. Još opasniji scenario je ako ovi korovi "uguše" satelitske i nuklearne sisteme kontrole. 

Kako bi spriječile porast samo-evoluirajućih „botova koji postaju lopovi“, kompanije mogu posvetiti više resursa za striktno praćenje svojih algoritama, podvrgnuti ih rigoroznim testovima prije objavljivanja i imati „prekidač za zaustavljanje“ u stanju pripravnosti u slučaju kvara. Nepoštivanje ovih standarda također treba biti suočeno s velikim kaznama i sankcijama kako bi se osiguralo da se propisi dizajnirani za kontrolu botova pravilno poštuju.

Implikacije za AI sisteme koji preuzimaju kontrolu nad internetom

Šire implikacije za algoritme i botove koji monopoliziraju većinu web prometa mogu uključivati:

• Poslovne i javne usluge postaju sve efikasnije i jeftinije kako se više nadzornih, administrativnih i transakcijskih aktivnosti obavlja autonomno.
• Globalni propisi i politike koje nadgledaju, revidiraju i drže kompanije odgovornim za svaki bot kojeg izdaju i ažuriraju na Internetu.
• Povećanje interakcije bot-to-bot koje može dovesti do većih skupova podataka za koje bi bilo potrebno više superračunara za obradu. To bi zauzvrat povećalo potrošnju energije na globalnom Internetu.
• Sistemi umjetne inteligencije postaju dovoljno razumni da postoje u vlastitim metaverzima, gdje mogu ili biti partneri s ljudima ili prijetiti online kontrolama ako nisu regulirane.

Pitanja za komentar

• Kakvo je vaše iskustvo kada ste komunicirali sa internet botovima, kao što su chat botovi za korisničku podršku? 
• Koristite li virtuelnu pomoć u svakodnevnom životu?