L'IA prend le contrôle d'Internet : les bots sont-ils sur le point de détourner le monde en ligne ?

CRÉDIT D'IMAGE:
Crédit image
iStock

L'IA prend le contrôle d'Internet : les bots sont-ils sur le point de détourner le monde en ligne ?

L'IA prend le contrôle d'Internet : les bots sont-ils sur le point de détourner le monde en ligne ?

Texte du sous-titre
Alors que les humains créent de plus en plus de bots pour automatiser différentes parties d'Internet, n'est-ce qu'une question de temps avant qu'ils ne prennent le relais ?
    • Auteur :
    • Nom de l'auteur
      Prévision quantique
    • Le 3 janvier 2023

    Internet regorge d'algorithmes et d'intelligence artificielle qui gèrent tous les processus auxquels nous pouvons penser, du service client aux transactions en passant par le divertissement en continu. Cependant, les humains devront peut-être être plus vigilants dans le suivi des progrès des bots à mesure que l'IA devient de plus en plus avancée.

    L'IA prend le contrôle du contexte Internet

    Au début d'Internet, la plupart des contenus étaient statiques (par exemple, du texte et des images avec une interactivité minimale) et une grande partie de l'activité en ligne était déclenchée par des invites ou des commandes humaines. Cependant, cette ère humaine d'Internet pourrait bientôt être révolue alors que les organisations continuent de concevoir, d'installer et de synchroniser de plus en plus d'algorithmes et de bots en ligne. (Pour le contexte, les bots sont des programmes autonomes sur Internet ou un autre réseau qui peuvent interagir avec des systèmes ou des utilisateurs.) Selon la société de cybersécurité cloud Imperva Incapsula, en 2013, seulement 31 % du trafic Internet était composé de moteurs de recherche et de « bons bots ». ” Le reste contient des éléments malveillants tels que des spammeurs (pirates de messagerie), des grattoirs (volant des informations privées à partir de bases de données de sites Web) et des imitateurs (provoquant des attaques par déni de service distribuées, qui submergent le trafic Internet vers un serveur ciblé.

    L'interaction bot-humain devient de plus en plus courante en ligne, car les assistants virtuels effectuent des tâches plus complexes. Par exemple, Google Assistant peut appeler les salons de coiffure pour planifier un rendez-vous au lieu de simplement configurer un rappel de calendrier ou envoyer un simple SMS. L'étape suivante est l'interaction de bot à bot, où deux bots effectuent des tâches au nom de leurs propriétaires, comme postuler de manière autonome à des emplois d'un côté et faire traiter ces candidatures de l'autre.

    Impact perturbateur

    Alors que l'étendue des capacités de partage de données, de transaction et d'interconnectivité rendues possibles en ligne continue de croître, il existe une incitation croissante à automatiser de plus en plus d'interactions humaines et commerciales. Dans de nombreux cas, ces automatisations seront exécutées par un algorithme ou un assistant virtuel, qui, ensemble, pourraient représenter la grande majorité du trafic Web en ligne, évinçant les humains.    

    De plus, la présence croissante de bots sur Internet peut rapidement évoluer au-delà de l'intervention humaine. L'organisation à but non lucratif, Forum économique mondial, appelle la propagation non réglementée des bots en ligne comme un Tangled Web. Dans cet environnement, des algorithmes de bas niveau, initialement codés pour effectuer des tâches simples, apprennent à évoluer à travers les données, infiltrent les cyber-infrastructures et échappent aux pare-feu. Le scénario le plus pessimiste est celui d'une "mauvaise IA" se propageant sur Internet, atteignant et perturbant éventuellement des secteurs essentiels, tels que les systèmes de gestion de l'eau et de l'énergie. Un scénario encore plus dangereux est que ces mauvaises herbes « étouffent » les systèmes de contrôle des satellites et nucléaires. 

    Pour empêcher la montée en puissance de « bots auto-évolutifs devenant voyous », les entreprises peuvent consacrer plus de ressources pour surveiller strictement leurs algorithmes, les soumettre à des tests rigoureux avant leur sortie et avoir un « kill switch » en veille en cas de dysfonctionnement. Le non-respect de ces normes devrait également entraîner de lourdes amendes et sanctions pour garantir que les réglementations conçues pour contrôler les bots sont correctement respectées.

    Implications pour les systèmes d'IA prenant le contrôle d'Internet

    Les implications plus larges pour les algorithmes et les robots monopolisant la majorité du trafic Web peuvent inclure :

    • Les services commerciaux et publics deviennent de plus en plus efficaces et peu coûteux à mesure que davantage d'activités de surveillance, administratives et transactionnelles sont gérées de manière autonome.
    • Réglementations et politiques mondiales qui surveillent, auditent et tiennent les entreprises responsables de chaque bot qu'elles publient et mettent à jour sur Internet.
    • Augmenter les interactions bot-to-bot qui peuvent conduire à des ensembles de données plus volumineux qui nécessiteraient plus de supercalculateurs pour être traités. Ceci, à son tour, augmenterait la consommation d'énergie de l'Internet mondial.
    • Les systèmes d'intelligence artificielle deviennent suffisamment sensibles pour exister dans leurs propres métaverses, où ils peuvent soit s'associer à des humains, soit menacer les contrôles en ligne s'ils ne sont pas réglementés.

    Questions à commenter

    • Quelle a été votre expérience lorsque vous interagissez avec des bots Internet, tels que les chatbots du service client ? 
    • Utilisez-vous l'assistance virtuelle dans votre vie de tous les jours ?

    Références Insight

    Les liens populaires et institutionnels suivants ont été référencés pour cet aperçu :