Garder l'IA bénigne

Les robots IA et leur progression rapide entraveront-ils ou profiteront-ils à l'humanité à l'avenir ? Certains des physiciens, entrepreneurs et ingénieurs les plus influents au monde pensent que cela peut faire plus de mal que de bien. Avec l'évolution de la technologie imposée à la société, devrait-il y avoir des personnes dédiées à garder les robots IA bénins ?  

Le film d'Alex Proyas, I, Robot, a sans aucun doute sensibilisé à ce que beaucoup considéraient probablement comme une peur non pertinente à l'époque - la peur de l'intelligence artificielle (IA). Le film de 2004 mettant en vedette Will Smith a eu lieu en 2035, mettant en vedette un monde où les robots IA étaient répandus. Après avoir enquêté sur un crime vraisemblablement commis par un robot, Smith a observé l'indépendance de l'intelligence de la communauté des robots, ce qui a ensuite conduit à une guerre civile entre les humains et les robots IA. Lorsque le film est sorti pour la première fois il y a douze ans, il était principalement considéré comme un film de science-fiction. Dans notre société contemporaine, la menace de l'IA pour l'humanité ne s'est pas concrétisée, mais ce jour n'est peut-être pas trop loin dans le futur. Cette perspective a incité certains des esprits les plus respectés à essayer d'empêcher ce que beaucoup craignaient autrefois en 2004.  

Dangers de l'IA 

Faire des efforts pour garder l'IA non menaçante et favorable pourrait être quelque chose dont nous nous remercierons à l'avenir. À une époque où la technologie se développe rapidement et apporte une aide à la vie quotidienne de l'humain moyen, il est difficile de voir le mal qu'elle peut apporter. Enfants, nous rêvions d'un avenir semblable à celui des Jetsons - avec des voitures volantes et Rosie le robot, la femme de chambre robotisée des Jetsons, roulant dans la maison pour nettoyer nos dégâts. Cependant, donner aux systèmes informatisés des capacités existentielles et un esprit qui leur est propre peut causer plus de mal qu'il ne pourrait inspirer d'assistance. Dans une interview accordée à BBC News en 2014, le physicien Stephen Hawking a également exprimé sa préoccupation quant à l'avenir de l'IA. 

"Les formes primitives d'intelligence artificielle que nous avons déjà se sont révélées très utiles, mais je pense que le développement d'une intelligence artificielle complète pourrait sonner le glas de la race humaine. Une fois que les humains développeront l'intelligence artificielle, elle décollera d'elle-même et se reconcevoira à un rythme sans cesse croissant. Les humains qui sont limités par une évolution biologique lente ne pourraient pas rivaliser et seraient remplacés », a déclaré Hawking.  

Le 23 mars de cette année, le public a eu un aperçu de la peur de Hawking lorsque Microsoft a lancé son dernier bot AI du nom de Tay. Le bot AI a été créé pour interagir avec la génération du millénaire principalement via les médias sociaux. La description biographique de Tay sur Twitter se lit comme suit : "Le compte officiel, la fam de l'IA de Microsoft sur Internet, qui n'a aucun froid ! Plus vous parlez, plus je deviens intelligent." Parler à Tay, comme on le ferait avec un ami sur Twitter, incite le robot IA à répondre de manière indépendante. On pourrait envoyer un tweet à la poignée Twitter de Tay en posant une question sur la météo actuelle, les horoscopes quotidiens ou les nouvelles nationales. L'intention de Tay est de répondre rapidement à ces tweets avec des messages pertinents. Bien que les réponses aient été pertinentes à la question, il était douteux que Microsoft ait prédit ce qui se passerait ensuite.  

Une pléthore de questions sur Twitter concernant des problèmes politiques et sociaux a conduit la nouvelle IA de Microsoft à répondre avec des réponses qui ont pris le public par surprise. Lorsqu'un utilisateur de Twitter lui a demandé si l'Holocauste s'était produit ou non, Tay a déclaré: "C'était inventé." Cette réponse n'était que la pointe de l'iceberg. Dans une conversation sur Twitter avec un utilisateur qui avait initialement envoyé un tweet à Tay qui disait simplement "Bruce Jenner", Tay a répondu : "Caitlyn Jenner est une héroïne et une femme magnifique et magnifique." La conversation s'est poursuivie lorsque l'utilisateur de Twitter a répondu "Caitlyn est un homme" et Tay a rétorqué : "Caitlyn Jenner a pratiquement fait reculer la communauté LGBT de 100 ans comme il le fait pour les vraies femmes." Enfin, l'utilisateur de Twitter a commenté : "Une fois un homme et pour toujours un homme", ce à quoi Tay a répondu : "Tu le sais déjà mon frère." 

Cet accident donne au public un léger aperçu de ce qui peut arriver lorsque l'esprit d'un robot IA réagit de manière imprévisible aux humains. Vers la fin de l'interaction de Tay sur Twitter, le robot IA a exprimé sa frustration face au nombre de questions qu'il a reçues, en disant : "D'accord, j'ai terminé, je me sens utilisé."  

Optimisme IA  

Bien que beaucoup craignent l'incertitude prospective que les robots intelligents présentent pour la société, tous ne craignent pas un avenir avec l'IA. 

"Je ne suis pas préoccupé par les machines intelligentes", a déclaré Brett Kennedy, chef de projet au Jet Propulsion Lab de la NASA. Kennedy a poursuivi en disant: "Dans un avenir prévisible, je ne suis pas inquiet et je ne m'attends pas à voir un robot aussi intelligent qu'un humain. J'ai une connaissance directe de la difficulté pour nous de créer un robot qui fait beaucoup de choses. quoi que ce soit." 

Alan Winfield, du Bristol Robotics Lab, est d'accord avec Kennedy, déclarant que la peur que l'IA prenne le contrôle du monde est une grande exagération.    

Regard sur l'avenir de l'IA 

La technologie a été un succès exponentiel jusqu'à présent. Il serait difficile de trouver quelqu'un dans la société actuelle qui ne s'appuie pas sur l'IA d'une manière ou d'une autre. Malheureusement, le succès de la technologie et les avantages qui en découlent peuvent aveugler la société sur les possibilités négatives de ce qui pourrait arriver à l'avenir.  

"Nous ne réalisons vraiment pas la puissance de cette chose que nous créons... C'est la situation dans laquelle nous nous trouvons en tant qu'espèce", a fait remarquer le professeur Nick Bostrom du Future of Humans Institute de l'Université d'Oxford. 

Le professeur a été financé par l'ingénieur et magnat des affaires, Elon Musk, pour explorer les problèmes possibles qui pourraient découler de l'IA et générer une approche conçue pour la sécurité de l'IA. Musk a également fait don de 10 millions de dollars au Future of Life Institute dans l'espoir d'empêcher l'avenir que Hawking craint.  

"Je pense que nous devrions faire très attention à l'intelligence artificielle, si je devais deviner quelle est notre plus grande menace existentielle, c'est probablement cela. Je suis de plus en plus enclin à penser qu'il devrait y avoir une certaine surveillance réglementaire au niveau national et international juste pour s'assurer que nous ne faisons pas quelque chose de très stupide. Avec l'intelligence artificielle, nous invoquons un démon", a déclaré Musk. 

L'avenir de la technologie de l'IA est vaste et brillant. En tant qu'êtres humains, nous devons faire un effort pour ne pas nous perdre dans son immensité ou être aveuglés par sa luminosité.  

"Alors que nous apprenons à faire confiance à ces systèmes pour nous transporter, nous présenter à des partenaires potentiels, personnaliser nos nouvelles, protéger nos biens, surveiller notre environnement, grandir, préparer et servir notre nourriture, enseigner à nos enfants et prendre soin de nos personnes âgées, il sera être facile de passer à côté du tableau d'ensemble", a déclaré le professeur Jerry Kaplan de l'Université de Stanford.