La start-up d'IA "par procuration" excite l'élite de la Silicon Valley - Mais est-ce que c'est du battage médiatique ?

La startup d'intelligence artificielle, Vicarious, a beaucoup retenu l'attention ces derniers temps, et on ne sait pas vraiment pourquoi. De nombreux gros bonnets de la Silicon Valley ont ouvert leurs portefeuilles personnels et déboursé beaucoup d'argent pour soutenir les recherches de l'entreprise. Leur site Web affiche l'afflux récent de financements de personnalités telles que le PDG d'Amazon Jeff Bezos, le co-fondateur de Yahoo Jerry Yang, le co-fondateur de Skype Janus Friis, le fondateur de Facebook Mark Zuckerberg et... Ashton Kutcher. On ne sait pas vraiment où va tout cet argent. L'IA est un domaine de développement technologique très secret et protecteur ces derniers temps, mais le débat public sur l'arrivée et l'utilisation de l'IA très attendue dans le monde réel a été tout sauf étouffé. Vicarious a été un peu un cheval noir sur la scène technologique.

Bien qu'il y ait eu beaucoup de buzz autour de l'entreprise, surtout depuis que leurs ordinateurs ont piraté "CAPTCHA" l'automne dernier, ils ont réussi à rester un joueur insaisissable et mystérieux. Par exemple, ils ne donnent pas leur adresse par crainte d'espionnage industriel, et même une visite sur leur site Web vous laissera confus quant à ce qu'ils font réellement. Tout ce jeu difficile à obtenir a encore fait la queue des investisseurs. Le projet principal de Vicarious a été la construction d'un réseau neuronal capable de reproduire la partie du cerveau humain qui contrôle la vision, les mouvements du corps et le langage.

Le co-fondateur Scott Phoenix a déclaré que la société essayait de "construire un ordinateur qui pense comme une personne, sauf qu'il n'a pas à manger ni à dormir". Jusqu'à présent, Vicarious s'est concentré sur la reconnaissance visuelle d'objets : d'abord avec des photos, puis avec des vidéos, puis avec d'autres aspects de l'intelligence et de l'apprentissage humains. Le co-fondateur Dileep George, auparavant chercheur principal chez Numenta, a mis l'accent sur l'analyse du traitement des données perceptives dans le travail de l'entreprise. Le plan est de créer éventuellement une machine capable d'apprendre à "penser" grâce à une série d'algorithmes efficaces et non supervisés. Naturellement, cela fait paniquer les gens.

Pendant des années, la possibilité que l'IA fasse partie de la vie réelle a immédiatement attiré des références hollywoodiennes réflexes. En plus des craintes que des emplois humains soient perdus au profit de robots, les gens craignent sincèrement que nous ne tardions pas à nous retrouver dans une situation semblable à celles présentées dans la Matrice. Tesla Motors et le co-fondateur de PayPal, Elon Musk, également investisseur, ont exprimé leurs inquiétudes concernant l'IA dans une récente interview de CNBC.

"J'aime juste garder un œil sur ce qui se passe avec l'intelligence artificielle", a déclaré Musk. «Je pense qu'il y a potentiellement un résultat dangereux là-bas. Il y a eu des films à ce sujet, vous savez, comme Terminator. Il y a des résultats effrayants. Et nous devrions essayer de nous assurer que les résultats sont bons, pas mauvais.

Stephen Hawking a mis son grain de sel, confirmant essentiellement notre crainte d'avoir peur. Ses récents commentaires dans The Independent  a conduit à une frénésie médiatique, suscitant des titres tels que "Stephen Hawking est terrifié par l'intelligence artificielle" du Huffington Post et le brillant "L'intelligence artificielle pourrait mettre fin à l'humanité" de MSNBC. Les commentaires de Hawking étaient nettement moins apocalyptiques, équivalant à un avertissement sensé : « Le succès dans la création de l'IA serait le plus grand événement de l'histoire de l'humanité.

Malheureusement, ce pourrait aussi être le dernier, à moins que nous n'apprenions à éviter les risques. L'impact à long terme de l'IA dépend de sa capacité à être contrôlée. » Cette question de "contrôle" a fait sortir de l'ordinaire de nombreux militants des droits des robots, prônant la liberté des robots, affirmant qu'essayer de "contrôler" ces êtres pensants serait cruel et équivaudrait à une forme d'esclavage, et que nous devons laisser tomber les robots soient libres et vivent leur vie au maximum de leur potentiel (Oui, ces militants existent.)

De nombreux problèmes doivent être réglés avant que les gens ne s'emballent. D'une part, Vicarious ne crée pas une ligue de robots qui vont avoir des sentiments, des pensées et des personnalités ou un désir de se dresser contre les humains qui les ont créés et de conquérir le monde. Ils peuvent à peine comprendre les blagues. Jusqu'à présent, il a été presque impossible d'enseigner aux ordinateurs quoi que ce soit qui ressemble au sens de la rue, à la «signification» humaine et aux subtilités humaines.

Par exemple, un projet à Stanford appelé "Profondément émouvant», destiné à interpréter les critiques de films et à donner aux films une critique positive ou négative, a été totalement incapable de lire le sarcasme ou l'ironie. Au final, Vicarious ne parle pas d'une simulation de l'expérience humaine. La déclaration générale selon laquelle les ordinateurs de Vicarious « penseront » comme les gens est assez vague. Nous devons trouver un autre mot pour "penser" dans ce contexte. Nous parlons d'ordinateurs capables d'apprendre par reconnaissance – du moins pour l'instant.

Qu'est-ce que cela signifie? Les types de développements vers lesquels nous nous dirigeons de manière réaliste ont des caractéristiques plus pratiques et applicables comme la reconnaissance faciale, les voitures autonomes, le diagnostic médical, la traduction de texte (nous pourrions certainement utiliser quelque chose de mieux que Google Translate, après tout) et l'hybridation technologique. Le truc idiot dans tout ça c'est rien de tout cela n'est nouveau. Gourou de la technologie et président de l'Artificial General Intelligence Society, le Dr Ben Goertzel souligne dans son blog, "Si vous avez choisi d'autres problèmes comme être un messager à vélo dans une rue bondée de New York, écrire un article de journal sur une situation en développement, apprendre une nouvelle langue basée sur une expérience du monde réel ou identifier les événements humains les plus significatifs parmi tous les interactions entre les personnes dans une grande salle bondée, vous constaterez que les méthodes statistiques [de Machine Learning] d'aujourd'hui ne sont pas si utiles. »

Il y a juste certaines choses que les machines ne comprennent pas encore, et certaines choses qui ne peuvent pas tout à fait être capturées dans un algorithme. Nous assistons à une sorte de battage médiatique qui s'est avéré, jusqu'à présent du moins, être principalement duveteux. Mais le battage médiatique lui-même peut être dangereux. En tant que directeur de la recherche sur l'IA de Facebook et directeur fondateur du NYU Center for Data Science, Yann LeCun a publiquement posté sur sa page Google+: "Le battage médiatique est dangereux pour l'IA. Le battage médiatique a tué l'IA quatre fois au cours des cinq dernières décennies. Le battage médiatique sur l'IA doit être arrêté.

Lorsque Vicarious a craqué CAPTCHA l'automne dernier, LeCun était sceptique quant à la frénésie médiatique, soulignant quelques réalités très importantes : « 1. Briser les CAPTCHA n'est guère une tâche intéressante, à moins que vous ne soyez un spammeur ; 2. Il est facile de revendiquer le succès sur un ensemble de données que vous avez concocté vous-même. Il a poursuivi en conseillant les journalistes techniques : "S'il vous plaît, ne croyez pas les affirmations vagues des startups d'IA à moins qu'elles ne produisent des résultats de pointe sur des références largement acceptées", et dit de se méfier du jargon fantaisiste ou vague comme "logiciel d'apprentissage automatique basé sur principes de calcul du cerveau humain », ou « réseau cortical récursif ».

Selon les normes de LeCun, la reconnaissance d'objets et d'images est de loin une étape plus impressionnante dans le développement de l'IA. Il a plus confiance dans le travail de groupes comme Deep Mind, qui ont de bons antécédents dans des publications prestigieuses et le développement technologique, et une excellente équipe de scientifiques et d'ingénieurs travaillant pour eux. "Peut-être que Google a trop payé pour Deep Mind", dit LeCun, "mais ils ont réussi à faire gagner de l'argent à une bonne partie des gens intelligents. Même si une partie de ce que fait Deep Mind est gardée secrète, ils publient des articles lors de grandes conférences." L'opinion de LeCun sur Vicarious est tout à fait différente : « Vicarious n'est que fumée et miroirs », dit-il.

Ils n'ont jamais apporté de contribution à l'IA, à l'apprentissage automatique ou à la vision par ordinateur. Il n'y a aucune information sur les méthodes et les algorithmes qu'ils utilisent. Et il n'y a pas de résultat sur les ensembles de données standard qui pourraient aider la communauté à évaluer la qualité de leurs méthodes. C'est tout le battage médiatique. Il existe de nombreuses startups d'IA/d'apprentissage en profondeur qui font des choses intéressantes (principalement des applications de méthodes récemment développées dans le milieu universitaire). Je trouve déconcertant que Vicarious attire autant d'attention (et d'argent) avec rien d'autre que des affirmations sauvages non fondées.

C'est peut-être la réminiscence de mouvements spirituels pseudo-cultes qui impliquent des célébrités. Cela rend le tout un peu hokey ou du moins en partie fantastique. Je veux dire, à quel point pouvez-vous prendre au sérieux une opération qui implique Ashton Kutcher et environ un million de références Terminator ? Dans le passé, une grande partie de la couverture médiatique a été extrêmement enthousiaste, la presse peut-être trop excitée à l'idée d'utiliser des mots comme "processeur d'inspiration biologique" et "calcul quantique".

Mais cette fois-ci, la hype-machine est un peu plus réticente à passer automatiquement à la vitesse supérieure. Comme Gary Marcus l'a souligné récemment dans The New Yorker, beaucoup de ces histoires sont « au mieux confuses », omettant en fait de proposer quoi que ce soit de nouveau et de ressasser des informations sur la technologie que nous possédons et utilisons déjà. Et ce truc dure depuis décennies. Consultez simplement le perceptron et vous pouvez avoir une idée à quel point ce train technologique est rouillé. Cela dit, les riches sautent à bord du train de l'argent et il ne semble pas que cela va s'arrêter de sitôt.