L’ancien scientifique en chef d’OpenAI, Ilya Sutskever, l’un des plus grands noms de l’intelligence artificielle (IA), avait une prédiction à faire vendredi : les capacités de raisonnement rendront la technologie beaucoup moins prévisible.
En acceptant un prix « Test Of Time » pour son article de 2014 avec Oriol Vinyals et Quoc Le de Google, Sutskever a déclaré qu’un changement majeur se profilait à l’horizon de l’IA.
Une idée que son équipe avait explorée il y a dix ans, selon laquelle augmenter les données pour « pré-entraîner » les systèmes d’IA les propulserait vers de nouveaux sommets, commençait à atteindre ses limites, a-t-il déclaré. Plus de données et de puissance de calcul ont donné naissance à ChatGPT qu’OpenAI a lancé en 2022, avec un succès mondial.
« Mais la pré-formation telle que nous la connaissons prendra sans aucun doute fin », a déclaré Sutskever devant des milliers de participants à la conférence NeurIPS à Vancouver. « Alors que l’informatique se développe », a-t-il déclaré, « les données n’augmentent pas, car nous n’avons qu’un seul Internet ».
Sutskever a proposé des moyens de repousser la frontière malgré cette énigme. Il a déclaré que la technologie elle-même pourrait générer de nouvelles données, ou que les modèles d’IA pourraient évaluer plusieurs réponses avant de choisir la meilleure réponse pour un utilisateur, afin d’améliorer la précision. D’autres scientifiques se sont tournés vers des données du monde réel.
Mais son discours a abouti à une prédiction sur un avenir de machines superintelligentes qui, selon lui, nous attend « évidemment », un point avec lequel certains ne sont pas d’accord. Sutskever a cofondé cette année Safe Superintelligence Inc à la suite de son rôle dans l’éviction de courte durée de Sam Altman d’OpenAI, ce qu’il a déclaré quelques jours plus tard avoir regretté.
Les agents d’IA en activité depuis longtemps, a-t-il déclaré, porteront leurs fruits dans cette ère future, auront une compréhension plus profonde et seront conscients d’eux-mêmes. Il a déclaré que l’IA résoudrait les problèmes comme le peuvent les humains.
Il y a un piège.
« Plus ça raisonne, plus ça devient imprévisible », dit-il.
Raisonner à travers des millions d’options pourrait rendre n’importe quel résultat non évident. À titre d’exemple, AlphaGo, un système construit par DeepMind d’Alphabet, a surpris les experts de ce jeu de société très complexe avec son impénétrable 37ème coup, alors qu’il était sur le point de vaincre Lee Sedol lors d’un match en 2016.
Sutskever a dit de la même manière, « les IA d’échecs, les très bonnes, sont imprévisibles pour les meilleurs joueurs d’échecs humains ».
L’IA telle que nous la connaissons, a-t-il déclaré, sera « radicalement différente ».
