Peut-être que ce sont tous les films Terminator, les romans de science-fiction et les jeux vidéo post-apocalyptiques, mais il est logique de se méfier de l'intelligence artificielle super intelligente, à droite?

Pour le bien de tout le monde, deux grandes entreprises du secteur de l'IA se sont réunies pour rechercher des moyens d'empêcher les machines de résoudre les problèmes de manière incorrecte - ou de manière imprévisible..

OpenAI, un groupe fondé par le techno-entrepreneur Elon Musk et Google DeepMind, l'équipe à l'origine du nouveau champion du jeu Go, AlphaGo, unissent leurs efforts pour trouver des moyens de garantir que l'intelligence artificielle résolve les problèmes selon les standards humains souhaités.

Même s'il est parfois encore plus rapide de laisser une IA résoudre elle-même des problèmes, le partenariat a révélé que les humains devaient intervenir pour ajouter des contraintes sur les contraintes afin de former l'IA à gérer une tâche comme prévu..

Moins de tricherie, moins de skynets

Dans un article publié par le personnel de DeepMind et OpenAI, les deux entreprises ont constaté qu'une intervention humaine était essentielle pour informer l'IA lorsqu'un travail était effectué de manière optimale. et correctement - c’est-à-dire ne pas tricher ni couper les angles pour obtenir les résultats les plus rapides.

Par exemple, demander à un robot de brouiller un œuf peut le pousser à casser un œuf sur une poêle et à le qualifier de travail (techniquement) bien fait. Des récompenses supplémentaires doivent être ajoutées pour s'assurer que l'œuf est bien cuit, assaisonné correctement, exempt d'éclats d'obus, non brûlé, etc..

Comme vous pouvez le deviner, la configuration des fonctions de récompense appropriées pour l'IA peut nécessiter beaucoup de travail. Cependant, les chercheurs considèrent cet effort comme une obligation éthique pour l’avenir, d’autant plus que les IA deviennent plus puissantes et plus capables de responsabilités..

Il reste encore beaucoup de travail à faire, mais rien de tel, mais rassurez-vous, les meilleurs chercheurs d'Amnesty International s'emploient à faire en sorte que les robots ne deviennent pas voyous - ou du moins, ne gâchent pas le petit déjeuner..

Via filaire

  • Comment une IA réalise un score parfait de Ms. Pac-Man