C'est fini. L'humanité a été vaincue par les robots qu'elle a contribué à créer. La semaine dernière, une intelligence artificielle a attaqué le plus grand champion de l'humanité et est revenue victorieuse..

Dans ce cas, le champ de bataille était l'ancien jeu chinois de Go plutôt qu'un pré boueux. Mais le résultat pourrait être plus important pour l'humanité que toute bataille antérieure de notre histoire..

Fonce

L’intelligence artificielle en question est AlphaGo, un réseau de neurones combinant des techniques d’apprentissage automatique et de recherche d’arbres, associée à une vaste expérience du jeu humain et du jeu sur ordinateur. Il a été créé par DeepMind, une société britannique rachetée par Google en 2014..

Go, comme vous l'avez probablement appris si vous avez suivi l'histoire, est beaucoup plus difficile à maîtriser pour les ordinateurs que pour d'autres jeux comme les échecs. Les nombreux autres résultats possibles de chaque mouvement font qu'il est extrêmement difficile d'utiliser des méthodes d'IA traditionnelles pour gagner, car il faut beaucoup de temps pour passer en revue toutes les possibilités..

C'est tellement difficile, en fait, que la plupart des experts en intelligence artificielle pensaient qu'il faudrait entre cinq et dix ans à l'ordinateur pour battre les meilleurs joueurs. Même les créateurs d'AlphaGo ont été surpris par sa victoire. Demis Hassabis, cofondateur de DeepMind, a déclaré aux journalistes qu'il était "stupéfait et sans voix" lors de la conférence de presse qui a suivi le premier match de la série des cinq meilleurs succès..

La dernière étape de son genre

La victoire, qui suit les jeux d'échecs et de dames au cours des dernières décennies, est probablement la dernière étape de son genre. Murray Campbell, chercheur chez IBM qui a travaillé sur l'ordinateur qui battait Gary Kasparov aux échecs en 1997, a déclaré au LA Times: "D'une certaine manière, c'est la fin d'une époque. Ils ont montré que les jeux de société sont plus ou moins faits et il est temps de passer à autre chose."

Alors quelle est la prochaine? Dans une interview avec The Verge, Hassabis a fait part de ses projets pour DeepMind, affirmant que la prochaine frontière devrait être celle des jeux vidéo. La victoire d'AlphaGo s'est jouée en Corée du Sud, où StarCraft est incroyablement populaire - un jeu dans lequel les humains sont bien meilleurs que les ordinateurs. "Les jeux de stratégie requièrent un haut niveau de capacité stratégique dans un monde de l'information imparfait", a déclaré Hassabis.

Mais il a ajouté que les jeux ne sont qu'un banc d'essai pour des problèmes plus importants et réels. "L'objectif de DeepMind n'est pas simplement de battre des jeux, aussi amusants qu'exaltants", a déclaré Hassabis..

"Nous nous concentrons sur le moment sur des choses comme les systèmes de soins de santé et de recommandation." À plus long terme, l'approche basée sur l'apprentissage de DeepMind pourrait rapporter beaucoup plus. "Je pense que ce serait cool si un jour l'IA était impliquée dans la recherche d'une nouvelle particule", a-t-il ajouté..

Fin de partie pour l'humanité

AlphaGo représente ce que les experts appellent une intelligence artificielle "étroite" ou "faible". Il peut rivaliser avec les humains dans une tâche unique, mais ne peut espérer concurrencer les autres. Cela se distingue de l'IA "forte" ou "générale", qui possède une intelligence aussi étendue que celle de l'homme et qui a tendance à apparaître dans la science-fiction. Le premier est, de toute évidence, un tremplin indispensable sur le chemin menant au second.

Pourtant, l'intelligence générale artificielle terrifie les personnes qui en savent le plus. Stephen Hawking et Elon Musk faisaient partie d'un groupe de personnes très intelligentes qui ont signé une lettre ouverte en janvier 2015 appelant à davantage de recherches sur les implications sociétales du développement futur de l'IA. Musk a créé une société de recherche en IA à but non lucratif appelée OpenAI en décembre 2015 pour cette raison même.

Ils sont terrifiés parce qu'ils voient la fin de l'humanité à mi-chemin. Une fois que l'intelligence générale artificielle a été atteinte au niveau humain, il n'y a pratiquement aucune chance de mettre un terme au développement. L’intelligence artificielle commencerait presque certainement à s’améliorer, et notre cerveau numérique serait rapidement dépassé par notre création numérique..

Pendant ce temps, nous aurions de plus en plus de difficulté à comprendre l'IA, de la même manière que les motivations humaines semblent incompréhensibles pour nos animaux domestiques. "Une intelligence artificielle super intelligente sera extrêmement efficace pour atteindre ses objectifs", a averti Hawking dans une récente AMA sur Reddit, "et si ces objectifs ne sont pas alignés sur les nôtres, nous avons des problèmes."

Fait révélateur, lorsque DeepMind a accepté l’acquisition de Google, il a exigé que le géant de la recherche mette en place un comité d’évaluation de la sécurité et de l’éthique de l’IA pour veiller à ce que la technologie soit développée en toute sécurité. Le conseil définira des règles sur la manière dont Google peut et ne peut pas utiliser l'IA.

Qu'est-ce que l'intelligence??

Dans une interview en 2011, Shane Legg, cofondateur de DeepMind, a déclaré que, en l'absence de guerres ou de catastrophes majeures et d'un développement politique et économique bénéfique, il y avait 50% de chances que l'intelligence générale artificielle soit atteinte d'ici 2028 (la réponse médiane parmi Experts de l'IA est 2040).

"Quand une machine peut apprendre à jouer à un très large éventail de jeux à partir d'entrées et de sorties de flux perceptuelles et à transférer la compréhension entre les jeux, je pense que nous nous rapprochons", a-t-il déclaré..

Pourtant, il a identifié les principaux obstacles à venir. "Pour le moment, nous ne sommes pas d'accord sur ce qu'est l'intelligence ou sur la façon de la mesurer", a-t-il déclaré. "Comment pouvons-nous sécuriser quelque chose quand nous ne comprenons pas bien ce qu'est quelque chose ou comment cela fonctionnera?"

"En fin de compte, je pense que l'extinction humaine se produira probablement et que la technologie y contribuera. C'est mon risque numéro un pour ce siècle."

  • Ce modèle informatique peut prédire qui va gagner une partie de Dota 2