À notre humble avis, l'intelligence artificielle devrait être adoptée et non pas crainte. La plupart des gens associent cette technologie à HAL ou à Skynet, mais les avantages positifs potentiels de l'intelligence artificielle semblent l'emporter sur les craintes de voir nos créations gagner en sensibilité et nous détruire tous..

En vérité, l'intelligence artificielle ne sera que bienveillante ou mauvaise, selon les intentions humaines..

Un rapport de 101 pages intitulé "Utilisation malveillante de l'intelligence artificielle", publié par des chercheurs de Yale, Oxford, Cambridge et OpenAI, souligne que le danger réel de cette technologie pourrait provenir de pirates informatiques utilisant un code malveillant pour cibler les vulnérabilités des systèmes automatisés d'IA, ce qui donnerait aux utilisateurs une plus grande capacité. causer des dommages physiques ou politiques.

Publié mercredi et couvert pour la première fois par CNBC, ce rapport souligne la “usage double” nature de l'IA: les programmes automatisés construits avec les meilleures intentions du monde peuvent être transformés en technologies nuisibles. Que devrions-nous craindre le plus? “[AI] des outils de surveillance peuvent être utilisés pour attraper des terroristes ou opprimer des citoyens ordinaires,” était un exemple donné par le rapport, ou drones commerciaux pour la livraison d'épicerie en cours de fabrication d'armes.

Un autre scénario décrit impliquait des voitures autonomes. Ils avertissent que les pirates pourraient modifier juste “quelques pixels” du concept d'un AI de signe d'arrêt, un changement assez petit pour que les humains ne remarquent peut-être pas la différence, mais puissent faire en sorte que toute une flotte de voitures sur le serveur d'une entreprise commence à ignorer les lois sur la sécurité.

Les auteurs ont organisé les menaces potentielles pour la sécurité en catégories numériques, physiques et politiques:

  • Les IA sont déjà utilisées pour étudier les vulnérabilités de code corrigées et extrapoler les nouvelles vulnérabilités que les bots pourraient exploiter. à l’avenir, les IA pourraient donner aux bots des habitudes de navigation semblables à celles des humains, rendant les attaques par déni de service impossibles à défendre
  • L'automatisation pourrait “doter les individus peu qualifiés de capacités d'attaque auparavant élevées”; en théorie, une personne pourrait contrôler un “mini-essaim” de drones utilisant un script d'IA coordonné
  • Les répercussions politiques pourraient inclure “deepfake” technologie utilisée pour ternir la réputation d'un chef politique ou pour automatiser la désinformation et le trolling actuellement adoptés par la Russie pour influencer les futures élections.

Anticiper les pires scénarios

Ces exemples, aussi effrayants soient-ils, restent pour la plupart hypothétiques, et le rapport ne prétend pas que les intelligences artificielles devraient être interdites en tant que danger inhérent..

Au lieu de cela, les auteurs du rapport soulignent que certaines mesures doivent être mises en œuvre par les gouvernements et les entreprises maintenant, alors que l'industrie est encore naissante..

Les décideurs politiques des gouvernements mondiaux devraient, selon eux, commencer à étudier la technologie et travailler avec des experts du domaine pour réglementer efficacement la création et l'utilisation d'IA. Les développeurs d'IA, quant à eux, ont besoin de s'autoréguler, d'anticiper toujours les pires conséquences de leur technologie et d'avertir à l'avance les décideurs politiques.

Le rapport exhorte également les développeurs d'intelligence artificielle à s'associer à des experts en sécurité dans d'autres domaines, tels que la cybersécurité, et à voir si les principes garantissant la sécurité de ces technologies pourraient également être utilisés pour protéger l'IA..

Le rapport complet est beaucoup plus détaillé que nous ne pouvons le résumer ici. Mais l'essentiel est que l'intelligence artificielle est un outil puissant et que, comme pour toute nouvelle technologie, les gouvernements et les parties prenantes de leur développement doivent l'étudier pour s'assurer qu'elle n'est pas exploitée à des fins néfastes..

  • Pour toutes les applications positives et les implications de l'intelligence artificielle, consultez notre AI Week Hub pour voir comment l'intelligence artificielle améliore nos vies..