Aujourd’hui, nous sommes à l’aube d’une ère de changements technologiques sans précédent. Parfois appelé la quatrième révolution industrielle, ce moment historique a inspiré un consensus croissant selon lequel les développements récents de la science et de la technologie sont de nature unique et susceptibles d’avoir un impact sur presque toutes les facettes de notre vie quotidienne.
Dans des domaines allant de la robotique et de l’intelligence artificielle (IA) aux sciences des matériaux et de la vie, les décennies à venir promettent des innovations qui peuvent nous aider à promouvoir la paix, à protéger notre planète et à lutter contre les causes profondes de la souffrance dans notre monde. Notre capacité accrue d’interagir à travers le cyberespace soutient et renforce ces grandes avancées technologiques, multipliant les opportunités que nous avons de partager des informations et d’acquérir des connaissances sur notre planète de plus en plus en réseau.
Pourtant, avec un potentiel unique, il existe des risques uniques. Atténuer ces risques exigera de nouveaux types de planification et de collaboration.
La révolution d’aujourd’hui diffère des progrès précédents de trois manières fondamentales, avec des implications importantes pour notre paix et notre sécurité futures.
Premièrement, il y a un niveau incomparable de diffusion technologique, une démocratisation des moyens pour créer et accéder aux nouvelles technologies. Deuxièmement, le changement technologique s’accélère à mesure que les combinaisons d’innovations engendrent de nouvelles avancées et développements à des vitesses dépassant les précédents historiques. Troisièmement, cette révolution couvre une étendue sans précédent de recherche humaine, apportant des percées dans des disciplines allant de la biologie à l’informatique en passant par la technologie des matériaux.
Les possibilités d’améliorer la condition humaine grâce à ces développements sont vastes. Prenons le domaine de la médecine, où notre compréhension naissante de la biologie synthétique pourrait un jour aider les médecins à adapter les traitements aux besoins de chaque patient avec une précision extraordinaire. Cette compréhension croissante se reflète dans l’espace extra-atmosphérique, où la technologie nous permet d’apercevoir des mondes lointains, tout en nous rapprochant les uns des autres grâce à nos infrastructures de communication et de transport sur Terre. Pendant ce temps, la production à la demande de pièces et d’appareils personnalisés grâce à l’impression 3D, promet d’abolir des barrières supplémentaires dans l’ingénierie et l’industrie, accélérant encore davantage les progrès.
Ces nouvelles caractéristiques, cependant, produisent également des menaces uniques qui, malheureusement, font autant partie de notre révolution actuelle que celles qui l’ont précédée. L’histoire regorge d’innovations technologiques créées pour le bien de l’humanité et qui ne s’appliquent qu’aux entreprises moins bienveillantes.
De nouveaux outils de modification biologique et de synthèse, conçus pour aider les scientifiques à mieux comprendre la maladie, pourraient être mal utilisés pour augmenter la puissance des agents infectieux qui pourraient être utilisés comme armes. Dans l’espace extra-atmosphérique, des systèmes robotiques conçus pour ravitailler ou réparer des satellites en orbite pourraient vraisemblablement être utilisés pour mener des attaques, infligeant des dommages à d’autres engins spatiaux. L’impression 3D a déjà été utilisée pour fabriquer des composants d’aéronefs et de missiles pour les militaires et pour produire des armes de poing, ce qui suscite de vives inquiétudes quant à la prolifération des acteurs étatiques et non étatiques. Les vulnérabilités dans le cyberespace peuvent également constituer des menaces pour les systèmes bancaires, les hôpitaux, les réseaux électriques et d’autres parties de notre infrastructure critique connectée à Internet.
Dans chacun de ces domaines, la militarisation des percées scientifiques et technologiques pourrait avoir des conséquences inattendues, imprévues et dangereuses. De plus, les progrès du big data et de l’IA ont suscité des inquiétudes quant à l’émergence de machines ayant le pouvoir et la capacité de prendre des vies humaines sans contrôle humain.
Les systèmes d’armes létales autonomes – ou, plus familièrement, les «robots tueurs» – pourraient créer de nouvelles menaces pour la stabilité internationale et régionale. Ils pourraient, par exemple, engendrer des difficultés pour l’attribution de divers actes d’hostilité; créer de nouveaux risques d’escalade involontaire de conflit; et, en promettant une guerre sans victimes, abaisser les seuils du gouvernement pour l’usage de la force. Les acteurs non étatiques, tels que les groupes terroristes et les réseaux criminels internationaux, pourraient mettre les technologies connexes au service de leurs propres programmes.
Le Secrétaire général a adopté une position ferme sur cette question, affirmant que les armes autonomes capables de tuer des personnes sans intervention humaine seraient «politiquement inacceptables et moralement répugnantes» et devraient être interdites.
La question clé est de savoir comment réduire ces risques nombreux et variés sans étouffer la créativité et les progrès technologiques florissants de notre époque. Une première étape vitale pour les décideurs – en particulier ceux qui sont chargés de négocier des traités multilatéraux et des normes internationales – consiste à établir des partenariats durables avec des experts techniques: scientifiques, ingénieurs et médecins. Ces acteurs très différents doivent apprendre à se parler.
Pour comprendre l’importance de ces communautés en tant que défenseurs, considérez les efforts de désarmement de la guerre froide. Les physiciens nucléaires, agissant par l’intermédiaire de nouvelles organisations et d’institutions établies, ont contribué à éduquer les décideurs et le grand public sur les conséquences catastrophiques des armes nucléaires, y compris «l’hiver nucléaire» qui pourrait résulter de leur échange. Apporter ce type de conseils et d’activisme à l’intérieur de la «sphère» de l’élaboration des politiques est encore plus crucial pour les innovations d’aujourd’hui en matière de technologie militaire, qui proviennent généralement du secteur privé.
Les scientifiques, les ingénieurs et les entrepreneurs possèdent une autorité unique lorsqu’ils discutent des menaces émergentes dans leurs domaines d’expertise. Nous avons déjà été témoins de cela, car beaucoup ont commencé à faire entendre leur voix contre les dangers potentiels posés par la militarisation de l’IA.
En cultivant un dialogue large et durable avec ces acteurs, les décideurs peuvent développer des compétences et des connaissances essentielles sur les technologies qu’ils espèrent gérer.
Les innovateurs, pour leur part, devraient se concentrer davantage sur les implications sociales et sécuritaires de leur travail – «penser avant de coder». Les considérations de paix et de sécurité doivent être au premier plan du discours scientifique, y compris dans les salles de classe et dans les premières discussions sur le développement de nouvelles technologies.
Assurer notre sécurité et protéger les innovations révolutionnaires d’aujourd’hui ne sont pas des priorités concurrentes. En fait, les considérer ensemble peut nous aider à réussir dans les deux. Nous le voyons dans les progrès technologiques qui pourraient aider les gouvernements à rendre compte de leurs engagements en matière de désarmement et de maîtrise des armements. Les progrès de la technologie des rayons X pourraient contribuer à la détection des matières d’armes nucléaires, par exemple, et l’accès mondialisé à la technologie des satellites pourrait permettre l’externalisation de certains processus de vérification.
Ce n’est qu’en établissant des partenariats durables entre les États membres et ces groupes que nous pourrons créer les bases nécessaires à la genèse et à la gestion responsables des révolutions technologiques. En travaillant ensemble pour examiner comment les progrès de la science et de la technologie peuvent affecter la paix et la sécurité internationales, nous pouvons davantage aider les innovateurs et les décideurs à contribuer à créer une planète plus sûre et plus sûre pour tous.