Le B.A.-BA de l'intelligence artificielle | Une leçon de géopolitique | ARTE

[Musique] chaque citoyen doit devenir un soldat malgré lui nous sommes tous potentiellement aujourd'hui une cible et donc il va falloir qu'on ait de nouveaux réflexes [Musique] cognitifs ravi de vous retrouver pour une nouvelle leçon de géopolitique aujourd'hui le B àas de l'intelligence artificielle et ses répercussions sur notre vie politique et géopolitique la guerre de l'information les élections la guerre des idées et des modèles culturels de tout cela on en parle avec vous Asma mala bonjour bienvenue bonjour Élie auri merci beaucoup merci à vous d'être en ligne avec nous vous êtes spécialiste des enjeux politique de la tech et vous publiez ces jour-ci cet ouvrage technopolitique comment la technologie fait de nous des soldats aux éditions du Seuil alors je vous propose comme toujours 10 questions clés première question basique euh chronologiquement on a eu Internet au début du 21e siècle puis les réseaux sociaux en gros dans la décennie suivante et aujourd'hui l'intelligence artificielle en quelques mots dites-nous c'est quoi et ça change quoi ce sont en fait des super systèmes en gros si je fais de façon très schématique on prend beaucoup de données ça peut-être tous vos usages sur internet ça peut-être les données militaires les communications les télécommunications ça peut-être des données industrielles et qu'on va injecter dans un dans les modèles d'entraînement pour les entraîner de façon massive pour pour sortir des outputs c'est-à-dire en fait de l'information en résumé est-ce que l'on peut dire que c'est nourrir une machine à grand cooup de Data et que cette profusion de Data va donner à la machine les moyens de produire un raisonnement qui ressemble à un raisonnement humain c'est assez spécifique à ce qu'on va appeler les intelligences artificielles génératives par exemple chat GPT ou Jimmy n de Google en fait c'est l'idée que on va avoir des systèmes algorithmiques qui en fait vont vous aider des consignes que vous allez mettre dans votre petite application vous allez dire ce que vous avez envie de chercher peu importe et en fait elle va vous générer du contenu ça peut-être du texte ça peut-être du code de l'image et ça peut-être bienveillant ou malveillant merci pour cet effort de définition préliminaire deuxième question à présent avec vous on a envie de comprendre qui sont les grands acteurs aujourd'hui de l'intelligence artificielle les grands industriels on va évidemment trouver les géants technologiques ce qu'on appelle les bigtech et aujourd'hui la grande la grande bataille se joue entre Sam Altman qui est le patron de open ai qui est cette start-up qui a mis sur le marché de chat GPT le fameux qui a relancé disons la la la troisième grande vague d'intelligence artificielle de ces 20 dernières années et qui est lui-même financé Baqué pardon pour l'anglicisme par Microsoft et en face on va avoir par exemple la Elon Musk ce qui se joue entre ces grands acteurs technologiques c'est aussi une bataille culturelle parce que la technologie l'intelligence artificielle par les systèmes algorithmiques les algorithmes dont on parlait tout à l'heure véhicule des valeurs véhicule une une vision du monde précisément quelles sont ces différences de valeur entre un Elon Musk et le système de valeur méta par exemple aujourd'hui la vraie bataille culturelle qui est en train de se jouer c'est pl entre open ai Microsoft et Elon Musk avec évidemment les modèles de ma Lama et les modèles de Google Gemini dans l'écosystème avec cette bataille des géant technologique autour de l'outil qui va si vous voulez préempter nos usages mais ce qui est fondamental à avoir en tête et qui est très peu connu c'est la bataille culturelle qui est en train de se jouer autour des intelligences artificielles parce que vous avez une partie de l'élite technologique américaine de la Silicon Valley dont Peter te de palentir et de Paypal dont Elon Musk qui sont en train en fait de pencher vers l'altri la droite radicale la droite extrême américaine avec ce programme c'est-à-dire on va utiliser nos outils technologiques pour véhiculer une espèce de make America great again par la technologie pour qu'on comprenne bien précisément expliquez-nous donnez-nous peut-être un ou des exemples comment des algorithmes peuvent aider l'extrême droite à gagner sa bataille des idées sur ses réseaux sociaux d'Elon musk c'est très simple si on prend par exemple x Twitter c'est un espace qui est en fait un espace public où se joue et où se fixe une partie de l'agenda international où communiqueent aujourd'hui dans un premier réflexe tous les gouvernants sur Twitter Emmanuel Macron Joe Biden tous bon donc c'est un c'est un espace d'influence mais l'algorithmie derrière va vous aider ou les intelligences artificielles qui sont derrière vont vous aider à survisibiliser certains contenus par la viralité ou invisibiliser d'autres par de la surmodération et le grand le grand la grande difficulté qu'on a c'est d'essayer de trouver la bonne gouvernance de ces outil là dans le cas de Elon Musk et j'en terminerai là mais c'est assez intéressant de de voir un peu l'agenda politique qu'il y a derrière son son son sujet avec X Twitter c'est d'en faire un espace de démocratie dit-il directe ou finalement c'est le pouvoir au peuple mais dans une version presque très romantique de la chose mais en en détruisant et ça c'est une vraie c'est un vrai c'est c'est une vraie obsession chez Mosk ce qu'il appelle lui les corps intermédia donc vous les journalistes et les contrepouvoirs il y a les grands industriels de Lia on en a cité quelques-uns les principaux et puis il y a aussi les états face à l'intelligence artificielle je voudrais qu'on commence peut-être par cette phrase fameuse de Vladimir Poutine celui qui dominera l'intelligence artificielle dominera le monde dominera le 21e siècle est-ce que vous pouvez nous parler du rapport qu'entretient la Russie de Vladimir Poutine avec l'intelligence artificielle il avait dit ça en effet en 2017 et et à ce moment-là il y avait cette vision de se dire il y a il va y avoir un état une entité qui va contrôler cette technologie et qui va en effet dominer le monde or ce qu'on est en train d'observer c'est tout autre chose c'est même une balcanisation une fragmentation vous avez plein d'acteurs et dans ce jeulà la la stratégie russe a davantage été et pour terminer pour répondre à votre question initiale a d'avantage été mais par tout un T pour par tout un ensemble de lois d'ailleurs sur une forme de souveraineté dite informationnelle ils ont réussi à développer un écosystème relativement autonome qui s'appelle le ruNet je voudrais bien vous entendre aussi sur cette capacité qu'a su développer la Russie de Vladimir Poutine à venir troller le débat public mondial ou en tout cas européen est-ce que ça ça passe par l'intelligence artificielle et si oui expliquez-nous concrètement comment là la question que vous posez qui est éminemment géopolitique c'est toute la question de la désinformation et des ingérences notamment russes pour déstabiliser les démocraties occidentales absolument et c'est bien intérieur à la guerre d'Ukraine c'est une stratégie qui consiste par des fermes à troll par tout un tas de bottes automatisé ça c'était la première phase à venir si vous voulez inonder nos réseaux sociaux avec de la désinformation avec des récits avec des récits qui vont promouvoir le discours russe ou plutôt d'ailleurs déstabiliser nos démocraties mais par leur intérieur en Polaris an en brutalisant le débat public en donnant de la matière à des groupes complotistes ou séparationnistes pour augmenter la dissension pour augmenter l'impossibilité de la conversation démocratique et l'intelligence artificielle est fondamentale là-dedans puis qu'en fait tout d'un coup vous allez pouvoir industrialiser la fabrication de contenu faux mais de bout en bout la fabrication de faux sites de sites d'information mais de sites dit miroir vous allez pouvoir industrialiser mais en quantité extraordinaire les deep fake les fameuses vidéos qui vont simuler du faux et comme ça vous pouvez créer des univers de faux de bout en bout et qui qui sont presque et qui vont devenir à force de sophistication de plus en plus difficilement desbunc ça veut dire trouver des algorithmes pour contrer d'autres algorithmes ou trouver des citoyens qui ont envie de passer beaucoup de temps sur les réseaux sociaux pour venir justement dénoncer des deep fake les deux mon capitaine évidemment que ça va être des IA avec des contes Ia et donc on va essayer si vous voulez d'industrialiser la captation des des campagnes de désinformation en France on a la viginum qui aujourd'hui essaie d'avoir un effort de communication de plus en plus fort sur justement l'identification de ces campagne large de désinformation les les les tiers de confiance disons la société civile qui va essayer d'identifier les contenu pour aider le le régulateur c'est fondamental aussi mais moi ce que je disais c'est que chaque citoyen doit devenir un soldat malgré lui nous sommes tous potentiellement aujourd'hui une cible et donc il va vooir qu'on ait de nouveaux réflexes cognitifs dès l'instant où je suis exposé à un contenu je prends 2 minutes je prends 2 secondes je prends 3 secondes pour juste me demander qui me parle et pourquoi on me pousse ce contenu là parce qu'on on ne va pas pouvoir mettre un flic ou un militaire derrière chaque citoyen ça ne va pas être possible donc si je résume à ce stade de notre entretien on est dans une véritable guerre cognitive et guerre tout court qui se joue entre des industriels entre des états avec évidemment un grand bras de fer principal et vous l'avez évoqué celui qui se joue entre une démocratie aujourd'hui c'est une démocratie et les États-Unis et un système qu'on peut qualifier de dictatorial la Chine comment résumer cette confrontation là sur le plan précisément de l'intelligence artificielle alors une partie de la rivalité géostratégique États-Unis Chine se joue en effet sur l'intelligence artificielle et pourquoi c'est une vraie stratégie de politique de puissance des deux états parce que dès 2017 le PCC va annoncé dans ses fameux plans quineno qu'il a l'ambition de devenir l'une des premières puissances militaires mondiales d'ici 2049 vous ne pouvez pas le devenir sans une forme de suprématie technologique donc via l'intelligence artificielle pour peut-être répondre plus précisément encore à à ma question est-ce que vous pouvez essayer de nous expliquer en quoi le recours à l'intelligence artificielle diffère ou non selon qu'on a affaire à un État démocratique ou ou un état autocratique en l'occurrence bien sûr l'État chinois celui du PCC aux États-Unis aujourd'hui l'axe de la régulation et ça va répondre à votre question l'axe de la régulation est très axé sur la question de la sécurité nationale avec un écosystème d'innovation les fameux géants technologiques mais pas uniquement qui sont dans un marché disons libéral sur les questions de valeurs par exemple aujourd'hui sur la question des réseaux sociaux vous avez une forme de liberté d'expression c'est même le premier amendement de la Constitution américaine ce qui d'ailleurs pose d'autres problèmes sur la question de la modération de propos disons qu'ils sont dans une zone grise mais qui ne sont pas pénalement répréhensibles ce qui pose donc la question de la gouvernance de MTA d'Instagram de Twitter et cetera côté chinois et vous allez voir que la question des valeurs là est fondamental c'est l'inverse aujourd'hui il y a une même une peut-être une petite difficulté à développer leur propre système d'intelligence artificielle à cause de la censure parce que dès l'instant où vous avez des lois qui vont censurer le discours politique donc la création de données que vous allez au énéiser ce qui sort sur les réseaux sociaux et sur l'ensemble des plateformes et bien automatiquement vous allez avoir des modèles d'intelligence artificielle beaucoup moins performants parce que vos données se ressemblent et à tel point que récemment ce qui a été annoncé c'est que Alibaba qui est l'un des grands géant technologique chinois utilise Lama qui est la plateforme d' d'intelligence artificielle d'open source de méta parce que précisément ils ont besoin de niveau performatif un peu plus élevé est-ce que vous pouvez nous rappeler plus précisément comment l'intelligence artificielle est l'outil préféré des dictateurs d'une certaine manière puisque pour pratiquer le contrôle social au fond c'est le meilleur ad duvent le cas d'école c'est la Chine la censure fait que ça empêche d'avoir une forme d'hétérogénéité des données et donc une meilleure performance des systèmes algorithmiqu et d'intelligence artificielle ça c'est le premier élément de réponse le deuxième élément de réponse c'est que donc les investissements se sont ont beaucoup basculé vers la technosurveillance les systèmes d'intelligence artificielle aujourd'hui en Chine sont en fait vont venir doperper booster tous les outils de contrôle social vous avez le Crédit Social bien entendu vous avez le cadrillage de l'espace public par la reconnaissance faciale le contrôle des réseaux sociaux et avec en fait une forme d'amende extrême pour les géant technologiques qui ne respecteraient pas les les les règles de promotion disons des valeurs socialistes et l'intelligence artificielle de ce point de vue-là est un outil de contrôle de la population de contrôle de ce qui est dit de contrôle de vos opinions politiques et ce que je relèverai enfin et qui sur lequel il faut vraiment être vigilant c'est que et et a raison d'ailleurs nous essayons nous de de défendre nos valeurs d'État de droit en démocratie libérale occidental et bien il y a une tentation d'un certain nombre d'État mais même en France de commencer à disons industrialiser aussi l'usage de technologies d'hypurveillance qui sont dopé à l'intelligence artificielle et il faut que donc ceci fasse vraiment l'objet d'un vrai débat public éclairé à présent avec vous Asma on a envie de comprendre en quoi l'intelligence artificielle pourrait pourrait faire courir un risque majeur aux deux grands scrutins qui sont devant nous en Occident du moins les élections européennes en juin et bien sûr la présidentielle américaine en novembre prochain il va y avoir deux grands axes mais on les voit déjà en réalité bien sûr tout le champ des cyberattaques pour déstabiliser le fonctionnement des élections le service de des administrations des portails d'administration pour en fait créer de la dissension donc ça c'est le premier volet et puis le deuxième volet peut-être le plus délicat c'est évidemment la question informationnelle c'est-à-dire en fait toutes les campagnes de désinformation d'ingérence de microciiblage et qui vont évidemment être dopé à l'intelligence artificiel parce qu'on évoquait les deep fake les faux sites les faux contenus les faux profils mais en quantité industrielle et je terminerai sur le le le retour d'expérience de l'Argentine qui est ultra intéressant parce qu'en Argentine on a eu ce qu'on a appelé les tip fake c'est-à-dire ce sont des deep fake donc vous savez donc ces fameuses vidéos fausses qui manipulent des par qui manipule des leaders d'opinion à qui on fait dire tout et n'importe quoi et en fait en Argentine ça ça a été fabriqué mais de façon extrêmement de de très basse qualité et ça se voyait que c'était bidouillé et que c'était faux et pourtant et pourtant ça a été extrêmement viral pourquoi parce que d'une certaine façon peu importe que ce soit crédible ou pas l'essentiel est que ça devienne un support de colère et ça vous permet de décrédibiliser le camp d'en face merci infiniment à ce MAM d'avoir été en ligne avec nous c'était passionnant je rappelle que vous êtes spécialiste des enjeux politiques de la tech et que vous publiez ces jour-ci technopolitique comment la technologie fait de nous des soldats c'est aux éditions du Seuil merci à vous de nous avoir suivi merci merci pour votre fidélité et rendez-vous bien sûr la semaine prochaine même endroit même heure pour une nouvelle leçon de géopolitique [Musique] Ciao