Notre voix : une donnée sensible à protéger ! - Science En Questions

salut les sorciers heureux de vous retrouver dans Science en question salut marine salut Lauren att attendez nous vous informons que cet appel est susceptible d'être enregistré si vous voulez vous y opposer appuyez sur la touche étoile de votre téléphone je suis sûr que vous avez déjà entendu cette phrase au moins une fois en appelant un service client ouais et parfois l'enregistrement de notre voix n'est même pas annoncé explicitement tu as bien raison aujourd'hui de plus en plus d'applications ou de services fonctionnent grâce à la collecte des données vocales alors on accepte rapidement les conditions légales au moment de l'installation puis on passe vite à autre chose pourtant autoriser l'enregistrement de sa voix n'est pas anodin quels sont les risques comment notre voix peut-elle nous trahir et comment s'en protéger dans cette émission vous verrez que la recherche scientifique innove pour proposer des solutions n'est-ce pas laorine ouais tout à fait on découvrira ensemble une solution pour pouvoir anonymiser notre voix ok marine de quoi tu vas nous parler désolé je ne suis pas en mesure de répondre à cette question non je plaisante on va on va parler ensemble des deep fake vocaux un beau programme en perspective on commence tout de suite [Applaudissements] [Musique] [Applaudissements] pour nous accompagner tout au long de cette émission nous avons le plaisir de recevoir Emmanuel Vincent bonjour bienvenue sur le plateau de de sciences en question alors vous êtes directeur de recherche in RA et vous êtes spécialisé dans le domaine du traitement de la parole alors première question sur cette émission autour de l'anonymisation des voix est-ce que vous acceptez qu'on a on enregistre votre votre voix pour l'émission oui j'accepte ok heureusement parce que sinon on était fichu alors en introduction j'ai parlé du du service client mais c'est pas la seule situation dans la vie de tous les jours où notre voix est enregistrée est-ce que vous avez d'autres exemples à nous donner euh oui donc a quand on utilise un assistant vocal par exemple notre voix va être enregistré envoyé dans les serveurs de l'entreprise qui gère l'assistant sinon ça peut être aussi dans des sites situation à l'hôpital par exemple quand on vient pour des troubles de desélocution ou Desf des problèmes de santé li à la voix voilà et quand vous parlez des assistants vocaux c'est typiquement quand on fait 10 Siri Alexa et Google 10 Google et CER exactement ou OK et est-ce que dans les applications aussi je pense par exemple les applications de messagerie quand on s'envoie des des messages plutô de les écrire si on s'envoie des messages vocaux est-ce que ça aussi c'est c'est c'est c'est pris en compte oui alors ça va dépendre de la appcation dans certains cas ça va être stocké uniquement sur votre téléphone et puis d'autres applications peut-être peuvent envoyer ces messages dans des Data Center et et quel est le but de ces enregistrements pourquoi pourquoi les entreprises enregistrent notre voix pour les assistants vocaux en fait notre voix va être traité pour reconnaître le le texte de ce qu'on a dit puis analyser le sens de de la commande vocale c'est pour répondre à notre requête en fait exactement et donc cette réponse elle va être traitée dans un data center plus que sur le téléphone et donc la la voix va être envoyée dans le data center pour le traitement et lorsqu'on consent à ce qu'elle soit traitée là-bas ben elle peut aussi être stockée pour un deuxième besoin qui est que bah toutes ces solutions de d'assistants vocaux c'est c'est de l'IA qui repose sur des de l'apprentissage automatique donc on va apprendre euh à au système dans le data center à reconnaître notre requête et pour ça il a besoin de données sur lesquelles baser son apprentissage on nourrit la bête en fait en quelque sorte exactement c'est de la quand est-ce qu'on le donne le consentement c'est quand on répond quand on dit ok aux conditions d'utilisation oui c'est ça souvent c'est la pour une application c'est la première fois qu'on utilise l'application quand on consent à utiliser le microphone à utiliser l'application on consent à ces usages là pour connaître le détail de ce à quoi on consent on peut aller consulter les VO la licence en fait entre le fournisseur de la solution et l'utilisateur qui détaille ce qu'il va faire exactement avec notre voix faut vraiment avoir envie d'aller chercherou c'est en fait c'est quand on clique sur Autoriser tout au tout début très rapidement sans regarder c'est ça voilà c'est ça ok alors ça paraît un peu anodin comme ça mais en 2022 par exemple le groupe MTA a été condamné à une amende de 265 millions d'euros pour une protection insuffisante des données personnelles donc du coup est-ce que le risque c'est justement le le manque de protection de ces données après alors ces données elles sont quand même stockées dans un environnement qui est protégé malheureusement ça arrive qu'il ait des situation où par exemple quelqu'un récupère notre mot de passe pour accéder à l'espace où sont stockés ces informations donc là il peut accéder à nos données ça arrive aussi sans doute plus rarement qui est un hackur qui accède vraiment à une plus grande quantité d'information là où c'est stocké euh donc voilà je pense toutes toutes les mesures sont prises pour pour qu'il ait de la sécurité mais des fois il y a des brèches de sécurité ensuite même en l'absence de brèche de sécurité MTA eux-même ou d'autres entreprises hein c'est vraiment un exemple parmi d'autres euh bah en fonction des autorisations qu'on a donné ouais euh peuvent faire ce qui est dans la limite de l'autorisation et quand cette autorisation est assez large ils peuvent utiliser les données pour des buts qu'on avait pas forcément en tête au moment où on a donné l'autorisation d'accord et bon je je continue un petit peu mais qu'est-ce qu'on qu'est-ce qu'on risque si jamais on se fait voler nos données alors il y a différentsn voales en particulier donc il y a différents risques par rapport à à cœur externe souvent ce qui pourrait les intéresser c'est de faire de l'usurpation d'identité vocaleou donc en récupérant quelques enregistrements de notre voix c'est pas forcément beaucoup hein quelques dizaines de secondes quelques minutes on va le voir un peu plus tard dans l'émission d'Illes il est possible de faire ça euh un deuxième risque c'est dans le le contenu de ce qu'on va dire c'est-à-dire qu'on peut donner des informations personnel sensible par exemple peut-être un numéro de carte bleue ou les une maladie qu'on pourrait avoir alors n'en dites pas plus on va le découvrir on va le découvrir on va voir que notre voix et les informations contenues dans les enregistrements en disent long sur nous mais d'abord on va donner la parole au public on leur a demandé à quoi pouvait correspondre l'expression signature vocale c'est le mot mystère du jour une signature vocal ça doit être non je sais pas signature vocale ça m'évoque pas grand-chose je dirais une signature électronique non rien à voir je sais pas j'ai pas entendu parler de ça mais j'imagine que c'est peut-être le timbre de sa voix qui est reconnu ça doit être la particularité de la voix d'un individu qui permet de l'identifier quand on entend seulement la bande sonore qui la représente je dirais différentes tonalités les tonalités les graves les aigus la variation qu'on a de qui fait l'unicité de notre voix alors moi peut-être ça me fait penser peut-être à Siri de l'iPhone par exemple Signat vocale parce qu'en fait il reconnaît notre voix donc c'est la reconnaissance vocale donc je pense que c'est peut-être Siri je pense donc peut-être une intelligence artificielle qui reconnaîtrait la voix d'une personne et pas celle d'une autre et non c'est c'est c'est ça voilà alors Emmanuel une jeune femme dit que la signature vocale c'est la particularité de la voix d'un individu qui permet de l'identifier quand on entend la bande sonore est-ce que c'est correct oui c'est correct la signature c'est l'ensemble des caractéristiques de la voix qui Perm m d'identifier une personne dans une certaine mesure pas forcément de façon unique comme l'a dit l'une des personnes interrogées d'accord ça veut dire que c'est c'est pas comparable à la l'empreinte digitale non c'est pas comparable parce que il y a plus de variabilité en fait notre voix elle va varier au cours de notre vie au cours du temps si on est enrumé et cetera et puis il y a plus de voilà c'est plus facile de trouver une autre personne qui a une voix similaire à la vôre peut-être ça vous est déjà arrivé d'ailleurs et si on regarde juste justement sur alors sur cette image est-ce que vous pouvez nous expliquer comment pourquoi la voix est si caractéristique d'une personne alors il y a une une première chose qu'on voit qui est en bas qui est le conduit vocal en fait c'est la en bas à gauche et puis le en bas au milieu ok la forme du conduit va varier d'une personne à une autre et ça ça va se traduire parce qu'on voit en haut donc il y a un spectrogramme donc horizontalement c'est le temps euh et puis verticalement c'est la fréquence donc c'est la hauteur des sons que produit la voix c'est c'est quoi les aiguilles les graves les exactement donc on a les aigus qui sont en haut du dessin et en bas ce sont les sons graves OK et donc on voit qu'il y a un certain nombre de zones qui sont plus foncées c'est là qu'il a le plus d'énergie sonore concentrée et donc les en bas les les trait qui correspondent aux courbes rosees et vertes dépendent plutôt des sons qu'on va prononc et plus haut ça va dépendre de la forme de notre conduit vocale donc ça ce sont les premières caractéristiques donc le à quelle hauteur exactement d'aigu ou de grave il y a plus d'énergie ce sont les premières caractéristiques qui vont dépendre de l'individu d'accord donc il y a un aspect morphologique aussi dans tout ça il y a un aspect morphologique exactement donc on peut dire aussi biométrique parce que ça ça dépend de votre physionomique vous pouvez pas changer c'est comme ça l'emprinte digitale on parle de données biométriques c'est des oui ça permet de nous identifier alors une donnée biométrique en général c'est une donnée qui va dépendre de de notre morphologie ENF en fait de de trait de notre individu physique quoi qu'on ne peut pas modifier facilement la voix il y a des choses qu'on peut modifier qui sont de le le style la façon dont on parle est-ce qu'on parle très vite ou plus lentement est-ce que on change beaucoup la hauteur au cours de la phrase ou pas chacun a aussi des façons différentes de faire ça par contre ça on peut le modifier en s'entraînant et alors est-ce qu'il y a d'autres caractéristiques qui sont qui permettent de différencier les voix comme ça euh bah donc le le style vocal on peut le voir ici un petit peu selon le par exemple la variation de ces courbes de hauteur au cours du temps ça peut nous nous aider à pe être différente d'un individu à l'autre est-ce y a des courbes typiques l'accent du sud l'accent du Nord alors dans les accents il y a beaucoup de choses différente mais par exemple on dit que dans le sud on a l'accent plus chantant et ça c'est parce que la hauteur de la voix varie plus au cours du temps on pe on peut l'observer avec des des on peut l'observer sur ce genre de représentation oui quelqu'un dans le microtottoire aussi parler du timbre de la voix c'est quoi le timbre déjà et puis est-ce que ça joue sur sur l'identification de la voix alors dans le timbre il va y avoir ce dont j'ai parlé donc la la hauteur des fréquences de résonance du conduit voc ouais et par ailleurs il va y avoir aussi la qualité de la voix c'estàd qu'on peut avoir une voix très R ou au contraire très douce ça ça va se passer plutôt au niveau des cordes vocales en fonction de est-ce que la vibration est très enfin de la de la de la forme de la vibration si elles sont très serrées très tendues ou si son exactement donc si c'est très serré quand on est stressé les cordes vocales se relâche moins ça va donner une voie qui est souvent un peu plus aigu et plus euh enfin dans le le grain de la voix va être différent voilà c'est un muscle les cordes vocal euh c'est un muscle oui alors certains assistants vocaux sont capables de faire la différence entre plusieurs personnes d'un foyer par exemple donc est-ce qu'il s'appuie sur la signature vocale pour différencier et répondre à la requête de l'un ou de l'une oui tout à fait ils vont stocker une signature vocale euh souvent dans l'Assistant lui-même euh pour euh ne pour des raisons de protection de la vie privée euh puisque s'il était stocké dans un data center euh ça traduit une partie de notre identité potentiellement ça permettrait de nous identifier dans des situationù on ne veut pas être identifié donc ça ça c'est un risque et puis il y a un dernier risque que j'ai pas mentionné tout à l'heure euh qui est euh toutes les informations supplémentaires qu'on peut extraire par exemple sur notre origine ethnique ça peut être c'est lié souvent à à l'accent euh ça peut être aussi des informations médicales euh il y a un ensemble de maladies de la voix évidemment qui se traduisent dans la voix mais aussi des maladies qui sont pas forcément lié à la voix euh par exemple on peut dire une dépression à première vue c'est c'est pas des informations parfaites on va pas pouvoir prédire avec certitude que vous avez une dépression mais ça permet quand même c'est des indices quoi qui qui donne un petit indice peut-être si après on les on les corrèle avec d'autres informations qu'on arrive à récolter là ça ça peut devenir probléma exactement donc souvent les risques pour la vie privée naissent de l'agrégation de plein d'informations qu'on va collecter dans diverses données provenant de vous aussi des informations qu'on peut trouver en libre accès sur les réseaux sociaux sur Internet et en agrégeant tout ça les risques augmentent bah nous nos voix là déjà c'est c'est fichu quoi c'est grillé c'est bon alors avec votre équipe INRIA vous avez mis au point un algorithme destiné à anonymiser la voix le but c'est de nous protéger on découvre comment ça fonctionne avec Loren dans le science en action alors pour commencer Emmanuel moi quand je pense à l'anonymisation vocale je pense au reportage où on modifie la voix des gens ou les les témoignages euh est-ce que à ce moment-là c'est une modification de la signature vocale euh oui ça va modifier la signature vocale enfin en tout cas à l'écoute quand on l'entend on voit bien que ce n'est pas la même voix ce n'est pas le même timbre et est-ce que c'est anonymisé du coup alors ça dépend de la solution utilisée souvent on le traitement appliqué va changer la hauteur de la voix on va avoir une voix beaucoup plus grave ouais donc qui à première vue à l'écoute va pas être reconnaissable cependant pour l'oreille humaine voilà pour l'oreille humaine on va pas reconnaître la voix d'ailleurs au passage souvent on va aussi avoir un petit peu de mal à comprendre prendre ce que dit la personne et donc souvent c'est sous-titré est-ce que c'est anonymisé pas forcément on s'est aperçu dans nos travaux donc qui ont été menés dans le cadre d'un projet financé par l'Agence nationale de la recherche laanr également par la Commission européenne que lorsqu'on utilise un système de biométrie vocal donc un système informatique voilà un analyseur de la voi qui fait tout ce qui peut pour apprendre les petits indices qui permettent de reconnaître la voix de telle ou telle personne lorsqu'on lui apprend à identifier les personnes à partir de voies modifié lui il va être capable d'identifier les indices qui reste sur la voix de la personne et donc malheureusement on s'est aperçu très rapidement que ça n'anonymisait pas les voix en fait à tel point que le système reconnaissait la voix de la personne aussi bien que si aucun traitement avait été appliqué ok pas très utile donc donc ouais pas très pas très safe d'accord vous heureusement vous avez développé une méthode qui normalement est plus robuste oui et vous nous avez fait une démo pour l'émission je vous ai envoyé un message que j'ai laissé sur le répondeur de Jean hier je vous propose de commencer par écouter l'original et on verra ensuite ce que vous en avez fait salut Jean comment ça va j'espère que tu es prêt pour le tournage de l'émission demain à 14h en tout cas comme d'habitude rendez-vous avenue de la division Leclerc à cachant ah et il faudrait que tu rappelles marine attention elle a un nouveau numéro c'est le 04 22 52 10 10 allez bonne soirée à demain et alors je vous propose de j'ai pas reçu ah mince je me suis trompé mais je l'ai envoyé à Emmanuel pardon je vous propose d'écouter tout de suite la version où vous avez changé juste ma signature vocale vous avez pas touché au contenu ça on en parlera juste après salut Jean comment ça va et j'espère que tu es prêt pour tonage l'émission demain à 14h en tout cas comme d'habitude rendez-vous avenu la division Lecler à cachant ah et il faudrait que tu rappelles marine attention un nouveau numéro c'est le 04 22 52 10 10 allez bonne soirée à demain c'est fou c'est fou on c'est pas c'est pas Lorine quoi ou pour être honnête moi quand j'entends ça j'ai l'impression d'entendre un reportage où on a baissé les gravesou enfin on est allé vers les graves mais c'est quand même fondamentalement différent qu'est-ce que vous avez fait c'est pas juste baisser les c'est pas juste emmener la voix vers les graves oui c'est différent donc nous on a extrait du signal du de l'enregistrement le des caractéristiques numériques donc des des chiffres en fait qui décrivent d'abord les phonemes donc la suite de son qui est prononcé ok donc ça ça permet de s'assurer que le son transformé va bien prononcer les mêmes mots que le son originel ok tout est découpé chaque tout est découpé donc on découpe l'enregistrement en petits morceau qui font 10 millisecondes OK et dans chaque petit morceau on va retrouver le son que vous avez prononcé et donc on garde aussi le la durée de l'enregistrement et la la rapidité de prononciation des mots elle elle est pas modifiée on extrait une deuxième chose qu'on va garder qui est la hauteur de la voix au cours du temps d'accord pour que l'intonation donc la variation de hauteur au cours du temps elle soit préservée c'est important parce que vous savez que si vous poser une question oui on finit en l'air ça finit en l'air sinon ça finit en bas et puis le sens totalement peut changer lorsquusi on fait de l'ironie par exemple la hauteur va pas être la même que si on est complètement sérieux passe par la voix sans s'en rendre compte donc on va on extrait ces informations là et puis ensuite donc ça c'est une phase d'analyse de l'enregistrement et ensuite on a une phase de synthèse ou de génération dans laquelle on va regénérer un signal vocal donc qui va garder la même hauteur le même contenu verbal mais on va donner à l'algorithme de synthèse une représentation de la voix une signature vocale d'une autre personne qui en fait n'est même pas une personne puisqu'on fait la moyenne de voix de plusieurs personnes d'cord pour que ça soit pas quelqu'un en particulier c'est une pseudo personne une pseudoix si vous voulez vous savez combien de voix vous avez enfin combien de voix sont nécessaire pour créer cette fausse signature vocale pas forcément beaucoup donc nous on a un ensemble de de plusieurs centaines de voies d'accord ou quand même on en pioche quelques dizaines dedans on fait une moyenne et puis c'est ça la la pseudo personne de qui est la cible de l'algorithme génation votre outil utilise pas toujours les 10 mêmes voix non c'est aléatoire ah ok euh après dans l'outil évidemment on peut choisir le genre de la cible ici on a choisi le genre masculin oui vous m'aveiez envoyé deux enregistrement pour être j'ai choisi la celle la plus éloignée de de ma voix mais il y avait une version féminine qui ne me ressemblait évidemment pas du tout euh l'autre partie importante et vous l'avez dit dans la séquence précédente c'est le contenu dedans je dis plein d'informations sensibles euh c'est quoi c'est le donc il y av le numéro de téléphone une adresse personnes des adresses voilà des noms d'entreprisees potentiellement dans si c'était vous si vous appeliez le SAMU ça pourrait être aussi des noms de maladies ou de médicaments que vous avez pr la prochaine fois on testera avec un message que j'aurais pu laisser au SAMU on va écouter la version où vous avez enlevé aussi tous ces mots sensible salut comment ça va et j'espère que tu es prês pour tournage l'émission demain à 14h en tout cas comme d'habitude onz ah et il faudit que tu Rapp attention un nouveau numéro alle est bonne soirée demain alors il y a des comme ça Chud on aimession on per tout le sens du du mess plus intérêt au message alors il y a un intérêt si ces données transformées doivent être utilisé pour apprendre pour entraîner pour nourrir comme vous avez dit tout à l'heure un système d'IA ouais mais alors là du coup on nourrit avec une voix qui est une voix synthétisée donc qui est pas une voix humaine on fait apprendre lia sur quelque chose qui est pas la réalité en fait oui alors le il y a quand même une part d'humain dans le les mots qui ont pas été bipés puisque c'est les mots que vous avait utilisé et également dans l'intonation c'est la vôtre elle a pas été modifiée et donc le pour qu'un système d'IA apprenne c'est très important qu'il observe toute la variabilité euh des images des sons des textes que peuvent produire les humains et et ça c'est préservé et mais est-ce qu'on pourrait imaginer remplacer ces ces mots qui ont été identifiés comme sensibles les remplacer par d'autres mots équivalent oui bien sû on pourrait utiliser une autre adresse un autre nom un autre numéro de téléphone euh voilà ça permettrait de garder un ce serait ce serait intéressant ou ou pas du tout vous dites c'est possible mais est-ce que c'est intéressant alors oui c'est intéressant pour deux raisons euh en fait ici le l'algorithme qui détecte les mots sensibles il est il est très bon hein il a dans ce cas-là il a tout détecté euh mais comme tous les systèmes d'IA on c'est jamais parfait donc il y a quelques situation très peu où ça va pas fonctionner dans ce cas-là le mot sensible ne va pas être bipé et forcément bon ça euh donne des informations sur nous dans ce cas-là si les autres mots avait été remplacé on peut imaginer qu'une personne qui écoute l'enregistrement après remplacement aura plus de mal à dire quel mot est était l'originel et lesquels ont été remplacés donc c'est un premier intérêt et puis le deuxième intérêt c'est évidemment bah quand un humain écoute l'enregistrement modifié c'est quand même plus naturel et plus sympa quand les mots ont étai remplacés d'accord et alors la question maintenant c'est est-ce que ça marche vous l'aveaz dit sur les reportages les reportages où on modifie la voix il y a des algorithmes qui sont capables de faire le travail inverse et de reconnaître la voix de la personne oui comment vous vous testez votre algorithme pour savoir être sûr qu'il est robuste alors ben de cette même façon c'est-à-dire qu'on applique un système de biométrie vocale donc qui va extraire la signature ce système on l'a entraîné sur des données qui ont été traitées par l'algorithme d'anonymisation de sorte à ce qu'il apprenne à idtifier les informations qui restent après le traitement avec ça ensuite on va mesurer tout simplement la performance de cet algorithme de biométrie plus il arrive à réidentifier le locuteur moins bien le traitement d'anonymisation a fonctionné et là pour le coup ça a plutôt bien fonctionné et donc ce qu'on constate bah c'est qu'il y a un niveau de protection qui est très nettement supérieur à ne pas traiter dans le sens où si vous ne traitez pas votre voix dans nos expériences on arrive à vous réidentifier parmi une vingtaine de personnes alors parmi les 20 premières personnes que va retrouver l'algorithme parmi 20000 personnes à peu près donc si imaginez on sait que vous faites partie d'un ensemble de 20000 personnes vous êtes dedansord et on demande à l'algorithme de retrouver laquelle de ces 20000 personnes a parler ouais et il va retrouver avec d'une chance sur de votre voie dans les 20 premières qui va ressortir ça c'est sur la voie origidelle non traitée ensuite si on traite la voie bah c'est beaucoup plus dur et il va ça va marcher avec un niveau comparable de performance que s'il est capable de restreindre la zone de recherche à quelques dizaines de personnes au lieu de 20000 après là c'est des algorithmes ces choses là pour vérifier que vous développez vous-même est-ce que il y a pas un peu un billet de se dire c'est vousmême vous faites le vous faites le le le travail d'anonymisation et vous faites aussi le travail de vérification tout à fait alors c'est le la façon dont fonctionnent les recherches dans le domaine de la sécurité en général on est obligé de jouer à la fois le rôle de celui qui protège et de celui qui attaque et alors dans souvent quand il y a pour être sûr que ce bien n'existe pas quand on organise des évaluations on essaye que différentes personnes jouent le rôle du protecteur et de la attaquant h euh c'est quelque chose qu'on a en tête de de faire prochainementalleng voilà des des challenges des défis effectivement de recherche internationaux avec des des équipes en compétition les unes contre les autres à ce stade on l'a pas encore fait ce que je peux dire c'est qu'on utilise des algorithmes au niveau au meilleur niveau scientifique existant pour la biométrie vocale bon en tout cas nous voilà rassuré merci Emmanuel un autre risque pèse sur notre voie va nous en dire plus alors on l'a dit on laisse nos données vocales et donc notre signature vocale un peu partout sans forcément s'inquiéter de ce que ces données deviennent mais avec les progrès de l'intelligence artificielle ça risque de poser des problèmes dans les années à venir aujourd'hui je vais vous parler des deep fake vocaux alors c'est quoi un deep fake vocal et bien c'est une technique qui utilise l'intelligence artificielle pour copier la signature vocale de quelqu'un à partir d'un enregistrement audio déjà existant et une fois qu'on a récupéré cette signature vocale on peut faire dire absolument tout ce qu'on veut à la voix qu'on a copié alors évidemment internet s aré du phénomène et ces dernières années on a pu voir fleurir des deep fake un peu partout en ligne ça va de de Frank Sinatra qui chante du dualpa à un faux discours humoristique d'Emmanuel Macron il y a aussi des projets un peu plus un peu plus développés dans le milieu du cinéma par exemple àircam l'Institut de Recherche et coordination acoustique musique des experts ont par exemple copié la voix de marieeline Monro pour la faire parler dans un film de Philippe pareno mais dans ces cas de figure que je viens de citer il n'y a aucune tromperie on nous prévient que c'est un trucage ou alors c'est c'est très flagrant maintenant qu'est-ce qui se passe si par exemple quelqu'un de malintentionné clone la voix d'un chef d'État pour diffuser de la désinformation par exemple et bien c'est une question qu'on se pose aujourd'hui d'autant plus que la qualité des deep fake vocaux augmente extrêmement vite pour vous donner un peu une idée en 2018 Google avait lancé une IA de clonage vocal qui s'appelle tacotron 2 qui reproduisait à la perfection la voix d'une comédienne à partir de quelques heures d'enregistrement de sa voix enfin si on a quelques heures d'enregistrement s'il faut quelques heures d'enregistrement on n'est pas prêt de cloner n'importe qui sauf que à peine 5 ans plus tard cette année en 2023 c'est Microsoft qui a sorti son IA qui s'appelle Vali et qui est capable de copier une voix avec seulement 3 secondes d'enregistrement donc ça va très très vite et évidemment ça crée des inquiétudes on a pas envie de se faire arnaquer par par une fausse voix qui imite par exemple celle de notre mère ouou de notre père donc il y a de la recherche actuellement pour détecter efficacement les de fake vocaux et éviter ces problèmes d'usurpation d'identité et quoi de mieux que lia pour déjouer les pièges de Lia et bien oui plusieurs équipes de recherch entraînent des Zia sur des voies humaines et des deep fake pour leur apprendre à distinguer les deux il y a même on en a parlé à l'instant des challenges internationaux de de de détection de Deep fake vocaux comme par exemple le ASV spoof challenge qui est assez connu ASV pour automaticque speaker verrification donc reconnaissance vocale automatique et le verdict c'est qu'aujourd'hui on arrive plutôt bien à détecter les deep fake vocaux avec avec certaines études récentes qui affichent même un taux de détection pardon supérieur à 99 % par contre reste à voir si on pourra toujours être aussi performant dans 3 ou 5 ans vu la vitesse à laquelle les deep fake vocaux s'améliorent Emmanuel est-ce que votre algorithme peut aider à lutter contre les deep fake vocaux alors ça permet bah de transformer la voie de sorte qu'elle sonne différente et après si on clone cette voie bah ça sera la ça sonnera comme la voix transformée et pas comme votre voix originelle donc oui ça permet vraiment de contre ce risque et est-ce qu'à l'inverse on pourrait imaginer que le Deep fake vocal pourrait être une technique d'anonymisation c'est-à-dire que je je cache ma voix finalement en utilisant la voix de quelqu'un d'autre une voix synthétique alors en fait notre algorithme d'anonymisation dans la la façon dont il fonctionne est assez similaire aux algorithmes qui produisent les deep fake puisqu'il va transformer la voix pour que ça sonne différemment la différence est vraiment dans l'utilisation évidemment nous on souhaite pas que notre système soit utilisé pour faire des deep fake l'important de mon point de vue c'est de d'afficher explicitement que cette voix a été transformée pour ça c'est des informations qu'on pourrait transmettre avec l'enregistrement mais c'est aussi des informations qu'on peut mettre dans l'enregistrement avec des techniques qu'on appelle du tatouage donc c'est de de cacher dans l'enregistrement des informations qui indiquent qu'il a été traité par notre algorithme d'accord et en fait plus généralement je pense que c'est pour lutter contre les deep fake comme vous l'avez dit à long terme les techniques de génération de voie ne cesse de s'améliorer le la diversité de ces techniques aussi et donc ça paraît de plus en plus probable qu'on ne sera pas capable de détecter la différence à l'avenir c'est vraiment la loi et aussi un peu la technologie avec le tatouage qui permet d'afficher explicitement cette voie a été traitée moi j'ai pas de doute que recherche va sûrement trouver quelques idées ouais on touche du bois bah on touche du bois on touche du bois merci marine pour bah pour cette cette chronique terrifiante Emmanuel vous restez avec nous oui alors on l'a vu les données vocales contiennent un tas d'informations sensibles et avec le boom des technologies de reconnaissance vocale la collecte est de plus en plus fréquente alors des start-ups émergent et proposent des services destinés à protéger notre vie privée la prochaine invitée travaille dans l'une d'entre elles en étroite collaboration avec INRIA place à l'esprit d'équipe [Musique] bonjour Nathalie vquier ravi de vous recevoir sur le plateau de science en question alors vous êtes cofondatrice et directeur du développement logiciel de la startup nishta alors c'est original déjà comme nom nishta d'où ça vientermot ind qui veut dire privacy donc respect la vie privée en intimité puisque notre ce notre PDG est indien et donc c'est un hommage à sa langue natale bien trouvé en tout cas Emmanuel vous êtes aussi le cfondateur de cette start-up oui effectivement j'ai rejoint l'aventure et aujourd'hui je suis à temps partiel dans la start-up en tant que conseiller scientifique d'accord Nathalie vous pouvez nous expliquer comment est né l'aventure comment ça a débuté tout ça alors ça a débuté à inriia donc avec sur un projet européen qui s'appelle parce que vous vous avez travaillé ensemble sur cet algorithme exactement donc le le projet comprise qui était dirigé par par Emmanuel pant lequel a été créé cet algorithme vous avez expliqué justant exactement et c'était le sujet de la tèse de Brigge notre PDG encadré par par Emmanuel entre autres et voilà et moi j'étais ingénieur de recherche sur ce projet pour sur la partie expérimentation et production de logiciel et et voilà on a commencé à travailler à TR bon pas qu'à tris mais déjà au moins tous les trois dessus rejoint après par un autre quand l'idée de la start-up a émergé donc OK et c'est une éc cette idée euh je pense que dans la tête d'Emmanuel et de Brigge c'était au tout début du projet de recher déjà anticipé le fait d'en faire une une start-up Emmanuel j'étais persuadé qu'il y avait des applications pratiques possibles et au fur à mesure du projet je me suis rendu compte qu'une start-up c'était le meilleur véhicule la meilleure façon de concrétiser ces applications et en quelle année vous avez lancé la startup officiellement créé enregistré comme compagnie c'était il y a un an le 12 donc encore une startup 22 exactement mais le projet est un peu plus ça fait on a passé un an de préincubation à lineria avant ça et donc le projet il a il a plus de 2 ansant ok alors on se doute un petit peu mais quel service vous proposez alors on propose de protéger les données vocales pour n'importe quel client qui enregistre et doit stocker des données vocales des enregistrements donc typiquement les centres d'appel mais pas que donc leur problématique c'est qu' veulent conserver ses données voir les exploiter mais comme vous l'avez expliqué dans la première partie c'est la la la la la voix c'est une donnée qui est complexe qui est très riche donc qui a beaucoup de valeur bien sûr pour les cas d'usage que qui ont été expliqué et qui aussi est est très très sensible pour pour chacun d'entre nous bien sûr mais aussi du point de vue de la loi on a des la législation comme le rgpd c'est ce que j'allais dire est-ce qu'il y a une obligation de la part des clients à protéger justement ces donnéesl comme toutes les données elles doivent être protégées et donc pour la voir fa pour toutes donné il faut il faut donner les moyens de de protéger la vie privée de des utilisateurs parce que la loi elle dit il faut anonymiser mais est-ce qu'elle dit comment et à quel point alors elle doit elle dit pas forcément qu'il faut anonymiser pour tous les les les cas pour l'instant les centres d'appel qui stockent des en général il stockent pendant quelques mois juste en cas de cours ou pour former leurs agents pour améliorer la la qualité la fameuse phrase qu'on entend quandou appelle un centre d'affaires et du coup au bout de d'un certain temps qui correspond à l'usage à cet usage là au bout de 3 mois en général les données sont complètement supprimé et elles peuvent pas être utilisées pour autre chose et Emmanuel vous avez dit vous intervenez comme conseiller scientifique qu'est-ce que vous faites concrètement du coup vous développez encore le l'algorithme là concrètement oui on cherche à améliorer encore le niveau de protection euh à cacher des informations qu'on peut mieux contrôler donc par exemple dans le le choix des mots qu'on peut masquer ou pas mais aussi dans les informations qui pourraient traduire notre état de santé par exemple aujourd'hui on n'est pas capable de contrôler ça indépendamment du reste et on aimerait avoir un contrôle plus fin pour que à chaque secteur d'usage à chaque cas d'usage on est vraiment la protection qui convienent d'accord l'idée c'est de personnaliser le service au au cas d'usage alors on va prendre un exemple concret Nathalie alors moi je le SAMU à recours à vos services alors pas directement le SAMU mais on travaille avec une start-up qui propose qui développe une plateforme pour assister les les régulateurs ceux qui reçoivent les appels du samuok qui donc reçoivent des appels de personnes qui sont en détresse en général euh et qui ont besoin de se concentrer d'être plus en impathti avec le la personne elle-même que de prendre des notes de retranscrire et cetera donc ils ont une transcription en temps réel avec détection des des des des mots clés et pour aider un peu pour assister le régulateur à prendre la bonne décision et voilà et tout ça ça basé sur l'IA bien sûr euh sur des données qui sont bien sûr extrêmement sensibles avec non seulement l'identité les adresses et les maladies qu' comment vous faites vous d'ailleurs parce que vous recevez finalement des vous traitez des des des données vocales donc comment vous vous vous les protégez comment vous comment vous faites alors nous on les stock pas du tout ok les données on on a notre logiciel il est disponible en mode SAS donc sur nos serveurs à nous mais plutôt à des fins de test et ensuite c'est installé sur dans infrastructures de nos clients directement donc les données ne quittent pas leur leur serveurs EU qui stock ils on pour toutes les données ou vous nous avez dit tout à l'heure Emmanuel qu'on pouvait même repérer dans la dans dans la façon de parler des maladies vous parlez de dépression est-ce qu'on pourrait imaginer implémenter en plus dans ceog dans ce logiciel là pour les régulateurs du Samu bah des des des des propositions de de de cas de détresse de enfin je sais pas de malad dit il nous dirait ah bah là en plus on pense que potentiellement la personne elle fait un arrêt cardiaque faire un diagnostic avec à partir de la voix ouais c'est exactement ce qu'on ce qu'on propose nous on on essaie d'enlever juste la partie biométrique de la voix en conservant toutes les ares information y compris les biomarqueurs mais elle n pas votre outil et met pas d'avis sur le le diagnostic non notre til pour l'instant en notre le cœur de notre logiciel il fait juste j que transformer la voie mais il permet à d'autres outils d'être entraîné sur ces enregistrements là pour d'autres usages y compris détecter détecter ça OK et alors la protection des données vocales c'est un marché qui qui se développe de plus en plus oui complètement qui se développe en même temps que les régulations forcément donc le nombre d'amendes donné pour le non respect du rgpd augmente aussi donc la protection va avec c'est c'est un phénomène européen mais pas que les États-Unis sont aussi en train de avec le développement de la notamment de d'adapter d'adopter des des législations et donc ça répond à un vrai besoin là complètement on est on on est au bon moment au bon endroit et on reçoit euh pas mal de demandes de de qu'est-ce que qu'est-ce que vous avez comme particularité par rapport à d'autres qui proposent aussi le le même genre de service alors n nos concurrents on va être sur le marché de de la transformation de la voie mais on est on est plutôt les seuls à mettre en avant la partie protection de la vie privée à part on a d'autres bien sûr il y a d'autres logiciels qui font la transformation qui a été évoquée au début plus pour pour pour les médias ou pour vraiment des extrait courts ou et sur se positionner sur l'enregistrement massif de millions d'heures à traiter euh euh pour cet usage là on est les seuls les autres les autres logiciels de transformation de la voie ça va plutôt être euh à des fins ludiques pour des des des jeux par exemple ou euh ou peut-être utêre corriger des accents ou je sais pas si tu as d'autres exemples et manuels oui non mais c'est vrai que aujourd'hui à notre connaissance on est les seuls à vraiment garantir un niveau de protection de la vie privée ok l'enjeu j'imagine aussi c'est c'est d'avoir une une certification dire ok notre notre algorithme est reconnu il est efficace vous pouvez l'utiliser est-ce que comment comment on fait ça al là on discute avec laacil c'est laacnil qui est le meilleur interlocuteur et le plus intéressé par ces pour rappelle l'il c'est la la Commission Nationale Informatique et Liberté celle qui aimit des avis qui qui nous qui é met des recommandations aussi aussi bien aux entreprises qu'aux citoyens pour pour c'est garant un peu de la sécurité informatique on peut dire euh sécurité pas enfin pas forcément la sécurité mais mais en tout cas rendre compatible l'utilisation des technologies avec le respect de la vie privée et du coup vous vous adressez à eux alors pour cette certification et oui tout à fait donc on a on a déjà discuté avec que un peu sur quel critèrees on pourrait se baser pour pour assurer les utilisateurs que la voie est bien protégée on a du coup mener une nouvelle série d'expérimentations en plus de celle qu'on avait déjà fait dans le cadre de la recherche à inriia et voilà on sujet c'est un sujet en cours ou est-ce qu'on pourrait imaginer un jour avoir une application mobile qui soit disponible pour pour tout le monde pour que nous-même on puisse anonymiser notre voix au moment où on passe un appel par exemple c'est c'est le BE oui pour l'instant euh pas des secrets en disant ça ah non non non c'est pour l'instant on est vraiment sur du traitement de gros volume de données donc c'est pas les mêmes architecture logiciel que pour installer ça dans un téléphone mais c'est dans notre c'est dans notre feuille de route de et quand on aura mis nicha ser dans dans tous les téléphones de tout le monde Je seraai satisfaite encore de projet à venir j'imagine qu'avant ça il y a aussi il faut il faut réussir à conquérir peut-être les les gfam parce que eux aussi ils ont un besoin de protection des données est-ce que ils font partie déjà de vos clients ou est-ce que vous voudriez fasse partie de vos clients euh ils font pas partie de nos clients le dire euh bien sûr on est ouvert il y a tellement il y a tellement de possibilités on n'est pas encore sur le marché des assistants vocaux ok pour enfin mais c'est bien sûr un des cas d'usage qui nous intéresse et je pense que quand ce sera plutôt à ce moment-là qu'on qu'on discuter avec et ben merci à tous les deux on vous souhaite un bel avenir un bel avenir à la startup nichta alors tout le monde est cons con n par les risques liés à l'utilisation des données vocales mais les gens on ont-ils vraiment conscience et si oui font-ils confiance aux assistants vocaux on a demandé à ceux qu'on a croisé dans la rue écoutez-les donc ils réagissent quand on les appelle donc ça veut dire qu'ils écoutent tout le temps en fait les gens parler et donc techniquement est-ce qu'il y a des informations qu'on peut ou pas communiquer à ses assistants on on peut partir du principe que toutes les informations leur sont communiquées si nous écoute nonstop ça ça a l'air un peu dystopique vu comme ça mais je suis peut-être un peu naïf mais je j'ai pas envie d'être méfiant surtout et du coup je pars du principe que comme j'ai pas grandchose à cacher j'utilise ces ces outils là pour me faciliter la vie je fais pas du tout confiance à ça alors pas que pas que je pense qu'il y a un big braver derrière tout ça et cetera quoi que pourquoi pas il y a peut-être une récupération de données mais je trouve que c'estes gadgets c'est un peu inutile parfois j'évite même de de communiquer mes informations bancaires donc donc voilà moi ben je pense pas comment dire faire confiance à 100 % parce que les fites de données ça Arve au niveau de l'entreprise donc je pense que rien n'est garanti donc faut savoir à quoi s'exposer quand on l'utilise quoi je voudrais rebondir d'abord sur le le premier point est-ce que les assistants vocaux nous écoutent tout le temps oui mais il nécoute pas au sens où ils vont comprendre tout ce qu'on dit il y a une première étape qui est de détecter activité vocale c'est est-ce que quelqu'un est en train de parler et pour ça heureusement on n pas besoin de comprendre ce que dit la personne c'est seulement une fois qu'il y a une activité vocale détectée et qu'on détecte qu'elle est dirigée vers l'assistant typiquement et Siri ok Google quand ces mots clés sont détectés que là l'assistant va vraiment enregistrer et essayer de comprendre la commande vocale il y a aussi détecter et puis écouter et puis a enregistrer voilà il peut aussi si y avoir ça arrive des détections non voulues le système s'allume comme si on avait dit ok Google alors qu'on ne l'a pas dit on a tous vécu ça et dans ce cas-là effectivement il va commencer à traiter la phrase et si vous avez donné votre consentement elle va être stockée dans le data center au même titre que les vraies commandes mais parfois alors moi ça m'est déjà arrivé je pour avir discuté avec des gens autour de moi ça leur beaucoup arrivé on parle d'un truc et puis hop on se retrouve à avoir des propositions est-ce que c'est un billet de confirmation on se dit ah j'en ai parlé c'est sûr on m'a écouté ou est-ce que c'est par d'autres billets parce que on a fait une recherche sur internet un peu avant sur ce sujet là et on se rend pas compte que que ça que ça vient pas forcément de l'écoute où est-ce qu' se situe le curseur effectivement on est écouté pour nous proposer de la pub qui qui correspond ou pas ça ça dépend de l'assistant mais c'est vrai y a voilà on peut il y a une tendance qu'on sent à aller vers des assistants qui écoute plus pour être capable de proposer des informations contextuelles comme vous le dites euh voilà après je là on atteint les limites de la transparence qui est assez limitée sur le fonctionnement des assistants donc je peux pas vous dire si tel ou tel autre fonctionne comme ça après on a entendu des gens qui étaient soit très confiants qui décidaient de pas trop s'y intéresser soit des gens qui avaient beaucoup d'appréhension vous vous situez où par rapport à ça quel conseil vous pourriez nous donner de mon côté jeis plutôt le deuxième cas donc celui qui enfin j'utilise pas d'assistant vocaux déjà c'est la première chose à faire oui peut-être c'est la première chose à faire en même temps même même même en utilisant pas les ntrres si vous allez chez quelqu'un qui a un assistant vocal un Alexa une enceinte connectée forcément vous êtes écouté aussi chez les autres donc c'est pas suffisant on a raison d'être un peu inquiet oui ou moi j'en utilise pas non plus si vous en utilisez il y a des situations où je peux comprendre que c'est utile bah pensez bien à ne pas cocher la case qui autorise de stocker vos données vocales dans le data center oui ça vous en avez parlé au début de l'émission les données elles partent ensuite dans le data center pour revenir enfin pour traiter notre quête et ensuite revenir chez nous répondre à notre question on pourrait imaginer qu'elle reste uniquement au local sur cette appareil là et qu'elle partte pas dans des serveurs oui alors il y a certains assistants vocaux qui fournissent le d'ailleurs quand vous êtes pas connecté sur Internet ça va quand même fonctionner mais avec certaines limitations donc typiquement le la reconnaissance de votre requête elle va être un peu moins bonne évidemment vous pourrez pas rechercher d'information sur internet si vous êtes pas connecté sur Internet oui mais voilà le choix éteind nos lumières pour voilà alors après est-ce est-ce une bonne idée d'éteindre ses lumières avec un assistant vocal pas toujours puisque le il y a aussi un un coût énergétique en fait à chaque usage de technologie du numérique quand on envoie un email par exemple on s'en rend pas forcément compte mais le coût est pas très différent dans en terme de CO2 d'envoyer une lettre par papier donc faut réfléchir avant d'envoyer des mails quand on envoie une commande vocale c'est pareil en fait si la commande elle va dans le Cloud c'est souvent à plusieurs centaines de kilomètres ça revient il y a un cout énergétique et avec les ampoules LED qui consomment pas beaucoup des fois le on pourrait laisser la lumière allumée ça serait pareil donc c'est je pense tout le monde est convaincu qu'il faut pas laisser les lumières allumer et donc tout le monde peut se convaincre qu'il faut pas forcément utiliser des commandes vocales quand il on peut juste appuyer avec son doigt bon merci tous les deux alors je vous propose maintenant de découvrir le parcours de nos invités dans la prochaine séquence avec Marine c'est notre séquence en coulisse alors Emmanuel Nathalie j'ai un petit défi pour vous je vais vous donner à chacun 30 secondes pour nous présenter votre parcours on va afficher un chrono à l'écran on va commencer avec vous Emmanuel est-ce que vous êtes prêts oui ok c'est parti alors donc j'ai passé mon bac à Nancy ensuite j'ai fait une classe préparatoire scientifique et j'ai étudié les maths à l'École normale supérieure à Paris ensuite j'ai bifurqué vers un doctorat sur le traitement du son toujours à Paris à l'Ircam dont on a parlé tout à l'heure et après ça j'ai travaillé 2 ans à Londres j'ai été recruté à INRIA en 2006 d'abord à Renn et puis vers 2013 nouvelle bifurcation je suis arrivé à Nancy et maintenant je travaille sur le traitement de la parole oh là là vous êtes en TR c'est parfait bravo natthalie ça va être à vous vous pensez faire aussi efficace je pense que je vais faire plus court ok vous êtes prêt ok bon B top chrono alors ok donc moi j'ai fait des études de math et d'informatique licence de math maîtrise de math et un master en informatique après j'ai travaillé pendant 7 ans non pendant plus de 10 ans dans des DSI donc direction des systè informatiqu en forant du développement logiciel de l'architecture et puis j'ai rejoint in ria en 2017 pendant 7 ans j'ai travaillé dans une équipe d'apprentissage automatique qui s'intéressait au côtéque et voilà et j'ai rejoins nichta mtenant bravo à tous les deux vous en êtes très bien sorti oua c'est ça a d vous donnerz 15 secondes seulement j'ai encore quelques questions à vous poser bien sûr pour compléter votre parcours par exemple Emmanuel on peut commencer par regarder l'image qui s'affiche ici qu'est-ce que ça vous évoque de l'art ça c'est la la fontaine de nquide saintfal qui est devant l'Ircam donc c'est juste à côté du centre Pompidou qu'on voit à l'arrière à gauche de l'image et donc l'Ircam c'est le bâtiment qui est en arrière et aussi un petit peu en sous-sol en dessous de la fontaine et vous vous connaissez bien l'Ircam puisque vous avez fait une partie de VO c'est là que j'ai fait mes études de DEA donc de Master 2 aujourd'hui et également de doctorat donc j'ai été pendant 4 ans dans ce bâtiment et vous avez juste voulais dire que cette fontaine avait été restaurée donc très récment oui on peut aller la voir là en ce moment et par contre ce master là à l'Ircam justement vous avez failli ne ne pas y aller en fait oui en fait bah je faisais des études de math donc math fondamental et appliqué euh dans les études il y a eu un prof qui était un peu plus intéressé par les applications que les autres euh et puis j'étais parti pour me diriger vers ça donc Ctait de la simulation numérique par exemple pour le climat aujourd'hui c'est beaucoup utilisé euh et puis il y a un copain qui m'a parlé un jour de ce master sur la musique euh avec des enseignements sur l'acoustique donc la la partie physique euh également en informatique en math enfin ça couvrait vraiment un c'est interdisciplinaire en fait ça couvrait un large panel autour de la musique et puis bah quelques jours après j'ai posé ma candidature et puis voilà c'était le le début en fait sans sans cet ami vous vous n'ariez peut-être jamais étudié le son et puis par la suite les données vocales c'est voilà effectivement c'est en tout cas le mon parcours a été plus moins linéaire jusqu'à aujourd'hui vous êtes musicien à vous avir perdu oui ok ce qui vous a emmené qui c'était la première accroche pour oui Ctait oui oui et c'était le cas de l'ami aussi qui m'a dirigé vers ça en fait on sétait rencontré il venait aussi de Nancy et on s'était rencontré au Conservatoire je vouis d'un instrument en particulier de la harpe ah ok ah ouis et il s'est passé il s'est passé un petit peu la même chose quelques années plus tard un peu ce ce hasard vous vous intéressiez donc au traitement du son mais la la recherche sur la parole plus précisément ça vous a un peu tombé dessus par hasard aussi oui euh en fait donc dans mon travail sur le traitement du son j'ai organisé plusieurs défis de recherche internationaux donc avec des équipes en compétition et puis un jour un collègue du du traitement de la parole qui est un petit peu différent enfin c'est une communauté qui qui qui c'est des communautés qui des fois assistent aux mêmes événements scientifiques mais pas toujours et donc il est venu vers moi parce qu'il m'avait vu à une conférence et il m'a dit est-ce que ça te dirait d'organiser un défi autour de la parole donc sur ce qu'on appelle le rehaussement de la parole c'est-à-dire enlever le bruit d'enregistrement de parole mais aussi traiter des situations où plusieurs personnes parlent en même temps donc on a organiser ce défi qui s'appelle chime qui est en fait devenu ensuite une série de défis qui duent encore aujourd'hui plus de 10 ans après donc le tout premier était en 2011 et et au final d'ailleurs vous avez reçu un prix pour un article que vous avez écrit sur ce challenge on peut dire qu'en fait sur regarde votre parcours vous avez bien fait d'écouter votre ami puis votre collègue c'était des bon conseils ex exactement j'ai bien fait pour vous Nathalie travailler sur les données vocales c'était c'était pas non plus une évidence dès le début vous vous avez vous avez eu pas mal de moments de doute pendant votre parcours c'est ça euh oui enfin pendant tout mon parcours en tout cas pendant mes études ouais o j'étais pas j'ai j'ai pas eu un ami qui m'a conseillé vous héstiez entre plusieurs plusieurs domaines avant l'informatique peut-être euh oui alors mon truc c'était les ma aussi j'aimais bien les mat mais par contre je savais pas j'avais pas le métier vers lequel me dirigeais et donc c'est après voà j'ai quand j'ai choisi quelque chose de plus pragmatique ou ou l'informatique que j'aimais bien aussi euh donc ça c'est ce que j'ai choisi après les données vocales mais j'y suis arrivée vraiment récemment avec Emmanuel et bah c'est peut-être un message justement à faire passer au au aux jeunes qui nous regardent c'est pas forcément grave de pas savoir exactement ce qu'on veut faire à la fin de ses études ou même au début de ses études enfin vous même vous avez travaillé dans différentes structures après vous avez testé différentes choses c'est ça ouais j'ai j'ai jamais vraiment trop bifurqué mais effectivement j'ai sans savoir exactement où j'allais c'est mieux de savoir où on va je je le dis quand même quand même conseil ou mieux mais effectivement quand on il faut juste rester curieux et savoir voir les opportunités et les saisir quand elles se présente et et oser quoi et essayer jusqu'à ce qu'on trouve et donc vous avez travaillé plusieurs années au service au DSI donc le le à la DSI pardon le service informatique de de votre université ça puis INRIA maintenant vous êtes en start-up qu'est-ce qui vous plaît en particulier dans la la start-up aujourd'hui euh la startup c'est le le côté un peu nouveau et euh eTTH et où il y a tellement de choses à faire on est on a commencé à à 4 maintenant on est 6 mais on doit tout faire à 6 et compris des choses qui sont pas du tout mon métier de base c'est et des choses qui m'intéresseraient pas à la base comme la finance ou le marketing et mais mais finalement ça intéressant et pourquoi cette start-up c'est aussi parce que on a c'est c'est c'est super enrichissant on a travaillé sur cette techno là dans un laboratoire de recherche où en général on voilà on fait la recherche on a des résultats et puis après on passe à aut a chose quoi et la prendre la techno et la la transférer dans dans pour la porter dans dans l'industrie c'est aussi quelque chose de nouveau et et qui donne du sens un peu à ce qu'on a fait dans la et la bonne ambiance aussi j'imagine avec et la bonne ambiance les cègu et l'équipe non c'est vrai c'est important Emmanuel peut-être un un petit conseil pour finir cette séquence lia c'est pas réservé aux informaticien c'est aussi ouvert aux physiciens au biologistes à d'autres disciplines oui en fait il y a énormément de besoin de recruter et de former des gens aujourd'hui euh et les les formations universitaires sont ouverte à tous donc quand on a une formation scientifique en physique ou dans d'autres domaines même y compris en sciences humaines et social parce que pour toutes les raisons d'éthique de sécurité qu'on a mentionné on a énormément besoin de personnes qui connaissent bien le droit qui connaissent bien la sociologie la psychologie et donc toutes ces personnes-là sont bienvenues dans les formations en IA et même quand on fait la littérature on peut finir finir dans l'IA oui tout à fait Anancy on a un master de traitement automatique des langues qui accueille des doctorants qui viennent soit de l'informatique soit de pardon des étudiants qui viennent soit de l'informatique soit de la linguistique et certains d'entre eux ensuite se retrouvent à faire des thèses en informatique c'est le cas d'une de mes doctorantes qui en fait un parcours assez intéressant puce qu'elle vient de Chine elle a étudié le français une fois arrivé en France elle a étudié la linguistique française puis la linguistique informatique pour finalement se retrouver en doctorat d'informatique donc il y a plein de voix pour aller vers vers l'IA oui et pour celles et ceux qui veulent y aller je pense que là le le message est passé merci à tous les deux alors on arrive à la à la fin de cette émission mais avant de se quitter vous allez nous partager vos meilleures recommandations culturelles c'est parti pour la reco des [Musique] invités alors Emmanuel votre recommandation c'est un super film que d'ailleurs je recommande aussi c'est lequel c'est le film her ok vous pouvez nous en dire plus quel est le l'histoire oui donc l'histoire c'est un assistant vocal qui a une voix féminine que un utilisateur donc qu'on voit ici à l'écran installe sur son ordinateur et puis il commence à discuter avec l'assistant et puis l'assistant est très il a une voix très confortable à tel point que l'utilisateur finit par tomber amoureux de l'assistant j'en révèle pas pas plus parce que voilà non mais c'est bien c'est bien ça donnevie en plus joué par Joakim Phenix donc c'est top Nathalie vous vous avez décidé de nous partager quoi Black Mirror là un peu plus un peu plus sombre on va dire mir pour pour pour celles et ceux qui connaissent pas vous pouvez n nous présenter c'est c'est une série c'est une série mais d'antologie donc chaque épisode est différent et qui met en garde sur ou qui met en garde ou en tout cas qui qui essaie d'imaginer des scénarios de sur le de ce qui pourrait arriver en utilisant la technologie sur les dérives en quelque sorte souvent souvent c'est sur les dérives c'est rarement positif ouais c'est très bien fait on recommande aussi je pense vous avez vu ou ou ou moi j'arrive pas trop à regarder je regarder deux trois mais trop dur moi c'est une de mes séries préférées et ben vous vous choisirez à la maison ce que vous voulez regarder en tout cas on arrive à la fin de cette émission merci Emmanuel merci Nathalie pour toutes ces explications je pense que ça nous a laissé sans voix je me permets cette petite blague merci à vous d'avoir regardé cette émission on se retrouve bientôt pour d'autres découvertes scientifique à très vite ciao les sorciers [Musique] [Applaudissements] [Musique]