La professeure de l’EPFL, qui a été l’une des chevilles ouvrières de l’application SwissCovid, compte parmi les experts les plus pointus du domaine et dirige le laboratoire SPRING (Security and Privacy Engineering Laboratory) de l’institution lausannoise. Avec ChatGPT et l’explosion de l’intelligence artificielle générative, son travail et celui de son équipe ont encore gagné en actualité. «Les grandes entreprises de technologie ont fait du respect de la vie privée une partie intégrante de leur stratégie business et de leur communication, poursuit-elle. Et elles donnent assez systématiquement dans ce j’appelle le privacy washing.» Ce qui rend la collaboration avec les GAFAM d’autant plus cruciale, nous y reviendrons.

Codirecteur du nouveau Centre d’intelligence artificielle de l’EPFL, Marcel Salathé souligne l’importance du travail de Carmela Troncoso. «Lorsque je lui pose des questions sur les risques liés à une nouvelle technologie, elle me donne son avis sans concession et va droit au but. Ce qui est précieux.» Une sorte d’autorité morale, mais qui s’appuie sur une solide légitimité scientifique et technique. «Comme elle, poursuit Marcel Salathé, je pense qu’il est plus important d’assurer le respect de la vie privée au stade de la conception des systèmes plutôt que par des règles a posteriori. En résumé: privacy by design plutôt que privacy by trust…»

Une passionnée de foot

On imagine Carmela Troncoso en geek ultra-précoce assise devant un écran et programmant un ordinateur avant même d’avoir appris à marcher. Or le choix de sa carrière d’ingénieure s’explique d’abord… par sa passion pour le football, nous confie-t-elle lorsque nous la questionnons sur son enfance et son adolescence. Membre de l’équipe de Vigo, dans le nord-ouest de l’Espagne, elle va en effet, après le bac, faire le choix de ses études avec comme priorité de ne pas devoir changer de ville (et de maillot) – elle jouera au foot quasiment jusqu’à la fin de son cursus universitaire. Et puisque la faculté d’informatique et de télécommunications du lieu jouit d’une bonne réputation, c’est la direction qu’elle va choisir. «Il est vrai que j’ai toujours aimé les maths, j’étais donc plutôt une scientifique.» Comme son père, physicien. Et sa sœur, une spécialiste des neurosciences – leur mère, elle, est une professeure de littérature espagnole, désormais à la retraite.

«A la fin de mon master, je m’imaginais mal entrer dans le monde du travail, adopter les codes vestimentaires des grandes entreprises», poursuit Carmela Troncoso, qui porte invariablement un simple pull et un jean. Pour son doctorat, Carmela Troncoso déménage en Belgique, à l’Université KU Leuven, à la pointe, justement, sur les questions de défense de la sphère privée. «Une thématique qui me tenait à cœur. Parce que, si j’aime la recherche en soi, j’attache encore plus d’importance à l’utilité qu’elle revêt pour la société.» Sa thèse en poche, elle revient en Espagne pour rejoindre le centre de recherche de la société Gradiant, où elle passe trois ans. Une expérience de l’industrie qui lui apportera beaucoup. Mais comme la recherche reste plus proche de ses aspirations, elle court de congrès en congrès, aligne les doubles journées et frôle le surmenage. Sa cheffe lui enjoint de prendre des vacances, elle décide finalement de démissionner.

C’est à cette époque qu’on lui parle des possibilités qui s’ouvrent en Suisse. Lorsque l’EPFL met au concours une chaire sur la vie privée, un poste qui correspond très précisément à son domaine d’expertise, elle postule, décroche la nomination et déménage au bord du Léman. Aujourd’hui, elle dirige son propre labo, suit personnellement six doctorants et un chercheur post-doc et joue un rôle important dans l’orbite du Digital Trust Center, qui vaut à l’institution lausannoise une réputation mondiale dans le domaine de la science des données et de la cybersécurité.

L'attrait des universités suisses

Ce vendredi matin, dans son bureau de la Faculté informatique et communications (IC), Carmela Troncoso nous explique les attraits irrésistibles des hautes écoles helvétiques, la relation symbiotique, transparente et faite de respect avec les entreprises, alors qu’en Europe du Sud les universités sont souvent considérées comme une source de main-d’œuvre bon marché. «Dans une école comme l’EPFL, vous disposez de moyens financiers importants, vous avez de l’espace… mais surtout des collègues considérés comme des sommités dans leur domaine. Il suffit que je traverse le corridor, que je monte ou descende un étage pour avoir accès aux meilleurs experts du machine learning, de la cryptographie, de la blockchain, de l’informatique quantique…» Le rêve, même si les coupes actuelles dans le budget des EPF incitent à nuancer le propos. Vu les défis posés par les progrès fulgurants de l’intelligence artificielle générative, ces économies tombent en effet au plus mauvais moment.

Carmela Troncoso a aussi été attirée à l’EPFL par la proximité de la Genève humanitaire et des ONG qui s’y trouvent. Parmi lesquelles le CICR, avec lequel son laboratoire a collaboré sur un projet qui vise à garantir la sécurité des données des réfugiés, une population particulièrement fragile. «Quand la distribution d’aide alimentaire n’était référencée que sur des listes papier, le risque de mauvaise utilisation ou de vol des données était faible. Avec le stockage informatique, la donne est complètement différente. Là encore, il s’agit de garantir que les informations recueillies ne soient pas utilisées à d’autres fins que leur but initial.» Autre exemple, Datashare, le projet de moteur de recherche et de messagerie sécurisée qui permet au Consortium international des journalistes d’investigation (ICIJ) de collaborer tout en protégeant leur anonymat et celui de leurs sources lors d’enquêtes comme celle des Panama Papers.

Militante LGBT+

D’une voix douce, presque flûtée, la chercheuse s’exprime plus volontiers en anglais qu’en français dès lors qu’on quitte les sujets de la vie courante. De nature plutôt discrète, elle n’en affirme pas moins ses convictions avec force et endosse volontiers l’habit d’un role model. Comme femme ingénieure dans un monde de la tech encore très masculin, mais aussi comme militante LGBT+. «La diversité ne se réduit pas à celle des genres. J’ai eu le privilège de naître dans un milieu très ouvert, mes parents m’ont toujours soutenue dans mes choix. Tout le monde n’a pas cette chance, même en Suisse où le mariage pour tous n’a été rendu possible qu’en 2022. En Espagne, un pays pourtant très catholique, ce droit existe depuis 2008.» Carmela Troncoso est mariée à l’Américaine Rebekah Overdorf, comme elle chercheuse en informatique, rencontrée lors d’un congrès en 2016. Le couple attend un deuxième enfant pour juillet et c’est sans hésiter que les deux femmes ont choisi l’Espagne comme lieu de naissance tant les conditions administratives et pratiques s’en trouvent simplifiées.

«Il est important de montrer qu’on peut atteindre certaines positions professionnelles sans pour autant dissimuler son identité.»

«Je n’ai pas, a priori, vocation à m’exprimer sur ma vie privée», explique-t-elle en posant une main sur son ventre et en confirmant qu’il s’agit encore une fois d’un garçon. «Nous serons à parité dans la famille.» Sourire. Et de poursuivre: «Il est important de montrer qu’il est possible d’atteindre certaines positions professionnelles sans pour autant dissimuler son identité.» Elle s’implique d’ailleurs activement dans l’initiative Safe Space, qui offre aux membres de la communauté LGBT+ de l’EPFL un lieu d’échanges et de soutien. «L’école est exemplaire en la matière.»

Mais retour au thème de recherche qui l’occupe en priorité: la défense de la vie privée telle qu’elle est conceptualisée par les GAFAM. Elle se réduit le plus souvent à garantir l’anonymat des données des internautes. Insuffisant et trompeur. Carmela Troncoso cite volontiers l’article 12 de la Déclaration universelle des droits de l’homme qui se réfère, justement, au respect de la vie privée et qu’elle dissèque inlassablement avec ses étudiants. Nulle part il n’est fait mention du droit à la confidentialité des données comme une fin en soi, observe-t-elle. Le texte fait plutôt référence au droit à ne pas être victime d’interférences dans sa sphère personnelle.

Défense des intérêts de la vie privée

Pour illustrer son propos, elle reprend l’exemple du scandale Cambridge Analytica qui, à la suite du détournement de données Facebook, a joué un rôle central dans l’élection de Donald Trump. A supposer que ces données, en l’occurrence mal gérées et dévoyées, soient néanmoins restées parfaitement anonymes, le ciblage et la manipulation des électeurs n’en auraient pas été moins efficaces. D’ailleurs, ne reçoit-on pas chaque jour des publicités en fonction de nos préférences personnelles, et si l’annonce pour un vélo en action ou des vacances aux Seychelles à prix cassé peut paraître bien innocente, les pubs pro-Trump citées plus haut ont contribué à le faire élire et, quatre ans plus tard, à convaincre certains de ses partisans de fomenter un coup d’Etat. Voilà pourquoi Carmela Troncoso critique, à titre d’exemple, l’initiative Privacy Sandbox de Google qui garantit, certes, la protection des données des utilisateurs, mais qui ne règle pas fondamentalement le problème de la défense de la sphère privée.

Le but et l’utilisation qui est faite des données, voilà les facteurs déterminants. Et non pas l’assurance qu’elles restent cachées. D’où l’importance de définir clairement dès les prémices d’un développement technologique son objectif et les limites à ne pas dépasser afin d’empêcher tout dévoiement ultérieur. Multiparty computation, homomorphic encryption, differential privacy… Ce sont les noms barbares des outils les plus récents à disposition des ingénieurs, mais qui devraient permettre de profiter des progrès de l’intelligence artificielle, par exemple en médecine, sans en subir de dommageables effets collatéraux.

«A terme, respect de la vie privée et intérêts de l’économie sont indissociables.»

Emblématique de cette approche limitative, SwissCovid, dont le protocole a d’ailleurs été adopté par Apple et Google, il faut le rappeler. L’application de traçage téléchargée par un quart des Suisses a été déclarée caduque sitôt la pandémie passée. «A ceux qui me demandent si sa mise en déshérence ne me remplit pas de tristesse, je réponds qu’au contraire c’est un immense motif de fierté, poursuit Carmela Troncoso. Quand vous créez une infrastructure numérique comme nous avons dû le faire dans l’urgence, la tentation de la récupérer plus tard pour d’autres usages est grande. Par exemple à des fins de surveillance ou de lutte contre la criminalité. A éviter absolument.» Et de souligner au passage que la Chine est loin d’avoir le monopole de ce type d’abus.

Les entreprises peuvent bien multiplier les chartes éthiques et promettre de s’autoréguler, mais que valent ces engagements sur la durée? Plusieurs des pionniers de l’IA eux-mêmes en appellent d’ailleurs à des lois qui encadrent le développement de l’IA. «Il en faut, c’est évident, note Carmela Troncoso, mais les really bad guys ont justement pour vocation de les contourner.» En amont, il est essentiel de se poser les questions suivantes, insiste-t-elle: quels sont vraiment les bénéfices d’une technologie pour la société? Et comment identifier les risques qui y sont liés?

La thématique n’est pas nouvelle. Un médicament peut s’avérer efficace pour guérir une maladie, mais aller de pair avec des effets secondaires trop importants pour qu’il soit acceptable de le mettre sur le marché. Une pesée d’intérêts faite par les organes d’homologation comme la FDA ou Swissmedic depuis des lustres. «Le problème, c’est que les risques de l’intelligence artificielle et des technologies de l’information sont encore mal compris et difficiles à cerner.» Et de tracer un parallèle avec l’automobile: «Il a fallu des décennies pour que l’on saisisse ses impacts négatifs sur l’environnement, conquis qu’on était par le confort et la liberté de mouvement qu’elle permet.»

La création de systèmes d’intelligence artificielle plus sûrs passe sans doute par de nouvelles collaborations entre les hautes écoles et les géants de la tech. Un exemple, le réseau Pilot Gen AI Redteaming Network, une initiative lancée au World Economic Forum (WEF), à Davos, mi-janvier, et portée par la Confédération et les EPF. Les Google, Amazon, Microsoft, IBM en font partie, mais aussi des entreprises européennes telles qu’Aleph Alpha, SAP, Swisscom ou Roche. OpenAI, le créateur de ChatGPT, pourrait monter à bord bientôt. Carmela Troncoso, qui participait à l’événement, y voit un engagement important de la Suisse et la possibilité d’un développement plus ordonné de l’intelligence artificielle. Mais peut-on faire confiance aux géants? «L’avenir le dira, répond l’ingénieure. Mais, comme dans le cas de la cybersécurité, ces technologies sont tributaires de la confiance qu’elles inspirent. A terme, respect de la vie privée et intérêts de l’économie sont indissociables. Une sérieuse incitation pour les entreprises à jouer le jeu.»