Dans “Les tribulations d’un geek en Chine”, Gaspard Koenig prolonge son voyage au cœur de l’intelligence artificielle (IA). Dans ce cinquième volet, il s’intéresse à la manière dont l’IA épouse les traits culturels de la Chine : une absence de frontière entre vie privée et surveillance généralisée.
Gaspard constate que l’IA développée en Chine oppose deux termes qu’on l’on pense liés : la prospérité et la liberté. Il se demande si, dans un monde où le progrès dépend de l’accumulation des données, l’avantage ne passe pas irrémédiablement aux pays autoritaires.
Les prémices de la société chinoise fondée sur un lac de données commencent déjà à voir le jour. Microsoft a par exemple conçu et testé Xiaoice, une IA censée devenir un compagnon virtuel intégral. La start-up SenseTime développe, de son côté, des outils de reconnaissance faciale tandis que la première séance de l’université de droit de Pékin a été réalisée par un robot. Dans le même esprit, Baidu, le Google chinois, a signé un partenariat avec la région de Xiong’an pour y développer la première “ville IA”. Le développement de ces technologies n’est possible qu’à une condition : le renoncement à l’intimité. Il faut accepter le fait que chacun puisse voir et être vu.
Le temple de Confucius est aussi celui de l’intelligence artificielle.
Pourtant, le concept occidental de “surveillance” est mal adapté pour décrire cette transparence parfaite car il repose, chez nous, sur une intentionnalité : un Etat policier ou des capitalistes vautours cherchant à manipuler les individus. Or, ce qui compte dans cette nouvelle société chinoise, c’est l’agrégation maximale des data. Quelle importance que ce soit Alibaba qui estime ma crédibilité sur le marché ou le gouvernement qui m’attribue des points de “crédit social” ? C’est celui qui disposera de la plus grande quantité de données qui me sera le plus utile.
Suivant cette logique, la collaboration entre le gouvernement et les plateformes n’est donc pas perçue comme une trahison mais comme une recherche coordonnée du Bien commun. Aucun domaine de la souveraineté ne semble ainsi interdit aux géants de l’internet chinois, à la fois plateformes commerciales et agences du gouvernement.
Ce lac de données est unique. Un jour, il fournira de l’IA à la Chine entière. Toutes les entreprises pourront y puiser, à condition d’y reverser leurs propres données. Ce serait bien sûr inacceptable en Europe, reconnaît Jinglei Cheng. Voilà précisément ce qui donne à la Chine un avantage comparable.
Pour mieux illustrer cette intrication du public et du privé, Gaspard nous parle du City Brain, une IA censée optimiser la gestion urbaine. Les grandes plateformes chinoises se chargent donc, avec l’aval du gouvernement, de poursuivre des objectifs d’intérêt général qui mobilisent leur savoir-faire technologique. C’est comme si le gouvernement américain confiait le pilotage de l’assurance santé à Google et la réorganisation du transport à Amazon.
Néanmoins, d’autres services sont plus inquiétants et moins connus. Le City Brain a par exemple aidé la police à fusionner et à moderniser ses bases de données. Grâce à des caméras spéciales disséminées dans toute le ville de Hangzhou, les ingénieurs d’Alibaba ont mis en place un système de reconnaissance faciale capable de prendre aussi en compte les informations circulant sur les réseaux sociaux et sur Internet. L’objectif est de pouvoir identifier chaque citoyen de la ville en retraçant sous forme standardisée ses déplacements, son comportement ainsi que ses relations sociales.
En outre, fort de ce succès, Alibaba va déployer le City Brain dans d’autres villes et même dans des pays voisins comme la Malaisie. L’optimisation citadine n’en est donc qu’à ses prémices.
Gaspard n’en revenait pas de voir ce qui lui semblait une dystopie faite réalité apparaître aux yeux des Chinois comme une utopie en devenir. Cependant, il reconnaît que les Chinois n’ont pas nos préventions instinctives envers le pouvoir central ou les forces de l’ordre. En effet, dans un pays qui fait remonter l’histoire des moyens de surveillance à 221 avant notre ère, contester l’ordre établi n’est guère conseillé.
On peut savoir en quelques millisecondes qui vous êtes, où vous êtes, ce que vous faites et qui vous avez rencontré dernièrement.
Cependant, la Chine ne se jette pas dans la course du progrès en renonçant à toute éthique. Au contraire, elle embrasse l’IA d’autant plus volontiers que cette technologie correspond à ses valeurs profondes. La vie privée, l’intimité ne sont pas des éléments centraux dans la tradition philosophique chinoise. Ce sont les valeurs confucéennes d’amitié, de loyauté, de souci des autres et de dévouement à la patrie qui sont prépondérantes en Chine. De ce fait, Confucianisme, progrès technologique et domination économique sont explicitement liés.
Suite à sa rencontre avec Zhu Min, ancien vice-gouverneur de la Banque Centrale chinoise et ancien numéro deux du FMI, Gaspard réalise qu’en passant de l’âge de l’innovation à celui de l’exécution, l’IA redonne l’avantage aux pays capables de produire de manière rapide et personnalisée des milliards d’objets connectés. Mais au-delà de cette compétition économique surgit une nouvelle préoccupation : à quoi ressemblerait un impérialisme numérique ?
Après une entrevue avec William Carter, spécialiste des questions de cyberdéfense au Center for Strategic and International Studies (CSIS), Gaspard souligne que l’enjeu de l’impérialisme numérique n’est pas dans le perfectionnement des techniques militaires puisqu’il n’y a plus besoin de contrôler les territoires pour contrôler les gens. En effet, si l’IA permet, via le nudge, de connaître et de contrôler les individus à distance, pourquoi les conquérants de demain auraient-ils besoin de s’emparer d’espaces physiques ?
L’enjeu de l’impérialisme numérique se situe donc ailleurs que dans le perfectionnement des techniques militaires.
Au travers de l’exemple de Berthe, à la tête d’une fruitière familiale dans le Jura, Gaspard démontre tout ce que l’IA développée par la Chine pourrait apporter à cette petite productrice et à quel point la Chine pourrait subtilement influencer sa vie et ses opinions. Poussant la logique à son extrême, le cas de Berthe montre comment la Chine pourrait ainsi conquérir des individus sans devoir tirer un seul coup de fusil.
Pour lire l’épisode 5 « Les tribulations d’un geek en Chine » en intégralité dans Le Point cliquer ICI.
Pour lire l’épisode 4 « Ils ont ressuscité Bach ! » en intégralité dans Le Point cliquer ICI.
Pour lire l’épisode 3 « Etes-vous plus fort que Google Maps ? » en intégralité dans Le Point cliquer ICI.
Pour lire l’épisode 2 « Éclairez-moi, Dr Langlotz ! » en intégralité dans Le Point cliquer ICI.
Pour lire l’épisode 1 « Le Turc mécanique » en intégralité dans Le Point cliquer ICI.
Pour lire l’éditorial d’Etienne Gernelle « Gaspard Koenig, un reporter d’idées sur les traces de l’intelligence artificielle » , cliquer ICI.
