#5 La Chine et la fin de l’individu – Les voyages de Gaspard dans l’IA

Dans « Les tribulations d’un geek en Chine », Gaspard Koenig prolonge son voyage au cœur de l’intelligence artificielle (IA). Dans ce cinquième volet, il s’intéresse à la manière dont l’IA épouse les traits culturels de la Chine : une absence de frontière entre vie privée et surveillance généralisée.

 

Gaspard constate que l’IA développée en Chine oppose deux termes qu’on l’on pense liés : la prospérité et la liberté. Il se demande si, dans un monde où le progrès dépend de l’accumulation des données, l’avantage ne passe pas irrémédiablement aux pays autoritaires. 

Les prémices de la société chinoise fondée sur un lac de données commencent déjà à voir le jour. Microsoft a par exemple conçu et testé Xiaoice, une IA censée devenir un compagnon virtuel intégral. La start-up SenseTime développe, de son côté, des outils de reconnaissance faciale tandis que la première séance de l’université de droit de Pékin a été réalisée par un robot. Dans le même esprit, Baidu, le Google chinois, a signé un partenariat avec la région de Xiong’an pour y développer la première “ville IA”. Le développement de ces technologies n’est possible qu’à une condition : le renoncement à l’intimité. Il faut accepter le fait que chacun puisse voir et être vu.

Le temple de Confucius est aussi celui de l’intelligence artificielle.

Pourtant, le concept occidental de “surveillance” est mal adapté pour décrire cette transparence parfaite car il repose, chez nous, sur une intentionnalité : un Etat policier ou des capitalistes vautours cherchant à manipuler les individus. Or, ce qui compte dans cette nouvelle société chinoise, c’est l’agrégation maximale des data. Quelle importance que ce soit Alibaba qui estime ma crédibilité sur le marché ou le gouvernement qui m’attribue des points de “crédit social” ? C’est celui qui disposera de la plus grande quantité de données qui me sera le plus utile.

Suivant cette logique, la collaboration entre le gouvernement et les plateformes n’est donc pas perçue comme une trahison mais comme une recherche coordonnée du Bien commun. Aucun domaine de la souveraineté ne semble ainsi interdit aux géants de l’internet chinois, à la fois plateformes commerciales et agences du gouvernement.

Ce lac de données est unique. Un jour, il fournira de l’IA à la Chine entière. Toutes les entreprises pourront y puiser, à condition d’y reverser leurs propres données. Ce serait bien sûr inacceptable en Europe, reconnaît Jinglei Cheng. Voilà précisément ce qui donne à la Chine un avantage comparable.

Pour mieux illustrer cette intrication du public et du privé, Gaspard nous parle du City Brain, une IA censée optimiser la gestion urbaine. Les grandes plateformes chinoises se chargent donc, avec l’aval du gouvernement, de poursuivre des objectifs d’intérêt général qui mobilisent leur savoir-faire technologique. C’est comme si le gouvernement américain confiait le pilotage de l’assurance santé à Google et la réorganisation du transport à Amazon.

Néanmoins, d’autres services sont plus inquiétants et moins connus. Le City Brain a par exemple aidé la police à fusionner et à moderniser ses bases de données. Grâce à des caméras spéciales disséminées dans toute le ville de Hangzhou, les ingénieurs d’Alibaba ont mis en place un système de reconnaissance faciale capable de prendre aussi en compte les informations circulant sur les réseaux sociaux et sur Internet. L’objectif est de pouvoir identifier chaque citoyen de la ville en retraçant sous forme standardisée ses déplacements, son comportement ainsi que ses relations sociales.

En outre, fort de ce succès, Alibaba va déployer le City Brain dans d’autres villes et même dans des pays voisins comme la Malaisie. L’optimisation citadine n’en est donc qu’à ses prémices.

Gaspard n’en revenait pas de voir ce qui lui semblait une dystopie faite réalité apparaître aux yeux des Chinois comme une utopie en devenir. Cependant, il reconnaît que les Chinois n’ont pas nos préventions instinctives envers le pouvoir central ou les forces de l’ordre. En effet, dans un pays qui fait remonter l’histoire des moyens de surveillance à 221 avant notre ère, contester l’ordre établi n’est guère conseillé.

On peut savoir en quelques millisecondes qui vous êtes, où vous êtes, ce que vous faites et qui vous avez rencontré dernièrement. 

Cependant, la Chine ne se jette pas dans la course du progrès en renonçant à toute éthique. Au contraire, elle embrasse l’IA d’autant plus volontiers que cette technologie correspond à ses valeurs profondes. La vie privée, l’intimité ne sont pas des éléments centraux dans la tradition philosophique chinoise. Ce sont les valeurs confucéennes d’amitié, de loyauté, de souci des autres et de dévouement à la patrie qui sont prépondérantes en Chine. De ce fait, Confucianisme, progrès technologique et domination économique sont explicitement liés.

Suite à sa rencontre avec Zhu Min, ancien vice-gouverneur de la Banque Centrale chinoise et ancien numéro deux du FMI, Gaspard réalise qu’en passant de l’âge de l’innovation à celui de l’exécution, l’IA redonne l’avantage aux pays capables de produire de manière rapide et personnalisée des milliards d’objets connectés. Mais au-delà de cette compétition économique surgit une nouvelle préoccupation : à quoi ressemblerait un impérialisme numérique ?

Après une entrevue avec William Carter, spécialiste des questions de cyberdéfense au Center for Strategic and International Studies (CSIS), Gaspard souligne que l’enjeu de l’impérialisme numérique n’est pas dans le perfectionnement des techniques militaires puisqu’il n’y a plus besoin de contrôler les territoires pour contrôler les gens. En effet, si l’IA permet, via le nudge, de connaître et de contrôler les individus à distance, pourquoi les conquérants de demain auraient-ils besoin de s’emparer d’espaces physiques ?

L’enjeu de l’impérialisme numérique se situe donc ailleurs que dans le perfectionnement des techniques militaires.

Au travers de l’exemple de Berthe, à la tête d’une fruitière familiale dans le Jura, Gaspard démontre tout ce que l’IA développée par la Chine pourrait apporter à cette petite productrice et à quel point la Chine pourrait subtilement influencer sa vie et ses opinions. Poussant la logique à son extrême, le cas de Berthe montre comment la Chine pourrait ainsi conquérir des individus sans devoir tirer un seul coup de fusil.


Pour lire l’épisode 5 « Les tribulations d’un geek en Chine » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 4 « Ils ont ressuscité Bach ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 3 « Etes-vous plus fort que Google Maps ? » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 2 « Éclairez-moi, Dr Langlotz ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 1 « Le Turc mécanique » en intégralité dans Le Point cliquer ICI.

Pour lire l’éditorial d’Etienne Gernelle « Gaspard Koenig, un reporter d’idées sur les traces de l’intelligence artificielle » , cliquer ICI.

#4 Un planisme pur et parfait ? – Les Voyages de Gaspard dans l’IA

Dans le quatrième épisode du voyage au coeur de l’intelligence artificielle (IA), Gaspard Koenig se demande à quoi ressemblerait une société sans libre arbitre. Il tire jusqu’à ses ultimes conséquences la logique algorithmique.

 

Pour illustrer sa réflexion, Gaspard nous décrit sa rencontre avec le compositeur David Cope, célèbre pour avoir créé un algorithme capable de (re)produire des morceaux à la manière de Bach. Cet homme a réussi à transformer le génie de Bach en une méthode de productions de son. L’IA bouleverse désormais le rapport à la création.

David Cope estime que nous sommes tous des machines et que nous devrions traiter la psychologie comme une science du cerveau et nous réjouir de l’augmentation prochaine de nos capacités cérébrales. Selon lui, l’art ne reflète aucune personnalité et ne revêt aucune signification.

Ce n’est plus l’artiste qui fait l’art, c’est l’art qui élimine l’artiste.

Gaspard cite d’autres exemples d’approches similaires à celle de David  et nous montre la fascination du public pour l’automatisation de la création. Il souligne, par exemple, que de nombreux chercheurs travaillent à trouver la recette du robot écrivain. Poussant le raisonnement plus loin, Gaspard s’imagine qu’à force de nourrir l’IA de millions de narrations, des textes pourraient se composer au fur et à mesure de la lecture en fonction de nos réactions et de nos attentes. Gaspard s’interroge sur le devenir des auteurs. La création n’est désormais plus l’exaltation du moi mais sa dissipation. Ce n’est plus l’artiste qui fait l’art, c’est l’art qui élimine l’artiste.

Au-delà de l’impact qu’elle a sur l’art, l’IA remet également en question le principe du marché où la variation des prix doit permettre d’ajuster l’offre à la demande. Pour mieux comprendre son effet, Gaspard nous raconte son entretien avec Jonathan Hall, économiste en chef de Uber. 

De cette entrevue, il retient une chose : Jonathan s’en tient au spot market et résiste encore au dispatch. En d’autres termes, Uber considère les chauffeurs comme des individus rationnels réagissant à un signal-prix. Hors de question de préempter leur choix, le principe de l’incitation financière doit suffire à réguler le marché sans avoir besoin de recourir à la contrainte.

L’IA attaque frontalement le libre arbitre puisqu’elle menace la capacité pour l’homo oeconomicus de prendre ses propres décisions dans un marché libre.

Libéral assumé, Jonathan pense nécessaire de préserver le principe du marché, fondé sur le libre arbitre des participants. En effet, il est conscient qu’en traitant les individus comme des automates, on risque d’atrophier leurs capacités cérébrales, générant à terme des risques encore plus lourds. De plus, se reposer sur le mécanisme des prix pour ajuster l’offre à la demande permet de se dispenser de la collecte d’informations plus intrusives. Conserver l’anonymat du marché permet en outre de donner une chance à tous.

Néanmoins la vision de Jonathan ne fait pas l’unanimité. Chez Didi, par exemple, les ingénieurs ont préféré choisir le dispatch sur les incitations pour une meilleure efficacité. Leurs algorithmes prédictifs peuvent déterminer avec une grande exactitude qui aura besoin d’un véhicule, à quelle heure, à quel endroit et pour quel trajet. Suivant cette logique, ne serait-il effectivement pas plus simple d’assigner les courses à l’avance, quitte à dédommager les chauffeurs en fonction de leur productivité ?

Si les prédictions sur l’ensemble de nos comportements atteignaient une précision suffisante, on pourrait alors se passer du marché et ajuster de manière centralisée l’offre à la demande. Chacun serait “dispatché” vers ses études, ses employeurs ou ses amours.

Si le monde pouvait être modélisé en une seule heat map, si les prédictions sur l’ensemble de nos comportements atteignaient une précision suffisante, on pourrait alors se passer du marché et ajuster de manière centralisée l’offre à la demande.

Le contraste entre Uber et Didi met donc en lumière un dilemme assez radical : s’en tenir au marché pour des raisons de principe ou céder à une forme de planification totale par soucis d’efficacité. L’IA attaque ainsi frontalement le libre arbitre puisqu’elle menace la capacité pour l’homo œconomicus de prendre ses propres décisions dans un marché libre.

L’IA brise également l’organisation démocratique traditionnelle. Les gouvernants se retrouvent dépassés par l’essor de cette dernière et sont incapables de comprendre les évolutions en cours. L’audition de Mark Zuckerberg devant le Congrès américain, après le scandale de Cambridge Analytica en est un parfait exemple. Cet épisode a cruellement souligné l’incompétence des parlementaires, réduits à poser des questions d’ordre général sans difficultés pour le fondateur de Facebook.

Les gouvernements essaient néanmoins de rattraper leur retard. Le Danemark a ainsi nommé un “ambassadeur tech”, chargé de la relation avec les Gafa afin de réaffirmer sur le terrain le rôle des Etats. Cette initiative a aussi permis d’influencer d’autres pays comme la France, qui a nommé fin 2018 un “ambassadeur pour le numérique”. Pénétrer la Silicon Valley reste cependant extrêmement complexe. Les anciens startupeurs n’ont aucune considération pour les institutions étatiques traditionnelles et ne se privent pas de leur faire sentir. Ces initiatives font plus l’effet de Don Quichotte face aux moulins à data.

On voit ainsi comment pourrait naître une forme de gouvernance par l’utilité, assurée de manière diffuse par des IA en réseau.

Pour illustrer l’alternative à la démocratie classique générée par l’IA, Gaspard nous parle de sa rencontre avec l’entrepreneure Amira Yahyaoui. Cette dernière considère que l’IA inaugure une ère de “droits sans démocratie”. Les services numériques, en s’adaptant à nos besoins les plus secrets, donnent le sentiment justifié que tout nous est dû. La tech a en effet fait naître en nous une exigence de service qu’aucune déclaration des droits de l’homme ne pourrait remplacer. 

Gaspard s’interroge donc sur la capacité qu’ont les millénials à réclamer des droits sans accepter les devoirs. Il se demande si cela ne serait justement pas le propre d’une génération nourrie à l’IA et le signe d’un déclin irrémédiable de la fonction élective.

Pour Amira, les gouvernements sont des “boulets” et elle ne verrait pas d’un mauvais oeil leur disparition. Ses instincts rejoignent également les thèses de Yascha Mounk, chercheur en sciences politiques, qui a théorisé la déconnexion entre des “droits sans démocratie”, garantis par des juges ou des bureaucrates, et des “démocraties sans droits”, que l’on voit progresser de la Russie à la Turquie en passant par la Hongrie.

Ce quatrième volet du “voyage au coeur de l’intelligence artificielle” décrit ainsi comment pourrait naître une forme de gouvernance par l’utilité, assurée de manière diffuse par des IA en réseau.


Pour lire l’épisode 4 « Ils ont ressuscité Bach ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 3 « Etes-vous plus fort que Google Maps ? » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 2 « Éclairez-moi, Dr Langlotz ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 1 « Le Turc mécanique » en intégralité dans Le Point cliquer ICI.

Pour lire l’éditorial d’Etienne Gernelle « Gaspard Koenig, un reporter d’idées sur les traces de l’intelligence artificielle » , cliquer ICI.

Le revenu universel pour réconcilier la France

Dans son rapport « Réformer pour Réconcilier », CroissancePlus a donné la parole à GenerationLibre et plus particulièrement à son fondateur, Gaspard Koenig, et son expert, Marc de Basquiat. Une de leurs solutions pour réconcilier la France : instaurer un revenu universel.

 

Gaspard Koenig fait le constat que notre système fiscal divise les français, car « chacun a le sentiment de contribuer davantage ou de recevoir moins que son voisin ». Pour illustrer son propos, Gaspard Koenig reprend les mots de Martin Luther King, qui disait que « sans une politique publique qui s’applique à l’ensemble des Américains », les Noirs seraient restés des « étrangers appauvris au sein d’une société prospère ».

« Le revenu universel établirait une base matérielle pour une réconciliation nationale. » Gaspard Koenig

Il y a une nécessité de mettre tout le monde sur un pied d’égalité pour apaiser la société. C’est ce que propose le revenu universel, car en plus d’éradiquer la grande pauvreté, il ne stigmatise personne.

Marc de Basquiat présente ensuite le revenu universel sous un jour plus technique. « Chaque personne serait soumise à un impôt défini par deux chiffres – un taux de 30 % et un crédit d’impôt de 483 euros par adulte ». Au-delà de simplifier le système fiscal français et d’effacer sa progressivité inéquitable, tous les français seront égaux devant cet impôt : il s’adaptera à la situation de chacun et évitera les déconvenues administratives.

« Il faut voir le revenu universel comme une modalité de calcul d’un impôt sur le revenu modernisé. » Marc de Basquiat

Le revenu universel est un outil résolument moderne qui réformera notre système fiscal et ne laissera personne de côté. Un passage obligé pour réconcilier la France.


Pour lire la contribution de Gaspard Koenig et Marc de Bastiat « Réformer pour réconcilier » cliquer ICI.

Pour lire notre rapport en faveur d’un revenu universel, cliquer ICI.

Dignité, cellules, data : à la conquête de la propriété de soi !

Pour la Revue des Juristes de SciencesPo (lire ICI), Gaspard Koenig aborde longuement la question de la propriété de soi – dans un texte de 10 pages. Kim Bloch-Lazare vous fait ici un beau résumé du plaidoyer du philosophe pour une révolution juridique impliquant la liberté de disposer de son corps, de ses cellules et de ses données personnelles.

 

Reprenant l’analyse de Michel Foucault, Gaspard explique que la morale stoïcienne est comme un cheminement vers la possession de soi. Gaspard se demande néanmoins ce qu’il reste du soi lorsque le réseau envahit notre existence et préempte nos décisions. Le soi n’a en effet jamais été autant sollicité et il est temps de comprendre à qui il appartient. 

Gaspard rappelle que la propriété privée, en tant que telle, est indispensable à l’émancipation individuelle. Citant la vision de Proudhon, il montre que la propriété est “la plus grande force révolutionnaire qui existe” car elle coupe le lien de dépendance vis-à-vis du pouvoir politique et permet ainsi à chacun de développer une personnalité propre, y compris en opposition à l’esprit du temps. De ce fait, pour que le citoyen soit quelque chose dans l’État, il faut que sa personnalité s’appuie sur une portion de matière qu’il possède en toute souveraineté.

Pour que le citoyen soit quelque chose dans l’État, il faut que sa personnalité s’appuie sur une portion de matière qu’il possède en toute souveraineté.

En disposant librement de ses biens, chacun peut se laisser aller à la créativité la plus débridée ou à la paresse la plus révoltante. Pourtant, il a fallu attendre bien longtemps pour que les paysans aient le droit de transmettre leurs terres en héritage, d’en vendre librement les fruits et enfin de les aliéner en disposant d’un titre de propriété cessible. L’individu a toujours dû batailler pour pouvoir disposer librement de ses possessions et de ses créations, qu’elles soient matérielles ou intellectuelles.

S’appartenir, c’est ne pas appartenir aux autres, ni à sa famille, ni à son pays, ni à sa religion. Dans l’Occident sécularisé, Gaspard observe qu’une telle formule semble presque devenue banale. Or, il y a encore de nombreux domaines où mon corps ne m’appartient pas, y compris dans nos pays de tradition libérale. Il existe des restrictions légales à l’usus, au fructus et à l’abusus. On ne peut par exemple pas attenter à sa propre dignité, définir librement son genre, faire une Gestation Pour Autrui (GPA) ou se prostituer légalement. 

Il y a encore de nombreux domaines où mon corps ne m’appartient pas, y compris dans nos pays de tradition libérale.

Gaspard s’étonne ainsi que que le droit interdise ce que la morale réprouve, dans la mesure où personne ne serait lésé par bon nombre de transactions. Concernant l’abusus, la situation est également surprenante puisque le suicide fût longtemps illégal, l’Eglise ne pouvant tolérer que l’homme modifie les plans de Dieu. D’où le fait que le suicide reste encore hypocritement confiné à une exécution cachée et honteuse et que l’euthanasie soit encore largement interdite.

Le cadavre lui même ne peut pas être libre d’usage. En France, par exemple, la cryogénisation, l’immersion en mer, l’insémination post mortem ou l’embaumement sont interdits, même s’ils ne font porter aucun risque à la salubrité ou la santé publique. Ces restrictions témoignent d’un principe fondamental : en droit, le corps n’est pas patrimonial. La personne est indisponible, et par conséquent le corps qui la supporte n’est pas aliénable.

En France, par exemple, la cryogénisation, l’immersion en mer, l’insémination post mortem ou l’embaumement sont interdits, même s’ils ne font porter aucun risque à la salubrité ou la santé publique.

En ce sens, la propriété du corps entraînerait une confusion heureuse entre le sacré et le profane. C’est un sujet métaphysique sur lequel le juge ne saurait s’exprimer. Les grands monothéismes estiment ainsi que le corps appartient à Dieu, qui peut le détruire mais aussi le ressusciter. En suivant ce raisonnement, l’homme n’est que l’usufruitier, non le possesseur indépendant et le propriétaire de son corps, de sa vie et de tout ce que le Créateur lui a donné pour qu’il en use. Pour contrôler les âmes, la religion a donc besoin de s’emparer des corps. Reprendre la propriété du corps, ce serait ébranler une tradition intellectuelle millénaire. 

Gaspard souligne en outre que l’indisponibilité du sujet se traduit par la fiction d’une “maîtrise sans possession”. On est censé disposer de soi sans pour autant s’appartenir au nom de la dignité humaine, devenue une composante de l’ordre public. La dignité humaine devient finalement le sacré sans Dieu.

Aujourd’hui, la dignité humaine devient finalement le sacré sans Dieu. Pour Gaspard, si l’on assume la logique de la modernité et de l’autonomie, il faut au contraire affirmer que l’on se possède soi-même car la chair n’est pas sacrée.

Au vu de cette hypothèse, Gaspard propose l’inverse : essayer la propriété de soi. Si l’on assume la logique de la modernité, de l’autonomie, du matérialisme philosophique, il faut affirmer que l’on se possède soi-même car la chair n’est pas sacrée. La propriété permet d’entrer dans le marché comme de le refuser, de donner la maîtrise pleine et entière. Les progrès de la médecine et de la technologie posent ainsi de manière urgente la question de savoir à qui appartiennent les cellules ou les data. 

Les progrès de la médecine et de la technologie posent de manière urgente la question de savoir à qui appartiennent les cellules ou les data. 

Cependant la propriété de soi a de profondes racines historiques. Locke, par exemple, cherchait à penser, à travers la propriété de soi, l’autonomie de l’homme dans un monde immanent. Qu’elle soit rejetée ou assumée, la propriété de soi crée la notion même d’appropriation et donc la possibilité de l’acquisition légitime. L’être et l’avoir sont ainsi indissociablement mêlés. On ne possède des choses que pour autant que l’on se possède soi-même.

La propriété de soi permet également de penser le droit sous une forme radicalement immanente. Elle est le meilleur fondement de l’égalité juridique car elle donne d’emblée une autonomie à chacun. Gaspard évoque aussi Richard Overton, qui estimait que si je m’appartiens moi-même, alors autrui s’appartient lui-même. De ce fait, les relations entre moi et autrui ne peuvent s’établir que sur la base du contrat, sous la forme d’un transfert de propriété. La propriété de soi ouvre ainsi la voie à une régulation par le droit, minorant le rôle de la délibération politique.

La propriété de soi ouvre la voie à une régulation par le droit, minorant le rôle de la délibération politique.

Gaspard souligne cependant une précision théorique fondamentale : pour disposer de soi, il faut être libre de le faire. Autrement dit, personne ne peut vendre le pouvoir de se vendre. La propriété de soi doit rester elle-même inaliénable pour que le corps et ses parties puissent devenir objets de contrat. Finalement pour n’être l’esclave de personne, pour s’appartenir en fait et en droit, il faut se traiter soi-même comme une chose. La propriété n’oblige pas au fructus, mais en ouvre la possibilité.

Il existerait en effet un lien profond entre morale personnelle, émergence d’un citoyen et propriété légale de soi. Toutefois Gaspard estime que c’est la perte du soi, transformé en dividuel sur les réseaux, qui engendre l’intolérance et ruine le dialogue. Il s’interroge ainsi sur la difficulté à s’appartenir au siècle du numérique.

La propriété de soi doit rester elle-même inaliénable pour que le corps et ses parties puissent devenir objets de contrat.

Instaurer la propriété de soi aurait des conséquences concrètes puisque les pratiques qui tombent aujourd’hui sous le couperet de la “dignité humaine” seraient légalisées et le droit de propriété permettrait à chacun de choisir ses propres valeurs. Les biotechnologies et le numérique, deux domaines extrêmement sensibles, subiraient de cette manière une véritable révolution.

S’agissant des données personnelles, le Conseil d’Etat explique que ces dernières ne peuvent être soumises au droit de propriété car elles reflètent la personnalité du sujet et que celui-ci doit rester indisponible. Cela veut dire que nous restons dans une forme de féodalisme numérique puisque nous offrons l’ensemble de notre production de data au “Seigneur” en échange de services gratuits.

Gaspard conclut son propos en constatant que tout ce qui émane du soi, que ce soit des cellules ou des data, fait l’objet d’une exploitation intensive dont il serait juste économiquement que l’émetteur premier en tire profit. En effet, il reste convaincu que la propriété de soi doit nous fournir les moyens de retrouver la maîtrise de nous-mêmes et d’échapper à la tyrannie du réseau.


Pour lire le texte de Gaspard Koenig « La propriété de soi » (pages 100 à 109), cliquer ICI.

Pour lire notre rapport « Mes data sont à moi », cliquer ICI.

Pour revoir le TEDxParis de Gaspard Koenig « La propriété de soi, le combat de la nouvelle génération », cliquer ICI.

Pour lire l’ouvrage « La famille par contrat » dans notre collection aux PUF, cliquer ICI.

#3 Les tourniquets – Les voyages de Gaspard dans l’IA

Pour ce troisième volet du voyage au coeur de l’intelligence artificielle (IA), Gaspard Koenig nous fait voyager de la Chine aux Etats-Unis, à la rencontre d’individus qui voient leur libre arbitre vaciller.

 

Gaspard nous invite d’abord à le suivre pour une exposition en Chine sur la place de l’humanité dans un univers technologique. L’itinéraire de l’exposition, d’une expérience dérangeante à une autre, montre la facilité avec laquelle on se laisse subtilement influencer, dans la vie, au point d’en oublier ses choix initiaux.

A plus forte raison, les systèmes de recommandation liés au développement de l’IA visent à déléguer l’exercice du choix à la machine. Bien sûr, l’IA n’impose rien, elle suggère simplement. Elle nous donne donc, peut-être, l’illusion de recourir librement à la technologie disponible. Pourtant, les faiblesses du jugement humain découragent vite de lutter avec la puissance de l’optimisation de l’ordinateur. On finit par se laisser guider sans émettre la moindre résistance. Le véritable enjeu sociétal de cette technologie est ainsi la question du libre arbitre.  

Le véritable enjeu sociétal de l’IA, c’est la question du libre arbitre.

Dans la foulée de ce périple asiatique, Gaspard nous téléporte en Californie pour découvrir la start up “Boundless AI”. Son objectif est de fournir aux applications des techniques éprouvées par les neurosciences pour rendre les utilisateurs accros. De cette manière, la start up utilise la connaissance des circuits de récompense du cerveau pour élaborer une programmation très fine qui corresponde aux goûts et aux sensibilité de chacun. Les techniques d’IA tirent profit de ce savoir pour changer la distribution future des comportements. Néanmoins, le fondateur de cette start-up, Ramsey Brown, reconnaît que même si on ne peut résister à la technologie on peut la retourner contre elle-même en créant l’antidote de ses propres produits.

En plus d’être manipulés et nudgés, nous devenons malgré nous les serviteurs de la communauté.

Gaspard nous montre que l’IA est en train de s’immiscer partout dans nos vies, y compris dans nos choix professionnels et amoureux. En effet, elle seule sait identifier la conjonction miraculeuse parmi l’infinité des possibles, puisqu’elle connaît nos rêves mieux que nous-mêmes, et se fait fort de les réaliser. Elle ne se contente plus de satisfaire nos choix de vie les plus fondamentaux, elle aspire bientôt à les forger.

De retour en Chine, Gaspard nous raconte sa rencontre avec le cofondateur de Baihe, un des principaux site de rencontres du pays. Ce dernier explique qu’avec l’aide du deep learning, il travaille à satisfaire les préférences inconscientes des utilisateurs et que cela fonctionne à chaque fois, comme avec ce riche homme d’affaires qui, sans le savoir, était attiré par les sosies de son amoureuse d’école. Toutefois, l’efficacité de ces systèmes d’IA pousse à collecter toujours plus de données afin d’atteindre des recommandations d’une précision maximale.

L’IA et ses déclinaisons contemporaines privent peu à peu l’individu des caractéristiques que lui conférait la pensée moderne : unicité, autonomie et responsabilité.

Au travers de Google Maps, l’IA montre également à quel point elle a intégré une logique utilitariste via son subtil équilibre entre votre intérêt et celui des autres conducteurs. Autrement dit, l’algorithme pourra vous envoyer perdre deux minutes sur une route de contournement si cela permet de dégager l’axe principal pour les conducteurs suivants. De cette façon, en plus d’être manipulé et nudgé, nous devenons malgré nous les serviteurs de la communauté. L’IA et ses déclinaisons contemporaines privent ainsi peu à peu l’individu des caractéristiques que lui conférait la pensée moderne : unicité, autonomie et responsabilité.


Pour lire l’épisode 3 « Etes-vous plus fort que Google Maps ? » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 2 « Éclairez-moi, Dr Langlotz ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 1 « Le Turc mécanique » en intégralité dans Le Point cliquer ICI.

Pour lire l’éditorial d’Etienne Gernelle « Gaspard Koenig, un reporter d’idées sur les traces de l’intelligence artificielle » , cliquer ICI.

L’Assemblée générale du 25 avril

L’Assemblée générale ordinaire de GenerationLibre s’est tenue le jeudi 25 avril pour soumettre à l’approbation de nos membres les comptes de l’exercice comptable 2018 et le bilan moral et financier. Ces derniers ont été adoptés à 93 voix.

 

Le Commissaire aux comptes a décrit un exercice à l’équilibre, et observé que que les recettes avaient augmenté de 21 points. Notre think-tank se développe, et ne compte pas s’arrêter là. 

Une fois les différents documents approuvés, Gaspard est revenu sur les activités de 2018. De grands rapports sont sortis sur les data, la légalisation de la GPA, la création de prisons ouvertes, la légalisation du cannabis, l’objet social de l’entreprise et nous avons publié un second ouvrage dans notre collection aux PUF : “La famille par contrat”.  Les retombées médiatiques dont GenerationLibre bénéficie ne faiblissent pas (376 mentions dans la presse nationale notamment) et nous conduisent à être toujours davantage sollicité par les décideurs politiques. 

Les retombées médiatiques dont GenerationLibre bénéficie ne faiblissent pas.

Gaspard a rappelé la vocation de notre organisation : produire des propositions de politiques publiques concrètes qui répondent à des problématiques variées et précises, tout en dessinant une doctrine libérale plus matricielle. Un libéralisme rénové à l’heure d’enjeux inédits : dans la continuité de la patrimonalité sur les données personnelles, Gaspard investigue la question du libre arbitre à l’heure de l’intelligence artificielle, développe la notion de propriété de soi, et nos experts s’attaquent aux désordres environnementaux.

Un libéralisme rénové à l’heure d’enjeux inédits.

Avant quelques échanges avec nos membres, Maxime a esquissé les lignes des grands projets à venir pour 2019 : les déplacements en région initiés en 2018 et qui continueront à un rythme trimestriel, la sortie en mai d’un recueil de textes rédigés par des directeurs de think-tanks et intellectuels sur les bienfaits de l’Europe, la sortie de notre deuxième rapport sur la patrimonialité des données personnelles.

Merci à nos membres et donateurs qui nous permettent de faire avancer des idées originales dans le débat public. Sans eux, rien ne serait possible.


Consulter le Rapport moral et financier

Pour rejoindre l’aventure, cliquer ICI.

GenerationLibre attaque le fichier TES devant l’UE

Avez-vous déjà entendu parler du fichier TES (Titres Électroniques Sécurisés) ? Kim Bloch-Lazare vous explique tout, et pourquoi notre think-tank s’y oppose. Aujourd’hui, après avoir perdu devant le Conseil d’Etat, GenerationLibre saisit la justice européenne !

 

C’est un « mégafichier » qui recense dans un seul et même répertoire les données personnelles et biométriques de la population française. Ce dernier, né par décret en 2016, s’est développé depuis cette date.

A l’heure où les Etats occidentaux sont ciblés par des cyberattaques de grandes ampleurs, il est étonnant et paradoxal de choisir un fichier central pour traiter des données si sensibles. Ce fichier pose trois grands problèmes. D’abord, un problème de la sécurité doublé d’un problème de souveraineté. Comme le rappelle notre directeur, Maxime Sbaihi, ce mégafichier est déjà entre les mains d’une puissance étrangère, puisque le traitement des données a été confié à une entreprise américaine, Palantir Technologies, lancée en 2004 par la CIA et travaillant aussi pour le Pentagone.

Ce fichier pose trois grands problèmes.

Quant au dernier problème, il touche au droit à la vie privée puisque le fichier ne respecte pas le consentement. Il viole ainsi le Règlement général sur la protection des données (RGPD). L’Etat reproche ainsi aux GAFA ce que lui même s’autorise à faire.

Pour GenerationLibre, ce répertoire de données pourrait annoncer les prémices d’une société de surveillance, sur le modèle chinois, où empreintes biométriques et reconnaissance faciale sont largement utilisées par les pouvoirs publics. De ce fait, et pour éviter qu’un jour le monde dépeint par George Orwell dans 1984 ne devienne réalité et que l’individu n’ait plus de vie privée, GenerationLibre a déposé en 2016 un recours en excès de pouvoir contre l’État français devant le Conseil d’Etat pour demander l’annulation du décret.

Le traitement des données à caractère personnel devrait être conçu pour servir l’humanité.

Malheureusement, après deux ans d’attente, le Conseil d’Etat a estimé que la collecte massive et non consentie des données personnelles des Français était “en adéquation avec les finalités légitimes du traitement”. Pour le Conseil d’Etat, il s’agirait d’une “protection de l’ordre public”, ce qui veut dire que l’administration pourrait empiéter ouvertement sur nos libertés au prétexte qu’elle oeuvre à l’intérêt général et au maintien de l’ordre public.

Toutefois, en tant que défenseurs des libertés, nous sommes convaincus que les données personnelles relèvent des droits fondamentaux et que leur traitement ne doit pas servir tel ou tel intérêt commercial, ni un “ordre public érigé” en raison d’Etat.

Ne nous laissons pas bercer par une illusion de sécurité au détriment de nos libertés.

Après le rejet de notre recours devant le Conseil d’Etat, nous avons décidé de porter notre combat contre le fichier TES devant la Commission européenne pour faire valoir les droits fondamentaux de nos concitoyens protégés par le droit de l’Union européenne. Ne nous laissons pas bercer par une illusion de sécurité au détriment de nos libertés.


Pour lire le mémoire déposé par nos avocats devant la Commission européenne, cliquer ICI.

Pour lire l’article de Next INpact, cliquer ICI.

Pour relire la chronique de Maxime Sbaihi dans L’Opinion : « Mega-fichier, mega-danger » cliquer ICI.

Quand l’homme reprend le pouvoir sur les réseaux sociaux

Repris par une dépêche de l’AFP, notre expert Lucas Léger explique que le marché de la donnée existe, et que notre proposition de patrimonialité des données personnelles vise à intégrer tous les utilisateurs dans cette chaîne de valeur. Dans Challenges, Gaspard Koenig nous invite à nous discipliner sur les réseaux sociaux.

 

« Le marché de la donnée existe déjà. Nous, nous souhaitons que l’utilisateur soit impliqué », explique Lucas à l’AFP dans une dépêche qui rappelle le sondage d’Harris Poll selon lequel près de 40% des Français seraient prêts à vendre certaines de leurs données à des entreprises.

Depuis quelques années, le VRM, qui signifie « vendor relationship manager », recouvre de nouvelles transactions entre particuliers et plateformes : les clients décident quelles données ils échangent avec le vendeur. Aujourd’hui, de nombreux acteurs apparaissent ou se développent comme MyCO.Coop, Ogury ou Datum. En offrant des moyens technologiques pour sécuriser la donnée, ou en achetant carrément celle-ci, ces entreprises dessinent ce qui pourrait être un nouveau modèle juridique où l’utilisateur devient propriétaire de ses données comme il l’est de ses biens, à l’inverse du modèle anarchique qui s’est développé avec le boom des GAFA, dans lequel nous sommes dépossédés de la valeur que nous produisons à chaque clic.

Dans le magazine Challenges, Gaspard loue les vertus de la déconnexion numérique, et invite chacun à maîtriser son utilisation des réseaux sociaux.


Pour lire l’entretien de Gaspard Koenig « Macron devrait quitter Twitter » dans Challenges, cliquer ICI.

Pour lire l’article « Et si vous vendiez vos données personnelles ? », cliquer ICI.

Pour lire notre rapport, « Mes data sont à moi », cliquer ICI.

Numérique : GenerationLibre dans la Nièvre

A l’invitation des Jeunes avec Macron, Christophe Seltzer, community organizer pour le think-tank GenerationLibre, a débattu des grands enjeux du numérique avec Benoit Tabaka, directeur des affaires publiques de Google France, Perrine Goulet, députée de la Nièvre et Denis Thuriot, maire de Nevers.

 

Un bel évenement qui a réuni près de 70 personnes dans l’ancienne caserne de la ville aujourd’hui occupée par un incubateur de startups.

Christophe a expliqué l’incohérence de la « taxe GAFA » aujourd’hui défendue par la majorité présidentielle en France. Cette taxe sur les services numériques devrait porter sur le chiffre d’affaires des grandes plateformes du numérique, en incohérence avec la position défendue par la France devant l’OCDE : une taxation sur les bénéfices. Une taxe qui pourrait être portée très majoritairement par les consommateurs et les utilisateurs, en contradiction avec l’objectif politique visé, et dont l’assiette et la clé d’allocation seront très difficile à évaluer dans le domaine de la publicité numérique, avec des risques de taxation multiple. In fine, le contentieux généré pourrait ne pas rendre cette taxe profitable en termes de recettes fiscales.

S’agissant de la légitime lutte contre les propos haineux sur internet, Christophe a mis en garde contre les possibles atteintes à la liberté d’expression qui résulteraient des évolutions législatives à venir, en rappelant que les propos haineux ou diffamatoires sont déjà sanctionnés par le code pénal.

Enfin, afin de répondre véritablement à l’enjeu numérique au XXIème siècle, Christophe a défendu la proposition de notre think-tank : rendre propriétaire chacun de ses données personnelles. Alors que la portabilité des données consacrée par le RGPD constitue un début de propriété, et tandis que de nouvelles technologies comme la blockchain assurent un début de marché sécurisé, la patrimonialité des données personnelles peut s’imposer comme cadre juridique innovant. Une troisième voie entre le nationalisme chinois et le classique régime des droits et obligations.


Pour lire le compte-rendu de cet évenement publié par Le Journal du Centre, cliquer ICI.

Pour lire notre rapport sur la liberté d’expression, cliquer ICI.

Pour lire notre rapport « Mes data sont à moi » en faveur d’une patrimonialité des données personnelles, cliquer ICI.

 

#2 Descartes contre les robots – Les voyages de Gaspard dans l’IA

Dans son deuxième volet du voyage au cœur de l’intelligence artificielle, Gaspard Koenig nous initie au “sens commun”, un modèle de représentation du monde indépendant d’une tâche et capable de gérer l’incertitude, la nouveauté et l’imprévu. Il illustre, via des exemples aberrants, que l’Intelligence Artificielle (IA) ne dispose pas de ce “sens commun”.

 

Néanmoins, avec l’IA, c’est la question de l’avenir du travail qui est dans toutes les têtes. De ce fait, Gaspard s’interroge sur l’avenir des chauffeurs de camion lorsque les camions seront capables de s’auto piloter. Il montre ainsi que leur profession disparaîtra mais laissera place à de nombreuses fonctions impliquant tout autant de travail humain.

En outre, il introduit le “paradoxe de Polanyi” qui souligne le fait que l’humain sait davantage que ce qu’il peut exprimer, que ses activités quotidiennes impliquent une somme quasi infinie de connaissances non explicitées, de règles invisibles et de procédures instinctives. Dans ce sens, plus une tâche sera difficile à définir, moins elle pourra être prise en charge par un robot.

Pour contrer cette difficulté, les informaticiens pourront explorer 2 directions : simplifier l’environnement ou laisser la machine apprendre toute seule via “l’unsupervised learning”, une technique où l’algorithme est aussi peu dirigé que possible et déduit ses propres règles à partir de l’environnement auquel il est exposé. Toutefois, Gaspard explique que le meilleur algorithme aura toujours du mal à identifier une finalité.

Dans le cas de la radiologie, l’ordinateur sera meilleur pour trouver la cellule cancéreuse parmi des millions de cellules saines, mais l’humain sera plus à même à réagir à des circonstances singulières ou à émettre des hypothèses originales.

A l’inverse, une activité peu exigeante en sens commun est la manutention dans les ports spécialisés, d’où l’apparition de “ports intelligents” où toute la gestion est intégralement automatisée grâce aux capacités d’apprentissage de l’IA. L’automatisation, comme le démontre Gaspard, ne peut donc fonctionner que dans des espaces clos où l’ordinateur pourra avantageusement trouver les meilleurs combinaisons.

Partant de l’exemple des ports automatisés, il remarque que la menace n’est pas tant l’émergence de l’IA dans le monde réel que la transformation du monde réel pour accommoder celle-ci. En effet, il s’agit d’un choix social et politique, aucunement d’une fatalité technologique.


Pour lire l’épisode 2 « Éclairez-moi, Dr Langlotz ! » en intégralité dans Le Point cliquer ICI.

Pour lire l’épisode 1 « Le Turc mécanique » en intégralité dans Le Point cliquer ICI.

Pour lire l’éditorial d’Etienne Gernelle « Gaspard Koenig, un reporter d’idées sur les traces de l’intelligence artificielle« , cliquer ICI.