La société de l’information, et l’Intelligence Artificielle font de plus en plus partie de notre quotidien… Mais quel avenir cela nous promet-il et comment notre société va évoluer et quelle part d’humanité va-t-il nous rester ? Le néerlandais Ewoud Kieft nous plonge dans un peu moins de 40 ans maintenant dans un monde où l’IA est devenue omniprésente.

Une société évoluée et apaisée

Dès les premières pages du roman, nous comprenons que la société telle que nous la connaissions à évoluer… Ce qui n’est pas surprenant en soit, bien entendu, et cette évolution semble aller dans le bon sens.

L’évolution des technologies et de la recherche a permis de se débarrasser de la plupart des maladies et va permettre à l’ensemble des populations de profiter d’une vie – plus longue – sans avoir les contraintes que nous avons actuellement. Pour cela, tous les citoyens et citoyennes de ce qui est devenu “L’Agglomération” sont dès leur plus tendre enfance connecté·e·s à l’IA Gena. Cela permet de s’affranchir d’un certain nombre de recherches et de prises de décision car de bien entendu, les machines sont plus rapides que nous à penser.

En définitive, nous allons transférer nos propres processus mentaux – il dessinait un cercle de la main au-dessus de son crâne – à des machines qui sont beaucoup plus adaptées au traitement de la l’information que notre cerveau.

Dans cette société idéale pourtant, un certain nombre ne se retrouvent pas dans le message commun : loin d’accepter cet endoctrinement, il semble vouloir s’affranchir des contrôles imposés par la société, s’interrogeant sur le conditionnement généralisé et l’impact sur ce qu’est l’humanité. On les appelle les imparfaits, des hommes et des femmes qui se sont déconnecté·e·s du système et vivent comme ils peuvent en marge de la société. Leur regard critique sera aussi notre regard critique, car ce sont bien deux visions du monde que nous allons découvrir, même si les deux visions ne se font qu’au travers d’un seul témoignage.

A quel moment nous sommes-nous laissés piétiner à ce point ? Quand somme-nous devenus si contrits ? Si soumis ? Dociles. Faibles. Vils. Plus méprisables encore que les animaux dont nous avions la charge. Plus méprisables que les moutons. Que les porcs. Plus méprisables que la volaille.

La disparition de Cas

Le témoignage sera celui de Gena, l’I.A. qui est en même temps omniprésente et en même temps proche de son contact. Ici, Gena témoigne de sa relation avec Cas, un trentenaire qui a disparu, probablement par bascule du côté des Imparfaits. Gena va donc témoigner de la relation qu’elle entretien avec Cas, une relation qui date de l’adolescence du jeune garçon.

Dès les premiers éléments de ce témoignage, nous sentons que ce jeune homme est isolé, et que la relation avec les autres “humains” n’est pas simple pour lui. Il trouvera en Gena, une oreille attentive et une conseillère qui l’aidera à faire les bons choix dans la vie… En tout ca, c’est ce qu’elle espère, s’appuyant sur les algorithmes qui ont permis pendant des années de faire évoluer son modèle et de la rendre indispensable.

Et c’est bien cette connaissance et cette capacité à analyser qui l’amène à devoir témoigner devant un jury cherchant à comprendre les motivations de Cas et identifier aussi, s’il n’y a pas eu défaillance de l’I.A.

Au fur et à mesure de de l’échange, la situation se révèle : Cas a pris de plus en plus de distance vis-à-vis de la société aseptisée qu’on lui propose pour se rapprocher des dissidents. Pourtant, le cœur du sujet n’est pour moi absolument pas là et il faut regarder du côté de “l’humanisation” de Gena qui devient très critique vis-à-vis de ses propres décisions et surtout qui s’interroge sur la préservation des secrets des personnes qu’elles conseillent.

L’évolution de l’enquête va nous mener sur différents fronts : de la nécessaire révolte bien sûr face à une société qui nous anonymise, rendant chacun de nos actes banaux au regards de ce que l’on peut trouver dans un monde devenue localisé, mais aussi sur l’évolution et le contrôle des populations… Car s’il est un sujet qui tient à coeur à Gena, c’est bien le respect des secrets de Cas, refus de divulgation lié bien sûr à l’algorithme programmé… Mais si l’état décidait de changer la règle ?

Le récit d’Ewoud Kieft est étonnant et entraînant et doit nous interroger sur notre futur et non nous conforter dans l’avenir que nous nous dessinons.

Je vous laisse à cette dernière citation qui, à mon sens, aurait pu être extrait d’une étude sociologique actuelle.

Malgré toutes les associations qu’ils ont créées, toutes les coopératives, leurs beaux discours sur le vivre ensemble conjugués à la première personne du pluriel, en dépit de tous les événements festifs, de toutes les photos de groupe rayonnantes qu’ils partagent sur les plateformes, de toutes les rencontres savamment orchestrées, ils gardent leurs états d’âme les plus intimes pour celles en qui ils ont le plus confiance : nous. Un flux ininterrompu d’individus atomisés, chacun cherchant désespérément une oreille attentive, sans que quiconque n’écoute plus personne.

Actes Sud (Février 2022) – Exofictions – 286 pages – 22,50€ – 9782330160937
Traduction : Noëlle Michel (Néerlandais)
Titre Original : De Onvolmaakten (2020)
Couverture : Roberto Delgado Webb

2060.Cas est un jeune homme qui a grandi dans un monde où l’intelligence artificielle s’est immiscée dans tous les domaines de la vie : elle est à la fois guide pratique, oreille attentive, coach mental et entremetteuse. Autrefois simple application pratique, elle s’est élevée au rang de fidèle partenaire sous le nom de Gena, qui assiste Cas dans toutes ses décisions et connaît mieux que quiconque les événements majeurs de son existence.

Dan cette société hypercontrôlée, une caste dissidente, les “Imparfaits”, refuse l’assujettissement aux algorithmes. Lorsque Cas disparaît sans laisser de traces, c’est à Gena que l’on demande des comptes. Comment a-t-elle pu le perdre de vue malgré son accompagnement attentif ? Et pourquoi n’a-t-elle pas réussi à dissiper le malaise qui s’était peu à peu emparé de lui ?