Chronique 22 TRS : S.A.R.R.A – Une Intelligence Artificielle par David Gruson

Résumé : Paris 2025. Une intelligence artificielle est chargée de trouver une réponse à un risque d’épidémie d’Ebola en plein cœur de Paris. Toutes les hypothèses circulent sur l’origine de la contamination, y compris celle du terrorisme biologique. La Machine administrative, politique et médiatique est prête à s’emballer. Inévitable. Irréversible. Incontrôlable ?

S.A.R.RA – Une intelligence artificielle est un polar bioéthique sur fond de fiction d’anticipation écrit par David Gruson et publié en juin 2018 par les éditions BetaPublisher.

Disclaimer : je tiens à dire que cette chronique constitue mon avis purement subjectif, et est le produit des mes propres interprétations. Si vous désirez vous faire votre opinion de ce livre, libre à vous de vous le procurer sur le site de BetaPublisher.

Un contexte dystopique

Nous nous retrouvons en l’an 2025, aire de symbiose entre l’homme et la machine. L’auteur nous dresse le portrait de l’humain connecté, dont toute la vie dépend d’internet des réseaux sociaux, notamment d’un réseau social de nouvelle génération, PanGoLink. On y retrouve des robots policiers, les fameux ASA (Assistants de Sécurité Artificiels), des robots médicaux, les ASSA (Assistants de Service de Soin Artificiels), et bien d’autres encore… Ainsi que de l’IA, la fameuse Intelligence Artificielle au cœur de nos débats actuels. Je vous mets ici un lien pour vous donner une définition de ce qu’est l’IA, ainsi que les fondements de sa création, par le mathématicien Alan Turing, en 1950. C’est dans ce contexte légèrement futuriste, puisque pas si éloigné de notre réalité, que se déclenche l’émergence d’un nouveau type de virus Ebola, ou fièvre hémorragique, et qui constituera, en surface seulement, le fil conducteur de ce livre, et toute la réflexion qu’il enjoint.

Un format novateur

Ce livre se déroule sous la forme d’un rapport rétrospectif dont les parties sont entrecoupées par des interludes formant des données explicatives, et permettant un approfondissement philosophique et éthique des éléments qui nous sont communiqués, sans pour autant que ce soit rébarbatif. J’en vois aussi par là une justification du narrateur avec un argumentaire logique à l’appui, qui semble presque humain. Ce narrateur est en fait S.A.R.R.A, l’IA que l’on suit tout le long de l’œuvre. On apprend à connaître son mode de réflexion en tant que machine mathématique qui interprète des données, qui calcule des probabilités… Tout en s’extasiant devant l’aspect analytique de la discussion. De plus, on retrouve des vidéos interactives qui peuvent se lire à l’aide d’un simple lecteur de QR code, et qui permettent de s’imprégner encore plus dans l’histoire, d’autant plus dans le contexte actuel : je suis confinée dans mon appartement en pleine pandémie, en train de lire un polar sur la ré-émergence d’une épidémie, où des personnes se retrouvent confinées (c’est un peu inception dans ma tête quand même).

Le format de l’écrit induit une linéarité. […] Le récit chronologique recrée un ordre causal. Or, cet ordre, nous le savons bien, n’existe pas. À chaque moment, le déroulement de la causalité ouvre des options, crée des possibilités d’arbitrage, dessine d’autres voies.

Une réflexion sur la place de l’IA dans nos vies

Cette fiction, c’est avant tout une réflexion sur de nombreux sujets inhérents à notre époque, comme la place de l’IA dans nos vies : dans quels lieux l’IA peut-elle être utilisée ? Quelles en sont les modalités ? Comment peut-on au final, contrôler cette IA ? Éviter un « emballement » de la machine ? Qui est responsable des actes de cette entité ? C’est autour de ces questions que nous suivons l’avancée de ce livre, sous l’égide de la plume experte de David Gruson (je vous mets sa biographie juste ici). À l’heure actuelle, si je m’intéresse au domaine médical (très représenté dans le livre), la complexité des individus est en augmentation, la taille de leurs données médicales formant alors un big data personnel. Ce Big Data est représenté par 4V : Volume – Variété – Vélocité – Véracité. Toutes ces données doivent être traitées avec des méthodes d’analyses complexes qui amènent à l’IA, ceci marchant très bien lorsqu’il y a un nombre fini de solution, des règles qui sont prédéfinies et des jeux de données d’apprentissage (l’IA étant de plus en plus performante dans la prédiction). En revanche, il y a aussi des problématiques, qui sont mentionnées dans le livre : les black box (variables explicatives inconnues, le modèle choisit tout seul ses variables et va également créer les siennes, ce qui fait que le résultat est non reproductible) ; les modèles évoluent tout le temps…(1)

(1) LCA et médecine bioquantitative, Apports de la modélisation mathématique en médecine, Docteur Edouard Lhomme.

Un livre porteur de message

Au delà du questionnement sur la place de l’IA dans notre vie, l’auteur aborde d’autres sujets engagés, comme notamment l’eugénisme, avec l’histoire de la petite Eliza ; la privatisation de la sécurité sociale avec la présence de Crédits Sécu en tout début de livre ; mais aussi les « anti-vaccins », brièvement, au détour d’une phrase. Il nous fait également réfléchir sur la portée des décisions médicales et gouvernementales, appuyant sur l’importance des essais cliniques médicamenteux, et de leur rôle dans le bon déroulement d’un parcours de soin ; pour qu’en terme de probabilité, il apporte le plus de bénéfices et le moins de risques au patient (la balance B/R).

Une narration addictive

Ce livre est extrêmement bien écrit. Le format rapport, qui peut faire peur à certains, et très bien maîtrisé. La plume, vive et sans fioritures, colle au contexte de l’œuvre. Les annotations de bas de page, commentaires de S.A.R.R.A, personnifient cette Intelligence Artificielle. Elles sont instructives mais dénotent avec un léger cynisme… Est-ce possible pour une IA d’être cynique ? De toute manière, j’ai lu ce livre d’une traite, et j’en reprendrai encore et encore. Je m’attaque de ce pas à la partie 2, fraichement sortie en mars 2020 (et que vous pouvez retrouver ici).

Parler de « second » et non de « deuxième » degré, c’est déjà postuler qu’il ne saurait y avoir de troisième : je ne suis pas convaincue.

À lire ou pas ? Évidemment, le mélange entre l’intrigue et le message porté en fait une œuvre qu’on se doit de lire ! Je vous le conseille vivement.

5/5 sur ce polar bioéthique magnifiquement bien réalisé.

Tous les modèles sont faux, mais sont parfois utiles

Georges E.P Box

Et c’est déjà la fin de cette chronique ! J’espère qu’elle vous aura plu ! N’hésitez pas à me dire dans les commentaires si vous l’avez déjà lu, et partagez moi vos avis, ça me ferait plaisir !

Bouquinement vôtre, Jade