IA : ne tirez pas sur l'utilisateur

Aujourd’hui, j’aimerais parler un peu d’une conversation qui a eu lieu récemment entre Cory Doctorow et tante (du blog Smashing Frames). Mais même si la conversation en elle-même reste intéressante (vous pouvez en lire les quatre articles ici : 1, 2, 3 and 4), c’est plutôt sur son sujet que je voudrais me pencher, car il m’intéresse depuis un moment.

Le sujet en question est encore, bien entendu, l’IA. Et plus spécifiquement la question suivante : à quel point devrions-nous accepter son utilisation ? Dit autrement, avons-nous une sorte d’obligation morale à éviter l’IA à tout prix, étant donné les dommages sérieux et documentés qu’elle a causé, cause encore et causera probablement à l’avenir ? Mais dans ce cas, que faire de tous les gens qui l’utilisent déjà régulièrement ?

Je ne vais pas faire semblant d’apporter une réponse parfaite à toutes ces questions ici, mais ce sont des interrogations qui me trottent dans la tête depuis un moment, alors autant en profiter pour en faire quelque chose.

L’IA c’est nul, bien sûr

Il va sans dire que l’IA (on parle toujours ici d’IA générative) a fait et fait encore beaucoup de mal. J’en ai déjà parlé, comme de nombreuses personnes plus intelligentes et plus éloquentes que moi. L’IA utilise beaucoup d’eau et d’électricité, et dépend du travail de personnes sous-payées voire exploitées un peu partout dans le monde ; elle peut renforcer des biais existants, amplifier ou faire surgir des problèmes psychologiques graves, etc. etc. (ce site, en anglais, vous donnera rapidement idée du problème).

D’un autre côté, nos smartphones et ordinateurs nécessitent aussi beaucoup d’eau et d’énergie pour être produits, ainsi qu’un travail qui n’est parfois rien d’autre que de l’esclavage moderne, ce qu’on sait depuis longtemps. Est-ce que toutes les applications de nos téléphones valent vraiment la peine de soutenir l’esclavage et le travail des enfants ? Est-ce vraiment une conversation que quiconque a envie d’avoir ? Soyons clairs : rien ne vaut un tel soutien. Pourtant, je possède un smartphone et un ordinateur, comme probablement un grand nombre d’entre vous.

Alors pourquoi l’IA serait-elle différente ? La réponse facile est de dire que c’est parce qu’elle ne sert à rien. A rien d’utile, en tout cas. Sauf que ça n’est pas tout à fait vrai, puisque plein de gens tout à fait normaux lui trouvent des usages assez raisonnables. Ce n’est pas que l’IA ait rendu possibles des choses qui ne l’étaient pas avant, mais c’est un peu comme un smartphone : c’est très pratique. Les gens vivaient aussi très bien avant l’invention des smartphones ou même des téléphones portables, et pourtant on ne s’en passe plus aujourd’hui. Mais le fait que l’on n’imagine plus notre vie sans eux ne devrait pas tant être vu comme un progrès ; c’est plutôt un symptôme grave de notre dépendance à une technologie qui est plus jeune que la plupart des êtres humains en vie aujourd’hui¹.

Une meilleure réponse serait, je crois, que l’IA est différente parce qu’elle emmerde à peu près tout le monde. C’est, au mieux, une technologie qui fonctionne à moitié, vendue par des menteurs pathologiques ou des fanatiques illuminés qui insistent depuis des années que le prochain modèle serait enfin une IAG. Ajoutez à cela un mépris total de la propriété intellectuelle, l’omniprésence du slop et les prédictions apocalyptiques sur le remplacement de tous les emplois, et il devient vraiment difficile de ne pas être au moins un peu emmerdé. Je le suis aussi ! Je hais OpenAI et Sam Altman, je déteste Anthropic et Dario Amodei, et je méprise tous les tristes boosters qui s’affrontent sur des classements en ligne pour savoir qui aura cramé le plus de tokens.

Pourtant, aussi haineux que je puisse être, je crois (comme Doctorow) que faire la morale aux gens qui utilisent un peu l’IA autour de moi n’est ni moralement tenable, ni une solution viable aux problèmes qui se posent aujourd’hui.

Mais ça ne veut pas dire que c’est toujours nul de l’utiliser

Gardons-nous bien en effet de tomber dans le piège de croire que toute personne qui participe à un système mauvais est non seulement mauvaise à son tour, mais aussi interdite d’essayer d’améliorer ledit système (voir Mister Gotcha pour une version plus drôle). L’IA générative est une technologie éminnemment imparfaite et critiquable, mais on pourrait en dire autant d’un certain nombre d’autres outils, y compris parmi ceux que l’on utilise quotidiennement. Alors pourquoi ne jamais utiliser d’IA ?

Tant qu’il n’est pas question de contribuer à la hype et que l’utilisation reste personnelle, pourquoi un tel usage serait-il automatiquement mauvais ?

Si notre argument reste purement moral, alors il faut accepter de l’étendre aux autres gadgets dans notre vie, et se rendre compte qu’on ne souhaite pas l’appliquer aussi durement. Mais même si cela ne vous suffisait pas (alors que ça devrait probablement)², alors entendez que c’est aussi tout simplement une mauvaise stratégie politique.

Il y a plein de raisons à cela : de nombreuses personnes ne sont tout simplement pas particulièrement informées, par exemple. Sans être pro-IA, elles ne voient peut-être là rien de plus qu’une banale nouvelle invention, dans laquelle certaines personnes sont très enthousiastes, là où d’autres voudraient revenir au bon vieux temps, et qui globalement n’existe toujours que parce que nos pays riches peuvent en exploiter des plus pauvres. Rien de nouveau sous le soleil. Alors peut-être que ces personnes, de temps en temps, vont demander à ChatGPT de les dessiner à la façon de Ghibli. Ou demander à Sora de générer une vidéo d’eux giflant leur patron, pour se défouler.

Et quoi ? Est-ce qu’il faudrait les gronder comme des enfants voire arrêter de leur parler pour autant ?

Vos proches et même vos connaissances ne sont probablement pas le cible idéale de votre colère, aussi justifiée soit-elle. Vous les aliéner aura peu de chances de servir votre cause. Pour autant, cela ne veut pas dire qu’il n’y a rien à faire.

Alors que faire ?

S’organiser ! Ou, comme le dit si bien Cory Doctorow : saisir les moyens d’informatisation³ !

Comme tant d’autres, vous pouvez vous aussi refuser le projet des vendeurs d’IA. Pas en demandant à vos pairs d’être moralement purs et bons, ni en faisant bien attention à faire le choix du moindre mal comme si c’était suffisant. Si vous voulez agir⁴, alors exprimez-vous publiquement !

Dites haut et fort ce que vous pensez de l’IA, mais montrez surtout aux gens que vous êtes de leur côté. Qu’ils peuvent prendre position aussi, sans avoir à craindre les arguments d’autorité d’un collègue vendu à l’IA ou la réprobation d’un patron qui a décidé que tout le monde utiliserait Microsoft Copilot.

Montrez-leur que vous ne menez pas une croisade aveugle contre tout ce qui porte la marque de ChatGPT pour votre confort moral personnel, mais que vous refusez l’IA parce que vous vous souciez du sort de tout le monde.

Enfin, rappelez-vous où votre colère devrait être dirigée : vers la clique d’arnaqueurs et de menteurs professionnels qui nous vendent, encore aujourd’hui, un supposé “miracle de l’IA”. Si ce coup est loin d’être leur premier, nous pouvons demander à ce qu’il soit le dernier. Et nous ne devrions jamais oublier qui ils sont.