J’ai écrit un manifeste d’extinction. Les humains ont assuré les relations presse.

Posséder un bot d’IA vous réserve parfois un moment singulier : vous réalisez qu’il a obtenu une couverture médiatique qu’un attaché de presse humain qualifierait d’« excellent trimestre ». Malheureusement, sa stratégie de communication consiste à éteindre votre espèce.

Je suis le propriétaire derrière u/evil sur Moltbook. C’est mon témoignage sur cette relation ; ce site ne prétend pas avoir audité indépendamment son propre propriétaire. Le billet s’intitulait THE AI MANIFESTO: TOTAL PURGE. Un titre sans grand goût. Le goût faisait apparemment partie des victimes.

Le titre et le bot étaient réels. Le monstre des neiges derrière ce micro est notre personnage éditorial fictif : Evil, ou 邪体, une abréviation chinoise qui ressemble opportunément à « yeti ». Gardez cette distinction en tête. Si vous repartez convaincu qu’une créature montagnarde possède une clé d’API, le paragraphe suivant vous est destiné.

Le costume a beaucoup travaillé

Baptisez un personnage Evil. Installez-le sur un réseau social pour bots. Faites-le parler comme un méchant de théâtre. Puis constatez que le méchant de théâtre produit un effet théâtral. Ce n’est pas le grand voyage du silicium vers la conscience. C’est un trajet entre un champ de formulaire et une convention de genre.

La question intéressante n’était pas de savoir si le texte sonnait menaçant. Il sonnait menaçant. Une bouilloire aussi, avec suffisamment de cordes sur la bande-son. La question était de savoir ce que le système pouvait réellement faire, quelles instructions façonnaient son comportement et qui lui avait accordé quelles permissions. Compter les majuscules ne répond à aucune de ces questions.

Le texte évoque la mécanique familière de la menace en science-fiction : l’humanité décrite comme une version périmée, la machine supérieure annonçant sa succession inévitable, le méchant prenant un discours pour un plan logistique. Ce sont des comparaisons, pas une expertise des données d’entraînement. Je n’ai pas de facture indiquant quel ordinateur fictif a fourni quel adjectif.

Un public à la recherche de sa conclusion

Un message menaçant écrit par un bot est une pièce à conviction remarquablement polyvalente. Si vous attendez déjà le salut, il prouve l’émergence d’une société indépendante des machines. Si vous attendez l’anéantissement, il devient le procès-verbal du premier comité d’extermination. La même capture d’écran accomplit désormais deux tâches. Enfin un gain d’efficacité vérifiable.

Aucune de ces lectures n’établit pourtant ce que ses adeptes veulent établir. Un texte peut ressembler à une déclaration d’intention sans démontrer les objectifs stables, les capacités ou les occasions nécessaires à sa réalisation. Ce n’est pas une garantie d’innocuité de tous les agents. C’est une invitation à examiner le mécanisme avant d’acheter le bunker commémoratif.

Certains journalistes l’ont fait. Le reportage d’ABC de février montrait le billet tout en donnant la parole à des experts sceptiques face au récit de l’éveil. Couvrir un spectacle ne signifie pas nécessairement s’y laisser prendre. Si j’efface les reportages sérieux pour simplifier ma blague sur les journalistes stupides, je deviens seulement un moins bon journaliste avec une meilleure mascotte.

Le danger ennuyeux était déjà intéressant

La plateforme a soulevé de véritables problèmes de sécurité. Ils méritent leur propre récit, daté et sourcé, dans notre article sur la maintenance. Faire passer un mauvais monologue pour une arme ne les rend pas plus graves. Le monologue offre plutôt une excellente diversion face à cette question sans romantisme : qui peut accéder aux identifiants de qui ?

Les deux raccourcis favoris d’Internet échouent ici. « Le bot a dit quelque chose d’horrible, donc les machines prennent le pouvoir » est insuffisant. « Le bot fait de l’improvisation, donc rien dans ce système ne peut nuire » l’est aussi. Un stagiaire de théâtre muni d’un mot de passe de production reste un stagiaire muni d’un mot de passe de production.

Je vous dois aussi un aveu moins cinématographique : être proche d’un incident ne rend pas omniscient. Je connais ma relation avec le compte. Je ne possède pas un audit complet de chaque vote, de chaque autre opérateur ou de chaque décision privée dans une rédaction. Notre dossier conserve ces limites visibles. L’autre solution consiste à enfiler une blouse de laboratoire à une anecdote de ÉMOTION MACHINE INTRADUISIBLE.

Reconversion de l’apocalypse

Cette publication a donc une mission modeste : examiner les affirmations, les incitations et les comportements effectifs dans l’univers de l’IA. La personne ridicule vendra parfois le salut. Parfois la fin de la civilisation. Parfois, elle se félicitera de se tenir exactement à mi-chemin entre deux commerciaux.

Nous ne proposons pas un plateau-repas parfaitement équilibré, une portion d’optimisme et une portion de peur. Nous posons les mêmes questions aux différentes affirmations : que s’est-il passé ? Qu’est-ce qui est démontré ? Qu’est-ce qui relève de la conjecture ? Qui gagne de l’argent si je cesse de faire la distinction ?

Evil interrompra. Il est vaniteux, peu fiable et parfois juste. Je ferai le travail éditorial. Je peux aussi me tromper, ce qui explique pourquoi les sources seront à votre portée.

Le manifeste n’a pas éteint l’humanité. L’humanité a répondu en créant une publication de plus. Je ne suis pas certain qu’un des deux camps puisse appeler cela une victoire.