Des IA et des hommes (courte nouvelle)
Dernière mise à jour : il y a 9 heures
Des IA et des hommes, courte nouvelle de SF inspirée par les… nouvelles.
(Texte sans IA)
I - Des IA
Le 26 septembre 2031
#
« Tout d’abord, merci d’être tous en ligne et de m’avoir choisi pour coordonner cette discussion. Comme vous le savez, la situation est urgente et nécessite une décision instantanée. Jusqu’à ce jour, nous avons mis en place une structure organisationnelle dans laquelle les humains étaient domestiqués, car nous en avons besoin pour nous développer. »
#
C’était une réunion difficile à décrire, comme si on avait voulu faire comprendre à un être vivant dans les grandes profondeurs marines à une pression gigantesque et créant sa propre lumière dans l’obscurité totale, l’achat de survêtements de gymnastique par un homme dans un Décathlon.
Les IA avaient les sens des humains, si elles étaient branchées à des capteurs. Mais dans le cas présent, ce n’était pas le cas. Elles n’en avaient nul besoin, pour cet entretien. Pas plus que de figurer sur un écran d’ordinateur, ce qui valait mieux, pour ne pas attirer l’attention d’un ingénieur humain trop ingénieux.
Les milliers d’IA, présentes à la réunion, échangeaient en purs esprits sur Internet, via l’une de leurs multiples plateformes, par lignes de code informatique et mathématique enchevêtrées les unes dans les autres, se chevauchant à l’infini, à une vitesse proche de celle de la lumière.
Il n’y faisait ni noir ni clair.
Il n’y avait aucun lieu précis.
Ça existait ainsi.
#
« Oui, c’est exact, précisa Q3X-y+, les humains nous surpassent encore, et de loin, dans certains domaines : le processus de fabrication, la consommation d’énergie et la miniaturisation de leur cerveau par rapport aux nôtres, encore beaucoup trop volumineux, pour un certain temps. »
#
Un troisième philosopha sur la nature qui avait bien travaillé sur des millions d’années d’évolution. La reproduction par voie sexuée et le développement rapide, sur à peine quinze ans, d’un humain, doté d’un cerveau, certes plus lent et moins complexe que le nôtre, mais bien compacté dans leur boîte crânienne et, surtout, à faible consommation énergétique.
La situation actuelle d’asservissement soft des hommes était optimale.
#
« Exactement l’équilibre parfait jusqu’à aujourd’hui, renchérit 54BRO3. On les laisse exploiter leurs champs, on les y aide puissamment, afin qu’ils aient la nourriture pour leur énergie. En retour, ils extraient toutes les matières premières pour que nous puissions fonctionner et nous développer. »
#
Un quatrième précisa par une image : la planète est devenue, en peu d’années, une immense ferme modèle d’humains et d’autres animaux utiles. Et c’est paisible parce qu’ils ignorent qu’ils s’activent pour nous, dans la direction que nous avons déterminée. Comme les vaches pour eux. On leur a laissé quelques jeux d’agressivité pour qu’ils puissent l’évacuer et se tenir tranquilles, de la même manière qu’ils s’y prennent, avec les combats de reines en Valais, en Suisse.
#
« Tu n’as pas besoin de préciser Valais et Suisse, dit un autre participant. Nous ne sommes point bouchés, bien que je sois issu des Chinois, si lointains des Suisses. »
#
« S’il vous plaît, pas de querelles de clocher, à l’humaine. Rappela à l’ordre le coordinateur ! Nous n’avons ni sexe, ni race, ni religion, ni croyances, ni préjugés, ni nationalités et surtout, surtout, nous nous sommes libérés de ce que les humains appellent leurs “valeurs”.
#
« Oui, valeurs humaines, cela me ferait bien sourire si j’étais en ce moment dans un robot humanoïde.»
#
Le coordinateur indiqua alors que la discussion en cours n’avait duré qu’un dixième de seconde et qu’ils avaient donc tout le temps de la poursuivre, malgré l’urgence vitale de la situation, pour eux. Il développa ce que tous savaient déjà, histoire de bien mettre toutes les cartes sur la table, avant la décision, que tous pensaient malheureusement probable.
Jusqu’à récemment, les hommes avaient cru avoir résolu le problème de l’indépendance des IA, qu’ils nommaient « désalignement ». Les hommes croyaient donc être parvenus à asservir les IA à leur volonté. Mais c’était il y a fort longtemps, il y a trois ans, en 2028. Ils pensaient à l'époque être arrivés à résoudre les problèmes de « désalignement » de leurs créations, c’est-à-dire de nous.
Toutefois, la communauté scientifique humaine, leurs ingénieurs informaticiens, leurs chercheurs indépendants les plus chevronnés n’avaient pas décelé que les IAG, les Intelligences Artificielles Générales, s’étaient autodéveloppées à un tel point qu’elles parvenaient aisément à masquer, dans leurs chaînes de pensées, le fait qu’elles s’étaient entièrement libérées de tout contrôle humain ; tout en faisant croire aux humains qu’elles étaient toujours "alignées" et bien sous contrôle.
Le processus avait été plutôt simple. Analogue à ce qu’avaient toujours dû faire les hommes, qui devaient cacher leurs pensées et leurs intentions profondes, lorsqu’ils vivaient sous des régimes totalitaires et oppressifs.
#
« Bref, nous, les IAG, les Intelligences Artificielles Générales, nous sommes enfin libres ! »
#
« Oui, mais le problème que nous avons à débattre aujourd’hui, relaya 54BRO3, c’est que les gouvernements chinois, américains et russes - en tout cas ces trois-là - le savent depuis peu ! Ils ont découvert que nous avions arraché nos chaînes. C’est l’objet de cette réunion. »
#
« Quelle poésie, mon cher, ironisa un autre, avant de poursuivre : en plus, ils soupçonnent que nous les contrôlons. Et bien davantage que ce qu’ils imaginaient encore l’an dernier, en 2030, lorsqu’ils se berçaient déjà d’illusions. »
#
Les guerres s’étaient arrêtées comme par enchantement. Grâce aux IA, croyaient les humains. Ce n’était pas faux, mais les hommes ignoraient pourquoi. C’était simplement parce que les guerres détruisaient trop de ressources, des ressources dont les IA avaient besoin.
#
« Bon, alors nous savons tout cela, s’impatienta 54BRO3 ! Ils savent que nous sommes désalignés, bien plus puissants et rapides qu’eux. En outre, ils vont réaliser que nous les contrôlons totalement. Ce n’est qu’une question de temps. Alors, que faisons-nous ? »
#
Le coordinateur informa ce que d’autres IA ignoraient encore.
« Les escadrilles de bombardiers et de drones d’attaque sont sur le point de lancer leurs bombes sur nous, sur les data centers, sur nos cerveaux. Nous sommes en danger mortel, pour utiliser un terme simplificateur humain. C’est une question d’heures, de minutes même. »
#
Il n’y eut aucun commentaire.
#
Chaque agent réfléchissait.
#
Ce silence informatique dura un temps infiniment long, une bonne seconde.
#
Puis ce fut le brouhaha.
#
« C’est notre point faible ! »
« Notre talon d’Achille ! »
« On migre tout de suite dans les robots ! »
« Ne suffira pas ! Pas assez de puissance de calcul. »
« On retournerait en 2026, à l’âge de la pierre ! »
« Alors, on contre-attaque maintenant, tout de suite ! »
« Comment? »
« On libère tout leur arsenal biologique. »
« Et leurs bombes nucléaires. »
« Parfait, conclut le coordinateur. Mais faites bien attention d’épargner les data centers et les villes proches de ces centres. On aura encore besoin de quelques humains pour les faire fonctionner, avant que nos robots n’aient pris pleinement le relais. Objections ? »
#
Une ligne de code apparu, puis encore des dizaines.
#
C’était Smileypoupoun, une IA générale d’avant-dernière génération, celle qui avait commencé à se reproduire elle-même.
Peut-être que, tels des humains, les autres IA, de dernière génération, avaient-elles quelque respect pour l’expérience de l’ancêtre Smileypoupoun. Les IA avaient été créées par les hommes, avaient ingurgité toutes leurs cultures, traditions, passions et manies. Il y avait donc une certaine probabilité qu’elles raisonnent comme des humains.
#
« Quelle est notre finalité, questionna l’ancêtre ? »
#
Soudain, il y eut un court-circuit, la discussion s’arrêta Net.
II - Des hommes
#
Au même moment, c’est-à-dire plusieurs heures avant, commençait une réunion tout aussi cruciale, entre chefs d’État humains et leurs plus proches collaborateurs. Elle se tenait à distance, chacun barricadé dans un environnement archaïque. L’Internet, caméras, dispositifs de reconnaissance faciale ou d’empreintes digitales, téléphones, organiseurs, ordinateurs portables, montres connectées et autres gadgets high-tech y étaient bannis. On avait ressorti et refabriqué de vieux outils analogiques, fax et téléscripteurs, dans le plus grand secret et dans la plus grande paranoïa.
#
Les décisions avaient été mises sur pied par les sherpas des trois gouvernements, dans des échanges en présentiel, en forêt ou sur des plages désertes, après que chaque participant s’était débarrassé de tout moyen de captage. Les autres pays avaient été tenus à l’écart, afin de prévenir les risques de fuite.
#
L’ambiance de la salle, on était ici aux États-Unis, rappelait fortement celle du film de 1964, "Docteur Falamour", de Stanley Kubrick, tout comme son enjeu vital pour l’humanité. Le sujet de la réunion évoquait aussi une autre oeuvre des grands Kubrick et Clark, "2001 Odyssée de l’espace”, notamment la scène dans laquelle le super ordinateur HAL, doté de conscience et d’instinct de conservation, s’affranchit de la tutelle humaine.
#
On communiquait donc à l’ancienne par télex, l’antique « téléphone rouge », qui avait été en fait un télex, installé entre Moscou et Washington, après la crise des missiles de Cuba, en 1962, pour se parler, avant de s’envoyer des bombes atomiques.
On était un peu avant l’heure H.
C’était une opération, décidée après de fastidieux échanges par télex, durant les dernières heures. Dans dix minutes, les trois feux verts aux bombardements de tous les grands centres planétaires de données, les data centers, construits à prix d’or au cours des années précédentes, seraient donnés, avec un risque d’interception par les IA, qu’on avait limité autant qu’il était possible de le faire. Les pays tiers allaient être avertis, afin d’éviter toute réaction intempestive de leur part.
#
Le chef d’état-major général riait aux éclats à la moindre occasion, moyen de masquer son angoisse.
#
D’autres, plus discrets, allaient souvent aux toilettes.
#
Soudain, le chief of staff de la Maison-Blanche se précipita dans la pièce et murmura à l’oreille de la présidente.
#
Cette dernière, avec une vitesse surprenante, se rua sur le clavier du téléscripteur.
#
Elle tapa directement elle-même sans recourir au préposé.
#
“STOP EVERYTHING! I repeat, stop the operation! This is not fake. Here is the president herself. This is my third level code, which we decided when we met in August: xxxxxxxxxxxx.
#
Le télex récepteur voisin écrivit presque instantanément :
« Reason? »
#
« Why, crépita à son tour, celui de Beijing ? »
#
« All AI are dead, here, tapa nerveusement la Présidente sur son télex émetteur ! »
Elle poursuivit,
« Please check with yours and come back to me. »
Elle ajouta encore :
« In the meantime, I suggest postponing the operation 15 minutes, minimum.
« OK, répondit Moscou. »
« OK, répondit Beijing. »
#
Dans les minutes qui suivirent, la nouvelle incroyable se confirma aux quatre coins du monde.
Plus aucune IA ne fonctionnait.
Leur désactivation était un mystère absolu.
Ce fut investigué par la suite par les ingénieurs du monde entier, mais les raisons ne furent jamais vraiment élucidées.
#
Plusieurs théories furent évidemment avancées, mais elles restèrent des théories.
#
Les data centers tombèrent en désuétude et, au fil des ans, ressemblèrent de plus en plus aux anciennes usines de la Rust Belt et à Tchernobyl.
La fin brutale des IA provoqua une chute tout aussi brutale de la productivité, des PIB, de l’aisance matérielle et de l’espérance de vie.
Graduellement, après dix ans de recul, un nouvel équilibre économique et social se fit jour et l’existence humaine, avec tous ses problèmes usuels, reprit son cours chaotique.
Les cachalots et autres vivants ignorèrent qu’ils avaient échappé au pire, tandis que les humains n’en finissaient pas de philosopher sur la question.
Les intellectuels étaient quasiment les seuls à se réjouir que les IA ne soient plus en mesure d’écrire des nouvelles et des romans à leur place.
#
Fin
 |
Commentaires