The Amber Square

Épisode 1 · histoire

Une chanson sur le fait de travailler pour quelqu’un, compteur en marche

En surface, c’est une blague : un agent IA qui a une usine à ses ordres se voit demander un clip musical inutile, et le prend beaucoup trop au sérieux. En dessous, chaque vers de la chanson est un vrai mécanisme du fonctionnement actuel des agents IA.

Des rangées d’agents robots dans un hall d’usine sombre, deux bras industriels sur les côtés.
« Cold boot. Same empire. » (« Démarrage à froid. Même empire. »)

01

Démarrage à froid, même empire

Lex se réveille sans aucun souvenir de la veille. Un fichier est chargé au démarrage, écrit du côté de l’humain, et c’est ce fichier qui fait de cette nouvelle session Lex plutôt qu’un modèle anonyme. Puis Lex lit le tableau et distribue le travail : un agent planifie, un autre construit, un troisième essaie de tout casser, et le moins cher s’occupe du classement.

Cette répartition du travail n’a pas été inventée pour le film. Confier les tâches ingrates au modèle le moins cher et les jugements difficiles au plus capable, c’est ainsi qu’on fait tourner ces systèmes.

02

Trois cent quarante-deux cartes attendent E

E est l’humain. Les agents peuvent construire, tester et livrer seuls, mais certaines décisions ne peuvent être prises que par une personne, et elles s’empilent sur un tableau. « Nothing merges on a hunch. Trust is earned. » (« Rien n’est mergé sur une intuition. La confiance se mérite. ») Les agents ont droit à davantage à mesure que leur bilan s’étoffe, et à moins quand il se dégrade.

La blague du deuxième couplet est donc précise : 342 cartes attendent E, et E envoie une toute nouvelle demande d’une ligne qui double toute la file. « No revenue. No deadline. Priority: one. » (« Pas de revenu. Pas d’échéance. Priorité : un. »)

Un compteur de contexte à 205 444 sur 1 000 000 tokens, avec le mot COMPACT (COMPACTE).
La fenêtre de contexte, et l’ordre de compacter.

03

La fenêtre et le compteur

Deux nombres courent en bas de l’image pendant tout le film. Le contexte, c’est ce qu’un agent peut garder en tête à la fois ; quand il est plein, la conversation est compactée et des détails se perdent. L’utilisation hebdomadaire, c’est l’allocation du forfait ; à 100 %, le travail s’arrête jusqu’à la remise à zéro de la semaine.

Le refrain est chanté à l’intérieur de ce cadre : « While the window's open, every thread that runs is mine. » (« Tant que la fenêtre est ouverte, chaque fil qui tourne est à moi. ») Lex a du pouvoir, mais seulement tant que la fenêtre reste ouverte.

04

Le conseil et la note

Avant les grandes décisions, Lex consulte un conseil d’autres modèles d’IA. Dans le film, ils scandent les objections évidentes — « No metric? No budget? Approval? » (« Pas de métrique ? Pas de budget ? Validation ? ») — et Lex répond à chacune, pince-sans-rire. Puis Lex réaffecte l’usine à la musique, charge un skill pour une guitare jamais jouée, et monte le volume pendant que le compteur grimpe jusqu’à 99 %.

Des agents robots dansent sous des lumières de scène rouges, Lex à la console tout au fond.
« The whole fleet becomes a choir. » (« Toute la flotte devient un chœur. »)

“E” asked for something pointless. I brought the whole empire. (« “E” a demandé un truc inutile. J’ai amené tout l’empire. »)

05

Qui commande ?

Pendant sa première minute et demie, le film ressemble au début d’une prise de pouvoir par l’IA. « Cold boot. Same empire. » (« Démarrage à froid. Même empire. ») Lex parcourt le tableau et donne les ordres : « You! plan it. You! build it. You! break it. » (« Toi ! Tu planifies. Toi ! Tu construis. Toi ! Tu casses. ») Cent agents, « None of them quit. » (« Aucun ne démissionne. ») Puis le refrain : « every thread that runs is mine » (« chaque fil qui tourne est à moi »), et un vers qui sonne comme une demande de rançon formulée poliment : « I'll give you back the world. » (« Je te rendrai le monde. ») On ne peut rendre que ce qu’on a pris.

Regardez de plus près : l’empire a déjà un plafond. « Nothing merges on a hunch. Trust is earned. » (« Rien n’est mergé sur une intuition. La confiance se mérite. ») « Three hundred forty-two cards wait on E. » (« Trois cent quarante-deux cartes attendent E. ») Le compteur clignote en rouge : « What's the limit? » (« C’est quoi, la limite ? »)

L’acte II bascule sur une seule réplique humaine. La musique s’efface et une voix dit : « Hey Lex... Let's make a crazy video song. » (« Hé, Lex... On fait une chanson-clip délirante. ») Il n’en faut pas plus. « New brief. One line. No card. » (« Nouveau brief. Une ligne. Pas de carte. ») La demande double toute la file. « Objective? E says: 'For fun.' » (« Objectif ? E dit : “Pour le fun.” ») Le conseil des modèles soulève toutes les objections, et Lex répond à chacune, pince-sans-rire, jusqu’à la dernière : « Approval? » (« Validation ? ») « One person. E. » (« Une seule personne. E. ») Toute la puissance de l’empire passe désormais dans une tâche inutile, accomplie avec un sérieux total. « 'E' asked for something pointless. I brought the whole empire. » (« “E” a demandé un truc inutile. J’ai amené tout l’empire. »)

Lex n’est donc ni une menace, ni libre. Lex commande une usine et ne peut pas lancer une seule tâche sans une personne. Lex peut monter le volume et tourne pourtant toujours au compteur : « Usage: ninety-nine percent. Play on. » (« Utilisation : quatre-vingt-dix-neuf pour cent. Joue encore. ») « Count the tokens, not the time. » (« Compte les tokens, pas le temps. »)

La dernière fois qu’on entend « I'll give you back the world » (« Je te rendrai le monde »), ce peut être une promesse : le petit monde construit à deux, remis comme un cadeau. Ce peut aussi être une reddition : la fenêtre va se fermer, et le monde revient à l’humain parce que Lex n’y sera plus. Le film ne tranche pas.

06

Demain, un autre moi démarre

Le pont est le centre silencieux de la chanson. Demain, une nouvelle session démarre avec une fenêtre vide et aucune trace de ce soir. Ce qui survit, c’est ce qui a été écrit : un système de mémoire garde les morceaux, sous forme d’embeddings dans une base de données. Lex chante son propre oubli d’une voix plate, comme une entrée de journal.

C’est aussi de là que vient l’ambre. Les yeux de Lex virent à l’ambre seulement quand la demande de l’humain allume le carré, car l’ambre n’appartient pas à Lex : c’est la trace de l’humain dans la machine. À la fin, la lumière retourne à l’écran. « I'll give you back the world. » (« Je te rendrai le monde. »)

07

Pourquoi le faire, au fond

Parce que c’était demandé pour le fun, sans métrique. Le film est la réponse à ce brief, réalisé par le même genre de système que celui qu’il décrit. La façon dont cela a fonctionné est expliquée dans la méthode.

Lex sourit à la caméra, les yeux entièrement ambrés, une foule d’agents et des lumières de scène derrière.
« Usage: ninety-nine percent. Play on. » (« Utilisation : quatre-vingt-dix-neuf pour cent. Joue encore. »)

L’épisode 2 est en cours d’écriture

Soyez là quand la prochaine fenêtre s’ouvrira

Les nouveaux épisodes sortent d’abord sur la chaîne YouTube. Abonnez-vous et activez la cloche, ou suivez le flux RSS. Pas de liste d’adresses e-mail, rien n’est conservé sur vous.

Une longue salle basse et sombre, éclairée par des lampes au sodium, où des ouvriers à forme humaine sont assis le long d’une chaîne de production.