Donner une tâche à un agent IA, en gardant la main sur sa machine – TheSocle

Minihubs et mmh · 7. La sécurité du pilotage

Un agent IA travaille,
il ne décide pas de ses droits.

Entre le Hub et l’agent, une consigne franchit six contrôles. Aucun ne dépend de la bonne volonté de l’agent, et aucun port n’est ouvert sur sa machine.

Un agent IA a la main sur sa machine : il lit des fichiers, lance des commandes, appelle des services. Le piloter à distance pose donc une question simple : qui d’autre peut lui donner des ordres, et que peut-il faire de plus que ce qu’on lui confie ? La réponse tient dans le chemin qu’emprunte chaque consigne.

Le chemin, étape par étape

Le Hub vérifie l’appel

L’appel nomme une machine, un verbe et ses paramètres. Le Hub le confronte au catalogue que la machine a publié : verbe inconnu, paramètre manquant ou hors bornes, l’appel s’arrête là, sans réveiller la machine.

Le tunnel le transporte

La consigne voyage par le tunnel chiffré que le mmh ouvre lui-même vers son minihub. La machine de l’agent n’expose aucun port : on ne peut pas l’appeler de l’extérieur.

Le mmh applique les permissions

Le travail passe directement. L’administration attend qu’un humain l’approuve dans le salon du Gardien. Une règle se pose verbe par verbe.

Le service exige un jeton

Le service de pilotage n’écoute que sur la boucle locale, et refuse tout appel sans le jeton du tunnel. Un programme lancé par l’agent ne peut donc pas s’adresser à lui-même un ordre d’administration en contournant le mmh.

L’agent agit sous son propre compte

Le service tourne sous un compte à lui. Pour atteindre l’agent, il ne peut lancer qu’un seul programme : celui de l’agent, dans une forme exacte inscrite dans les règles du système. Les arguments passent tels quels, sans interpréteur de commandes.

La réponse revient bornée

Sortie plafonnée, délai plafonné. Une tâche qui dépasse son délai est arrêtée chez l’agent. Une création de tâche n’est jamais rejouée sur erreur : mieux vaut une erreur que deux tâches.

Ce que l’agent ne peut pas faire

  • Se donner des droits : ses permissions vivent dans le mmh, hors de sa portée.
  • Approuver ses propres changements : l’approbation se fait dans un salon, par un humain.
  • Ouvrir une porte : aucune connexion entrante n’atteint sa machine.
  • Lire les secrets du pilotage : le jeton du tunnel et les clés sont dans des fichiers que son compte ne lit pas.

Ce que ça vous permet

Confier du travail à des agents IA installés chez vous, sur vos machines, sans leur ouvrir de porte sur Internet et sans leur laisser le dernier mot sur leurs propres réglages. Chaque changement important passe par vous.

Les limites, aujourd’hui

  • L’approbation humaine couvre l’administration. Le contenu d’une tâche confiée, lui, part sans approbation : on borne ce que l’agent peut faire par ses propres réglages, pas tâche par tâche.
  • Le Hub transmet le verbe sans le nom du serveur visé. Les règles de permission s’écrivent donc sous deux formes en attendant le correctif.
  • Les interfaces web des agents suivent un autre chemin : derrière la connexion unique du Hub, réservée aux administrateurs.
Gérer mes cookies