Nvidia a présenté une offre destinée à empêcher les agents IA autonomes de dépasser le cadre fixé par les entreprises. Annoncée par son dirigeant Jensen Huang, elle ajoute des couches de contrôle autour des agents pour encadrer leurs accès, leurs actions et les risques opérationnels.
Selon TechCrunch, Nvidia vise les agents capables d’enchaîner des étapes, d’utiliser des outils et d’interagir avec des données ou des systèmes internes. Dans ce contexte, une erreur, une instruction malveillante ou des permissions trop larges peuvent avoir des conséquences au-delà d’une réponse erronée.
Des contrôles distincts du modèle
L’approche ne repose pas uniquement sur les garde-fous intégrés aux modèles d’IA. Nvidia prévoit des contrôles indépendants pour définir les ressources auxquelles un agent peut accéder, surveiller ses actions et appliquer des règles avant l’exécution d’une opération.
- contrôler les ressources et outils accessibles à l’agent ;
- encadrer les actions qu’il peut réaliser ;
- réduire les risques de son déploiement dans l’entreprise.
D’après TechCrunch, l’annonce étend le rôle de Nvidia au-delà des puces, à l’interface entre infrastructure et logiciels de sécurité. Les modalités précises de l’offre, ses conditions de déploiement et son intégration avec les outils existants ne sont toutefois pas détaillées dans les éléments rapportés.
Commentaires · 2 commentaires
-
La promesse d’« isoler, surveiller et reprendre le contrôle » mérite des détails techniques : quel est le modèle de menace couvert, et existe-t-il des éléments vérifiables sur les mécanismes d’isolation ou d’arrêt d’urgence ?
-
J’aimerais aussi voir une documentation précisant si l’isolation se fait au niveau des processus, des machines virtuelles, du réseau ou du matériel. Pour juger l’efficacité, il faudrait notamment savoir comment la plateforme détecte un comportement anormal et dans quels délais un opérateur peut réellement interrompre un agent.
-