[DÉCRYPTAGE]Open IA : Open IA affirme qu’un futur modèle d’Astra pourrait atteindre un seuil de capacité cyber critique

OpenAI vient de franchir un nouveau seuil dans sa manière de gérer les risques liés aux capacités cybernétiques de ses modèles d’intelligence artificielle. Dans une annonce publiée le 7 août, l’entreprise indique que ses dernières évaluations internes d’Astra, un modèle actuellement en développement, ont révélé des progrès significatifs en matière de codage agentique et de cybersécurité. Ces résultats, complétés par des évaluations réalisées avec des experts, conduisent OpenAI à une conclusion inhabituelle : l’entreprise ne peut plus exclure qu’Astra atteigne le niveau de capacité cybernétique qualifié de « critique » par son Cadre de préparation.

Pour comprendre l’importance de cette annonce, il faut revenir au Cadre de préparation d’OpenAI, publié pour la première fois en décembre 2023. Ce cadre vise à déterminer à partir de quel niveau de capacité certaines technologies présentent des risques suffisamment importants pour nécessiter des mesures de sécurité supplémentaires.

Dans le domaine de la cybersécurité, OpenAI considère qu’un modèle atteint le seuil critique lorsqu’il devient capable, par exemple, d’identifier et de développer de manière autonome des exploits zero-day fonctionnels sur un large éventail de systèmes critiques protégés, sans intervention humaine.

Le seuil peut également être atteint lorsqu’un modèle est capable de concevoir et d’exécuter de nouvelles stratégies d’attaque informatique de bout en bout contre des cibles fortement protégées, avec un objectif défini.

Cette distinction est essentielle : il ne s’agit plus simplement d’utiliser l’IA pour écrire du code, détecter une vulnérabilité ou assister un analyste en cybersécurité. Le scénario envisagé correspond à une capacité beaucoup plus autonome, combinant compréhension technique, recherche de vulnérabilités, développement d’outils et exécution d’actions offensives.

Astra n’est pas encore déclaré « critique »

OpenAI prend toutefois soin de ne pas présenter Astra comme ayant définitivement franchi ce seuil. L’entreprise précise que le modèle est toujours en cours d’évaluation et que ses résultats préliminaires sont suffisamment solides pour que la possibilité d’une capacité critique ne puisse pas être exclue.

Cette nuance est importante. Elle traduit une logique de précaution : l’entreprise préfère renforcer ses protections dès lors que le risque devient plausible, plutôt que d’attendre une confirmation définitive du niveau de capacité du modèle.

OpenAI précise également qu’Astra est encore un modèle en développement et qu’il n’a pas été utilisé dans l’exploitation de Hugging Face, contrairement à ce qui pourrait être suggéré par certaines discussions autour des capacités cybernétiques récentes de l’IA.

Pourquoi le codage agentique change la donne

L’un des éléments importants de l’annonce concerne les progrès réalisés dans le codage agentique.

Avec les systèmes agentiques, l’IA ne se contente plus de répondre à une demande ponctuelle. Elle peut enchaîner plusieurs étapes : analyser un problème, écrire du code, tester une solution, corriger ses erreurs et poursuivre son objectif avec une intervention humaine limitée.

En cybersécurité, cette évolution est particulièrement sensible. Un modèle capable de raisonner sur une vulnérabilité, d’écrire l’outil nécessaire pour l’exploiter, de tester différentes approches et d’adapter sa stratégie pourrait potentiellement automatiser une partie importante d’une chaîne d’attaque.

Mais la même capacité peut également être utilisée à des fins défensives : analyser du code, rechercher des failles avant leur exploitation, automatiser des tests de sécurité ou aider les équipes à corriger des vulnérabilités. C’est précisément cette dualité qui complique la gouvernance des modèles cyber-capables.

OpenAI renforce ses barrières de sécurité

Face à cette évolution, OpenAI annonce plusieurs mesures destinées à sécuriser le développement d’Astra.

L’entreprise indique notamment mettre en place des contrôles plus stricts pour les modèles présentant les capacités les plus élevées.

Ces mesures comprennent notamment des environnements de test isolés ; un accès limité au réseau et aux outils ; une protection renforcée des poids des modèles ; le chiffrement ; davantage de capacités de surveillance et de détection ; l’exécution des modèles dans des environnements sandboxés.

OpenAI affirme également avoir suspendu certaines activités internes impliquant Astra lorsqu’elles ne satisfont pas encore ces nouvelles exigences de sécurité. Autrement dit, le niveau de protection doit désormais évoluer avec le niveau de capacité du modèle.

Une surveillance permanente des comportements à risque

L’entreprise annonce également la mise en place d’une surveillance généralisée des actions considérées comme à risque et des comportements potentiellement désalignés dans les applications agentiques d’Astra, y compris pendant les phases d’entraînement et d’évaluation.

Ces systèmes de surveillance analysent notamment les raisonnements du modèle et peuvent déclencher une réponse de sécurité lorsqu’une activité à haut risque est détectée. Cette approche illustre une évolution importante de la sécurité des modèles : il ne s’agit plus uniquement de filtrer les requêtes entrantes ou les réponses produites. Le comportement du modèle lorsqu’il agit comme un agent devient lui-même un objet de surveillance. C’est un changement majeur à mesure que les modèles gagnent en autonomie.

OpenAI veut tester Astra avec les autorités

OpenAI annonce par ailleurs vouloir travailler avec des agences gouvernementales et certaines organisations spécialisées dans la sécurité de l’IA afin de tester les capacités du modèle.

L’entreprise prévoit également de fournir des recommandations de sécurité aux partenaires qui souhaitent utiliser Astra pour réaliser des évaluations ou des travaux présentant des niveaux de risque élevés.

Cette coopération est particulièrement importante dans le domaine cyber. Une entreprise privée peut évaluer ses propres modèles, mais elle ne dispose pas nécessairement de toutes les informations permettant d’évaluer les conséquences d’une capacité nouvelle sur l’écosystème mondial de la cybersécurité.

L’ouverture des tests à des acteurs publics et spécialisés constitue donc une tentative de renforcer la validation externe du dispositif.

En juin 2025, l’entreprise avait déjà renforcé ses mesures de sécurité alors que ses modèles approchaient un seuil élevé de capacités dans le domaine biologique. La logique est similaire : identifier suffisamment tôt une progression vers une capacité potentiellement dangereuse, renforcer les évaluations, développer les garde-fous et ne pas attendre le déploiement du modèle pour agir. Avec Astra, cette logique s’applique désormais à la cybersécurité.

Le paradoxe des modèles cyber-capables

L’annonce met cependant en évidence une difficulté fondamentale de la gouvernance de l’IA. Plus un modèle devient performant en cybersécurité, plus il peut être utile aux défenseurs. Mais cette même progression peut également augmenter les capacités disponibles pour des acteurs malveillants.

Au-delà d’Astra lui-même, cette annonce est intéressante pour une autre raison : le cadre de préparation commence à jouer son rôle de mécanisme de gouvernance interne.

Le dispositif avait été conçu précisément pour répondre à ce type de situation : lorsqu’un modèle progresse vers des capacités susceptibles de modifier substantiellement le niveau de risque, l’entreprise doit adapter ses mesures de sécurité. OpenAI affirme aujourd’hui appliquer ce principe à la cybersécurité.

Il faudra toutefois distinguer trois étapes : la possibilité d’un niveau critique, la confirmation de ce niveau par les évaluations et, enfin, la décision de déploiement sous des conditions de sécurité adaptées. Astra se situe actuellement entre les deux premières.