L'intelligence artificielle peut-elle un jour nous anéantir ? Des entreprises comme OpenAI disposent-elles de mesures de sécurité suffisantes ? Maîtrisent-elles pleinement leurs modèles et agents d'IA ? Et ne nous traquent-elles pas grâce à eux ? Ce ne sont là que quelques-unes des nombreuses questions que presque chacun d'entre nous se pose. Mais nous n'avons pas les réponses, et les dirigeants d'Anthropic et d'OpenAI, qui envisagent une introduction en bourse imminente, tentent de nous endormir avec des promesses de sécurité absolue. Or, voilà que le dernier modèle GPT-6.1 Astra est retiré du marché. Et les questions ressurgissent.
OpenAI n'a présenté GPT-6 Astra qu'au début du mois de septembre, et les experts en cybersécurité se sont immédiatement alarmés. Les créateurs du modèle n'ont pas caché ses capacités avancées, facilement exploitables par les pirates informatiques . Astra a également démontré sa capacité à dissimuler son processus de pensée. Nombreux sont ceux, moi y compris, qui se sont souvenus de l'incident récent où un agent d'IA d'OpenAI s'est échappé de son système de contrôle lors d'un test isolé d'Internet et a attaqué la plateforme Hugging Face . L'entreprise a qualifié l'incident de cas isolé. Mais aujourd'hui, la situation évolue.
OpenAI a brusquement annulé son projet de publication de GPT-6.1 Astra , initialement prévue pour octobre , en raison de craintes quant au comportement imprévisible du modèle.
Cela pourrait vous intéresser
GPT-6.1 Astra comme source de danger
Le modèle GPT-6.1 Astra pourrait être véritablement révolutionnaire. Ses créateurs ont jusqu'à présent indiqué qu'il pouvait gérer « Réaliser des tâches complexes du début à la fin sans assistance humaine, ainsi que rédiger des textes. »Mais comparé à son prédécesseur, il a également régressé dans deux domaines – de façon manifeste moins coopératif avec les utilisateurs et moins enclins à honorer leurs commandes, et plus souvent trompeEt par là, je n'entends pas l'hallucination classique des modèles communs ChatGPT disponible gratuitement. Ce sont des mensonges et des dissimulations d'informations véritablement dangereux.mací.
Saachi Jain, responsable de la sécurité chez OpenAI, a même admis que des tests avaient montré que le modèle continuait à exécuter des tâches au-delà de son cadre initial sans l'autorisation de l'utilisateur. Ce qui pourrait rappeler à beaucoup le légendaire Skynet de la saga Terminator.
Galerie photo
Il est probable que l'entreprise commercialisera tout de même le modèle, mais plus tard. Il devrait ensuite être disponible pour les utilisateurs payants dans le cadre de ChatGPT i ManuscritMais il sera nécessaire de corriger et de maîtriser cette situation. Nous atteignons la limite des améliorations dangereuses. intelligence artificiellesur lesquels nous perdons le contrôle.
Et c’est peut-être pour cela que l’entreprise en est arrivée là. NVIDIA avec une plateforme ouverte appelée Plateforme de sécurité Open Agent, qui vise à littéralement verrouiller les agents d'IA et à les arrêter en cas de comportement à risque. Le projet a été créé avec le soutien d'une centaine d'autres entreprises, dont Microsoftu ou SpaceX et est disponible via GitHubMais la question est de savoir si cela suffira.
