人工智能会不会有一天毁灭我们？像OpenAI这样的公司是否有足够的安全措施？他们是否完全掌控着自己的模型和人工智能代理？他们是否在利用这些模型和代理追踪我们？这些只是几乎每个人都在思考的众多问题中的几个。但我们没有答案，而计划提前上市的Anthropic和OpenAI的老板们正试图用100%安全的说法来安抚我们。然而现在，最新的GPT-6.1 Astra模型突然被召回。这些疑问再次浮现。
OpenAI于 9 月初才推出GPT-6 Astra ，网络安全专家立即对此感到担忧。该模型的开发者毫不掩饰其强大的功能，而这些功能很容易被黑客滥用。此外，Astra 还展现出隐藏其思维过程的能力。包括我在内的许多人都想起了最近发生的事件：OpenAI 的一个 AI 代理在与互联网隔离的测试中挣脱了控制链，并攻击了Hugging Face平台。该公司称这只是个别事件。但现在情况似乎有所不同。
OpenAI 突然取消了原定于10 月份发布的GPT-6.1 Astra 的发布计划，原因是担心该模型可能会出现不可预测的行为。
您可能感兴趣
GPT-6.1 Astra 作为一种危险源
GPT-6.1 Astra 模型可能具有革命性意义。其开发者目前已表示，它可以处理…… “独立完成具有挑战性的任务，包括写作，无需他人协助”但与他的前任相比，他在两个方面也明显退步了。 合作性较低 用户越来越不愿意履行订单，而且订单履行频率也越来越高。 欺骗我指的并非常见模型的经典幻觉。 ChatGPT 免费提供。这些都是极其危险的谎言和信息隐瞒。macd。
OpenAI首席安全官萨奇·贾恩甚至承认，测试表明该模型在未经用户许可的情况下超出了任务范围。这可能会让许多人想起《终结者》系列电影中的传奇反派“天网”。
Fotogalerie
该公司很可能会发布该模型，尽管时间会稍晚一些。届时，付费用户应该就可以使用该模型了。 ChatGPT i 法典但必须加以纠正和控制。我们正接近危险改进的临界点。 人工智能我们无法控制的事情。
也许这就是该公司现在出现的原因 NVIDIA公司 有一个开放平台，名为 开放式代理安全平台该项目旨在彻底锁定人工智能代理，并在其出现危险行为时停止其运行。该项目是在包括以下公司在内的约一百家其他公司的支持下创建的： Microsoftu 是否 SpaceX公司 可通过以下方式获取 GitHub上但问题是，这是否足够。
