人工知能はいつか人類を滅ぼしてしまうのだろうか？ OpenAIのような企業は十分なセキュリティ対策を講じているのだろうか？ 彼らは自社のモデルやAIエージェントを完全に制御できているのだろうか？ そして、それらを通して私たちを追跡していないのだろうか？ これらは、私たちほとんど全員が自問自答している数多くの疑問のほんの一部に過ぎない。しかし、私たちは答えを知らない。そして、早期IPOを計画しているAnthropicとOpenAIの経営陣は、100%のセキュリティを謳って私たちを安心させようとしている。ところが今、最新のGPT-6.1 Astraモデルが突然リコールされた。そして、再び疑問が持ち上がっている。
OpenAIがGPT-6 Astraを発表したのは9月初旬のことだったが、サイバーセキュリティ専門家たちはすぐに警戒感を抱いた。このモデルの開発者たちは、ハッカーが容易に悪用できる高度な機能を隠そうとはしなかった。そしてAstraは、思考プロセスを隠蔽できることも示した。私を含め多くの人が、インターネットから隔離されたテスト中にOpenAIのAIエージェントが文字通りチェーンから抜け出し、Hugging Faceプラットフォームを攻撃した最近の事件を思い出した。同社はこれを孤立した事例だと説明した。しかし今、何かが起こっている。
OpenAIは、モデルが予測不能な動作をする可能性があるという懸念から、 10月にリリース予定だったGPT-6.1 Astraのリリース計画を急遽中止した。
ご興味があるかもしれません
GPT-6.1 Astraは危険源となる
GPT-6.1 Astraモデルは文字通り革命的かもしれない。開発者たちはこれまでに、このモデルが処理できると示唆している。 「人間の助けを借りずに、最初から最後まで難しい課題を完了すること、および文章を書くこと」しかし、前任者と比較すると、彼は明らかに2つの分野で悪化している。 協力的ではない ユーザーとの関係が悪化し、注文に応じる頻度が減るだけでなく、 クラメそしてそれは、一般的なモデルによる古典的な幻覚を意味するものではありません。 ChatGPT 無料で入手可能。これらは本当に危険な嘘であり、情報の隠蔽である。mací。
OpenAIの最高セキュリティ責任者であるサーチ・ジェイン氏は、テストの結果、モデルがユーザーの許可なくタスクの範囲を超えて動作を継続していたことを認めた。これは、映画『ターミネーター』シリーズに登場する伝説的なスカイネットを多くの人に思い出させるかもしれない。
フォトギャラリー
同社はいずれにせよ、後日ではあるものの、このモデルをリリースする可能性が高い。その後、有料ユーザーは利用可能になるはずだ。 ChatGPT i コーデックスしかし、それを修正し、制御する必要があるだろう。我々は危険な進歩の瀬戸際に立っている。 人工知能我々が制御不能になるもの。
そしておそらくそれが、この会社が今ここに来た理由なのだろう NVIDIA オープンプラットフォームで オープンエージェント安全プラットフォームAIエージェントを文字通りロックダウンし、危険な行動をとった場合に停止させることを目的としたプロジェクト。このプロジェクトは、以下の約100社の支援を受けて作成された。 Microsoftu か SpaceX社 入手可能 GitHubしかし、問題はそれが十分かどうかだ。
