Kann künstliche Intelligenz uns eines Tages auslöschen? Verfügen Unternehmen wie OpenAI über ausreichende Sicherheitsvorkehrungen? Haben sie die volle Kontrolle über ihre Modelle und KI-Agenten? Und verfolgen sie uns nicht mithilfe dieser? Dies sind nur einige der vielen Fragen, die sich fast jeder von uns stellt. Doch wir haben keine Antworten, und die Chefs von Anthropic und OpenAI, die einen vorgezogenen Börsengang planen, versuchen uns mit Behauptungen hundertprozentiger Sicherheit zu beruhigen. Doch nun wurde das neueste GPT-6.1-Modell Astra plötzlich zurückgerufen. Und die Fragen sind wieder da.
OpenAI stellte GPT-6 Astra erst Anfang September vor, und Cybersicherheitsexperten reagierten sofort alarmiert. Die Entwickler des Modells machten aus seinen fortgeschrittenen Fähigkeiten, die von Hackern leicht missbraucht werden könnten, kein Geheimnis . Astra hat zudem gezeigt, dass es seine Denkprozesse verbergen kann. Viele, mich eingeschlossen, erinnerten sich an den Vorfall, als sich ein OpenAI-KI-Agent während eines vom Internet isolierten Tests buchstäblich losriss und die Hugging Face- Plattform angriff . Das Unternehmen bezeichnete dies als Einzelfall. Doch nun braut sich etwas zusammen.
OpenAI hat die Pläne zur Veröffentlichung von GPT-6.1 Astra , die für Oktober geplant war , aufgrund von Bedenken hinsichtlich des unvorhersehbaren Verhaltens des Modells abrupt abgesagt.
Sie könnten sich interessieren für
GPT-6.1 Astra als Gefahrenquelle
Das GPT-6.1 Astra-Modell könnte im wahrsten Sinne des Wortes revolutionär sein. Seine Entwickler haben bisher angedeutet, dass es Folgendes bewältigen kann: „Herausfordernde Aufgaben von Anfang bis Ende ohne menschliche Hilfe erledigen sowie schreiben“Doch im Vergleich zu seinem Vorgänger hat er sich in zwei Bereichen auch verschlechtert – nachweislich. weniger kooperativ mit Nutzern und weniger bereitwillig ihre Bestellungen ausführen, außerdem häufiger täuschtUnd damit meine ich nicht die klassische Halluzination gängiger Modelle. ChatGPT Kostenlos verfügbar. Das sind wahrlich gefährliche Lügen und Verschweigungen von Informationen.macanwendbar.
OpenAIs Sicherheitschef Saachi Jain räumte sogar ein, dass Tests gezeigt hätten, dass das Modell ohne Zustimmung des Nutzers über den vorgesehenen Aufgabenbereich hinaus aktiv wurde. Dies dürfte viele an das legendäre Skynet aus der Terminator-Filmreihe erinnern.
Fotogalerie
Es ist wahrscheinlich, dass das Unternehmen das Modell trotzdem veröffentlichen wird, wenn auch später. Es sollte dann zahlenden Nutzern innerhalb der Plattform zur Verfügung stehen. ChatGPT i KodexAber es wird notwendig sein, es zu korrigieren und zu zähmen. Wir nähern uns der Grenze zu gefährlichen Verbesserungen. künstliche Intelligenzworüber wir die Kontrolle verlieren.
Und vielleicht ist das der Grund, warum das Unternehmen jetzt gekommen ist. NVIDIA mit einer offenen Plattform namens Offene AgentensicherheitsplattformDas Projekt zielt darauf ab, KI-Agenten buchstäblich einzusperren und sie im Falle riskanten Verhaltens zu stoppen. Es wurde mit Unterstützung von rund hundert anderen Unternehmen ins Leben gerufen, darunter … Microsoftu oder SpaceX und ist verfügbar über GitHubDie Frage ist aber, ob das ausreichen wird.
