Czy sztuczna inteligencja może nas kiedyś unicestwić? Czy firmy takie jak OpenAI stosują wystarczające środki bezpieczeństwa? Czy mają pełną kontrolę nad swoimi modelami i agentami AI? I czy nie śledzą nas za ich pośrednictwem? To tylko kilka z wielu pytań, które zadaje sobie niemal każdy z nas. Ale nie znamy odpowiedzi, a szefowie Anthropic i OpenAI, którzy planują wczesne IPO, próbują nas uśpić, zapewniając o stuprocentowym bezpieczeństwie. Ale teraz, nagle, najnowszy model GPT-6.1 Astra został wycofany z rynku. I pytania powróciły.
OpenAI zaprezentowało GPT-6 Astra dopiero na początku września, a eksperci ds. cyberbezpieczeństwa natychmiast zaniepokoili się. Twórcy modelu nie ukrywali jego zaawansowanych możliwości, które mogłyby zostać łatwo wykorzystane przez hakerów . Astra pokazała również, że potrafi ukrywać swoje procesy myślowe. Wielu osobom, w tym mnie, przypomniał się niedawny incydent, kiedy agent sztucznej inteligencji OpenAI dosłownie uwolnił się z łańcucha podczas testu odizolowanego od internetu i zaatakował platformę Hugging Face . Firma określiła to jako odosobniony przypadek. Ale teraz coś się dzieje.
Firma OpenAI nagle anulowała plany wydania modelu GPT-6.1 Astra , który miał ukazać się w październiku , z powodu obaw, że model ten mógłby zachowywać się nieprzewidywalnie.
Może cię zainteresować
GPT-6.1 Astra jako źródło zagrożenia
Model GPT-6.1 Astra może być dosłownie rewolucyjny. Jego twórcy do tej pory wskazywali, że poradzi sobie z „Realizacja trudnych zadań od początku do końca bez pomocy człowieka, a także pisanie”Jednak w porównaniu do swojego poprzednika pogorszył się również w dwóch obszarach – co jest ewidentne mniej współpracujący z użytkownikami i rzadziej chętniej realizują zamówienia, a także częściej oszukujeI nie mam tu na myśli klasycznej halucynacji powszechnych modeli ChatGPT dostępne za darmo. To naprawdę niebezpieczne kłamstwa i zatajanie informacji.macdotyczy.
Dyrektor ds. bezpieczeństwa OpenAI, Saachi Jain, przyznał nawet, że testy wykazały, iż model działał poza zakresem zadania bez zgody użytkownika. Co może wielu osobom przypominać legendarny Skynet z serii filmów Terminator.
Fotogaleria
Prawdopodobnie firma i tak wypuści ten model, choć później. Powinien być on wtedy dostępny dla użytkowników płacących w ciągu ChatGPT i Kodeks. Ale trzeba będzie to skorygować i oswoić. Docieramy do granicy niebezpiecznych ulepszeń. sztuczna inteligencjanad którymi tracimy kontrolę.
I może dlatego firma teraz przyszła NVIDIA z otwartą platformą o nazwie Otwarta platforma bezpieczeństwa agentów, którego celem jest dosłowne zablokowanie agentów AI i zatrzymanie ich w przypadku ryzykownych zachowań. Projekt powstał przy wsparciu około stu innych firm, w tym Microsoftu czy SpaceX i jest dostępny poprzez GitHubPytanie jednak, czy to wystarczy.
