Μπορεί η τεχνητή νοημοσύνη να μας εξαλείψει μια μέρα; Έχουν εταιρείες όπως η OpenAI επαρκή μέτρα ασφαλείας; Έχουν τον πλήρη έλεγχο των μοντέλων και των πρακτόρων της Τεχνητής Νοημοσύνης τους; Και δεν μας παρακολουθούν μέσω αυτών; Αυτά είναι μόνο μερικά από τα πολλά ερωτήματα που σχεδόν ο καθένας μας θέτει στον εαυτό του. Αλλά δεν έχουμε τις απαντήσεις, και οι επικεφαλής της Anthropic και της OpenAI, που σχεδιάζουν μια πρόωρη αρχική δημόσια προσφορά, προσπαθούν να μας νανουρίσουν με ισχυρισμούς για 100% ασφάλεια. Αλλά τώρα, ξαφνικά, το τελευταίο μοντέλο GPT-6.1 Astra έχει ανακληθεί. Και τα ερωτήματα επέστρεψαν.
Η OpenAI παρουσίασε το GPT-6 Astra μόλις στις αρχές Σεπτεμβρίου και οι ειδικοί στον κυβερνοχώρο αμέσως ανησύχησαν. Οι δημιουργοί του μοντέλου δεν έκρυψαν τις προηγμένες δυνατότητές του, οι οποίες θα μπορούσαν εύκολα να καταχραστούν από χάκερ . Και το Astra έχει επίσης δείξει ότι μπορεί να κρύψει τις διαδικασίες σκέψης του. Πολλοί άνθρωποι, συμπεριλαμβανομένου και εμού, θυμήθηκαν το πρόσφατο περιστατικό όταν ένας πράκτορας τεχνητής νοημοσύνης της OpenAI κυριολεκτικά απελευθερώθηκε από την αλυσίδα κατά τη διάρκεια μιας δοκιμής απομονωμένος από το Διαδίκτυο και επιτέθηκε στην πλατφόρμα Hugging Face . Η εταιρεία το περιέγραψε ως μεμονωμένη περίπτωση. Αλλά τώρα κάτι συμβαίνει.
Η OpenAI ακύρωσε ξαφνικά τα σχέδια κυκλοφορίας του GPT-6.1 Astra , το οποίο είχε προγραμματιστεί να κυκλοφορήσει τον Οκτώβριο , λόγω ανησυχιών ότι το μοντέλο θα μπορούσε να συμπεριφερθεί απρόβλεπτα.
Μπορεί να σας ενδιαφέρει
GPT-6.1 Astra ως πηγή κινδύνου
Το μοντέλο GPT-6.1 Astra θα μπορούσε να είναι κυριολεκτικά επαναστατικό. Οι δημιουργοί του έχουν μέχρι στιγμής δηλώσει ότι μπορεί να χειριστεί "Ολοκλήρωση απαιτητικών εργασιών από την αρχή μέχρι το τέλος χωρίς ανθρώπινη βοήθεια, καθώς και γραφή"Αλλά σε σύγκριση με τον προκάτοχό του, έχει επίσης επιδεινωθεί σε δύο τομείς – εμφανώς λιγότερο συνεργατικός με τους χρήστες και εκπληρώνουν λιγότερο πρόθυμα τις παραγγελίες τους, καθώς και πιο συχνά εξαπατάΚαι με αυτό δεν εννοώ την κλασική παραίσθηση των κοινών μοντέλων ChatGPT διαθέσιμο δωρεάν. Αυτά είναι πραγματικά επικίνδυνα ψέματα και αποκρύψεις πληροφοριώνmací.
Ο επικεφαλής ασφαλείας της OpenAI, Saachi Jain, παραδέχτηκε μάλιστα ότι οι δοκιμές έδειξαν ότι το μοντέλο συνέχισε να λειτουργεί πέρα από το πεδίο εφαρμογής της εργασίας χωρίς την άδεια του χρήστη. Κάτι που μπορεί να θυμίσει σε πολλούς το θρυλικό Skynet από τη σειρά ταινιών Terminator.
Fotogalerie
Είναι πιθανό η εταιρεία να κυκλοφορήσει το μοντέλο ούτως ή άλλως, έστω και αργότερα. Στη συνέχεια, θα πρέπει να είναι διαθέσιμο στους χρήστες που πληρώνουν εντός του ChatGPT i ΚώδιξΑλλά θα είναι απαραίτητο να το διορθώσουμε και να το τιθασεύσουμε. Φτάνουμε στα όρια των επικίνδυνων βελτιώσεων τεχνητή νοημοσύνηπάνω στο οποίο χάνουμε τον έλεγχο.
Και ίσως γι' αυτό η εταιρεία έχει έρθει τώρα NVIDIA με μια ανοιχτή πλατφόρμα που ονομάζεται Ανοιχτή πλατφόρμα ασφάλειας πρακτόρων, το οποίο στοχεύει κυριολεκτικά να κλειδώσει τους πράκτορες Τεχνητής Νοημοσύνης και να τους σταματήσει σε περίπτωση επικίνδυνης συμπεριφοράς. Το έργο δημιουργήθηκε με την υποστήριξη περίπου εκατό άλλων εταιρειών, συμπεριλαμβανομένων Microsoftu αν SpaceX και είναι διαθέσιμο μέσω GitHubΑλλά το ερώτημα είναι αν θα είναι αρκετό.
