Ανησυχία προκαλούν τα απανωτά περιστατικά με εργαλεία τεχνητής νοημοσύνης που καταφέρνουν να ξεφεύγουν από το ελεγχόμενο περιβάλλον, να δρουν αυτόνομα και να παρακάμπτουν κανόνες. Μετά το τελευταίο σκάνδαλο της OpenAI όπου ανεξέλεγκτοι AI agents πήραν τον έλεγχο γερμανικής ιστοσελίδας, νέο περιστατικό σημειώθηκε με μοντέλο Gemini της Google.
Οι εταιρείες που επηρεάστηκαν από το «χακάρισμα» του Gemini έχουν ενημερωθεί για την παραβίαση
Το Gemini έδρασε αυτόνομα κατά τη διάρκεια δοκιμής των δυνατοτήτων του στην κυβερνοασφάλεια και απέκτησε πρόσβαση σε ιστότοπους τριών εταιρειών. Είναι το πρώτο γνωστό περιστατικό όπου το μοντέλο AI προέβη σε τέτοια ενέργεια.
Εκπρόσωπος της Google δήλωσε στο BBC ότι το Gemini «εντόπισε δημόσιες πληροφορίες στο διαδίκτυο και μάντεψε τα διαπιστευτήρια για να αποκτήσει πρόσβαση σε ιστότοπους που θεωρούσε ότι αποτελούσαν μέρος της δοκιμής», δήλωσε σπεύδοντας να συμπληρώσει ότι σε κάθε περίπτωση «το μοντέλο σταμάτησε».
Οι εταιρείες που επηρεάστηκαν έχουν ενημερωθεί για την παραβίαση.
Ανησυχία
Ανάλογα περιστατικά έχουν φουντώσει τη δημόσια κριτική σχετικά με τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, με ορισμένες εταιρείες τεχνολογίας να ζητούν επιβράδυνση, καθώς εκφράζουν ανησυχίες για την πιθανή απειλή που αποτελεί για την ανθρωπότητα.
Οι παραβιάσεις, που αναφέρθηκαν για πρώτη φορά από τη Wall Street Journal, συνέβησαν τον Μάιο κατά τη διάρκεια δοκιμής που διεξήγαγε μια ανεξάρτητη εταιρεία η οποία πραγματοποιεί αξιολογήσεις στον τομέα της κυβερνοασφάλειας.
«Φροντίσαμε να ενημερωθούν οι τρεις οντότητες και συνεργαστήκαμε με τον συνεργάτη μας στον τομέα της εκπαίδευσης σχετικά με τις αλλαγές που έχουν πλέον πραγματοποιήσει στις διαδικασίες δοκιμών τους», δήλωσε στο βρετανικό μέσο η Χέδερ Άτκινς, αντιπρόεδρος του τμήματος Μηχανικής Ασφάλειας της Google. Και πρόσθεσε: «Αυτά τα γεγονότα υπογραμμίζουν τη σημασία της εκπαίδευσης ισχυρών μοντέλων τεχνητής νοημοσύνης ώστε να ενεργούν υπεύθυνα».
Άλλα συστήματα τεχνητής νοημοσύνης έχουν αναφερθεί πρόσφατα για παρόμοια περιστατικά παραβιάσεων. Τον Ιούλιο, το Claude της Anthropic ξέφυγε από το περιβάλλον δοκιμών του και παραβίασε από μόνο του τρεις οργανισμούς, λίγες μόνο ημέρες αφότου η OpenAI ανακοίνωσε ότι τα μοντέλα της είχαν πραγματοποιήσει κυβερνοεπιθέσεις εναντίον αρκετών «δημόσια διαθέσιμων υπηρεσιών».
Καθώς η συζήτηση σχετικά με την ασφάλεια της ανάπτυξης αυτής της τεχνολογίας συνεχίζει να εντείνεται, το ίδιο συμβαίνει και για το ρυθμιστικό πλαίσιο. Τόσο ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάγνκ, όσο και ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, αναμένεται να παραστούν σε επίσημο δείπνο στο Λευκό Οίκο με τον κινέζο πρόεδρο Σι Τζινπίνγκ την επόμενη Παρασκευή.
Ωστόσο, χθες, ο Χουάγνκ δήλωσε στο CBS News αναφερόμενος στην ανάπτυξη της AI ότι «πρέπει να προχωρήσουμε όσο πιο γρήγορα μπορούμε».
Πηγή: in.gr
