ΚΥΠΕ
Η αυξανόμενη χρήση της τεχνητής νοημοσύνης σε στρατιωτικά συστήματα δημιουργεί προκλήσεις για τον ανθρώπινο έλεγχο, τη λογοδοσία και την προστασία των ανθρωπίνων δικαιωμάτων, σύμφωνα με μελέτη που δημοσιεύθηκε τη Δευτέρα από τη Γενική Διεύθυνση Εξωτερικών Πολιτικών του Ευρωκοινοβουλίου. Η μελέτη εξετάζει τους κινδύνους που συνδέονται με την ενσωμάτωση της ΤΝ στις στρατιωτικές επιχειρήσεις και παρουσιάζει προτάσεις για ενίσχυση της εποπτείας σε επίπεδο ΕΕ.
Σύμφωνα με τη μελέτη, η τεχνητή νοημοσύνη χρησιμοποιείται πλέον σε ένα ευρύ φάσμα στρατιωτικών δραστηριοτήτων, από τη συλλογή και ανάλυση πληροφοριών και την επιτήρηση μέχρι την υποστήριξη αποφάσεων για τον προσδιορισμό στόχων, τη διοίκηση επιχειρήσεων και τη χρήση οπλικών συστημάτων. Επισημαίνει ότι οι σχετικοί κίνδυνοι δεν περιορίζονται στις ένοπλες συγκρούσεις, καθώς συστήματα που χρησιμοποιούν ΤΝ μπορούν να αξιοποιηθούν επίσης σε αντιτρομοκρατικές επιχειρήσεις, στην επιτήρηση των συνόρων και στη διαχείριση της μετανάστευσης. Σε αυτές τις περιπτώσεις, το διεθνές δίκαιο ανθρωπίνων δικαιωμάτων μπορεί να επιβάλλει αυστηρότερες προϋποθέσεις για τη χρήση θανατηφόρας βίας.
Οι προκλήσεις για τον ανθρώπινο έλεγχο
Η μελέτη εντοπίζει τρεις βασικούς παράγοντες που δυσχεραίνουν τον ανθρώπινο έλεγχο. Την ταχύτητα με την οποία τα συστήματα τεχνητής νοημοσύνης παράγουν αποτελέσματα, την τάση των χειριστών να εμπιστεύονται υπερβολικά τις συστάσεις τους και τη δυσκολία κατανόησης του τρόπου με τον οποίο οι αλγόριθμοι καταλήγουν σε συγκεκριμένες αποφάσεις.
Όπως αναφέρεται, η παρουσία ενός ανθρώπου στη διαδικασία λήψης αποφάσεων δεν αρκεί από μόνη της για να διασφαλίσει ουσιαστικό έλεγχο. Απαιτούνται, μεταξύ άλλων, αξιόπιστα και προβλέψιμα συστήματα, επαρκής κατανόηση της τεχνολογίας από τους χειριστές, σαφείς περιορισμοί στη χρήση της, πραγματική δυνατότητα ανθρώπινης παρέμβασης και δυνατότητα εξακρίβωσης των αποφάσεων που λαμβάνονται.
Ιδιαίτερη αναφορά γίνεται στο ζήτημα της απόδοσης ευθυνών όταν η χρήση τέτοιων συστημάτων προκαλεί βλάβη. Η μελέτη εξετάζει την ευθύνη των κρατών, των στρατιωτικών διοικητών και χειριστών, καθώς και των προγραμματιστών, των κατασκευαστών και των ιδιωτικών εταιρειών τεχνολογίας που συμμετέχουν στην ανάπτυξη στρατιωτικών εφαρμογών ΤΝ.
Σύμφωνα με τη μελέτη, η πολυπλοκότητα των συστημάτων μπορεί να δυσκολέψει τη διερεύνηση περιστατικών και τον προσδιορισμό των προσώπων ή φορέων που φέρουν ευθύνη. Παράλληλα, τίθενται ζητήματα σχετικά με την πρόσβαση των θυμάτων σε αποτελεσματικά ένδικα μέσα.
Προτάσεις για ευρωπαϊκή νομοθεσία και χρηματοδότηση
Στις προτάσεις που παρουσιάζονται περιλαμβάνεται η έκδοση νέου ψηφίσματος από το Ευρωκοινοβουλίου, το οποίο θα επικαιροποιεί τη θέση του σχετικά με τον ουσιαστικό ανθρώπινο έλεγχο των αυτόνομων οπλικών συστημάτων. Η μελέτη εισηγείται επίσης αυξημένη εποπτεία των ευρωπαϊκών χρηματοδοτικών μέσων στον τομέα της άμυνας και ειδικότερη εξέταση της εφαρμογής των κανόνων του Ευρωπαϊκού Ταμείου Άμυνας, οι οποίοι προβλέπουν περιορισμούς στη χρηματοδότηση οπλικών συστημάτων που δεν επιτρέπουν ουσιαστικό ανθρώπινο έλεγχο.
Παράλληλα, προτείνεται να εξεταστεί νομοθετική πρωτοβουλία που θα επιβάλλει στους παρόχους στρατιωτικών εφαρμογών τεχνητής νοημοσύνης υποχρεώσεις δέουσας επιμέλειας για τα ανθρώπινα δικαιώματα. Η μελέτη εισηγείται ακόμη την υιοθέτηση κοινής θέσης της ΕΕ για τα αυτόνομα οπλικά συστήματα ή, ελλείψει συμφωνίας, την έκδοση συμπερασμάτων του Συμβουλίου. Όσον αφορά την Κομισιόν, η μελέτη προτείνει την έκδοση κατευθυντήριων γραμμών για την εφαρμογή των σχετικών διατάξεων του Ευρωπαϊκού Ταμείου Άμυνας και την ανάπτυξη εθελοντικών κωδίκων δεοντολογίας για εταιρείες που παρέχουν τεχνολογίες ΤΝ με δυνητική στρατιωτική χρήση.
Η μελέτη εξετάζει επίσης τον αποκλεισμό των εφαρμογών τεχνητής νοημοσύνης που προορίζονται αποκλειστικά για στρατιωτικούς, αμυντικούς σκοπούς ή σκοπούς εθνικής ασφάλειας από το πεδίο εφαρμογής του ευρωπαϊκού κανονισμού για την ΤΝ, προτείνοντας μεγαλύτερη σαφήνεια ως προς τα όρια αυτής της εξαίρεσης.
