«Ρομπότ δολοφόνοι»: Τι φοβάται ο ΟΗΕ για τα όπλα τεχνητής νοημοσύνης; Τι αλλάζει από το 2028

«Killer robots»: Τι φοβάται ο ΟΗΕ για τα όπλα τεχνητής νοημοσύνης;

Επιμέλεια: Hellas-Now

Οι συνομιλίες στον Οργανισμό Ηνωμένων Εθνών για τη ρύθμιση των αυτόνομων φονικών όπλων ολοκληρώθηκαν στη Γενεύη με έναν συμβιβασμό, ο οποίος αφήνει ανοικτό το μεγαλύτερο ερώτημα: θα υπάρξουν δεσμευτικοί διεθνείς κανόνες για τα όπλα που μπορούν να εντοπίζουν και να πλήττουν στόχους με περιορισμένη ανθρώπινη παρέμβαση;

Οι αντιπροσωπείες συμφώνησαν να συνεχίσουν τη διαδικασία και να εργαστούν για νέους κανόνες μέσα στα επόμενα δύο χρόνια. Ωστόσο, το αποτέλεσμα δεν περιλαμβάνει άμεση δέσμευση για νομικά δεσμευτική συνθήκη. Η εξέλιξη θεωρείται περιορισμένη από ανθρωπιστικές οργανώσεις και χώρες που ζητούσαν αυστηρό πλαίσιο με απαγορεύσεις και σαφή ανθρώπινο έλεγχο.

Τι είναι τα «killer robots»;

Ο όρος «killer robots» δεν περιγράφει απαραίτητα ανθρωπόμορφα ρομπότ. Χρησιμοποιείται κυρίως για τα θανατηφόρα αυτόνομα οπλικά συστήματα ή LAWS, δηλαδή συστήματα που μπορούν, σε διαφορετικό βαθμό, να εντοπίζουν, να επιλέγουν και να πλήττουν στόχους χωρίς να απαιτείται ανθρώπινη απόφαση σε κάθε επιμέρους στάδιο.

Σε ορισμένες περιπτώσεις, ο άνθρωπος εξακολουθεί να εγκρίνει την επίθεση, ενώ σε άλλες το σύστημα μπορεί να αναζητά στόχους και να ενεργεί μέσα σε μια προκαθορισμένη περιοχή και χρονικό πλαίσιο. Η τεχνολογία μπορεί να περιλαμβάνει drones, πυραυλικά συστήματα, αισθητήρες, αλγόριθμους αναγνώρισης και λογισμικό διοίκησης και ελέγχου.

Η βασική διαφορά από ένα συμβατικό τηλεχειριζόμενο drone είναι ο βαθμός αυτονομίας. Στα τηλεχειριζόμενα συστήματα, ο χειριστής αποφασίζει ποιον στόχο θα πλήξει. Στα αυτόνομα συστήματα, μέρος αυτής της διαδικασίας μεταφέρεται σε λογισμικό και αισθητήρες.

Τι αποφασίστηκε στη Γενεύη;

Η διάσκεψη πραγματοποιήθηκε από τις 16 έως τις 20 Νοεμβρίου 2026 στο πλαίσιο της 7ης Διάσκεψης Αναθεώρησης της Σύμβασης του ΟΗΕ για ορισμένα συμβατικά όπλα. Η επίσημη ατζέντα περιλάμβανε την τεχνολογία των θανατηφόρων αυτόνομων οπλικών συστημάτων και την επόμενη φάση των διεθνών διαπραγματεύσεων.

Οι συζητήσεις ξεπέρασαν την αρχικά προγραμματισμένη ώρα ολοκλήρωσης και συνεχίστηκαν μέχρι τις πρώτες πρωινές ώρες του Σαββάτου. Το τελικό αποτέλεσμα προβλέπει συνέχιση της εργασίας για την ανάπτυξη κανόνων και άλλων πιθανών μέτρων έως το 2028.

Η διατύπωση είναι σκόπιμα προσεκτική. Δεν αναφέρει ότι οι χώρες ξεκινούν αμέσως διαπραγματεύσεις για ένα δεσμευτικό πρωτόκολλο. Αφήνει ανοικτό αν οι μελλοντικοί κανόνες θα έχουν νομικά υποχρεωτικό χαρακτήρα ή αν θα περιοριστούν σε πολιτικές κατευθύνσεις και εθελοντικές δεσμεύσεις.

Γιατί δεν συμφωνήθηκε δεσμευτική συνθήκη;

Οι χώρες που υποστήριζαν αυστηρότερη ρύθμιση ζητούσαν να ξεκινήσουν σύντομα επίσημες διαπραγματεύσεις για ένα νομικά δεσμευτικό κείμενο. Περίπου 100 κράτη τάχθηκαν υπέρ αυτής της κατεύθυνσης, σύμφωνα με το Reuters.

Απέναντι σε αυτή την πρόταση βρέθηκαν μεγάλες στρατιωτικές και τεχνολογικές δυνάμεις, μεταξύ των οποίων οι Ηνωμένες Πολιτείες, η Ρωσία και το Ισραήλ. Η αντίθεση των ισχυρών παραγωγών οπλικών συστημάτων περιόρισε το εύρος του τελικού συμβιβασμού.

Η διαδικασία της συγκεκριμένης Σύμβασης του ΟΗΕ απαιτεί συναίνεση. Αυτό σημαίνει ότι ακόμη και μία χώρα μπορεί να εμποδίσει μια φιλόδοξη απόφαση ή να απαιτήσει αλλαγές στη διατύπωση. Το αποτέλεσμα είναι συχνά ένα κείμενο που μπορεί να γίνει αποδεκτό από όλους, αλλά δεν ανταποκρίνεται πλήρως στις απαιτήσεις των οργανώσεων ανθρωπίνων δικαιωμάτων.

Η Ρωσία υποστήριξε ότι είναι πρόωρο να συζητούνται απαγορεύσεις ή περιοριστικά μέτρα για τα συγκεκριμένα συστήματα. Η θέση αυτή δυσκόλεψε περαιτέρω τη διαδικασία, καθώς οι συνομιλίες απαιτούσαν ευρεία συμφωνία για να προχωρήσουν.

Ποιο είναι το βασικό ηθικό και νομικό πρόβλημα;

Το κεντρικό ερώτημα είναι ποιος φέρει την ευθύνη όταν ένα αυτόνομο σύστημα σκοτώνει λάθος άνθρωπο ή χτυπά μη στρατιωτικό στόχο.

Σε μια συμβατική στρατιωτική επιχείρηση, η αλυσίδα ευθύνης μπορεί να αναζητηθεί στον χειριστή, στον διοικητή που έδωσε την εντολή, στον σχεδιαστή της αποστολής ή στον κατασκευαστή του συστήματος. Όσο αυξάνεται η αυτονομία, όμως, γίνεται δυσκολότερο να προσδιοριστεί ποιος έλαβε την κρίσιμη απόφαση.

Ένα λογισμικό μπορεί να μπερδέψει έναν άμαχο με μαχητή, να αντιδράσει σε παραπλανητικά δεδομένα ή να λειτουργήσει διαφορετικά από ό,τι είχε προβλεφθεί. Σε ένα περιβάλλον πολέμου, όπου οι επικοινωνίες διακόπτονται και οι πληροφορίες είναι ελλιπείς, ένα τέτοιο σφάλμα μπορεί να προκαλέσει απώλειες και κλιμάκωση.

Για τον λόγο αυτό, ο ΟΗΕ, η Διεθνής Επιτροπή του Ερυθρού Σταυρού και οργανώσεις που ασχολούνται με τον έλεγχο των όπλων ζητούν να παραμείνει ουσιαστικός ο ανθρώπινος έλεγχος στις αποφάσεις ζωής και θανάτου.

Έχουν χρησιμοποιηθεί ήδη σε πολέμους;

Η συζήτηση δεν αφορά μόνο ένα μελλοντικό σενάριο. Αυτόνομα ή ημιαυτόνομα συστήματα, drones και λογισμικό υποβοήθησης στόχευσης έχουν συνδεθεί με σύγχρονες πολεμικές επιχειρήσεις στην Ουκρανία, στη Μέση Ανατολή και στο Σουδάν.

Αυτό δεν σημαίνει ότι όλα τα συστήματα που χρησιμοποιούνται σε αυτές τις συγκρούσεις λειτουργούν χωρίς ανθρώπινη επίβλεψη. Υπάρχει μεγάλη διαφορά ανάμεσα σε ένα drone που πετά αυτόνομα αλλά χρειάζεται ανθρώπινη εντολή για την επίθεση και σε ένα σύστημα που επιλέγει και προσβάλλει στόχους μόνο του.

Η διάκριση αυτή είναι ένας από τους λόγους για τους οποίους οι διαπραγματεύσεις δυσκολεύονται. Οι χώρες δεν συμφωνούν πάντα στο πού τελειώνει η αυτοματοποίηση και πού αρχίζει η πραγματική αυτονομία στη χρήση θανατηφόρας βίας.

Τι ζητούν οι χώρες που θέλουν αυστηρούς κανόνες;

Οι υποστηρικτές μιας διεθνούς συμφωνίας ζητούν να καθοριστούν σαφείς απαγορεύσεις και περιορισμοί. Μεταξύ των προτάσεων που έχουν συζητηθεί διεθνώς είναι η απαγόρευση συστημάτων που λειτουργούν χωρίς επαρκή ανθρώπινο έλεγχο και η θέσπιση κανόνων για όσα συστήματα επιτρέπονται.

Οι κανόνες θα μπορούσαν να απαιτούν από τα κράτη να γνωρίζουν πώς λειτουργεί ένα σύστημα, σε ποια περιοχή μπορεί να χρησιμοποιηθεί, ποια όπλα μπορεί να ενεργοποιήσει και πώς διακόπτεται σε περίπτωση σφάλματος.

Παράλληλα, οι υποστηρικτές της ρύθμισης θέλουν να διασφαλιστεί ότι οι αποφάσεις για τη ζωή και τον θάνατο δεν μετατρέπονται σε απλή τεχνική διαδικασία. Η χρήση τεχνητής νοημοσύνης μπορεί να επιταχύνει την αντίδραση στο πεδίο της μάχης, αλλά δεν εξαλείφει την ευθύνη των κρατών για τη συμμόρφωση με το διεθνές ανθρωπιστικό δίκαιο.

Γιατί οι στρατιωτικές δυνάμεις δεν θέλουν αυστηρούς περιορισμούς;

Οι χώρες που αντιδρούν σε δεσμευτικούς περιορισμούς υποστηρίζουν ότι η τεχνητή νοημοσύνη μπορεί να βελτιώσει την ακρίβεια, να προστατεύσει στρατιώτες και να αντιμετωπίσει επιθέσεις από drones και πυραύλους σε πολύ μικρό χρόνο.

Υπάρχει επίσης ο φόβος ότι μια χώρα που θα περιορίσει μονομερώς την ανάπτυξη αυτόνομων συστημάτων θα βρεθεί σε μειονεκτική θέση απέναντι σε αντιπάλους που δεν θα εφαρμόζουν τους ίδιους κανόνες.

Το επιχείρημα αυτό οδηγεί σε έναν νέο εξοπλιστικό ανταγωνισμό. Οι κυβερνήσεις θέλουν να αποφύγουν την ανεξέλεγκτη χρήση της τεχνολογίας, αλλά ταυτόχρονα δεν θέλουν να εγκαταλείψουν δυνατότητες που μπορεί να θεωρούν κρίσιμες για την άμυνά τους.

Η γεωπολιτική διάσταση της τεχνητής νοημοσύνης στα όπλα

Η διαμάχη για τα αυτόνομα οπλικά συστήματα είναι μέρος ενός ευρύτερου ανταγωνισμού ανάμεσα σε μεγάλες δυνάμεις. Η τεχνητή νοημοσύνη εξελίσσεται παράλληλα σε Ηνωμένες Πολιτείες, Κίνα, Ρωσία, Ισραήλ και άλλες χώρες, ενώ η στρατιωτική της αξιοποίηση συνδέεται με την παραγωγή drones, την κυβερνοασφάλεια, την αναγνώριση εικόνας και τη διοίκηση επιχειρήσεων.

Αν δεν υπάρξουν κοινοί κανόνες, οι χώρες μπορεί να προχωρήσουν σε διαφορετικά πρότυπα χρήσης. Ένα σύστημα που θεωρείται αποδεκτό από μία κυβέρνηση μπορεί να θεωρείται απαράδεκτο από μια άλλη. Η ασάφεια αυτή μπορεί να αυξήσει τον κίνδυνο παρεξήγησης και να δυσκολέψει την απόδοση ευθύνης μετά από μια επίθεση.

Η καθυστέρηση της Γενεύης δεν σημαίνει ότι δεν υπάρχει καμία διεθνής συζήτηση. Σημαίνει ότι η πολιτική συμφωνία δεν έχει φτάσει στο σημείο να επιβάλει κοινό και δεσμευτικό πλαίσιο στις πιο ισχυρές στρατιωτικές δυνάμεις.

Τι σημαίνει η απόφαση έως το 2028;

Το θετικό στοιχείο είναι ότι η διαδικασία δεν κατέρρευσε. Οι κυβερνήσεις συμφώνησαν να συνεχίσουν την εργασία και διατηρήθηκε η πιθανότητα να διαμορφωθούν νέοι κανόνες μέσα στην επόμενη διετία.

Το αρνητικό είναι ότι η διεθνής κοινότητα δεν απέκτησε άμεσα συνθήκη που να απαγορεύει ή να περιορίζει ξεκάθαρα τα συστήματα χωρίς ουσιαστικό ανθρώπινο έλεγχο. Μέχρι την επόμενη φάση, τα κράτη εξακολουθούν να κινούνται σε ένα πεδίο όπου η τεχνολογία εξελίσσεται ταχύτερα από το διεθνές δίκαιο.

Η μάχη στη Γενεύη δεν τελείωσε. Μεταφέρθηκε στη διατύπωση των επόμενων κανόνων: ποια όπλα θα απαγορευτούν, ποια θα επιτραπούν, ποιος θα ελέγχει τη χρήση τους και τι θα συμβαίνει όταν ένα αυτόνομο σύστημα προκαλεί απώλειες εκτός στόχου.

Συμπέρασμα

Οι συνομιλίες του ΟΗΕ για τα «killer robots» ολοκληρώθηκαν με έναν περιορισμένο συμβιβασμό. Οι χώρες συμφώνησαν να συνεχίσουν τις συζητήσεις για νέους κανόνες έως το 2028, αλλά δεν προχώρησαν σε άμεση δέσμευση για νομικά δεσμευτική διεθνή συνθήκη. Η εξέλιξη αφήνει ανοικτό ένα κρίσιμο ζήτημα της σύγχρονης πολεμικής τεχνολογίας: μπορεί μια μηχανή να επιλέγει και να πλήττει ανθρώπινους στόχους χωρίς ουσιαστική ανθρώπινη απόφαση;

Η απάντηση δεν θα καθορίσει μόνο το μέλλον των drones και των ρομπότ στο πεδίο της μάχης. Θα επηρεάσει την ευθύνη των κρατών, την ερμηνεία του διεθνούς ανθρωπιστικού δικαίου και την ισορροπία ισχύος ανάμεσα στις χώρες που αναπτύσσουν την τεχνητή νοημοσύνη για στρατιωτικούς σκοπούς.

πηγές