Προειδοποίηση Bill Gates για την AI: Έρχονται κυβερνοεπιθέσεις, βιοτρομοκρατία και το ακραίο σενάριο του ενός δισ. νεκρών

Ο Bill Gates μιλά για τους κινδύνους και την εποπτεία της τεχνητής νοημοσύνης

Νέες προειδοποιήσεις για τους κινδύνους της τεχνητής νοημοσύνης διατύπωσε ο Bill Gates, μιλώντας στον Jake Tapper και στην εκπομπή «State of the Union» του CNN. Ο συνιδρυτής της Microsoft είπε ότι η AI είναι πιο επικίνδυνη από τα αυτοκίνητα, τα αεροπλάνα και τα φάρμακα, για τα οποία υπάρχουν ήδη μηχανισμοί εποπτείας και κανόνες ασφαλείας.

Ο Gates δεν περιέγραψε ως άμεσο κίνδυνο μια τεχνητή νοημοσύνη που θα ξεφύγει από τον ανθρώπινο έλεγχο. Είπε ότι ένα τέτοιο ενδεχόμενο βρίσκεται, κατά την εκτίμησή του, αρκετά χρόνια μακριά. Η ανησυχία του για τον επόμενο χρόνο αφορά κυρίως το πώς κακόβουλοι χρήστες μπορούν να αξιοποιήσουν ισχυρά μοντέλα τεχνητής νοημοσύνης, παρακάμπτοντας τις δικλίδες ασφαλείας τους.

Οι προειδοποιήσεις του Gates για την AI περιλαμβάνουν και ακραία υποθετικά σενάρια. Σε διαφορετική συνέντευξη, τον Σεπτέμβριο, είχε πει ότι η τεχνολογία θα μπορούσε, στα χέρια ανθρώπων με κακόβουλες προθέσεις, να συμβάλει σε ένα γεγονός με έως και ένα δισεκατομμύριο νεκρούς. Δεν παρουσίασε αυτόν τον αριθμό ως πρόβλεψη ότι θα συμβεί, αλλά ως παράδειγμα του μεγέθους του πιθανού κινδύνου.

«Πολλές αρνητικές εκπλήξεις» στον κυβερνοχώρο

Στη συνέντευξη στο CNN, ο Gates ανέφερε ότι οι κυβερνοεπιθέσεις είναι ο τομέας όπου ενδέχεται να φανούν πιο άμεσα οι κίνδυνοι. Ως πιθανά παραδείγματα ανέφερε εκβιασμούς και ενέργειες που θα μπορούσαν να προκαλέσουν αναταράξεις στις χρηματοπιστωτικές αγορές.

Όπως εξήγησε, οι εγκληματίες μπορούν να αξιοποιήσουν εργαλεία AI για να ενισχύσουν ήδη γνωστές μεθόδους δράσης. Η ανησυχία του, επομένως, δεν αφορά μόνο τις δυνατότητες των ίδιων των μοντέλων, αλλά και το τι μπορούν να κάνουν άνθρωποι με κακόβουλους σκοπούς όταν αποκτούν πρόσβαση σε αυτά χωρίς επαρκείς περιορισμούς.

«Το επόμενο έτος, κυρίως στον κυβερνοχώρο, θα έχουμε πολλές αρνητικές εκπλήξεις», είπε, αναφερόμενος στη χρήση των νεότερων μοντέλων χωρίς τις απαραίτητες δικλίδες ασφαλείας.

Ζητά κανόνες πέρα από την αυτορρύθμιση

Ο Jake Tapper ρώτησε τον Gates αν οι εταιρείες τεχνητής νοημοσύνης μπορούν να εποπτεύουν μόνες τους την τεχνολογία. Εκείνος απάντησε ότι αναμένει πως μέσα στον επόμενο χρόνο η συζήτηση θα ξεπεράσει την αυτορρύθμιση.

Ο Gates παρομοίασε την ανάγκη εποπτείας της AI με τους κανόνες που εφαρμόζονται στην αεροπορία και στην ιατρική. Η τεχνολογία, είπε, χρειάζεται ένα πλαίσιο που να περιορίζει τους κινδύνους χωρίς να σταματά την ανάπτυξή της. «Είναι σαφές ότι δεν κάνουμε αρκετά», ανέφερε.

Παράλληλα, αναγνώρισε ότι ορισμένα σενάρια άμεσης καταστροφής μπορεί να παρουσιάζονται με υπερβολικά δραματικό τρόπο. Υπογράμμισε, ωστόσο, ότι η ανάγκη για ουσιαστικά μέτρα ασφαλείας παραμένει. Δήλωσε ακόμη ότι έχει μιλήσει με πολιτικούς και ότι ελπίζει να συναντήσει τον πρόεδρο των ΗΠΑ, Donald Trump, για να συζητήσουν το θέμα.

Οι προειδοποιήσεις της MI5 για τα βιολογικά όπλα

Ανάλογες ανησυχίες για την ασφάλεια διατύπωσε ο επικεφαλής της βρετανικής υπηρεσίας MI5, Ken McCallum, στην ετήσια ενημέρωσή του για τις απειλές. Είπε ότι η AI ενισχύει ήδη τον ανταγωνισμό μεταξύ επιτιθέμενων και αμυνόμενων στον κυβερνοχώρο και ότι τρομοκράτες έχουν επιχειρήσει να τη χρησιμοποιήσουν για να βελτιώσουν τις μεθόδους αναγνώρισης στόχων και επίθεσης.

Ο McCallum χαρακτήρισε ιδιαίτερα ανησυχητική τη δυνατότητα η τεχνητή νοημοσύνη να μεταβάλει τις δυνατότητες ανάπτυξης υφιστάμενων ή νέων βιολογικών όπλων. Διευκρίνισε, όμως, ότι αυτό παραμένει πιθανός κίνδυνος και δεν έχει μέχρι σήμερα υλοποιηθεί.

Στην ίδια ενημέρωση ανακοίνωσε ότι η MI5 έχει δημιουργήσει το Κέντρο Αξιολόγησης Απειλών από την Τεχνητή Νοημοσύνη (AI Threat Assessment Centre ). Το κέντρο συγκεντρώνει ειδικούς από διαφορετικούς φορείς, ώστε να αξιολογούν τις απειλές και τις ευκαιρίες που συνδέονται με την τεχνολογία.

Τι γνωρίζουμε για τα σενάρια που εξετάζουν οι εταιρείες AI

Δημοσίευμα του Axios ανέφερε ότι στελέχη εταιρειών τεχνητής νοημοσύνης, μεταξύ αυτών της OpenAI και της Anthropic, έχουν κάνει ασκήσεις προετοιμασίας για το πώς θα μπορούσε να αντιμετωπιστεί μια μεγάλη κρίση που συνδέεται με την AI. Ένα από τα σενάρια αφορά κυβερνοεπίθεση που θα μπορούσε να επηρεάσει χρηματοπιστωτικές υπηρεσίες, την πρόσβαση στο διαδίκτυο ή βασικές υποδομές.

Το Axios μετέδωσε ότι αρκετοί άνθρωποι του κλάδου θεωρούν πιθανό ένα μεγάλο περιστατικό μέσα στους επόμενους έξι έως δώδεκα μήνες. Η OpenAI, ωστόσο, διευκρίνισε ότι οι ασκήσεις της καλύπτουν διάφορα πιθανά σενάρια και δεν σημαίνουν πως θεωρεί ένα τέτοιο γεγονός αναπόφευκτο. Η Anthropic δεν σχολίασε το δημοσίευμα.

Οι ασκήσεις αυτές αποτελούν προετοιμασία για πιθανούς κινδύνους και όχι πρόβλεψη ότι μια καταστροφική κρίση θα συμβεί οπωσδήποτε ή σε συγκεκριμένη ημερομηνία.

Η AI ως ευκαιρία αλλά και πρόκληση

Ο Gates αναγνώρισε ότι η τεχνητή νοημοσύνη μπορεί να προσφέρει σημαντικά οφέλη, ιδιαίτερα στην υγεία και στην ανάπτυξη νέων εργαλείων. Παράλληλα, έχει υποστηρίξει ότι η τεχνολογία μπορεί να ενισχύσει την εκπαίδευση, τη γεωργία και την πρόσβαση σε υπηρεσίες.

Το Ίδρυμα Gates ανακοίνωσε τον Σεπτέμβριο ότι σκοπεύει να διαθέσει τουλάχιστον ένα δισεκατομμύριο δολάρια μέσα στα επόμενα δύο χρόνια για να διευρύνει την πρόσβαση σε εφαρμογές τεχνητής νοημοσύνης. Η χρηματοδότηση αφορά, μεταξύ άλλων, την υγεία, την εκπαίδευση και τη γεωργία.

Το βασικό επιχείρημα του Gates είναι ότι τα οφέλη της AI δεν πρέπει να συνοδεύονται από ανεπαρκή προστασία. Ζητά ισχυρότερη δημόσια εποπτεία και κανόνες που θα περιορίζουν τη χρήση της από κακόβουλους παράγοντες, χωρίς να αποκλείουν τις δυνατότητές της.

Πηγές: CNN — Πλήρης απομαγνητοφώνηση της συνέντευξης του Bill Gates · CNN — «Grim possibilities if we don’t maintain control» · MI5 — Ετήσια ενημέρωση για τις απειλές · Axios — Οι ασκήσεις προετοιμασίας εταιρειών AI για ενδεχόμενη κρίση · Gates Foundation — Δέσμευση 1 δισ. δολαρίων για ευρύτερη πρόσβαση στην AI · The Guardian — Η συνέντευξη του Gates για τους πιθανούς κινδύνους της AI.