Σύμφωνα με μία από τις πηγές, περιστατικά στα οποία η AI παράγει λανθασμένες πληροφορίες, γνωστά ως «hallucinations», δεν αποτελούν μεμονωμένο φαινόμενο
Ένα λάθος της τεχνητής νοημοσύνης λίγο έλειψε να οδηγήσει τις ΗΠΑ σε στρατιωτική επιχείρηση εναντίον πλοίου από την Κίνα και να προκαλέσει επικίνδυνη κλιμάκωση μεταξύ Ουάσιγκτον και Πεκίνου.
Η αμερικανική πλευρά είχε αρχίσει να προετοιμάζει την αναχαίτιση του πλοίου, καθώς έκθεση των υπηρεσιών πληροφοριών ανέφερε ότι μετέφερε εξαρτήματα για πρόγραμμα πυρηνικών όπλων. Μόνο λίγο πριν από την επιχείρηση των ΗΠΑ διαπιστώθηκε ότι η πληροφορία για το πλοίο από την Κίνα είχε προκύψει με τη βοήθεια chatbot και ήταν λανθασμένη.
Μία από τις πηγές που μίλησαν στο CNN χαρακτήρισε την έκθεση «εντελώς ψευδή» και δήλωσε ότι «παραλίγο να ξεκινήσει έναν πόλεμο».
Λίγο πριν από την προγραμματισμένη επιχείρηση, ωστόσο, αξιωματούχοι εξέτασαν λεπτομερέστερα την έκθεση και διαπίστωσαν ότι είχε συνταχθεί με τη βοήθεια τεχνητής νοημοσύνης.
Το chatbot έδωσε λανθασμένη πληροφορία
Η έκθεση είχε συνταχθεί από αναλυτή της Διοίκησης Ειδικών Επιχειρήσεων των ΗΠΑ, ο οποίος χρησιμοποίησε chatbot για να επεξεργαστεί πληροφορίες σχετικά με το μανιφέστο του πλοίου.
Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων και κατέληξε σε λανθασμένο συμπέρασμα για το φορτίο του πλοίου.
Ο αναλυτής χρησιμοποίησε στη συνέχεια εκ νέου την AI για να μετατρέψει τα ευρήματα σε τυπική έκθεση πληροφοριών, η οποία διανεμήθηκε στους αρμόδιους αξιωματούχους.
Δεν έχει διευκρινιστεί εάν το chatbot ήταν εμπορικά διαθέσιμο ή αν επρόκειτο για εργαλείο της αμερικανικής κυβέρνησης. Το CNN δεν μπόρεσε επίσης να εξακριβώσει ποιο ήταν το φορτίο που αναγνωρίστηκε λανθασμένα.
Μία από τις πηγές χαρακτήρισε την έκθεση «εντελώς ψευδή», προσθέτοντας ότι «παραλίγο να ξεκινήσει έναν πόλεμο». Μια αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να οδηγήσει σε κλιμάκωση και ενδεχομένως σε ένοπλη σύγκρουση μεταξύ ΗΠΑ και Κίνας.
Η Διοίκηση Ειδικών Επιχειρήσεων Ειρηνικού και το Πεντάγωνο δεν απάντησαν σε αίτημα του CNN για σχόλιο.
Η επέκταση της AI στον αμερικανικό στρατό
Το περιστατικό σημειώνεται την ώρα που οι αμερικανικές ένοπλες δυνάμεις επιταχύνουν τη χρήση τεχνητής νοημοσύνης.
Η τεχνολογία χρησιμοποιείται για την ανάλυση μεγάλων όγκων πληροφοριών, την επιλογή στόχων, αλλά και σε δραστηριότητες όπως η διαχείριση προϋπολογισμών, η εφοδιαστική και οι αλυσίδες εφοδιασμού.
Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης», με στόχο την ταχύτερη ενσωμάτωση της τεχνολογίας στις αμερικανικές ένοπλες δυνάμεις.
«Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα επικεντρώσουμε τις επενδύσεις μας και θα αποδείξουμε την προσέγγιση εκτέλεσης που απαιτείται για να διασφαλίσουμε ότι θα ηγηθούμε στην AI για στρατιωτικούς σκοπούς», είχε δηλώσει ο Χέγκσεθ.
Η στρατηγική προβλέπει τη διάθεση εργαλείων AI σε περίπου τρία εκατομμύρια πολιτικούς και στρατιωτικούς υπαλλήλους του υπουργείου, σε όλα τα επίπεδα διαβάθμισης.
Ωστόσο, σύμφωνα με Αμερικανούς αξιωματούχους που γνωρίζουν την κατάσταση, η υιοθέτηση της AI είναι αποκεντρωμένη. Διαφορετικά τμήματα χρησιμοποιούν διαφορετικά εργαλεία και εφαρμόζουν διαφορετικές οδηγίες και πρότυπα ασφαλείας.
Δεν υπάρχει, σύμφωνα με τις ίδιες πηγές, ένα ενιαίο σύνολο κανόνων για την επαλήθευση των πληροφοριών που παράγουν τα συγκεκριμένα συστήματα.
Ο κίνδυνος των «hallucinations»
Πηγή που γνωρίζει τις τρέχουσες πολιτικές του αμερικανικού στρατού δήλωσε ότι η χρήση της AI για την επιλογή στόχων «είναι σίγουρα κάτι που αυξάνεται» και ότι «δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ενός ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά».
Σύμφωνα με μία από τις πηγές, περιστατικά στα οποία η AI παράγει λανθασμένες πληροφορίες, γνωστά ως «hallucinations», δεν αποτελούν μεμονωμένο φαινόμενο στην κοινότητα των αμερικανικών υπηρεσιών πληροφοριών.
Ορισμένοι αξιωματούχοι υποστηρίζουν επίσης ότι η αυξανόμενη πίεση για ταχύτερη παραγωγή και διανομή πληροφοριών μπορεί να αυξάνει τον κίνδυνο λαθών, ιδιαίτερα όταν οι αναλυτές εμπιστεύονται τα εργαλεία χωρίς επαρκή έλεγχο.
«Η AI σού επιτρέπει να φτάσεις σε μια κακή ιδέα πιο γρήγορα», δήλωσε χαρακτηριστικά μία από τις πηγές.
