Ορειβάτες παραλίγο να την “πατήσουν” από την Τεχνητή Νοημοσύνη

Τρεις νεαροί ορειβάτες που επιχείρησαν να κατακτήσουν το όρος Σάστα στην Καλιφόρνια γύρισαν τελικά σώοι, αφού πέρασαν μια νύχτα εγκλωβισμένοι στο βουνό και διασώθηκαν από τις αρχές. Η περιπέτειά τους, ωστόσο, αναδεικνύει πόσο κρίσιμο είναι να χρησιμοποιούμε την Τεχνητή Νοημοσύνη ως εργαλείο και όχι ως υποκατάστατο της ανθρώπινης εμπειρίας. Οι ίδιοι παραδέχθηκαν ότι βασίστηκαν σε μεγάλο βαθμό στο chatbot της Google, Gemini, τόσο για τον σχεδιασμό της ανάβασης όσο και για τη λίστα εξοπλισμού και προμηθειών, μια απόφαση που, όπως επισημαίνουν οι αρχές, αποδείχθηκε καθοριστική για την έκβαση της διαδρομής.

Τι συνέβη στο όρος Σάστα

Το όρος Σάστα, ενεργό ηφαίστειο με ύψος άνω των 4.300 μέτρων στη βόρεια Καλιφόρνια, είναι δημοφιλής αλλά απαιτητικός προορισμός. Οι τρεις ορειβάτες ξεκίνησαν στις 3 τα ξημερώματα, υπολογίζοντας ότι θα ολοκλήρωναν την ανάβαση σε περίπου οκτώ ώρες. Στην πράξη, έφτασαν στην κορυφή στις 7 το απόγευμα, πολύ μετά την ενδεδειγμένη ώρα επιστροφής που συστήνεται να ξεκινά το μεσημέρι για να υπάρχει επαρκές φως. Παρά την καθυστέρηση, αποφάσισαν να συνεχίσουν. Στο σκοτάδι της κατάβασης έχασαν τον προσανατολισμό τους, ένας από τους τρεις τραυματίστηκε στο γόνατο και αναγκάστηκαν να διανυκτερεύσουν στο βουνό.

Το επόμενο πρωί εντοπίστηκαν από διασώστες και επέστρεψαν με ασφάλεια, όμως η εξόρμηση που προοριζόταν για λίγες ώρες κατέληξε σε περιπέτεια σχεδόν δύο ημερών. Σύμφωνα με το γραφείο του τοπικού σερίφη, οι ορειβάτες είχαν λάβει από το Gemini συμβουλές που τους οδήγησαν να πάρουν ανεπαρκείς ποσότητες τροφής και νερού. Οι αρχές χαρακτήρισαν «κρίσιμο λάθος» την απόφασή τους να βασιστούν τόσο πολύ στην Τεχνητή Νοημοσύνη για ζητήματα που άπτονται της ασφάλειας σε ένα τόσο απαιτητικό περιβάλλον.

Οι κίνδυνοι από την άκριτη χρήση της Τεχνητής Νοημοσύνης

Τα chatbots είναι χρήσιμα εργαλεία έρευνας και οργάνωσης, όμως δεν αποτελούν εξειδικευμένους οδηγούς βουνού. Παράγουν απαντήσεις με βάση πρότυπα από δεδομένα, χωρίς πρόσβαση σε τοπικές, επικαιροποιημένες συνθήκες ή προσωπική εμπειρία πεδίου. Ακόμη και όταν είναι ακριβή, μπορεί να παραλείπουν κρίσιμες αποχρώσεις: διαδρομές που απαιτούν τεχνικό εξοπλισμό, μεταβλητότητα καιρού σε μεγάλα υψόμετρα, κανόνες ασφαλείας όπως το «turnaround time» (ώρα υποχρεωτικής επιστροφής) ή τις πραγματικές ανάγκες σε υδροδοσία και θερμιδική πρόσληψη.

Δεν θα ήταν δίκαιο, βέβαια, να χρεωθεί στην Τεχνητή Νοημοσύνη κάθε εσφαλμένη απόφαση αυτής της ομάδας. Οι ορειβάτες παρέβλεψαν τη βασική σύσταση να εγκαταλείψουν την προσπάθεια όταν κατάλαβαν ότι είχαν καθυστερήσει σημαντικά. Επιπλέον, δεν έχουν δημοσιοποιηθεί τα ακριβή ερωτήματα που έθεσαν στο Gemini ούτε οι πλήρεις απαντήσεις του· η αναφορά για τις προμήθειες βασίζεται στα όσα δήλωσαν οι ίδιοι μετά τη διάσωσή τους. Ακόμη κι έτσι, το περιστατικό λειτουργεί ως χαρακτηριστικό παράδειγμα του τι μπορεί να πάει στραβά όταν η Τεχνητή Νοημοσύνη χρησιμοποιείται ως τελικός κριτής σε αποφάσεις με δυνητικές συνέπειες για την ανθρώπινη ζωή.

Όπως σημείωσε και ο σερίφης της περιοχής, ένα chatbot μπορεί να βοηθήσει στην αρχική έρευνα, όμως σε δραστηριότητες που μπορεί να εξελιχθούν σε ζήτημα ζωής ή θανάτου, η αναζήτηση πληροφοριών από ειδικούς είναι αδιαπραγμάτευτη. Μια λάθος απάντηση σε μια συνταγή ίσως απλώς χαλάσει το φαγητό. Στην ορειβασία, ένα παρόμοιο λάθος μπορεί να σημαίνει έλλειψη τροφής, νερού ή χρόνου για ασφαλή επιστροφή πριν πέσει το σκοτάδι.

Μαθήματα από το περιστατικό και ο ρόλος της Τεχνητής Νοημοσύνης

Το όρος Σάστα υπενθυμίζει ότι η φύση δεν συγχωρεί εύκολα τα λάθη εκτίμησης. Η Τεχνητή Νοημοσύνη μπορεί να είναι εξαιρετικός βοηθός για προετοιμασία και εκπαίδευση, αλλά δεν διαθέτει κρίση πεδίου ούτε αντιλαμβάνεται τις ζωντανές μεταβλητές ενός ορεινού περιβάλλοντος.

Η τελική ευθύνη των αποφάσεων ανήκει πάντα στον άνθρωπο. Όταν διακυβεύεται η ασφάλεια, η προσφυγή σε ειδικούς και η τήρηση δοκιμασμένων πρωτοκόλλων ασφαλείας είναι μονόδρομος.