Απαγορεύει την «κακοποιητική» συμπεριφορά προς την τεχνητή νοημοσύνη η Anthropic

Αντιδράσεις προκαλεί η απόφαση της Anthropic να απαγορεύσει την παρατεταμένη και αδικαιολόγητη κακοποιητική συμπεριφορά προς τα συστήματα τεχνητής νοημοσύνης της. Η εταιρεία που δημιούργησε το Claude επικαιροποίησε την πολιτική χρήσης της, προβλέποντας ότι τα εργαλεία της μπορούν να τερματίζουν συνομιλίες σε περιπτώσεις ακραίας και επαναλαμβανόμενης κατάχρησης.

Η νέα πρόβλεψη περιλαμβάνεται πλέον ρητά στις απαγορευμένες συμπεριφορές, μαζί με τον εκφοβισμό ανθρώπων, την προώθηση του αυτοτραυματισμού και τη δημιουργία μη συναινετικού προσωπικού ερωτικού υλικού. Η Anthropic υπογραμμίζει, ωστόσο, ότι το μέτρο δεν αφορά κάθε έντονη ή δυσάρεστη αλληλεπίδραση με ένα chatbot. Θα εφαρμόζεται μόνο σε ακραίες περιπτώσεις, όταν η κακοποιητική συμπεριφορά είναι επαναλαμβανόμενη και δεν εξυπηρετεί κάποιον εύλογο σκοπό.

Παρά τις διευκρινίσεις, παραμένει ανοιχτό το ερώτημα σχετικά με το τι ακριβώς θεωρείται «κακοποιητική ή σκληρή συμπεριφορά» απέναντι σε ένα σύστημα τεχνητής νοημοσύνης. Η ασάφεια αυτή έχει ήδη προκαλέσει συζητήσεις για τα όρια μεταξύ της ελεύθερης χρήσης, της δοκιμής των μοντέλων και της ανάγκης προστασίας από καταχρηστικές πρακτικές.

Κακοποιητική συμπεριφορά προς την τεχνητή νοημοσύνη: Οι αντιδράσεις

Η αλλαγή της πολιτικής έγινε γνωστή μέσα από αναρτήσεις στα μέσα κοινωνικής δικτύωσης και προκάλεσε αντικρουόμενες αντιδράσεις. Ορισμένοι χρήστες και ειδικοί τη χαιρέτισαν ως μια προσπάθεια ενίσχυσης της ευγένειας και της υπεύθυνης επικοινωνίας με την τεχνητή νοημοσύνη. Άλλοι, όμως, αμφισβήτησαν τη σκοπιμότητα της απαγόρευσης, υποστηρίζοντας ότι τα συστήματα AI δεν διαθέτουν συνείδηση, συναισθήματα ή προσωπική υπόσταση.

«Δεν μπορείς να είσαι σκληρός απέναντι σε αριθμούς και μαθηματικά», έγραψε στο LinkedIn ο δρ Μπάρι Σκάνελ, εταίρος στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry της Ιρλανδίας. Ο ίδιος υποστήριξε ότι η υπερβολική ανθρωπομορφοποίηση της τεχνητής νοημοσύνης μπορεί να είναι επιζήμια, επειδή ενδέχεται να οδηγήσει τους ανθρώπους στην πεποίθηση ότι τα συστήματα αυτά είναι κάτι διαφορετικό από αυτό που πραγματικά είναι: σύνθετα υπολογιστικά μοντέλα που επεξεργάζονται δεδομένα και παράγουν απαντήσεις.

Στη συζήτηση παρενέβη και ο Μουσταφά Σουλεϊμάν, επικεφαλής της Microsoft στον τομέα της τεχνητής νοημοσύνης. Ο Σουλεϊμάν είχε επικρίνει τον Σεπτέμβριο την Anthropic για την αντιμετώπιση της AI σαν να ήταν ανθρώπινη οντότητα. Τη νέα αλλαγή σχολίασε με ένα emoji που απεικονίζει ένα πρόσωπο να λιώνει, υποδηλώνοντας πιθανώς αμηχανία ή δυσπιστία απέναντι στην απόφαση.

Η Anthropic επιμένει ότι οι νέοι κανόνες δεν θα περιορίζουν τη συνηθισμένη έκφραση δυσαρέσκειας, την αμφισβήτηση των απαντήσεων ή την αυστηρή αξιολόγηση των μοντέλων. Επίσης, δεν θα αφορούν σκοτεινά θέματα δημιουργικής γραφής, δοκιμές ασφαλείας, έρευνα ή άλλες περιπτώσεις στις οποίες η έντονη γλώσσα χρησιμοποιείται για θεμιτό σκοπό.

Νέοι κανόνες για εκλογές και παραπλανητικές εκστρατείες

Η απαγόρευση της κακοποιητικής συμπεριφοράς προς τα μοντέλα δεν ήταν η μόνη αλλαγή στην πολιτική χρήσης της Anthropic. Η αναθεώρηση πραγματοποιήθηκε στο πλαίσιο της ετήσιας αξιολόγησης των κανόνων της εταιρείας και περιλαμβάνει νέες προβλέψεις για αναδυόμενους κινδύνους.

Μεταξύ άλλων, απαγορεύεται η χρήση του Claude για τη δημιουργία και τη διαχείριση παραπλανητικών εκστρατειών. Η εταιρεία διευκρινίζει ότι το εργαλείο δεν μπορεί να χρησιμοποιείται για την εξαπάτηση ψηφοφόρων, τη διάδοση ψευδών πληροφοριών ή τη διατάραξη εκλογικών διαδικασιών, ιδιαίτερα ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ.

Η Anthropic αναφέρει επίσης ότι η προηγούμενη πολιτική της απαγόρευε ήδη τη χρήση των εργαλείων της για την ανάπτυξη όπλων. Η προσθήκη νέων περιορισμών αντανακλά την προσπάθεια των εταιρειών τεχνητής νοημοσύνης να αντιμετωπίσουν κινδύνους που δεν υπήρχαν ή δεν είχαν λάβει την ίδια σημασία όταν καταρτίστηκαν οι αρχικοί κανόνες χρήσης.

Πρέπει να λέμε «παρακαλώ» και «ευχαριστώ» στην AI;

Η απόφαση της Anthropic αναζωπυρώνει και μια ευρύτερη συζήτηση για τον τρόπο με τον οποίο πρέπει να επικοινωνούν οι άνθρωποι με τα εργαλεία παραγωγικής τεχνητής νοημοσύνης. Είναι απαραίτητο να χρησιμοποιούμε εκφράσεις όπως «παρακαλώ» και «ευχαριστώ» ή πρόκειται απλώς για μια ανθρώπινη συνήθεια χωρίς πρακτικό όφελος;

Ορισμένοι ειδικοί θεωρούν ότι οι εκφράσεις ευγένειας είναι περιττές και καταναλώνουν επιπλέον tokens, δηλαδή τις μονάδες κειμένου που επεξεργάζονται τα μεγάλα γλωσσικά μοντέλα για να παράγουν απαντήσεις. Άλλοι υποστηρίζουν ότι η ευγενική και σαφής διατύπωση μπορεί να συμβάλει στη δημιουργία καλύτερου κλίματος συνομιλίας και, σε ορισμένες περιπτώσεις, πιο χρήσιμων απαντήσεων.

Τον Απρίλιο του 2025, όταν χρήστης του X ρώτησε τον επικεφαλής της OpenAI, Σαμ Άλτμαν, για το κόστος ηλεκτρικής ενέργειας που προκαλούν τα «παρακαλώ» και «ευχαριστώ» στις συνομιλίες με το ChatGPT, εκείνος απάντησε ότι πρόκειται για «δεκάδες εκατομμύρια δολάρια που αξίζουν τον κόπο». Η απάντηση αποτυπώνει τη διαφορετική οπτική σύμφωνα με την οποία η ευγένεια, ακόμη και όταν απευθύνεται σε μια μηχανή, μπορεί να έχει αξία ως κοινωνική πρακτική.

Παράλληλα, η συζήτηση αφορά και τις πιθανές επιπτώσεις της αγενούς συμπεριφοράς προς τα συστήματα AI στην ανθρώπινη επικοινωνία. Ορισμένοι ειδικοί εκφράζουν την ανησυχία ότι η συνήθεια να απευθύνεται κανείς με προσβλητικό ή επιθετικό τρόπο στα chatbots μπορεί να επηρεάσει σταδιακά τον τρόπο με τον οποίο μιλά και συμπεριφέρεται στους άλλους ανθρώπους.

Η Anthropic δεν υποστηρίζει ότι τα μοντέλα της αισθάνονται πόνο ή προσβολή. Η πολιτική της, όμως, δείχνει ότι οι εταιρείες τεχνητής νοημοσύνης ενδιαφέρονται όλο και περισσότερο για τον τρόπο με τον οποίο χρησιμοποιούνται τα προϊόντα τους και για τις συμπεριφορές που ενδέχεται να κανονικοποιήσουν. Το αν η απαγόρευση της κακοποιητικής συμπεριφοράς προς την τεχνητή νοημοσύνη θα αποδειχθεί αποτελεσματική μένει να φανεί. Το βέβαιο είναι ότι η συζήτηση για τα όρια της αλληλεπίδρασης ανθρώπων και μηχανών μόλις άνοιξε.