Η Anthropic ανοίγει τη συζήτηση γύρω από τους κινδύνους του νέου μοντέλου τεχνητής νοημοσύνης που έχει δημιουργήσει

Με την περιορισμένη ανάπτυξη του Mythos, η αμερικανική start-up Anthropic σκοπεύει «να βάλει στο τραπέζι» τους κινδύνους του νέου μοντέλου Τεχνητής Νοημοσύνης, οι ικανότητες του οποίου στον τομέα της κυβερνοσασφάλειας δημιουργούν φόβους για μία σημαντική ανατροπή για τα κράτη και τις εταιρείες.

Το μοντέλο αυτό «αρχίζει να ξεπερνά τις ανθρώπινες ικανότητες στον κυβερνοχώρο», επαίρεται ο Γάλλος Γκιγιόμ Πρενσάν (Guillaume Princen), διεθνής διευθυντής των τεχνολογικών εταιρειών της Anthropic σε συνέντευξή του στο AFP.

«Είναι ικανό να ανακαλύψει τα κενά ασφαλείας που υπάρχουν εδώ και δεκαετίες στα συστήματα που έχουν ελεγχθεί από ανθρώπους και ρομπότ και δεν έχουν ποτέ πριν εντοπισθεί», λέει.

Το Mythos κρίθηκε υπερβολικά επικίνδυνο από τους δημιουργούς του και από παράγοντες του τομέα και η κυκλοφορία του αναβλήθηκε. Η Anthropic διέθεσε το μοντέλο AI σε μια χούφτα αμερικανικούς τεχνολογικούς κολοσσούς, όπως οι Nvidia, Amazon, J. P Morgan Chase και Apple, και ορισμένους οργανισμούς για την προστασία των κρίσιμης σημασίας υποδομών τους.

«Προτιμάμε να είμαστε διαφανείς και να βάλουμε στο τραπέζι τους κινδύνους αυτούς»

Ομως η εταιρεία που δημιούργησε το Claude κατηγορείται επίσης ότι υπερβάλλει σχετικά με τους κινδύνους μίας τεχνολογίας την οποία εμπορεύεται ενεργητικά σε ένα περιβάλλον φρενήρους ανταγωνισμού με την OpenAI και το μοντέλο Τεχνητής Νοημοσύνης ChatGPT.

Πόσω μάλλον που οι ανακοινώσεις αυτές γίνονται την στιγμή που πληθύνονται οι φήμες για την πρόθεση της Anthropic να εισέλθει στο χρηματιστήριο κατά την διάρκεια του έτους.

«Προτιμάμε να είμαστε διαφανείς και να βάλουμε στο τραπέζι του κινδύνους αυτούς», επιμένει ο Γκιγιόμ Πρενσάν επαναλαμβάνοντας ότι οι ανησυχίες για την ασφάλεια βρίσκονται «στον πυρήνα του DNA της Anthropic».

«Δεν έχουμε όλες τις λύσεις, αλλά αυτό πρέπει να είναι μια συζήτηση μεταξύ τεχνολογικών παικτών, όπως εμείς, που έχουν στην κατοχή έναν αριθμό δεδομένων, του πανεπιστημιακού κόσμου, του πολιτικού κόσμου και του κόσμου των οικονομολόγων», λέει.

Υπερβολικοί ή όχι, οι κίνδυνοι κυβερνοσφάλειας του Mythos προκαλούν ανησυχίες στους κόλπους του αμερικανικού τραπεζικού συστήματος, της βρετανικής κυβέρνησης και της Ευρωπαϊκής Ενωσης που είχαν συνομιλίες με την Anthropic για να πάρουν περισσότερες πληροφορίες.

Καμία ευρωπαϊκή εταιρεία δεν περιλαμβάνεται στους δοκιμαστές της κοινοπραξίας που δημιουργήθηκε από την Anthropic, εγείροντας το θέμα της προετοιμασίας του υπόλοιπου κόσμου για ένα μοντέλο οι επιθετικές ικανότητες του οποίου δεν σταματούν στα σύνορα των Ηνωμένων Πολιτειών.

«Φυσικά δεν είναι ένα μοντέλο που θα είναι ανοικτό στο ευρύ κοινό σύντομα για προφανείς λόγους, αλλά σκεφτόμαστε τα προσεχή κύματα ανοίγματος», λέει.

Ευρωπαϊκή δυναμική

Ωστόσο η Ευρώπη είναι η ταχύτερα αναπτυσσόμενη περιοχή για την Anthropic.

Η ανάπτυξη του Claude Code, του εργαλείου της για τους developers, έχει ετήσιο κύκλο εργασιών 2,5 δισεκατομμύρια δολάρια παγκοσμίως που προέρχεται σε ένα μέρος του «από ευρωπαϊκές επιχειρήσεις» που «ακολούθησαν το κύμα αυτό», εξηγεί ο Γκιγιόμ Πρενσάν.

Η Anthropic, το 80% του κύκλου εργασιών της οποίας προέρχεται από εταιρείες, συνεργάζεται με την σουηδική start-up Lovable και την γερμανική ασφαλιστική εταιρεία Allianz.

Για να επεκτείνει την παρουσία της στην Ευρώπη άνοιξε τον περασμένο χρόνο γραφεία στο Παρίσι και το Μόναχο και θα ακολουθήσουν το Δουβλίνο και το Λονδίνο.

Η Anthropic ιδρύθηκε το 2021 από παλιούς της OpenAI και μέχρι πρότινος ήταν λιγότερο γνωστή στο ευρύ κοινό και περισσότερο στους ανταγωνιστές της.

Στα τέλη Φεβρουαρίου αρνήθηκε στο Πεντάγωνο την χρήση των εργαλείων Τεχνητής Νοημοσύνης που έχει αναπτύξει για την μαζική παρακολούθηση των αμερικανών πολιτών και για την πλήρη αυτονόμηση οπλικών συστημάτων. Σε αντίποινα, η κυβέρνηση Τραμπ χαρακτήρισε την Anthropic «κίνδυνο» εθνικής ασφαλείας.

Πολλές δικαστικές μάχες είναι ανοικτές για την διευθέτηση της σύγκρουσης με την κυβέρνηση Τραμπ με τον κίνδυνο της απώλειας πολλών δισεκατομμυρίων δολαρίων εσόδων για την Anthropic την χρονιά αυτή, προειδοποιεί η οικονομική της διευθύντρια Κρίσνα Ράο (Krishna Rao) σε έγγραφα που ήλθαν σε γνώση του AFP.

Ταυτόχρονα, «γίναμε μάρτυρες ενός ενδιαφέροντος κινήματος. Υπάρχουν πολλοί άνθρωποι που άρχισαν να χρησιμοποιούν το Claude ακριβώς εξαιτίας της στάσης που τηρήσαμε στο θέμα», λέει ο Γκιγιόμ Πρενσάν.

Ετσι η Anthropic ανακοίνωσε στις αρχές του Απριλίου ότι τριπλασίασε τα έσοδά της μέσα σε ένα τρίμηνο, γεγονός που μεταφράζεται σε ετήσια βάση σε 30 δισεκατομμύρια δολάρια, ξεπερνώντας την OpenAI.

Πηγή: ΑΠΕ-ΜΠΕ