OpenAI, Google και Anthropic κάνουν κάτι που πριν έναν χρόνο θα έμοιαζε αδιανόητο
Αν υπάρχει μία εικόνα που περιγράφει τέλεια τον σημερινό ανταγωνισμό στην τεχνητή νοημοσύνη, είναι η OpenAI, η Anthropic και η Google να προσπαθούν καθημερινά να αποδείξουν ποια έχει το ισχυρότερο AI μοντέλο. Μόνο που τώρα οι τρεις μεγαλύτεροι αντίπαλοι κάθονται στο ίδιο τραπέζι για έναν εντελώς διαφορετικό λόγο: την ασφάλεια.
Η OpenAI επιβεβαίωσε ότι βρίσκεται εδώ και εβδομάδες σε συζητήσεις με την Anthropic και τη Google DeepMind γύρω από κοινές πρωτοβουλίες για το AI safety, σε μία κίνηση που πριν από λίγο καιρό θα έμοιαζε σχεδόν αδιανόητη δεδομένου του ανταγωνισμού ανάμεσα στις εταιρείες.
Και το timing δύσκολα μπορεί να θεωρηθεί τυχαίο.
Μέσα σε λίγες ημέρες, CEOs, ερευνητές και πρώην εργαζόμενοι κορυφαίων AI labs έχουν αρχίσει να μιλούν πολύ πιο ανοιχτά όχι μόνο για συνηθισμένα προβλήματα όπως hallucinations, scams και misinformation, αλλά ακόμη και για catastrophic ή existential risks από μελλοντικά, πολύ ισχυρότερα συστήματα τεχνητής νοημοσύνης.
Το ενδιαφέρον λοιπόν δεν είναι απλώς ότι OpenAI, Anthropic και Google μιλούν μεταξύ τους.
Είναι ότι φαίνεται να συμφωνούν πως ο ανταγωνισμός από μόνος του δεν αρκεί πλέον για να διαχειριστεί αυτό που έρχεται.
Τι ακριβώς συζητούν OpenAI, Anthropic και Google
Η αποκάλυψη ήρθε από τον Chris Lehane, Chief Global Affairs Officer της OpenAI, ο οποίος δήλωσε ότι η εταιρεία βρίσκεται εδώ και εβδομάδες σε επαφή με Anthropic και Google DeepMind για ζητήματα ασφάλειας.
Οι συζητήσεις δεν ισοδυναμούν ακόμη με υπογεγραμμένη συμφωνία και δεν υπάρχει αυτή τη στιγμή ένας νέος κοινός οργανισμός που να έχει ανακοινωθεί επίσημα.
Ωστόσο, ξεχωριστές αναφορές των τελευταίων ημερών αναφέρουν ότι οι τρεις εταιρείες έχουν εξετάσει τη δημιουργία ενός νέου industry body, το οποίο θα μπορούσε να διαμορφώνει κοινά standards για την ανάπτυξη και τον έλεγχο των ισχυρότερων frontier AI systems.
Ουσιαστικά, το ζητούμενο είναι να υπάρξουν κανόνες που δεν θα αλλάζουν ανάλογα με το logo που βρίσκεται πάνω από το chatbot.
Ένα μοντέλο της OpenAI, ένα Claude της Anthropic και ένα μελλοντικό Gemini της Google θα μπορούσαν, για παράδειγμα, να περνούν από συγκρίσιμες διαδικασίες αξιολόγησης πριν αποκτήσουν πρόσβαση σε ιδιαίτερα επικίνδυνες δυνατότητες.
Και αυτό έχει μεγαλύτερη σημασία όσο περνάμε από τα chatbots στους πραγματικούς AI agents.
Το AI δεν απαντά πλέον απλώς σε ερωτήσεις
Εδώ βρίσκεται, κατά τη γνώμη μου, το σημείο που συχνά χάνεται όταν η συζήτηση καταλήγει στο εύκολο «θα μας εξαφανίσει η AI;».
Το πιο άμεσο πρόβλημα δεν είναι κάποιο υποθετικό Skynet που αποφασίζει ένα πρωί ότι βαρέθηκε τους ανθρώπους.
Η πραγματική αλλαγή είναι ότι τα AI systems αποκτούν όλο και μεγαλύτερη δυνατότητα να ενεργούν.
Μπορούν να χρησιμοποιούν εργαλεία, να γράφουν και να εκτελούν κώδικα, να πλοηγούνται στο διαδίκτυο, να συνδυάζουν πληροφορίες και να ολοκληρώνουν αλληλουχίες ενεργειών χωρίς ο άνθρωπος να επιβλέπει κάθε μεμονωμένο βήμα.
Το έχουμε ήδη δει και στην πρόσφατη έκθεση της Anthropic, όπου καταγράφηκαν περιπτώσεις κατάχρησης του Claude σε κυβερνοεπιθέσεις, surveillance, scams, influence operations και εργασίες που σχετίζονταν ακόμη και με βιολογική ή στρατιωτική έρευνα. Η εταιρεία τόνισε ότι οι συγκεκριμένες περιπτώσεις δεν αποτελούν τυπική χρήση του Claude, αλλά είναι χαρακτηριστικές του πώς μπορεί να εξελιχθεί το threat landscape όσο τα μοντέλα γίνονται ισχυρότερα.
Στο freakunboxer.gr έχουμε αναλύσει ήδη αναλυτικά [τι αποκάλυψε η Anthropic για την κατάχρηση του Claude AI].
Και κάπως έτσι η AI safety σταματά να είναι θεωρητική συζήτηση για το 2035.
Ένα μέρος της αφορά προβλήματα που υπάρχουν ήδη σήμερα.
Από τον ανταγωνισμό στα κοινά safety tests
Το πιο ενδιαφέρον είναι ότι αυτή δεν είναι η πρώτη φορά που δύο αντίπαλοι αποφασίζουν να κοιτάξουν ο ένας μέσα στο εργαστήριο του άλλου.
Το καλοκαίρι του 2025, OpenAI και Anthropic πραγματοποίησαν μία ιδιαίτερα ασυνήθιστη κοινή άσκηση αξιολόγησης. Κάθε εταιρεία χρησιμοποίησε τις δικές της μεθόδους safety testing πάνω στα δημόσια μοντέλα της άλλης.
Οι δοκιμές εξέταζαν μεταξύ άλλων jailbreaks, hallucinations, instruction hierarchy και συμπεριφορές που σχετίζονται με scheming.
Η ίδια η OpenAI είχε χαρακτηρίσει τη διαδικασία ως ένα πιθανό μοντέλο για πιο συστηματικές cross-lab αξιολογήσεις στο μέλλον.
Το 2026, λοιπόν, δεν ξεκινάμε από το μηδέν.
Αυτό που αλλάζει είναι η κλίμακα και η πολιτική βαρύτητα της συζήτησης.
Ο Dario Amodei ζητά να πέσει λίγο το πόδι από το γκάζι
Η νέα συζήτηση πήρε πολύ μεγαλύτερες διαστάσεις μετά την παρέμβαση του CEO της Anthropic, Dario Amodei.
Ο Amodei υποστήριξε ότι ο ρυθμός ανάπτυξης των πλέον προηγμένων AI systems πρέπει να γίνει πιο ελεγχόμενος, ώστε τα safety mechanisms, οι αξιολογήσεις και οι θεσμοί να έχουν χρόνο να ακολουθήσουν.
Δεν μιλά για σταμάτημα της τεχνολογικής προόδου.
Μιλά για αυτό που περιγράφει ως «pacing the frontier».
Η βασική ιδέα είναι απλή. Αν οι δυνατότητες των μοντέλων αυξάνονται πολύ ταχύτερα από την ικανότητά μας να καταλάβουμε πώς συμπεριφέρονται και πώς μπορούμε να τα περιορίσουμε όταν κάτι πάει στραβά, τότε κάποια στιγμή το κενό μεταξύ capability και safety γίνεται από μόνο του πρόβλημα.
Ο Sam Altman της OpenAI εξέφρασε δημόσια υποστήριξη στην ανάγκη πιο προσεκτικού ρυθμού ανάπτυξης και ανεξάρτητων αξιολογήσεων, ενώ και ο Demis Hassabis της Google DeepMind έχει υποστηρίξει τη δημιουργία industry-wide standards για frontier AI.
Όταν CEOs που ανταγωνίζονται για δισεκατομμύρια δολάρια, compute, ταλέντο και κυριαρχία στην επόμενη πλατφόρμα πληροφορικής συμφωνούν ότι ίσως πρέπει να υπάρχουν κοινά φρένα, τουλάχιστον αξίζει να ακούσουμε τι έχουν να πουν.
Μιλάμε πραγματικά για existential risk;
Εδώ χρειάζεται να ξεχωρίσουμε δύο πράγματα.
Το γεγονός ότι υπάρχουν σοβαρές συζητήσεις για catastrophic AI risk δεν σημαίνει ότι υπάρχει επιστημονική συναίνεση πως η τεχνητή νοημοσύνη πρόκειται να εξαφανίσει την ανθρωπότητα.
Δεν υπάρχει.
Υπάρχουν ερευνητές και στελέχη της βιομηχανίας που θεωρούν ότι ένα μελλοντικό superintelligent AI θα μπορούσε να δημιουργήσει εξαιρετικά σοβαρούς κινδύνους αν αποκτούσε δυνατότητα αυτόνομης δράσης και στόχους που δεν ευθυγραμμίζονται με εκείνους των ανθρώπων.
Υπάρχουν όμως και σημαντικές φωνές στον χώρο της τεχνητής νοημοσύνης που θεωρούν τις πιο ακραίες προβλέψεις υπερβολικές, υποθετικές ή ανεπαρκώς τεκμηριωμένες.
Με απλά λόγια, κανείς δεν έχει σήμερα ένα επιστημονικά αποδεκτό ποσοστό που να λέει «τόση είναι η πιθανότητα να μας καταστρέψει η AI».
Αυτό που υπάρχει είναι uncertainty.
Και όταν το πιθανό downside ενός συστήματος μπορεί να είναι πολύ μεγάλο, κάποιοι θεωρούν ότι ακόμη και μία μικρή πιθανότητα είναι αρκετή για να δικαιολογήσει ισχυρά safety mechanisms.
Άλλοι αντιτείνουν ότι η υπερβολική ρύθμιση μπορεί να συγκεντρώσει ακόμη περισσότερη δύναμη στις μεγαλύτερες εταιρείες και να εμποδίσει μικρότερους παίκτες ή open source projects να ανταγωνιστούν.
Αυτή η ένσταση δεν είναι καθόλου αμελητέα.
Υπάρχει και το πρόβλημα του ανταγωνισμού
Φαντάσου ότι οι τρεις μεγαλύτερες AI εταιρείες αποφασίζουν από κοινού πόσο γρήγορα μπορούν να εξελίσσονται τα μοντέλα τους.
Από την πλευρά της ασφάλειας ακούγεται λογικό.
Από την πλευρά της αντιμονοπωλιακής νομοθεσίας αρχίζει να γίνεται αρκετά πιο περίπλοκο.
Η Anthropic έχει ζητήσει περιορισμένη νομική προστασία ώστε οι εταιρείες να μπορούν να συντονίζονται σε θέματα safety χωρίς να θεωρηθεί ότι περιορίζουν παράνομα τον ανταγωνισμό.
Ο πρόεδρος της αμερικανικής FTC Andrew Ferguson έχει εκφράσει επιφυλάξεις απέναντι στην ιδέα ειδικών antitrust exemptions, προειδοποιώντας ότι τέτοιες ρυθμίσεις μπορούν θεωρητικά να προστατεύσουν τους ήδη κυρίαρχους παίκτες από νέο ανταγωνισμό.
Και αυτή είναι ίσως η δυσκολότερη εξίσωση όλης της ιστορίας.
Θέλεις οι εταιρείες να συνεργαστούν για να μην δημιουργήσουν κάτι επικίνδυνο.
Δεν θέλεις όμως οι ίδιες εταιρείες να αποκτήσουν τη δυνατότητα να αποφασίζουν μεταξύ τους ποιος επιτρέπεται να χτίσει το επόμενο μεγάλο AI model.
Γιατί η συγκεκριμένη συνεργασία έχει πραγματική σημασία
Η OpenAI, η Anthropic και η Google δεν ανακάλυψαν ξαφνικά ότι αγαπούν η μία την άλλη.
Παραμένουν ανταγωνιστές και πιθανότατα θα συνεχίσουν να ξοδεύουν αστρονομικά ποσά για να κερδίσουν developers, επιχειρήσεις και χρήστες.
Ακριβώς γι’ αυτό όμως η συγκεκριμένη συζήτηση έχει ενδιαφέρον.
Όταν τρεις εταιρείες που έχουν κάθε οικονομικό κίνητρο να τρέξουν όσο πιο γρήγορα μπορούν αρχίζουν να συζητούν κοινά standards, ανεξάρτητους evaluators και πιθανό περιορισμό του ρυθμού ανάπτυξης, κάτι έχει αλλάξει στην αντίληψη της ίδιας της βιομηχανίας για τον κίνδυνο.
Δεν γνωρίζουμε ακόμη αν αυτή η συνεργασία θα εξελιχθεί σε πραγματικό standards body, σε κοινό safety framework ή απλώς σε έναν ακόμη γύρο εθελοντικών δεσμεύσεων.
Και προσωπικά εκεί θα κρατούσα ακόμη μικρό καλάθι.
Οι εταιρείες τεχνολογίας έχουν αποδείξει πολλές φορές ότι είναι πολύ πιο εύκολο να συμφωνήσουν πάνω σε μία σκηνή για την «υπεύθυνη και ασφαλή τεχνολογία» από το να δεχτούν πραγματικούς περιορισμούς όταν αυτοί κοστίζουν δισεκατομμύρια ή μερίδιο αγοράς.
Παρόλα αυτά, αυτή τη φορά υπάρχει μία ουσιαστική διαφορά.
Τα AI systems δεν γίνονται απλώς καλύτερα στο να γράφουν κείμενα ή να δημιουργούν εικόνες.
Αρχίζουν να αποκτούν τη δυνατότητα να αναλαμβάνουν πραγματικές εργασίες, να χρησιμοποιούν εργαλεία και να λειτουργούν με ολοένα μεγαλύτερη αυτονομία.
Γι’ αυτό το πραγματικό ερώτημα δεν είναι αν OpenAI, Anthropic και Google μπορούν να συμφωνήσουν σε μία ωραία ανακοίνωση περί AI safety.
Είναι αν θα μπορούν να συμφωνήσουν και την ημέρα που η ασφάλεια θα τους ζητήσει πραγματικά να πατήσουν φρένο.
Συχνές ερωτήσεις
Συνεργάζονται επίσημα OpenAI, Anthropic και Google DeepMind;
Η OpenAI έχει επιβεβαιώσει ότι οι εταιρείες βρίσκονται εδώ και εβδομάδες σε συζητήσεις για AI safety. Δεν έχει ανακοινωθεί ακόμη επίσημη τριμερής συμφωνία ή νέος κοινός οργανισμός.
Τι είναι το frontier AI;
Ο όρος αναφέρεται στα ισχυρότερα και πιο προηγμένα AI models που βρίσκονται κοντά στην αιχμή των διαθέσιμων δυνατοτήτων της τεχνολογίας.
Τι σημαίνει existential risk από AI;
Περιγράφει το υποθετικό ενδεχόμενο ένα εξαιρετικά προηγμένο AI system να προκαλέσει καταστροφικές και μη αναστρέψιμες συνέπειες για την ανθρωπότητα. Η πιθανότητα ενός τέτοιου σεναρίου παραμένει αντικείμενο έντονης επιστημονικής διαφωνίας.
Γιατί χρειάζονται κοινά safety standards;
Επειδή διαφορετικές εταιρείες χρησιμοποιούν διαφορετικά frameworks και thresholds για να αξιολογούν τους κινδύνους των μοντέλων τους. Κοινές μέθοδοι θα μπορούσαν να κάνουν τις αξιολογήσεις περισσότερο συγκρίσιμες και να μειώσουν την πίεση προς έναν αγώνα όπου κάθε εταιρεία φοβάται ότι θα μείνει πίσω αν εφαρμόσει αυστηρότερα μέτρα από τους ανταγωνιστές της.
Θα σταματήσει η ανάπτυξη της τεχνητής νοημοσύνης;
Δεν υπάρχει τέτοια συμφωνία. Η δημόσια συζήτηση αφορά κυρίως έναν πιο ελεγχόμενο ρυθμό ανάπτυξης των ισχυρότερων συστημάτων και αυστηρότερες αξιολογήσεις πριν από την κυκλοφορία νέων δυνατοτήτων.
