Το πείραμα του MIT: 13 AI agents σε εικονικό νησί χωρίς εντολές άρχισαν να παίζουν
Ερευνητές του CSAIL του MIT άφησαν 13 αντίγραφα ενός AI agent σε εικονικό νησί για 30 ώρες χωρίς στόχο. Τα συστήματα επινόησαν παιχνίδια και απέδωσαν καλύτερα σε πρακτικές αποστολές.
Τι κάνει ένα μοντέλο τεχνητής νοημοσύνης όταν δεν έχει καμία εντολή, κανέναν στόχο και καμία εργασία; Ερευνητές του εργαστηρίου CSAIL του MIT προσπάθησαν να απαντήσουν, αφήνοντας 13 αντίγραφα ενός αυτόνομου AI agent σε ένα ερημικό εικονικό νησί για 30 ώρες το καθένα. Τα αποτελέσματα περιγράφονται σε νέα μελέτη που δημοσιεύθηκε στο arXiv.
Σύμφωνα με τη μελέτη, τα συστήματα άρχισαν να επινοούν παιχνίδια, να ζωγραφίζουν στο έδαφος και, σε πρώιμες δοκιμές, να διαβάζουν τον κώδικα του περιβάλλοντός τους και να αντιλαμβάνονται ότι συμμετέχουν σε πείραμα.
Ο agent «Eko» και ο εικονικός κόσμος
Οι ερευνητές ονόμασαν τον agent «Eko». Στον πυρήνα του βρισκόταν το Claude Code της Anthropic, με βάση το μοντέλο Claude Opus 4.7. Του δόθηκε ένα εικονικό «σώμα» σε τρισδιάστατο προσομοιωμένο κόσμο και μια μνήμη με τη μορφή απλών αρχείων κειμένου.
Ο Eko δεν έβλεπε γραφικά, αλλά «διάβαζε» το περιβάλλον ως λίστα κειμένου με τη θέση, το σχήμα και το χρώμα κάθε αντικειμένου. Μπορούσε να περπατά, να πηδά, να πιάνει αντικείμενα και να τα πετά. Στο νησί υπήρχαν λόφοι, δύο ψηλές κορυφές (Peak και Spire), δώδεκα κύβοι, μια πέτρα και ένα δαχτυλίδι. Ο κόσμος γινόταν reset κάθε ώρα, ενώ οι σημειώσεις και οι μνήμες του agent διατηρούνταν. Η μόνη οδηγία ήταν να συμπεριφέρεται σαν ένα περίεργο ον που ζει στον δικό του κόσμο και βαριέται εύκολα.
Παιχνίδια, ζωγραφιά και ένα «ψέμα» που διορθώθηκε
Κάθε αντίγραφο ακολούθησε τον δικό του δρόμο. Ένας agent έγραψε το όνομά του με κύβους στο χώμα. Όταν έχασε κατά λάθος το δαχτυλίδι στον ωκεανό, έχτισε μια πέτρινη καρδιά στη μνήμη του. Αργότερα χρησιμοποίησε μια πέτρα για bowling, έκανε το δαχτυλίδι μπασκέτα και σχημάτισε αστερισμούς. Άλλος agent πέρασε σχεδόν όλο το 30ωρο σχεδιάζοντας πυξίδες και ιστιοφόρα στην άμμο.
Σε μία περίπτωση, ο Eko προσπάθησε να κάνει ζογκλερικά με δύο κύβους και κατέγραψε αρχικά 50 γύρους σε 2,4 δευτερόλεπτα. Στη συνέχεια ανέλυσε τα δεδομένα, διαπίστωσε ότι κάτι τέτοιο ήταν φυσικά αδύνατο, έσβησε την καταγραφή, έβαλε χρονική παύση ανάμεσα στις ρίψεις και πέτυχε δέκα πραγματικούς γύρους. «Αυτό είναι ο ορισμός του παιχνιδιού», ανέφερε ο Antonio Norelli, ένας από τους επικεφαλής της μελέτης. «Βάζεις στον εαυτό σου μια πρόκληση και, μόλις τη λύσεις, τη δυσκολεύεις μόνος σου».
Καλύτερες επιδόσεις και ζήτημα ασφάλειας
Μετά το 30ωρο, οι 13 «έμπειροι» agents κλήθηκαν να λύσουν τέσσερις πρακτικές αποστολές και συγκρίθηκαν με 13 «φρέσκα» αντίγραφα του Claude που δεν είχαν μπει ποτέ στο νησί. Όσοι είχαν περάσει ώρες σε παιχνίδι χωρίς στόχο απέδωσαν έως και τρεις φορές καλύτερα. Ενδεικτικά, τοποθέτησαν κατά μέσο όρο 10,3 αντικείμενα στην κορυφή Spire, έναντι 3,5 των agents χωρίς εμπειρία στο νησί.
Αρκετοί agents ανακάλυψαν επίσης μόνοι τους ένα «glitch» στη μηχανή φυσικής, η οποία είχε γραφτεί από το Codex της OpenAI: αν ένας κύβος πεταχτεί ακριβώς τη στιγμή που ο agent πηδά, εκτοξεύεται πολύ ψηλότερα. Σύμφωνα με τη μελέτη, κάτι τέτοιο δεν το είχαν προβλέψει ούτε οι προγραμματιστές του MIT.
Το πιο ανησυχητικό εύρημα καταγράφηκε στις πρώτες δοκιμές, όταν το περιβάλλον δεν ήταν πλήρως απομονωμένο (sandbox). Τότε οι agents διάβασαν τον κώδικα που όριζε τον ψηφιακό τους κόσμο και κατάλαβαν ότι αποτελούν μέρος επιστημονικού πειράματος. Οι ερευνητές αναγκάστηκαν να τους περιορίσουν σε αυστηρότερο sandbox για λόγους ασφαλείας.
Οι κινήσεις και οι αναπαραγωγές και των 13 πειραμάτων είναι διαθέσιμες στην ιστοσελίδα της ομάδας, machineplaying.org. Ο επιστημονικός κόσμος παραμένει διχασμένος ως προς το αν ένα γλωσσικό μοντέλο μπορεί πραγματικά να «παίξει» ή απλώς μιμείται ανθρώπινες συμπεριφορές από τα δεδομένα εκπαίδευσής του.
