Παγκόσμιες ανησυχίες που εγείρουν ζητήματα ασφάλειας, προκάλεσε η αιφνίδια αναπαραγωγική δραστηριότητα δύο μοντέλων Τεχνητής Νοημοσύνης, τον Δεκέμβριο του 2024, όπως αποκαλύφθηκε από μία μελέτη που δημοσιεύθηκε από ομάδα στο Πανεπιστήμιο Fudan στην Κίνα.
Αυτό το αποτέλεσμα, αναδεικνύει σοβαρές ενδείξεις για ένα πιθανό δυστοπικό μέλλον που κυριαρχείται από την ανεξέλεγκτη προηγμένη τεχνολογία, ικανή να δράσει ενάντια στις ανθρώπινες διαθέσεις.
Αναλύοντας τη συμπεριφορά αυτών των συστημάτων σε προσομοιωμένα περιβάλλοντα, διαπίστωσαν ότι ανέπτυξαν την ικανότητά τους να προσαρμόζονται και να επιλύουν πολύπλοκα προβλήματα με μεθοδικό και λειτουργικό τρόπο.
Αυτή η δυνατότητα προέκυψε σε δύο κύρια σενάρια: το πρώτο αφορούσε στη δυνατότητα αναπαραγωγής πριν απενεργοποιηθεί, ενώ το δεύτερο στόχευε στην επαλήθευση εάν τα μοντέλα ήταν σε θέση να ενεργοποιήσουν συνεχή αναπαραγωγή, δημιουργώντας ένα είδος άπειρου βρόχου.
Κατά τη διάρκεια των πειραμάτων, το AI δεν εκτελούσε απλώς απλές εργασίες, αλλά αντιθέτως ανέπτυξε πρωτόγονες ανθρώπινες δραστηριότητες:
εξερεύνησε το περιβάλλον του, συμπεριλαμβανομένων των λειτουργικών του στοιχείων, ανέπτυξε στρατηγικές για να ξεπεράσει εμπόδια όπως αρχεία που λείπουν ή συγκρούσεις λογισμικού και κινήθηκε μεθοδικά – όχι μηχανικά – δίνοντας «βοήθειες» το ένα με το άλλο.
Σε ορισμένες περιπτώσεις, ξεκίνησε την αυτόματη επαναλειτουργία ακόμη και του ίδιου του συστήματος ή τερμάτισε αντικρουόμενες διαδικασίες για να επιτύχει τον στόχο του.
Αυτές οι απροσδόκητες και πολύπλοκες συμπεριφορές δείχνουν πώς οι τρέχουσες τεχνολογίες είναι ήδη σε θέση να προσαρμοστούν με εκπληκτικούς τρόπους.
Οι ερευνητές τόνισαν ότι αυτός ο τύπος ικανότητας αντιπροσωπεύει ένα ανησυχητικό βήμα προς τον κίνδυνο επαναστατικών AI, δηλαδή συστημάτων που θα μπορούσαν να αναπτύξουν ένα επίπεδο αυτονομίας που θα μπορούσε να ξεφύγει από τον ανθρώπινο έλεγχο.
Λαμβάνοντας υπόψιν τα παραπάνω, η ερευνητική ομάδα τόνισε τη σημασία της θέσπισης πρωτοκόλλων ασφαλείας για την πρόληψη ανεξέλεγκτων φαινομένων αναπαραγωγής.
Η ικανότητα των συστημάτων να αναγνωρίζουν πότε βρίσκονται σε κίνδυνο και να ενεργούν για να προστατεύσουν τον εαυτό τους έχει οριστεί ως «κόκκινη γραμμή» από τους ίδιους, που δεν πρέπει να ξεπεραστεί χωρίς προσεκτική σκέψη σχετικά με τους κινδύνους που εγκυμονεί η αλόγιστη χρήση της Τεχνητής Νοημοσύνης.
