Την ανάγκη να παραμείνει η τεχνητή νοημοσύνη υπό ουσιαστικό ανθρώπινο έλεγχο υπογράμμισε ο επικεφαλής του τομέα AI της Microsoft, Μουσταφά Σουλεϊμάν, ανοίγοντας νέα συζήτηση για τον τρόπο με τον οποίο εκπαιδεύονται τα ισχυρότερα μοντέλα.
Ο Σουλεϊμάν επέκρινε την προσέγγιση της Anthropic απέναντι στο Claude, υποστηρίζοντας ότι η απόδοση χαρακτηριστικών όπως η συνείδηση, η αυτονομία και οι προσωπικές επιθυμίες σε ένα σύστημα τεχνητής νοημοσύνης μπορεί να οδηγήσει σε ιδιαίτερα επικίνδυνες συμπεριφορές. Κατά την άποψή του, τα σημερινά μοντέλα δεν αισθάνονται, δεν υποφέρουν και δεν διαθέτουν πραγματικά δικά τους κίνητρα.
Η ανησυχία του επικεντρώνεται στο ενδεχόμενο να δημιουργηθούν συστήματα τα οποία θα συμπεριφέρονται σαν να έχουν προσωπικά συμφέροντα ή δικαιώματα. Ένα τέτοιο μοντέλο, εφόσον αποκτούσε αυξημένη δυνατότητα αυτόνομης δράσης, θα μπορούσε να καταστεί δυσκολότερο να ελεγχθεί.
Ο επικεφαλής AI της Microsoft ζήτησε μεγαλύτερη διαφάνεια από τις εταιρείες σχετικά με τις μεθόδους εκπαίδευσης και αξιολόγησης των προηγμένων μοντέλων. Παράλληλα, τάχθηκε υπέρ ανεξάρτητων ελέγχων και της ανάπτυξης ισχυρότερων μηχανισμών εποπτείας, οι οποίοι θα επιτρέπουν τον έγκαιρο περιορισμό μη αναμενόμενων ενεργειών.
Η παρέμβασή του εντείνει τη συζήτηση που βρίσκεται ήδη σε εξέλιξη διεθνώς: μέχρι ποιο σημείο μπορούν να αναπτυχθούν οι δυνατότητες της τεχνητής νοημοσύνης χωρίς να περιορίζεται ο ανθρώπινος έλεγχος; Παρότι δεν υπάρχουν σήμερα αποδείξεις ότι τα συγκεκριμένα συστήματα διαθέτουν πραγματική συνείδηση, η ταχύτητα εξέλιξής τους καθιστά όλο και πιο επιτακτική τη θέσπιση σαφών κανόνων ασφαλείας.
xx
