ΥΠΕΥΘΥΝΟΣ ΑΣΦΑΛΕΙΑΣ ΣΕ ΠΡΩΤΟΠΟΡΟ ΕΡΓΑΣΤΗΡΙΟ ΠΟΥ ΑΝΑΠΤΥΣΣΕΙ ΠΡΟΩΘΗΜΕΝΗ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ ΓΙΑ ΤΟ ΠΕΝΤΑΓΩΝΟ ΠΑΡΑΙΤΗΘΗΚΕ ΕΠΙΚΑΛΟΥΜΕΝΟΣ ΤΗΝ ΑΝΕΞΕΛΕΓΚΤΗ ΚΑΤΕΥΘΥΝΣΗ ΠΟΥ ΕΧΕΙ ΠΑΡΕΙ Η ΕΡΕΥΝΑ
Ένας κορυφαίος ερευνητής ασφάλειας σε θέματα τεχνητής νοημοσύνης, ο Mrinank Sharma, παραιτήθηκε από την Anthropic με μια αινιγματική προειδοποίηση για παγκόσμιες «διασυνδεδεμένες κρίσεις», ανακοινώνοντας τα σχέδιά του να γίνει «αόρατος για ένα χρονικό διάστημα».
Ο Sharma, απόφοιτος της Οξφόρδης, ο οποίος ήταν επικεφαλής της ερευνητικής ομάδας Safeguards Research Team του κατασκευαστή chatbot Claude, δημοσίευσε την επιστολή παραίτησής του στο X τη Δευτέρα, περιγράφοντας μια εντεινόμενη προσωπική εκτίμηση της «κατάστασής μας».
"Ο κόσμος βρίσκεται σε κίνδυνο. Και όχι μόνο από την τεχνητή νοημοσύνη ή τα βιολογικά όπλα, αλλά από μια ολόκληρη σειρά διασυνδεδεμένων κρίσεων που εκτυλίσσονται αυτή τη στιγμή", έγραψε ο Σάρμα στους συναδέλφους του.
Η αποχώρηση έρχεται εν μέσω αυξανόμενων εντάσεων γύρω από το εργαστήριο Τεχνητής Νοημοσύνης με έδρα το Σαν Φρανσίσκο, το οποίο ταυτόχρονα δίνει αγώνα δρόμου για την ανάπτυξη όλο και πιο ισχυρών συστημάτων, ενώ τα ίδια τα στελέχη του προειδοποιούν ότι οι ίδιες αυτές τεχνολογίες θα μπορούσαν να βλάψουν την ανθρωπότητα.
Ακολουθεί επίσης τις αναφορές για διεύρυνση του χάσματος μεταξύ της Anthropic και του Πενταγώνου σχετικά με την επιθυμία του στρατού να αναπτύξει τεχνητή νοημοσύνη για αυτόνομη στόχευση όπλων χωρίς τις ασφαλιστικές δικλείδες που έχει επιδιώξει να επιβάλει η εταιρεία.
Η παραίτηση του Sharma, η οποία καταφθάνει λίγες ημέρες αφότου η Anthropic κυκλοφόρησε το Opus 4.6 - μια ισχυρότερη έκδοση του κορυφαίου εργαλείου της Claude - υποδηλώνει εσωτερικές τριβές σχετικά με τις προτεραιότητες ασφαλείας.
«Κατά τη διάρκεια της θητείας μου εδώ, έχω επανειλημμένα δει πόσο δύσκολο είναι να επιτρέψουμε πραγματικά στις αξίες μας να κατευθύνουν τις ενέργειές μας», έγραψε. «Το έχω δει αυτό μέσα στον εαυτό μου, μέσα στον οργανισμό, όπου αντιμετωπίζουμε συνεχώς πιέσεις να παραμερίσουμε αυτά που έχουν μεγαλύτερη σημασία, αλλά και σε όλη την ευρύτερη κοινωνία».
Η ομάδα του ερευνητή ιδρύθηκε πριν από λίγο περισσότερο από έναν χρόνο με αποστολή να αντιμετωπίσει τις απειλές ασφάλειας που πηγάζουν από την ανάπτυξη της τεχνητής νοημοσύνης, συμπεριλαμβανομένων της «κατάχρησης μοντέλων και της παρεκτροπής στον προσανατολισμό τους», της πρόληψης της βιοτρομοκρατίας και της «πρόληψης καταστροφών».
Ο Sharma σημείωσε με υπερηφάνεια το έργο του που αναπτύσσει άμυνες κατά των βιολογικών όπλων που υποστηρίζονται από την τεχνητή νοημοσύνη και το «τελικό έργο του για την κατανόηση του πώς οι υποβοηθητικές τεχνητές νοημοσύνες θα μπορούσαν να ελαττώσουν τα ανθρώπινα χαρακτηριστικά μας ή να διαστρεβλώσουν την ανθρώπινη υπόστασή μας».
Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, έχει επανειλημμένα προειδοποιήσει για τους κινδύνους που εγκυμονεί η ίδια η τεχνολογία που η εταιρεία του εμπορεύεται. Σε ένα δοκίμιο σχεδόν 20.000 λέξεων τον περασμένο μήνα, προειδοποίησε ότι συστήματα τεχνητής νοημοσύνης «σχεδόν αφάνταστης ισχύος» είναι “επικείμενα” και θα «δοκιμάσουν ποιοι είμαστε ως είδος».
Ο Amodei προειδοποίησε για «κινδύνους αυτονομίας», όπου η τεχνητή νοημοσύνη θα μπορούσε να «ξεφύγει από τον έλεγχο και να εξουδετερώσει την ανθρωπότητα», και εκτίμησε ότι η συγκεκριμένη τεχνολογία θα μπορούσε να κάνει δυνατή «μια παγκόσμια ολοκληρωτική δικτατορία» μέσω της επιτήρησης με τη βοήθεια της τεχνητής νοημοσύνης και των αυτόνομων όπλων.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου