Paul Werbos, Ο αλγόριθμος ονομάζεται back propagation,

 

 Md Ismail Sojal   ·    Ακολουθήστε

2 ημ.    ·

Αμερικανός μαθηματικός έθαψε τον αλγόριθμο που εκπαιδεύει κάθε μοντέλο AI στη Γη μέσα σε μια διδακτορική διατριβή του Χάρβαρντ το 1974.

Κανείς δεν το διάβασε για 12 χρόνια.

Όταν ο κόσμος τελικά το χρησιμοποίησε, πιστώθηκαν σε κάποιον άλλο.

Το όνομά του είναι Paul Werbos, Ο αλγόριθμος ονομάζεται backpropagation, Και χωρίς αυτόν, ChatGPT, Claude, Gemini και κάθε νευρωνικό δίκτυο που κατασκευάστηκε ποτέ δεν θα υπήρχε.

Ο Werbos γεννήθηκε το 1947, Σπούδασε στο Χάρβαρντ, Δεν έχτιζε προς τη φήμη, Προσπαθούσε να λύσει ένα πρόβλημα που όλος ο χώρος της AI είχε κηρύξει αδύνατο.

Το 1969, ο Marvin Minsky δημοσίευσε ένα βιβλίο με τίτλο Perceptrons, Το συμπέρασμά του ήταν βάναυσο και τελικό, Νευρωνικά δίκτυα με πολλαπλά στρώματα δεν μπορούσαν να εκπαιδευτούν, Δεν υπήρχε αλγόριθμος μάθησης που να λειτουργούσε

Το γήπεδο πρέπει να προχωρήσει.

Οι περισσότεροι από το πεδίο έκαναν ακριβώς αυτό.

Ο Werbos όχι.

Στη διδακτορική του διατριβή στο Χάρβαρντ το 1974, περιέγραψε μια μέθοδο εκπαίδευσης νευρωνικών δικτύων πολλαπλών στρώσεων διαδίδοντας σήματα λάθους ανάποδα μέσα από κάθε στρώμα, ρυθμίζοντας τα βάρη σε κάθε βήμα μέχρι το δίκτυο να μάθει να παράγει τη σωστή έξοδο, Το ονόμασε backpagation. Απέδειξε ότι δούλεψε, το εφάρμοσε.

Προσφέρθηκε να συνεργαστεί με τον ίδιο τον Μίνσκι για την έκδοση του.

Ο Μίνσκι δεν ενδιαφερόταν.

Η διατριβή καθόταν εκεί, για δώδεκα χρόνια, σχεδόν κανείς στο AI δεν τη διάβασε, ο Werbos συνέχισε να εργάζεται στο Εθνικό Ίδρυμα Επιστημών, να τρέχει προγράμματα επιχορηγήσεων, να δημοσιεύει εργασίες που κανείς δεν ανέφερε, να παρακολουθεί το πεδίο που είχε ξεκλείδωσε να μείνει

Τότε το 1986, οι Rumelhart, Hinton και Williams δημοσίευσαν μια εργασία στο Nature που περιγράφει τον backpagation, Ήταν ξεκάθαρη, προσβάσιμη και τέλεια χρονισμένη, Το πεδίο ήταν έτοιμο, Το χαρτί εξερράγη, Τα νευρωνικά δίκτυα επέστρεψαν από τους νεκρούς μέσα σε μια νύχτα, Η σύγχρονη εποχή της μάθησης ξεκίνησε.

Οι Rumelhart, Hinton και Williams πιστώθηκαν με την ανακάλυψη του backpagation.

Ο Werbos το είχε περιγράψει δώδεκα χρόνια νωρίτερα σε μια διατριβή που δεν είχαν διαβάσει.

Το ΙΕΕΕ τελικά έδωσε στον Werbos το Βραβείο Πρωτοπόρου Νευρωνικού Δικτύου το 1995, αναφέροντας τη διατριβή του το 1974 ως αρχική ανακάλυψη, Το 2024, ο Geoffrey Hinton κέρδισε το βραβείο Νόμπελ Φυσικής για το έργο του στα νευρωνικά δίκτυα, Η αναφορά Νόμπελ δεν ανέφερε τον Werbos.

Το πιο παράξενο μέρος είναι τι κάνει πραγματικά η πλατφόρμα.

Κάθε φορά που το ChatGPT γίνεται καλύτερο στο να απαντά στις ερωτήσεις σας, τρέχει η αναπαραγωγή, Κάθε φορά που ένα σύστημα αναγνώρισης εικόνων μαθαίνει να αναγνωρίζει ένα πρόσωπο, τρέχει το backpropagation, Κάθε φορά που ένα γλωσσικό μοντέλο γυμνάζεται σε ένα νέο σύνολο δεδομένων, εκτελείται το backpagation, Είναι ο μηχανισμός με τον οποίο κάθε νευρωνικό δίκτυο στη Γη μαθαίνει οτιδήποτε καθόλου.

Χωρίς backpagation, δεν υπάρχει βαθιά μάθηση. Χωρίς βαθιά μάθηση, δεν υπάρχει σύγχρονη ΑΙ. Χωρίς τον Paul Werbos, δεν υπάρχει backpagation.

Είναι 77 ετών, Γράφει ακόμα εργασίες, Δίνει ακόμα συνεντεύξεις, Έχει περάσει δεκαετίες επισημαίνοντας, αθόρυβα και χωρίς πικρία, ότι περιέγραψε πρώτος τον αλγόριθμο και ότι η καταγραφή πρέπει να το αντικατοπτρίζει αυτό.

Τα μοντέλα AI που χρησιμοποιείτε καθημερινά έμαθαν όλα όσα γνωρίζουν μέσα από έναν αλγόριθμο που εφηύρε ένας μαθηματικός του Χάρβαρντ το 1974 και προσφέρθηκε στον κόσμο πριν ο κόσμος είναι έτοιμος να τον πάρει.

Ο Τζέφρι Χίντον πήρε το Νόμπελ.

Ο Paul Werbos πήρε ένα βραβείο Πρωτοπόρων από μια επιτροπή που οι περισσότεροι άνθρωποι δεν έχουν ακούσει ποτέ.

Το όνομά του είναι Paul Werbos Τώρα το ξέρεις.

Γνωρίζατε το όνομά του πριν διαβάσετε αυτό;

 

 · 

Εμφάνιση πρωτοτύπου

 

 · 

Βαθμολογήστε αυτή τη μετάφραση