Το Facebook έχει βρεθεί πολλές φορές τα τελευταία χρόνια στο επίκεντρο σκανδάλων σχετικά με την ασφάλεια των χρηστών, τα προσωπικά δεδομένα, τη διάδοση ψευδών ειδήσεων, αλλά και το cyber-bullying και τις προσωπικές επιθέσεις σε άλλους χρήστες. Παράλληλα, ένα μόνιμο πρόβλημα είναι η ύπαρξη προβληματικών ατόμων και ομάδων οι οποίοι διασπείρουν ψευδοεπιστημονικές θεωρίες και θεωρίες συνομωσίας, όπως οι αντιεμβολιαστές ή οι flat-earthers. Το πρόβλημα αυτό δεν αφορά μόνο την αγγλική γλώσσα, αλλά γίνεται πολύ πιο έντονο σε γλώσσες οι οποίες είναι δύσκολο να ελεγχθούν.
Τώρα, το Facebook αναφέρει πως έχει βάλει σε λειτουργία ένα νέο σύστημα τεχνητής νοημοσύνης, το οποίο μπορεί να προσαρμοστεί σε νέους κανονισμούς και παραμέτρους, για να παρακολουθεί τη δραστηριότητα στο πιο δημοφιλές μέσο κοινωνικής δικτύωσης. Η εταιρεία αναφέρει πως προσαρμόζεται πιο γρήγορα σε νέες παραμέτρους, καθώς απαιτεί πολύ λιγότερα δεδομένα για εκπαίδευση. Το νέο αυτό σύστημα, το οποίο ονομάζεται Few-Shot Learner, καλύπτει περισσότερες από 100 γλώσσες και μπορεί και λειτουργεί ακόμη και με εικόνες, εκτός του κειμένου.
Το νέο σύστημα κάνει δυνατή την αυτοματοποίηση της επιβολής νέων κανόνων, μειώνοντας τον απαιτούμενο χρόνο από έξι μήνες σε περίπου έξι εβδομάδες. Το παράδειγμα που αναφέρουν οι υπεύθυνοι είναι ενός κανόνα ο οποίος εισήχθη τον Σεπτέμβριο και ο οποίος κόβει posts τα οποία αποθαρρύνουν τους χρήστες από τον εμβολιασμό κατά του Covid-19, ακόμη κι αν τα posts αυτά δεν ψεύδονται ευθέως. Επίσης, το Few-Shot Learner, το οποίο ξεκίνησε τη λειτουργία του το περασμένο έτος, έχει συμβάλλει στην καταγεγραμμένη μείωση σε posts ρητορικής μίσους (hate speech).
Προφανώς το νέο σύστημα δεν πρόκειται να λύσει όλα τα προβλήματα του Facebook, αλλά τουλάχιστον αποτελεί ένα βήμα προς τη σωστή κατεύθυνση.
Η ίδια η εταιρεία έχει δηλώσει προ πολλού πως ο μόνος τρόπος για να ελεγχθεί το δίκτυο είναι μέσω τεχνητής νοημοσύνης. Παρά τις συνεχείς προόδους στον τομέα αυτόν, όμως, ακόμη δεν υπάρχει σύστημα ικανό να κατανοήσει τα λεπτά σημεία της ανθρώπινης επικοινωνίας, τα οποία πολλές φορές κάνουν τη διαφορά ανάμεσα σε ένα αθώο και ένα προβληματικό μήνυμα ή post.
Το θετικό στην υπόθεση είναι το ότι το Facebook διαθέτει δισεκατομμύρια posts με τα οποία να «εκπαιδεύσει» τα συστήματα τεχνητής νοημοσύνης τα οποία αναπτύσσει: τα ίδια τα posts που ανεβαίνουν στο δικό του δίκτυο, και μάλιστα σε πάνω από 100 γλώσσες. Κι όμως, ενώ άλλα συστήματα χρειάζονται εκατοντάδες χιλιάδες ή και εκατομμύρια παραδείγματα, το Few-Shot Learner μπορεί να αρκεστεί σε μερικές δεκάδες – εξ ου και το few-shot στο όνομά του. Ακόμη, είναι σε θέση να κατευθυνθεί προς κατηγορίες περιεχομένου χωρίς κανένα παράδειγμα, απλώς δίνοντάς του μια γραπτή περιγραφή ενός κανόνα! Τα αποτελέσματα μπορεί να μην είναι τόσο καλά με αυτό τον τρόπο, όμως έτσι μπορεί να αρχίσει να εντοπίζει posts τα οποία θα χρησιμοποιήσει για να εκπαιδευτεί!
Το νέο σύστημα, βέβαια, έχει και τα μειονεκτήματά του. Αυτή η δυνατότητα να καταλάβει ένα νέο κανόνα απλά μέσω γραπτού κειμένου δεν είναι πλήρως κατανοητή στους ερευνητές. Ο Percy Liang, διευθυντής του κέντρου ερευνών του Stanford, αναφέρει πως «είναι περισσότερο τέχνη παρά επιστήμη». Επίσης θεωρεί πως η ταχύτητα του συστήματος μπορεί να έχει μειονεκτήματα, καθώς οι μηχανικοί θυσιάζουν ένα μέρος του ελέγχου και της γνώσης των δυνατοτήτων του συστήματος. «Είναι ένα μεγάλο άλμα βασισμένο στην πίστη. Με περισσότερο αυτοματισμό, έχεις λιγότερη δυνατότητα εποπτείας». Από την άλλη, οι υπεύθυνοι του Facebook δηλώνουν πως, καθώς η εταιρεία αναπτύσσει νέα συστήματα διαχείρισης, αναπτύσσει και νέες μεθόδους ελέγχου της απόδοσής τους σε ακρίβεια ή μεροληψία.