Είναι οι αλγόριθμοι πιο έξυπνοι από τους ανθρώπους;
Οι αλγόριθμοι είναι μια πεπερασμένη σειρά ενεργειών, αυστηρά καθορισμένων και εκτελέσιμων σε συγκεκριμένο χρόνο, οι οποίοι σαν στόχο έχουν την επίλυση ενός προβλήματος. Αποτελούν με άλλα λόγια μία σειρά από σαφείς εντολές και οδηγίες με αρχή, μέση και τέλος, στοχεύοντας στην λύση προβλημάτων και στην πραγματοποίηση ενεργειών, ενώ ακολουθούνται βήμα προς βήμα από τους υπολογιστές με στόχο τη βελτιστοποίηση και την απλοποίηση της διαδικασίας.
Τα social media, οι μηχανές αναζήτησης, οι εφαρμογές των έξυπνων κινητών, η τεχνητή νοημοσύνη, τα video games, οι ιστοσελίδες για ραντεβού ή βιβλία κ.α. είναι γεμάτα με αλγόριθμους και δεν θα μπορούσαν να υπάρχουν χωρίς αυτούς.
Ένα συνηθισμένο φαινόμενο που εμφανίζεται στις περιπτώσεις αυτές ονομάζεται filter bubble (φούσκα φίλτρου), όρος που επινοήθηκε από έναν ακτιβιστή του διαδικτύου. Το filter bubble είναι μια κατάσταση πνευματικής απομόνωσης που έχει προκύψει από εξατομικευμένες αναζητήσεις και προκύπτει όταν ένας αλγόριθμος ιστότοπου μαντεύει επιλεκτικά ποιες πληροφορίες θα ήθελε να δει ένας χρήστης βάσει πληροφοριών σχετικά με αυτόν, όπως η τοποθεσία, η προηγούμενη διαδικτυακή συμπεριφορά και το ιστορικό αναζήτησης.
Με αυτόν τον τρόπο οι χρήστες είναι δυνατόν να διαχωρίζονται σχετικά με πληροφορίες που διαφωνούν με τις απόψεις τους, απομονώνοντάς τους αποτελεσματικά στις δικές τους πολιτιστικές ή ιδεολογικές φυσαλίδες. Οι επιλογές αυτών των αλγορίθμων πολύ συχνά δεν είναι διαφανείς (google, facebook, αποτελέσματα προεδρικών εκλογών των Η.Π.Α. κ.α.), ενώ σύμφωνα με μια τελευταία μελέτη, οι κορυφαίοι πενήντα ιστότοποι στο διαδίκτυο, όπως το CNN, το Yahoo και το MSN, εγκαθιστούν κατά μέσο όρο 64 cookies με δεδομένα και προσωπικούς φάρους παρακολούθησης την ημέρα.
Σύγχρονο όμως φαινόμενο αποτελούν και οι πάνω από 2.000 διαδικτυακές εφαρμογές γνωριμιών που υπάρχουν σήμερα, καθώς η πανδημία αλλά και ο σύγχρονος ρυθμός ζωής εκτόξευσαν την επισκεψιμότητά τους.
Μαθηματικά μοντέλα και αλγόριθμοι τέτοιων εφαρμογών χρησιμοποιούν κυρίως τις τελευταίες στατιστικές μεθόδους που ανήκουν στον τομέα της επιχειρησιακής έρευνας και αξιοποιούνται ήδη σε επιχειρήσεις και σε χρηματοοικονομικά ή πιστωτικά ιδρύματα.
Τα λογισμικά αυτά αναλαμβάνουν να αξιολογήσουν ποιο τμήμα του πληθυσμού ταιριάζει με τις προτιμήσεις του καθενός ή της καθεμίας και ταυτόχρονα εμφανίζουν βαθμολογία για τον κάθε χρήστη, με παραμέτρους όπως: το πόσο επιλεκτικός ή δύσκολος είναι, ποια είναι τα χόμπι του, τι του αρέσει περισσότερο κ.λ.π. Συγχρόνως κατασκευάζουν γραφήματα που δίνουν τις πιθανότητες να βρουν τον έρωτα της ζωής τους μέσα στο επόμενο χρονικό διάστημα.
Το ερώτημα που τίθεται στην περίπτωση αυτή είναι απλό: μπορούν οι αλγόριθμοι να βάλουν σε λίστες τον ψυχισμό, τα θέλω και τις σημαντικές αξίες, υπολογίζοντας το πόσο ελκυστικός είναι ο κάθε άνθρωπος στα μάτια μας;
Μια απάντηση είναι ότι τα μαθηματικά αυτά μοντέλα βασίζονται στην ιδανική συμβατότητα και στην ικανοποίηση όλων των παραμέτρων που έβαλε κάποιος για τον ιδανικό σύντροφο, με αποτέλεσμα, μετά από έρευνες που έχουν γίνει, ο αριθμός των διαζυγίων να είναι κατά πολύ μικρότερος σε γάμους που έχουν προέλθει από διαδικτυακές γνωριμίες, παρά από έρωτα.
Υπάρχει, όπως πάντα, και η άλλη όψη του νομίσματος που υποστηρίζει ότι η ουσία μιας σχέσης δεν βρίσκεται στην απόλυτη συμβατότητα, αλλά σε άλλους μικρούς και απρόβλεπτους παράγοντες.
Μπορεί όμως ένας αλγόριθμος να κάνει λάθος; Η απάντηση είναι σίγουρα ναι!
Η τροφοδότηση των αλγορίθμων με μη αντιπροσωπευτικά δεδομένα σε συνδυασμό με λάθη στον σχεδιασμό τους (και για τα δύο υπεύθυνοι είναι οι άνθρωποι) μπορούν να δώσουν σφάλματα, ολέθρια πολλές φορές, αφού οι αλγόριθμοι δεν κάνουν τίποτα άλλο από το να αντανακλούν τα λάθη και τις προκαταλήψεις της κοινωνίας.
Ας δούμε τρία χαρακτηριστικά παραδείγματα:
1) Τον Νοέμβριο του 2019 ένας γνωστός δημιουργός λογισμικού από τη Δανία, στράφηκε κατά της Apple Card γράφοντας τα εξής:
«Η Apple Card είναι ένα σεξιστικό πρόγραμμα. Εγώ και η γυναίκα μου έχουμε κοινή φορολογική δήλωση και είμαστε παντρεμένοι εδώ και πολύ καιρό. Όμως, ο αλγόριθμος της Apple θεωρεί ότι εγώ αξίζω κατά 20 φορές περισσότερο το πιστωτικό όριο σε σύγκριση με τη γυναίκα μου».
Αυτή η υποψία στη συνέχεια επιβεβαιώθηκε και από άλλους χρήστες. Το τμήμα οικονομικών υπηρεσιών της Νέας Υόρκης διεξήγαγε έρευνα, με την Apple να κατηγορεί την Goldman Sachs που είναι υπεύθυνη για τη διαχείριση , ενώ η τράπεζα επενδύσεων απέδωσε ευθύνες σε έναν αλγόριθμο.
Το πρόβλημα με τον παραπάνω αλγόριθμο είναι ότι έχει δημιουργηθεί με παλαιότερα δεδομένα τα οποία δεν είχαν επικαιροποιηθεί με τις σύγχρονες κοινωνικές αλλαγές.
«Αν πρέπει να μεγιστοποιήσεις τον βαθμό αξιοπιστίας και να κοιτάξεις τα ιστορικά δεδομένα, τότε ιστορικά οι άνδρες έβγαζαν πάντα περισσότερα χρήματα από τις γυναίκες», εξηγεί η συγγραφέας του βιβλίου «Artificial Unintelligence: How Computers Misunderstand the World».
2) Παρόμοια ήταν και μια παλιότερη περίπτωση με έναν αλγόριθμο της Amazon, ο οποίος έκανε διακρίσεις σε άτομα με βάση τα βιογραφικά που έστελναν. Το πρόγραμμα βασιζόταν σε δεδομένα ανθρώπων από την τελευταία δεκαετία και επειδή οι περισσότεροι ήταν άνδρες, οι γυναίκες αυτόματα απορρίπτονταν.
Τέτοια παραδείγματα υπάρχουν πολλά ακόμα. Ας δούμε όμως και ένα που έχει εκπαιδευτικό ενδιαφέρον.
3) Στο Ηνωμένο Βασίλειο, οι εξετάσεις της περασμένης χρονιάς που καθορίζουν τη βαθμολογία βάσει της οποίας γίνεται η εισαγωγή των μαθητών στην τριτοβάθμια εκπαίδευση ακυρώθηκαν λόγω covid-19.
Οι μαθητές επρόκειτο να βαθμολογηθούν μέσω της χρήσης ενός αλγόριθμου, ο οποίος για να καταλήξει στην τελική βαθμολογία εισαγωγής θα συνυπολόγιζε μεταξύ άλλων τα αποτελέσματα των τεστ των μαθητών μέσα στη χρονιά, τα αποτελέσματα των δοκιμαστικών εξετάσεων και τις βαθμολογικές προτάσεις των εκπαιδευτικών τους.
Τα αποτελέσματα όμως που δημοσιεύθηκαν δεν ήταν τα αναμενόμενα, δημιουργώντας μεγάλη αναταραχή στην εκπαιδευτική κοινότητα, καθώς σε ποσοστό περίπου 40% οι μαθητές είδαν τη βαθμολογία τους να μειώνεται κατά έναν ή δύο βαθμούς περισσότερο από το αναμενόμενο, γκρεμίζοντας κάθε σκέψη για την εισαγωγή τους στα μεγάλα πανεπιστήμια.
Όπως φαίνεται, ο αλγόριθμος εμπεριείχε και “ταξικά” χαρακτηριστικά στον σχεδιασμό του, καθώς η πλειοψηφία των μαθητών που είδαν τις βαθμολογίες τους να μειώνονται, ανήκαν σε δημόσια σχολεία φτωχών περιοχών, ενώ αντίθετα τα ιδιωτικά σχολεία της χώρας είδαν τους βαθμούς των μαθητών τους να αυξάνονται οριακά σε σχέση με την περσινή βαθμολογία.
Το θέμα των διακρίσεων και της διασφάλισης της ιδιωτικής μας ζωής έχει επίσης απασχολήσει πολλούς οργανισμούς σήμερα σε όλο τον κόσμο. Πρόσφατα από το Ευρωκοινοβούλιο ζητήθηκαν ισχυρές δικλείδες ασφαλείας για τη χρήση της τεχνητής νοημοσύνης από τις αρχές ασφαλείας, επισημαίνοντας τον κίνδυνο αλγοριθμικής μεροληψίας.
Στην έκθεση που δημοσιεύτηκε τονίστηκε ιδιαίτερα ότι απαιτείται ανθρώπινη εποπτεία αλλά και ισχυρές νομοθετικές ρυθμίσεις για την πρόληψη των διακρίσεων που μπορεί να προκληθούν από την χρήση της τεχνητής νοημοσύνης, ιδίως στο πλαίσιο της επιβολής του νόμου και της διέλευσης συνόρων, καθώς τα συστήματα ταυτοποίησης που βασίζονται στην τεχνητή νοημοσύνη έχουν ήδη αναγνωρίσει εσφαλμένα μειονοτικές εθνοτικές ομάδες, ηλικιωμένους και γυναίκες με μεγαλύτερη συχνότητα, γεγονός που προκαλεί ανησυχία ειδικά σε ό,τι αφορά την επιβολή του νόμου και τη δικαιοσύνη.
Για τον σεβασμό της ιδιωτικής ζωής και της ανθρώπινης αξιοπρέπειας, οι ευρωβουλευτές ζήτησαν την καθολική απαγόρευση της αυτοματοποιημένης αναγνώρισης ατόμων σε δημόσιους χώρους, επισημαίνοντας ότι οι πολίτες θα πρέπει να παρακολουθούνται μόνο όταν είναι ύποπτοι για κάποιο έγκλημα.
“Ο αλγόριθμος είναι ο νέος Μεγάλος Αδελφός” λέει χαρακτηριστικά ο Κωνσταντίνος Δασκαλάκης, ενισχύοντας το μεγάλο μελλοντικό δίλημμα, στον έρωτα, στις σχέσεις, αλλά και γενικότερα σε όλη την καθημερινότητά μας: απίστευτες λύσεις των αλγορίθμων σε πολλά προβλήματα ή εξομοίωση των ανθρώπων με τις μηχανές και αποδέσμευση του νου από τις μηχανικές διεργασίες;
Δεν έχουμε παρά να περιμένουμε μερικά χρόνια ακόμα, καθώς το 2045 θεωρείται ως η χρονιά που προβλέπεται να γίνει πραγματικότητα το singularity, το πέρασμα δηλαδή στο επόμενο στάδιο της ανθρώπινης εξέλιξης, με την τεχνητή νοημοσύνη να ξεπερνάει την ανθρώπινη.
Θανάσης Κοπάδης
Μαθηματικός E.P.S. – Συγγραφέας