Η Αλγοριθμική Μεροληψία- Γράφει ο Παύλος Παπαδόπουλος
Τι είναι λοιπόν η Αλγοριθμική Μεροληψία; Πρόκειται για την ενσωμάτωση μιας τάσης διακρίσεων με βάση την εθνοτική καταγωγή, το φύλλο ή άλλους παράγοντες όπως οι θέσεις και οι αιτήσεις εργασίας, τα τραπεζικά δάνεια κλπ.
Η βασική αιτία της Αλγοριθμικής Μεροληψίας είναι φυσικά η ανθρώπινη μεροληψία στα δεδομένα. Έτσι για παράδειγμα σε εργαλεία φιλτραρίσματος για θέσεις εργασίας η Τ.Ν. εκπαιδεύεται με αποφάσεις που λαμβάνουν άνθρωποι και έτσι ο αλγόριθμος μηχανικής μάθησης μπορεί άνετα να μάθει να κάνει διακρίσεις κατά γυναικών ή ατόμων, με βάση την εθνοτική καταγωγή. Πρόκειται για ένα πραγματικό φαινόμενο, το οποίο επηρεάζει ήδη στις μέρες μας τις ανθρώπινες κοινωνίες.
Πάρτε για παράδειγμα τη διαφήμιση διαδικτυακής εργασίας στην Google, όπου τείνουν να παρουσιάζουν χαμηλότερα αμειβόμενες θέσεις στις γυναίκες σε σχέση με τους άντρες . Άλλο παράδειγμα η αναζήτηση εργασίας με χρήση ενός ονόματος που μοιάζει για αφροαμερικάνικο, να έχει ως αποτύπωμα παρουσίαση διαφήμισης εργαλείου πρόσβασης σε ποινικό μητρώο. Οι συστάσεις που περιλαμβάνονται σε κοινωνικά δίκτυα βασίζονται ως γνωστόν σε κλικ χρηστών, και ευκολότατα μπορούν να έχουν ως συνέπεια τη μεγέθυνση υφιστάμενων μεροληψιών, αλλά ακόμη και ανάγκες αρχικά πολύ περιορισμένες. Έτσι λοιπόν, μπορούμε να αναζητήσουμε το γυναικείο όνομα Andrea και η πλατφόρμα π.χ. LinkedIn να ρωτά μήπως εννοούμε το όνομα Andrew! Αν δηλαδή το όνομα Andrew περισσότερα κλικ θα προωθηθεί ακόμη περισσότερο!
Η έλλειψη διαφάνειας.
Οι αλγόριθμοι και τα δεδομένα αποτελούν εμπορικά μυστικά και οι εταιρείες δεν είναι πιθανό να επιτρέπουν τον έλεγχο στο ευρύ κοινό. Αλλά ακόμη και αν το επέτρεπαν, θα ήταν δύσκολο να εντοπιστεί το τμήμα του αλγόριθμου ή τα στοιχεία των δεδομένων οπυ δημιουργούν διακρίσεις.
Σημαντικό βήμα προς την κατεύθυνση διαφάνειας είναι ο Ευρωπαϊκός Γενικός Κανονισμός για την Προστασία Δεδομένων (Γ.Κ.Π.Δ.), ο οποίος απαιτείται από επιχειρήσεις της Ε.Ε. που έχουν Ευρωπαίους πελάτες. Έτσι λοιπόν οφείλουν να αποκαλύπτουν, κατόπιν σχετικού αιτήματος, τα δεδομένα που έχουν συλλέξει σχετικά με οποιοδήποτε άτομο (δικαίωμα πρόσβασης) Επιπλέον, να διαγράφουν τυχόν τέτοιου είδους δεδομένα τα οποία δεν απαιτείται να τηρούν μαζί με άλλες υποχρεώσεις, κατόπιν σχετικού αιτήματος (δικαίωμα στη λήθη), αλλά και να παρέχουν επεξηγήσεις σχετικά με την επεξεργασία δεδομένων που υφίστανται τα δεδομένα του πελάτη (δικαίωμα στην παροχή διευκρινήσεων).
Για παράδειγμα, Google και Facebook έχουν πλέον υποχρέωση να παρέχουν εξηγήσεις σχετικά με τη διαδικασία λήψης αποφάσεων και ο Γ.Κ.Π.Δ. έχει τη δυναμική να βελτιώσει τη διαφάνεια των τεχνολογιών Τ.Ν.
Ας δούμε όμως τώρα ένα άλλο θέμα. Είμαστε φυσικά συνηθισμένοι να πιστεύουμε αυτό που βλέπουμε. Όταν παρακολουθούμε έναν ηγέτη στην τηλεόραση να δηλώνει ότι η χώρα του θα εμπλακεί σε εμπορικό πόλεμο με μια άλλη χώρα ή όταν ένας γνωστός εκπρόσωπος μιας εταιρείας ανακοινώνει μια σημαντική επιχειρηματική απόφαση, τείνουμε να τον εμπιστευόμαστε περισσότερο από ό,τι θα εμπιστευόμασταν την ίδια δήλωση εάν τη διαβάζαμε από δεύτερο χέρι στις ειδήσεις, γραμμένη από κάποιον άλλο.
Παρομοίως, όταν βλέπουμε φωτογραφικά τεκμήρια από έναν τόπο εγκλήματος ή από την επίδειξη μιας νέας τεχνολογικής συσκευής, αποδίδουμε περισσότερο βάρος στα τεκμήρια από ό,τι στην γραπτή έκθεση στην οποία παρέχονται διευκρινίσεις σχετικά με το πώς έχει η κατάσταση.
Φυσικά, έχουμε επίγνωση της δυνατότητας κατασκευής ψευδών τεκμηρίων. Άνθρωποι μπορούν να τοποθετηθούν σε τόπους που δεν επισκέφτηκαν ποτέ, με ανθρώπους που δεν συνάντησαν ποτέ, με την επεξεργασία εικόνας. Επίσης, είναι δυνατόν να τροποποιηθεί η όψη των πραγμάτων διά της απλής προσαρμογής του φωτισμού ή μέσω της αφαίρεσης πάχους από το στομάχι με χρήση φθηνών τεχνικών επεξεργασίας εικόνων τύπου «πριν-μετά» με σκοπό τη διαφήμιση του τελευταίου χαπιού διαίτης.
Με την ΤΝ, είναι τρομακτικό ότι οι δυνατότητες πλαστογράφησης τεκμηρίων αλλάζουν εντελώς επίπεδο: Το Face2Face επί παραδείγματι είναι ένα σύστημα ικανό να αναγνωρίζει τις εκφράσεις του προσώπου ενός ατόμου και να τις εφαρμόζει στο πρόσωπο ενός άλλου ατόμου σε ένα βίντεο στο Youtube. Το Lyrebird είναι ένα εργαλείο αυτόματης μίμησης της φωνής ενός ατόμου μετά από μερικά λεπτά δειγματοληπτικής ηχογράφησης. Παρότι ο παραγόμενος ήχος εξακολουθεί να έχει σε σημαντικό βαθμό τη χροιά της φωνής ενός ρομπότ. Η εφαρμογή είναι εντυπωσιακή!
Επίπτωση 3: Αλλαγή της έννοιας της ιδιωτικότητας
Είναι εδώ και πολύ καιρό γνωστό ότι οι τεχνολογικές επιχειρήσεις συλλέγουν πολλές πληροφορίες σχετικά με τους χρήστες τους. Παλαιότερα, ήταν κυρίως τα σουπερμάρκετ και άλλα καταστήματα λιανικής που συνέλεγαν δεδομένα σχετικά με τις αγορές, προσφέροντας στους πελάτες τους «κάρτες προνομίων» που επιτρέπουν στο κατάστημα να συσχετίζει τις αγορές με μεμονωμένους πελάτες.
Άνευ προηγουμένου ακρίβεια δεδομένων
Η ακρίβεια των δεδομένων που συλλέγουν τεχνολογικές επιχειρήσεις όπως το Facebook, η Google, η Amazon και πολλές άλλες απέχει πολύ από την ακρίβεια των δεδομένων για τις αγορές που συλλέγουν τα συμβατικά καταστήματα: καταρχήν, είναι εφικτή η καταγραφή κάθε κλικ, κάθε κίνησης κύλισης στην ιστοσελίδα, καθώς και του χρόνου που δαπανάτε για την προβολή οποιουδήποτε περιεχομένου. Οι ιστότοποι μπορούν να αποκτήσουν πρόσβαση
Αλλαγές στην εργασία
Όταν ένας από τους πρώτους ανθρώπους έμαθε να χρησιμοποιεί μια αιχμηρή πέτρα για να σπάει κόκαλα νεκρών ζώων προκειμένου να αποκτήσει πρόσβαση σε μια νέα πηγή διατροφής, απελευθερώθηκε χρόνος και ενέργεια για άλλους σκοπούς όπως η πάλη, η αναζήτηση συντρόφου, και η πραγματοποίηση περισσότερων εφευρέσεων.
Με την εφεύρεση της ατμομηχανής την πρώτη δεκαετία του 18ου αιώνα αξιοποιήθηκε μια εύκολα μεταφερόμενη μορφή μηχανικής ισχύος που βελτίωσε σε σημαντικό βαθμό την αποδοτικότητα των εργοστασίων καθώς και των πλοίων και των τρένων. Η αυτοματοποίηση υπήρξε πάντοτε ένας δρόμος προς την αποδοτικότητα: αύξηση της απόδοσης με λιγότερα μέσα. Ιδίως στα μέσα του 20ου αιώνα, η τεχνολογική εξέλιξη οδήγησε σε μια περίοδο προόδου άνευ προηγουμένου όσον αφορά την αυτοματοποίηση. Η ΤΝ αποτελεί συνέχεια αυτής της προόδου.
Κάθε βήμα προς την κατεύθυνση της βελτίωσης της αυτοματοποίησης μεταβάλλει την εργασιακή ζωή. Με την αιχμηρή πέτρα, μειώθηκε η ανάγκη για κυνήγι και συλλογή τροφής· με την ατμομηχανή, μειώθηκε η ανάγκη για τη χρήση αλόγων και ιππέων· με τον υπολογιστή, μειώθηκε η ανάγκη για δακτυλογράφους, μη αυτόματη λογιστική, και πολλές άλλες μορφές επεξεργασίας δεδομένων (και, προφανώς, αυξήθηκε η ανάγκη παρακολούθησης βίντεο με γάτες). Με την ΤΝ και τη ρομποτική, η ανάγκη για πολλά είδη πληκτικής, επαναληπτικής εργασίας μειώνεται ακόμη περισσότερο.
Η ιστορία της ανακάλυψης νέων ενασχολήσεων
Κατά το παρελθόν, κάθε φορά που ένα είδος εργασίας αυτοματοποιούνταν, οι άνθρωποι έβρισκαν κάτι άλλο για να το αντικαταστήσουν. Τα νέα είδη εργασίας είναι λιγότερο επαναληπτικά και ανιαρά, και περισσότερο ποικιλόμορφα και δημιουργικά. Το ζήτημα με τους τρέχοντες ρυθμούς προόδου της ΤΝ και άλλων τεχνολογιών είναι ότι στη διάρκεια της σταδιοδρομίας ενός ατόμου, η ανάγκη αλλαγής της εργασιακής ζωής μπορεί να είναι μεγαλύτερη από ποτέ.
Είναι πιθανό ορισμένες εργασίες όπως η οδήγηση φορτηγού ή ταξί να εκλείψουν μέσα σε διάστημα μερικών ετών. Αυτού του είδους η απότομη αλλαγή μπορεί να οδηγήσει σε μαζική ανεργία, καθώς οι άνθρωποι δεν έχουν τον χρόνο να εκπαιδευτούν σε άλλα είδη εργασίας. Η σημαντικότερη προληπτική δράση για την αποφυγή τεράστιων κοινωνικών προβλημάτων είναι να βοηθήσουμε τους νέους να αποκτούν εκπαίδευση σε ένα ευρύ φάσμα αντικειμένων. Κατ’ αυτόν τον τρόπο, θα διασφαλίζεται η ύπαρξη μιας βάσης για τη δραστηριοποίηση σε πολλές διαφορετικές εργασίες, η οποία δεν θα κινδυνεύει ιδιαίτερα να καταστεί παρωχημένη στο εγγύς μέλλον. Εξίσου σημαντική είναι η υποστήριξη της διά βίου μάθησης και της εκμάθησης στην εργασία, διότι λίγοι από εμάς θα κάνουν την ίδια εργασία σε όλη τη διάρκεια της σταδιοδρομίας τους. Η περικοπή των ωρών εργασίας ανά εβδομάδα θα συμβάλει στη δημιουργία θέσεων εργασίας για περισσότερους ανθρώπους, αλλά οι νόμοι της οικονομίας τείνουν να ωθούν τους ανθρώπους να εργάζονται περισσότερο και όχι λιγότερο, εκτός εάν θεσπιστούν μέτρα υπέρ του δημοσίου συμφέροντος με σκοπό τη ρύθμιση των ωρών εργασίας.
Οι κοινωνικές επιπτώσεις της ΤΝ και της έκτασης των εν λόγω εξελίξεων είναι εξαιρετικά δυσχερής. Έχουν πραγματοποιηθεί ορισμένες εκτιμήσεις σχετικά με την έκταση της αυτοματοποίησης της εργασίας, βάσει των οποίων προβλέπεται ότι κινδυνεύει να χαθεί έως το 47% των θέσεων εργασίας στις ΗΠΑ, σύμφωνα με ερευνητές του πανεπιστημίου της Οξφόρδης. Οι ακριβείς αριθμοί όπως οι συγκεκριμένοι – 47% και όχι 45% ή 49% –, ο πολύπλοκος στο άκουσμα σχεδιασμός των εν λόγω μελετών που χρησιμοποιήθηκαν για τον υπολογισμό τους, καθώς και τα κορυφαία πανεπιστήμια που τους αναφέρουν τείνουν να δίνουν την εντύπωση ότι οι εκτιμήσεις είναι πολύ ακριβείς και αξιόπιστες (υπενθυμίζεται το σημείο σχετικά με την εκτίμηση του προσδόκιμου ζωής με χρήση γραμμικού μοντέλου βάσει περιορισμένου όγκου δεδομένων).
Η ψευδαίσθηση της επίτευξης ακρίβειας ενός εκατοστού αποτελεί πλάνη. Ο παραπάνω αριθμός, για παράδειγμα, βασίζεται στην εξέταση μεγάλου αριθμού περιγραφών θέσεων εργασίας –όπως όταν γλύφουμε την άκρη του δακτύλου μας και προσπαθούμε να καταλάβουμε την κατεύθυνση του ανέμου – και στη χρήση υποκειμενικών κριτηρίων για να αποφασίσουμε ποιες εργασίες είναι πιθανό να αυτοματοποιηθούν. Είναι κατανοητό ότι οι άνθρωποι δεν μπαίνουν στον κόπο να διαβάσουν μια έκθεση 79 σελίδων στην οποία περιλαμβάνονται φράσεις όπως «το μοντέλο εργασιών προϋποθέτει όσον αφορά την προσπελασιμότητα συναθροιστική συνάρτηση παραγωγής Cobb-Douglas σταθερών αποδόσεων κλίμακας» .Ωστόσο, εάν δεν διαβάζετε αυτές τις εκθέσεις, θα πρέπει να διατηρήσετε τον σκεπτικισμό σας και για τα αποτελέσματά τους. Η πραγματική αξία της ανάλυσης αυτού του είδους είναι ότι υποδεικνύει ποια είδη εργασιών είναι πιο πιθανό να κινδυνεύουν, και όχι οι πραγματικοί αριθμοί όπως το 47%. Η τραγωδία είναι ότι πως αυτό μένει είναι οι τίτλοι των μέσων ενημέρωσης που αναφέρουν ότι «σχεδόν οι μισές θέσεις εργασίας στις ΗΠΑ κινδυνεύουν από την εισβολή των υπολογιστών».
Ποιες είναι λοιπόν οι εργασίες που είναι πιθανότερο να αυτοματοποιηθούν; Σχετικά με αυτό, υπάρχουν ορισμένα ξεκάθαρα σημάδια που μπορούμε να παρατηρήσουμε ήδη:
Οι αυτόνομες λύσεις ρομποτικής όπως τα αυτό-οδηγούμενα οχήματα, περιλαμβανομένων των αυτοκινήτων, των μη επανδρωμένων αεροσκαφών και των σκαφών ή των φέριμποτ), είναι σχεδόν έτοιμες για εφαρμογή σε εμπορικούς τομείς σε μεγάλη κλίμακα. Η ασφάλεια των αυτόνομων αυτοκινήτων είναι δύσκολο να εκτιμηθεί, αλλά τα στατιστικά στοιχεία υποδεικνύουν ότι δεν έχει ακόμη φθάσει στα απαιτούμενα επίπεδα (το επίπεδο ενός μέσου ανθρώπου οδηγού). Ωστόσο, η πρόοδος είναι απίστευτα γρήγορη και επιταχύνεται λόγω του αυξανόμενου όγκου των διαθέσιμων δεδομένων.
Οι εφαρμογές εξυπηρέτησης πελατών όπως τα γραφεία υποστήριξης χρηστών μπορούν να αυτοματοποιηθούν κατά τρόπο ιδιαίτερα αποδοτικό οικονομικά. Επί του παρόντος, η ποιότητα της εξυπηρέτησης δεν είναι πάντοτε άριστη, καθώς υπάρχουν τα προβλήματα της επεξεργασίας της γλώσσας (το σύστημα δεν είναι σε θέση να αναγνωρίσει ομιλούμενη γλώσσα ή να αναλύσει τη γραμματική) και της λογικής και της συλλογιστικής διαδικασίας που απαιτούνται για την παροχή της υπηρεσίας. Ωστόσο, συνεχώς αναφύονται λειτουργικές εφαρμογές σε περιορισμένους τομείς (όπως οι κρατήσεις σε εστιατόρια ή κομμωτήρια).
Πρώτον, είναι δύσκολο να πούμε πόσο σύντομα θα διαθέτουμε ασφαλή και αξιόπιστα αυτό-οδηγούμενα αυτοκίνητα και άλλες λύσεις που μπορούν να αντικαταστήσουν την εργασία του ανθρώπου. Πέραν τούτου, δεν πρέπει να ξεχνούμε ότι ένας οδηγός φορτηγού ή ταξί δεν χειρίζεται απλώς το τιμόνι: είναι επίσης υπεύθυνος για την ορθή λειτουργία του οχήματος, χειρίζεται προϊόντα και διαπραγματεύεται με τους πελάτες, διασφαλίζει την ασφάλεια του φορτίου και των επιβατών και μεριμνά για τη διεκπεραίωση πολλών άλλων εργασιών που μπορεί να είναι πολύ δυσκολότερο να αυτοματοποιηθούν σε σχέση με την οδήγηση καθαυτή.
Όπως συνέβη και με προηγούμενες τεχνολογικές προόδους, η ΤΝ θα δημιουργήσει επίσης νέα είδη εργασίας. Είναι πιθανό στο μέλλον ένα μεγαλύτερο μέρος του εργατικού δυναμικού να επικεντρωθεί στην έρευνα και την ανάπτυξη, καθώς και σε εργασίες που απαιτούν δημιουργικότητα και αλληλεπίδραση μεταξύ ανθρώπων.
-Ο Παύλος Παπαδόπουλος γεννήθηκε το 1978 στη Δράμα, μεγάλωσε στις Σέρρες και έζησε στην Αθήνα και τη Θεσσαλονίκη. Από το 1996 εργάζεται στο δημόσιο σε διάφορες διοικητικές θέσεις. Είναι απόφοιτος της Σχολής Αξιωματικών της Ελληνικής Αστυνομίας, της Σχολής Αστυφυλάκων της Αστυνομικής Ακαδημίας, της Σχολής Επιμόρφωσης και μετεκπαίδευσης ΕΛ.ΑΣ., και της Σχολής Ελληνικού Πολιτισμού, του Τμήματος Ανθρωπιστικών. Σπουδών του Ελληνικού Ανοικτού Πανεπιστημίου. Μιλάει Αγγλικά και Γερμανικά.
