Οι μεγάλες βάσεις δεδομένων συναντούν τον Μεγάλο Αδελφό, καθώς η Κίνα κινείται για να αξιολογήσει τους πολίτες της

Η κινεζική κυβέρνηση σχεδιάζει να ξεκινήσει το Σύστημα Κοινωνικών Πιστώσεων το 2020. Ο στόχος; Για να κρίνει την αξιοπιστία - ή αλλιώς - των 1.3 δισεκατομμυρίων κατοίκων της απο το   http://www.wired.co.uk/article/chinese-government-social-credit-score-privacy-invasion

Στις 14 Ιούνη του 2014, το Συμβούλιο της Επικρατείας της Κίνας δημοσίευσε ένα δυσοίωνου ακούσματος έγγραφο με τίτλο «Περίγραμμα Σχεδιασμού για την κατασκευή ενός Συστήματος Κοινωνικής Πίστωσης».Με τον τρόπο των κινεζικών πολιτικών εγγράφων, ήταν μια μακρά και μάλλον ξηρή υπόθεση, αλλά περιείχε μια ριζοσπαστική ιδέα.Τι θα συνέβαινε αν υπήρχε μια εθνική βαθμολογία εμπιστοσύνης που θα αξιολογούσε το είδος του πολίτη που ήσασταν;

Φανταστείτε έναν κόσμο όπου πολλές από τις καθημερινές σας δραστηριότητες παρακολουθούνταν συνεχώς και αξιολογούνται: αυτό που αγοράζετε στα καταστήματα και στο διαδίκτυο.όπου είστε ανά πάσα στιγμή.ποιοι είναι οι φίλοι σας και πώς αλληλεπιδράτε μαζί τους.πόσες ώρες περνάτε παρακολουθώντας περιεχόμενο ή παίζοντας βιντεοπαιχνίδια.και τι λογαριασμούς και φόρους πληρώνετε (ή όχι).Δεν είναι δύσκολο να το φανταστεί κανείς, επειδή τα περισσότερα από αυτά συμβαίνουν ήδη, χάρη σε όσους συλλέγουν δεδομένα όπως το Google, το Facebook και το Instagram ή εφαρμογές παρακολούθησης της υγείας όπως το Fitbit.Τώρα όμως φανταστείτε ένα σύστημα όπου όλες αυτές οι συμπεριφορές αξιολογούνται είτε ως θετικές είτε ως αρνητικές και αποσταγμένες σε έναν μόνο αριθμό, σύμφωνα με τους κανόνες που ορίζει η κυβέρνηση.Αυτό θα δημιούργησε το δείκτη του πολίτη και θα έλεγε σε όλους αν είστε ή όχι αξιόπιστοι.Συν η κατάταξή σας θα κατατάσσεται δημοσίως σε σχέση με αυτή του συνόλου του πληθυσμού και θα χρησιμοποιείται για να καθορίσετε την επιλεξιμότητά σας για υποθήκη ή εργασία, το που τα παιδιά σας μπορούν να πάνε σχολείο - ή ακόμα και μόνο τις πιθανότητές σας να λάβετε μια ημερομηνία.

Ένα φουτουριστικό όραμα του Big Brother εκτός ελέγχου;Όχι, έχει ήδη ξεκινήσει στην Κίνα, όπου η κυβέρνηση αναπτύσσει το Σύστημα Κοινωνικών Πιστώσεων (SCS) για να αξιολογήσει την αξιοπιστία των 1.3 δισεκατομμυρίων πολιτών της.Η κινεζική κυβέρνηση θέτει το σύστημα ως έναν επιθυμητό τρόπο μέτρησης και ενίσχυσης της «εμπιστοσύνης» σε εθνικό επίπεδο και για την οικοδόμηση μιας κουλτούρας «ειλικρίνειας».Όπως τα αστυνομικά κράτη, "Θα δημιουργήσει ένα περιβάλλον κοινής γνώμης, όπου η διατήρηση της εμπιστοσύνης θα αποτελεί θρίαμβο. Θα ενισχύσει την ειλικρίνεια στις κυβερνητικές υποθέσεις, την εμπορική ειλικρίνεια, την κοινωνική ειλικρίνεια και την οικοδόμηση της δικαστικής αξιοπιστίας".

Άλλοι είναι λιγότερο αυστηροί για τον ευρύτερο σκοπό της."Είναι πολύ φιλόδοξο τόσο στο βάθος όσο και στο πεδίο εφαρμογής, συμπεριλαμβανομένης της διερεύνησης της ατομικής συμπεριφοράς και των βιβλίων που διαβάζουν οι άνθρωποι. Είναι η παρακολούθηση των καταναλωτών από το Amazon με πολιτική Οργουελινής συστροφής", εξηγεί ο Johan Lagerkvist, ένας κινεζικός ειδικός στο διαδίκτυο στο Σουηδικό Ινστιτούτο Διεθνών Υποθέσεων, περιγράφοντας το σύστημα κοινωνικών πιστώσεων.Ο Rogier Creemers, ένας μεταδιδακτορικός μελετητής που ειδικεύεται στην κινεζική νομοθεσία και διακυβέρνηση στο Ινστιτούτο Van Vollenhoven του Πανεπιστημίου του Leiden, δημοσίευσε μια ολοκληρωμένη μετάφραση του σχεδίου, σε σύγκριση με τα σχόλια "Yelp: ανασκόπηση με το κράτος να σας παρακολουθεί πίσω από τον ώμο σας".

Προς το παρόν, τεχνικά, η συμμετοχή στις βαθμολογίες των πολιτών της Κίνας είναι εθελοντική.Αλλά μέχρι το 2020 θα είναι υποχρεωτική.Η συμπεριφορά κάθε πολίτη και νομικού προσώπου (που περιλαμβάνει κάθε εταιρεία ή άλλη οντότητα) στην Κίνα θα αξιολογηθεί και θα ταξινομηθεί, είτε του αρέσει είτε όχι.

Σε συνέχεια της εθνικής της ανάπτυξης το 2020, η κινεζικήκυβέρνηση ακολουθεί μια προσέγγιση παρακολούθησης και μάθησης.Σε αυτό το γάμο μεταξύ της κομμουνιστικής εποπτείας και του καπιταλιστικού can-do, η κυβέρνηση έχει δώσει άδεια σε οκτώ ιδιωτικές εταιρείες να βρουν συστήματα και αλγόριθμους για τα αποτελέσματα της κοινωνικής πίστωσης.Προβλεπόμενα, οι γίγαντες δεδομένων τρέχουν σήμερα δύο από τα πιο γνωστά έργα.

Το πρώτο είναι με την China Rapid Finance, σε συνεργασία με την Tencent της κοινωνικής δικτύωσης και του προγραμματιστή της υπηρεσίας ανταλλαγής μηνυμάτωνWeChatμε περισσότερους από 850 εκατομμύρια ενεργούς χρήστες.Το άλλο, το Sesame Credit, διευθύνεται από την Ant Financial Services Group (AFSG), θυγατρική εταιρεία του Alibaba.Η Ant Financial πωλεί ασφαλιστικά προϊόντα και παρέχει δάνεια σε μικρές και μεσαίες επιχειρήσεις.Ωστόσο, το πραγματικό αστέρι του Ant είναι το AliPay, το σκέλος πληρωμών του που οι άνθρωποι χρησιμοποιούν όχι μόνο για να αγοράσουν τα πράγματα online, αλλά και για εστιατόρια, ταξί, σχολικά τέλη, εισιτήρια κινηματογράφου και ακόμη και να μεταφέρουν χρήματα ο ένας στον άλλο.

Η Sesame Credit συνεργάστηκε επίσης με άλλες πλατφόρμες δημιουργίας δεδομένων, όπως η Didi Chuxing, η κορυφαία εταιρεία ανταγωνισμού της Uber στην Κίνα προτού αποκτήσει τις κινεζικές επιχειρήσεις της αμερικανικής εταιρείας το 2016 και η Baihe, τη μεγαλύτερη σε απευθείας σύνδεση υπηρεσία αγώνων της χώρας .Δεν είναι δύσκολο να δούμε πώς όλα αυτά προστίθενται σε τρομακτικές ποσότητες μεγάλων δεδομένων που μπορεί να αξιοποιήσει το Sesame Credit για να εκτιμήσει τον τρόπο συμπεριφοράς των ανθρώπων και να τους αξιολογήσει αναλόγως.

Έτσι, πώς αξιολογούνται οι άνθρωποι;Τα άτομα στην Sesame Credit μετρούνται με βαθμολογία που κυμαίνεται μεταξύ 350 και 950 μονάδων.Το Alibaba δεν αποκαλύπτει τον "σύνθετο αλγόριθμο" που χρησιμοποιεί για τον υπολογισμό του αριθμού, αλλά αποκαλύπτουν τους πέντε παράγοντες που λαμβάνονται υπόψη.Το πρώτο είναι το πιστωτικό ιστορικό.Για παράδειγμα, αν ο πολίτης πληρώνει έγκαιρα τον λογαριασμό ηλεκτρικής ενέργειας ή τηλεφώνου;Στη συνέχεια είναι η ικανότητα εκπλήρωσης, την οποία ορίζει στις κατευθυντήριες γραμμές ως «ικανότητα του χρήστη να εκπληρώνει τις συμβατικές του υποχρεώσεις».Ο τρίτος παράγοντας είναι τα προσωπικά χαρακτηριστικά, η επαλήθευση προσωπικών πληροφοριών όπως ο αριθμός και η διεύθυνση του κινητού τηλεφώνου κάποιου.Αλλά η τέταρτη κατηγορία, η συμπεριφορά και η προτίμηση, είναι όπου γίνεται πιο ενδιαφέρουσα.

Κάτω από αυτό το σύστημα, κάτι τόσο αβλαβές όσο οι καταναλωτικές συνήθειες ενός ατόμου γίνονται ένα μέτρο χαρακτήρα.Το Alibaba παραδέχεται ότι κρίνει τους ανθρώπους από τα είδη των προϊόντων που αγοράζουν."Κάποιος που παίζει βιντεοπαιχνίδια για δέκα ώρες την ημέρα, για παράδειγμα, θα θεωρείται αδρανής», λέει ο Li Yingyun, Διευθυντής Τεχνολογίας του Sesame."Κάποιος που αγοράζει συχνά πάνες θα θεωρείται πιθανότατα γονέας, ο οποίος είναι πιο πιθανό να έχει ένα αίσθημα ευθύνης".Έτσι, το σύστημα όχι μόνο ερευνά τη συμπεριφορά, αλλά τις διαμορφώνει."Τρομολογεί"( nudges) τους πολίτες από τις αγορές και τις συμπεριφορές που δεν αρέσουν στην κυβέρνηση.

Φίλοι έχουν επίσης σημασία.Η πέμπτη κατηγορία είναι διαπροσωπικές σχέσεις.Τι λέει η επιλογή των online φίλων και των αλληλεπιδράσεών τους σχετικά με το άτομο που αξιολογείται;Το να μοιράζεστε αυτό που λέει το Sesame Credit ως "θετική ενέργεια" στο διαδίκτυο, ωραία μηνύματα σχετικά με την κυβέρνηση ή πόσο καλά πάει η οικονομία της χώρας, θα κάνει το αποτέλεσμά σας να ανεβαίνει.

Το Alibaba είναι ανένδοτο ότι, επί του παρόντος, οτιδήποτε αρνητικό δημοσιεύτηκε στα κοινωνικά μέσα δεν επηρεάζει τις βαθμολογίες (δεν γνωρίζουμε αν αυτό ισχύει ή όχι επειδή ο αλγόριθμος είναι μυστικός).Αλλά μπορείτε να δείτε πώς αυτό θα μπορούσε να συμβεί όταν το σύστημα βαθμολογίας των πολιτών από την κυβέρνηση ξεκινήσει επίσημα το 2020. Παρόλο που δεν υπάρχει ακόμη απόφαση ότι οποιαδήποτε από τις οκτώ ιδιωτικές εταιρείες που συμμετέχουν στο τρέχον πιλοτικό πρόγραμμα θα είναι τελικά υπεύθυνη για τη λειτουργία του κυβερνητικού συστήματος, είναι δύσκολο να πιστέψουμε ότι η κυβέρνηση δεν θα θελήσει να εξαγάγει το μέγιστο ποσό δεδομένων για το SCS, από τους πιλότους.Εάν συμβεί αυτό και συνεχίζεται ως το νέο φυσιολογικό υπό τον κυβερνητικό έλεγχο SCS , θα οδηγήσει τις ιδιωτικές πλατφόρμες να ενεργούν ουσιαστικά ως πρακτορεία κατασκόπων για την κυβέρνηση.Μπορεί να μην έχουν άλλη επιλογή.

Η κοινοποίηση διαφωνούντων πολιτικών απόψεων ή συνδέσμων σχετικά με την πλατεία Τιενανμέν δεν ήταν ποτέ σοφή επιλογή στην Κίνα, αλλά τώρα θα μπορούσε να βλάψει άμεσα την αξιολόγηση ενός πολίτη.Αλλά εδώ είναι η πραγματική kicker: η βαθμολογία ενός ατόμου θα επηρεαστεί επίσης από αυτό που οι on-line φίλοι τους λένε και κάνουν, πέρα ​​από τη δική τους επαφή μαζί τους. Εάν κάποιος συνδεθεί με online δημοσιεύσεις που έχουν αρνητικό σχόλιο, το δικό του σκορ θα μετακινηθεί επίσης προς τα κάτω.

Γιατί λοιπόν εκατομμύρια άνθρωποι έχουν ήδη προσυπογράψει σε αυτή την δοκιμαστική διαδικασία που ισοδυναμεί με δημόσια έγκριση ενός κυβερνητικού συστήματος επιτήρησης ;Μπορεί να υπάρχουν πιο σκοτεινοί, αβάσιμοι λόγοι - φόβος για αντίποινα, για παράδειγμα, για εκείνους που δεν βάζουν τα χέρια τους - αλλά υπάρχει επίσης ένα δόλωμα, με τη μορφή ανταμοιβών και "ειδικών προνομίων" για εκείνους τους πολίτες που αποδείχθηκε ότι είναι "αξιόπιστοι" στην Sesame Credit.

Εάν η βαθμολογία τους φθάσει τα 600, μπορούν να πάρουν ένα δάνειο Just Spend μέχρι 5.000 γιουάν (περίπου 565 λίρες στερλίνες) για να το χρησιμοποιήσουν για να ψωνίσουν στο διαδίκτυο, εφόσον είναι σε ένα site του Alibaba.Φτάνοντας 650 βαθμούς, μπορούν να νοικιάσουν ένα αυτοκίνητο χωρίς να αφήσουν μια κατάθεση.Δικαιούνται επίσης ταχύτερα check-in στα ξενοδοχεία και χρήση του VIP check-in στο Beijing Capital International Airport.Εκείνοι με περισσότερους από 666 βαθμούς μπορούν να λάβουν δάνειο μετρητών μέχρι 50.000 γιουάν (£ 5.700), προφανώς από την Ant Financial Services.Αν έχουν περισσότερα από 700 μπορούν να υποβάλουν αίτηση για ταξίδια στη Σιγκαπούρη χωρίς δικαιολογητικά, όπως επιστολή υπαλλήλων.Και στα 750, λαμβάνουν ταχεία εφαρμογή σε μια πολυπόθητη θεώρηση βίζας Σένγκεν."Νομίζω ότι ο καλύτερος τρόπος για να κατανοήσουμε το σύστημα είναι σαν ένα είδος αγάπης παιδιών ενός συστήματος πίστης" λέει ο Creemers.

Οι υψηλότερες βαθμολογίες έχουν ήδη γίνει σύμβολο κατάστασης, με σχεδόν 100.000 ανθρώπους να γελούν για τις βαθμολογίες τους σε Weibo (το κινεζικό ισοδύναμο του Twitter) εντός λίγων μηνών από την έναρξη.Η βαθμολογία ενός πολίτη μπορεί να επηρεάσει ακόμη και τις πιθανότητες να πάρει μια ημερομηνία, ή ένα σύντροφο γάμου, επειδή όσο υψηλότερη είναι η βαθμολογία τους για το Sesame, τόσο πιο εμφανές είναι το προφίλ τους που χρονολογείται στο Baihe.

Το Sesame Credit προσφέρει ήδη συμβουλές για να βοηθήσει τα άτομα να βελτιώσουν την κατάταξή τους, συμπεριλαμβανομένης της προειδοποίησης σχετικά με τα μειονεκτήματα των φίλων του, σε κάποιον που έχει χαμηλό σκορ.Αυτό μπορεί να οδηγήσει στην άνοδο των συμβούλων σκορ, οι οποίοι θα μοιραστούν συμβουλές για το πώς θα κερδίσουν πόντους ή οι σύμβουλοι φήμης που θα είναι διατεθειμένοι να προσφέρουν συμβουλές εμπειρογνωμόνων για το πώς να βελτιώσουν στρατηγικά την κατάταξή τους ή να ξεφύγουν από τη μαύρη λίστα εμπιστοσύνης.

Πράγματι, το Sesame Credit είναι βασικά μια μεγάλη βάση δεδομένων, παραλαγή των μεθόδων επιτήρησης του Κομμουνιστικού Κόμματος.το ανησυχητικόdang'an.Το καθεστώς κρατούσε έναν φάκελο για κάθε άτομο που παρακολούθησε πολιτικές και προσωπικές παραβάσεις.Τοdang'an τωνπολιτών τουςακολούθησε για όλη τους τη ζωή, από τα σχολείο έως τις δουλειές.Οι άνθρωποι άρχισαν να αναφέρουν σε φίλους και μέλη της οικογένειας, προκαλώντας υποψίες και μειώνοντας την κοινωνική εμπιστοσύνη στην Κίνα.Το ίδιο θα συμβεί και με τους ψηφιακούς φακέλους.Οι άνθρωποι θα έχουν ένα κίνητρο να πουν στους φίλους και την οικογένειά τους, "Μην το δημοσιεύετε αυτό, δεν θέλω να βλάψετε το σκορ σας, αλλά δεν θέλω να βλάψετε το δικό μου".

Επίσης, είμαστε υποχρεωμένοι να δούμε τη γέννηση των μαύρων αγορών φήμης που πωλούν τρόπους για την ενίσχυση της αξιοπιστίας.Με τον ίδιο τρόπο που μπορούν να αγοραστούν τα Likes στο Facebook και οι followers στο Twitter, τα άτομα θα πληρώσουν για να χειραγωγήσουν το σκορ τους.Τι γίνεται με τη διατήρηση της ασφάλειας του συστήματος;Οι χάκερ (μερικοί ακόμη και κρατικοί) θα μπορούσαν να αλλάξουν ή να κλέψουν τις ψηφιακά αποθηκευμένες πληροφορίες.

………………………………………………………………………………..

"Τα άτομα με χαμηλές βαθμολογίες θα έχουν βραδύτερες ταχύτητες στο Internet, περιορισμένη πρόσβαση σε εστιατόρια και απομάκρυνση του δικαιώματος ταξιδιού"

Rachel Botsman, συγγραφέας του βιβλίου «Ποιόν μπορείτε να εμπιστευτείτε;»

………………………………………………………………………………………………………………………………………………………………

Το νέο σύστημα αντικατοπτρίζει μια μετατόπιση υποδειγματικών μοντέλων.Όπωςσημειώσαμε, αντί να προσπαθεί να επιβάλει τη σταθερότητα ή τη συμμόρφωση με ένα μεγάλο ραβδί και μια καλή δόση φόβου από τα ψηλά προς τα κάτω, η κυβέρνηση προσπαθεί να κάνει την υπακοή να έχει την αίσθηση των τυχερών παιχνιδιών.Πρόκειται για μια μέθοδο κοινωνικού ελέγχου ντυμένη με κάποιο σύστημα ανταμοιβής σημείων.Είναι μία γοητευτική υπακοή.

Σε μια μοντέρνα γειτονιά στο κέντρο του Πεκίνου, οι υπηρεσίες ειδήσεων του BBC βγήκαν τους δρόμους τον Οκτώβριο του 2015 για να ρωτήσουν τους ανθρώπους για τις αξιολογήσεις τους στο Sesame Credit.Οι περισσότεροι μίλησαν για τα προνόμια.Αλλά τότε ποιος θα επικρίνει δημοσίως το σύστημα;Ding, το σκορ σου μπορεί να πέσει κάτω.Ανησυχητικά λίγοι άνθρωποι κατάλαβαν ότι ένα κακό σκορ θα μπορούσε να τους βλάψει στο μέλλον.Ακόμα περισσότερο αφορά το πόσοι άνθρωποι δεν είχαν ιδέα ότι βαθμολογούνταν.

Επί του παρόντος, το Sesame Credit δεν τιμωρεί άμεσα τους ανθρώπους επειδή είναι "αναξιόπιστοι" - είναι πιο αποτελεσματικό να κλειδώνετε τους ανθρώπους με απειλές για καλή συμπεριφορά.Αλλά ο επικεφαλής διευθυντής Hu Tao, επικεφαλής του Sesame Credit, προειδοποιεί τους ανθρώπους ότι το σύστημα έχει σχεδιαστεί έτσι ώστε "οι αναξιόπιστοι άνθρωποι δεν θα μπορούν να νοικιάσουν αυτοκίνητο, δεν θα μπορούν να δανειστούν χρήματα ή ακόμη και δεν θα μπορούν να βρουν δουλειά".Έχει μάλιστα αποκαλύψει ότι η Sesame Credit έχει προσεγγίσει το Γραφείο Εκπαίδευσης της Κίνας για να μοιραστεί μια λίστα με τους μαθητές της που εξαπάτησαν στις εθνικές εξετάσεις, για να τους κάνουν να πληρώσουν στο μέλλον για την ανιδιοτέλεια τους.

Οι κυρώσεις αναμένεται να αλλάξουν δραματικά όταν το κυβερνητικό σύστημα γίνει υποχρεωτικό το 2020. Πράγματι, στις 25 Σεπτεμβρίου 2016, το Γενικό Γραφείο του Κρατικού Συμβουλίου ενημέρωσε την πολιτική του με τίτλο "Μηχανισμοί προειδοποίησης και τιμωρίας για άτομα που υπόκεινται στην επιβολή της εμπιστοσύνης".Η επικρατούσα αρχή είναι απλή: "Αν η εμπιστοσύνη σπάσει σε ένα μέρος, επιβάλλονται περιορισμοί παντού", αναφέρει το έγγραφο.

Για παράδειγμα, τα άτομα με χαμηλές βαθμολογίες θα έχουν χαμηλότερες ταχύτητες στο διαδίκτυο.περιορισμένη πρόσβαση σε εστιατόρια, νυχτερινά κέντρα ή γήπεδα γκολφ.και την κατάργηση του δικαιώματος ελεύθερης μετακίνησης στο εξωτερικό, αναφέροντας "τον περιοριστικό έλεγχο της κατανάλωσης σε περιοχές διακοπών ή ταξιδιωτικών επιχειρήσεων".Τα αποτελέσματα θα επηρεάσουν τις αιτήσεις μίσθωσης ενός ατόμου, την ικανότητά του να πάρει ασφάλεια ή ένα δάνειο, ακόμη και παροχές κοινωνικής ασφάλισης.Οι πολίτες με χαμηλές βαθμολογίες δεν θα προσληφθούν από ορισμένους εργοδότες και θα απαγορευτούν από την απόκτηση ορισμένων θέσεων εργασίας, συμπεριλαμβανομένων των δημόσιων υπηρεσιών, της δημοσιογραφίας και των νομικών τομέων, όπου βεβαίως πρέπει να θεωρήσετε αξιόπιστος.Οι πολίτες χαμηλής αξιολόγησης θα έχουν περιορισμούς επίσης όταν πρόκειται να εγγραφούν οι ίδιοι ή τα παιδιά τους σε ιδιωτικά σχολεία υψηλών απολαβών.Δεν καταρτίζω αυτόν τον κατάλογο τιμωριών.Είναι η πραγματικότητα που θα αντιμετωπίζουν οι Κινέζοι πολίτες.Όπως δηλώνει το κυβερνητικό έγγραφο, το σύστημα κοινωνικών πιστώσεων "θα επιτρέψει στους αξιόπιστους να περιπλανηθούν παντού κάτω από τον ουρανό, ενώ θα δυσκολέψει εκείνους με χαμηλή εμπιστοσύνη να κάνουν ένα απλό βήμα".

Σύμφωνα με τον καθηγητή φιλοσοφίας και ηθικής πληροφόρησης του Πανεπιστημίου της Οξφόρδης και του διευθυντή έρευνας στο Ινστιτούτο Oxford Internet, ο Luciano Floridi, υπήρξαν τρεις κρίσιμες "αποκεντρωτικές περίοδοι" που άλλαξαν την άποψή μας στην αυτογνωσία: Το μοντέλο του Κοπέρνικου της Γης σε τροχιά γύρω από τον Ήλιο.Η θεωρία του Δαρβίνου για τη φυσική επιλογή.και ο ισχυρισμός του Φρόιντ ότι οι καθημερινές μας ενέργειες ελέγχονται από το ασυνείδητο μυαλό.

Ο Floridi πιστεύει ότι μπαίνουμε τώρα στην τέταρτη περίοδο, καθώς αυτό που κάνουμε στο διαδίκτυο και εκτός διαδικτίου συνδέεται με την πραγματική ζωή.Ο ίδιος ισχυρίζεται ότι, καθώς η κοινωνία μας γίνεται όλο και περισσότερο μια InfoSphere, ένα μίγμα φυσικών και εικονικών εμπειριών, που αποκτά μία onlife προσωπικότητα - διαφορετική από αυτή που είμαστε εγγενώς στον «πραγματικό κόσμο» και μόνο.Το βλέπουμε αυτό γραμμένο στο Facebook, όπου οι άνθρωποι παρουσιάζουν ένα επεξεργασμένο ή εξιδανικευμένο πορτρέτο της ζωής τους.Σκεφτείτε τις εμπειρίες σας στο Uber.Είστε λίγο πιο καλοί στην οδήγηση επειδή γνωρίζετε ότι θα έχετε βαθμολογία;Αλλά οι βαθμολογίες του Uber δεν είναι τίποτα σε σύγκριση με το Peeple, ένα app που ξεκίνησε τον Μάρτιο του 2016, το οποίο είναι σαν ένα Yelp για τον άνθρωπο.Σας επιτρέπει να εκχωρήσετε αξιολογήσεις και σχόλια σε όποιον γνωρίζετε -το σύζυγός σας, το γείτονάς σας, το προϊστάμενο και ακόμη και τον/ην πρώην σας.Ένα προφίλ εμφανίζει ένα "Peeple Number" ένα σκορ που βασίζεται σε όλα τα σχόλια και τις συστάσεις που λαμβάνετε.Ανησυχητικά, όταν το όνομά σας βρεθεί στο σύστημα Peeple, είναι εκεί για πάντα.Δεν μπορείτε να εξαιρεθείτε.

Το Peeple έχει απαγορεύσει κάποιες κακές συμπεριφορές, συμπεριλαμβανομένης της αναφοράς ιδιωτικών συνθηκών υγιεινής, το να κάνεις βλακείες ή να είσαι σεξιστής (αν και εκτιμάτε αντικειμενικά αυτό).Αλλά υπάρχουν λίγοι κανόνες για τον τρόπο με τον οποίο οι άνθρωποι βαθμολογούνται ή πρότυπα για τη διαφάνεια.

Το σύστημα εμπιστοσύνης της Κίνας μπορεί να είναι εθελοντικό μέχρι τώρα, αλλά έχει ήδη συνέπειες.Τον Φεβρουάριο του 2017, το Ανώτατο Λαϊκό Δικαστήριο της χώρας ανακοίνωσε ότι απαγόρευσε στα 6,15 εκατομμύρια των πολιτών του τις πτήσεις κατά τα τελευταία τέσσερα χρόνια για κοινωνικές κακοποιήσεις.Η απαγόρευση επισημαίνεται ως ένα βήμα προς τη μαύρη λίστα στο SCS."Έχουμε υπογράψει ένα μνημόνιο ... [με πάνω από] 44 κυβερνητικά τμήματα, προκειμένου να περιορίσουμε τους« μη αφοσιωμένους »ανθρώπους σε πολλαπλά επίπεδα», λέει ο Meng Xiang, επικεφαλής της εκτελεστικής υπηρεσίας του Ανώτατου Δικαστηρίου.Άλλοι 1.65 εκατομμύρια άνθρωποι που έχουν μπεί στην μαύρη λίστα δεν μπορούν να πάρουν τρένα.

Εκεί που τα συστήματα καταλήγουν πραγματικά σε εφιάλτη περιοχή είναι ότι οι αλγόριθμοι εμπιστοσύνης που χρησιμοποιούνται είναι άδικοι αναγωγικά.Δεν λαμβάνουν υπόψη το πλαίσιο.Για παράδειγμα, ένα άτομο μπορεί να χάσει ένα νομοσχέδιο ή ένα πρόστιμο επειδή ήταν στο νοσοκομείο.άλλος μπορεί απλά να είναι ένας freeloader.Και εκεί βρίσκεται η πρόκληση που αντιμετωπίζουμε όλοι μας στον ψηφιακό κόσμο, και όχι μόνο οι Κινέζοι.Αν οι αλγόριθμοι που καθορίζουν τη ζωή είναι εδώ για να παραμείνουν, πρέπει να καταλάβουμε πώς μπορούν να αγκαλιάσουν τις αποχρώσεις, τις αντιφάσεις και τις αντιφάσεις που είναι εγγενείς στους ανθρώπους και πώς μπορούν να αντικατοπτρίζουν την πραγματική ζωή.

Θα μπορούσατε να δείτε το λεγόμενο σχέδιο εμπιστοσύνη της Κίνας ως αυτό που στο Όργουελ1984πληρούν τα σκυλιά του Παβλόφ.Λειτουργήστε σαν καλός πολίτης, ανταμειφτείτε και σκεφτείτε ότι έχετε τη διασκέδαση.Αξίζει να θυμηθούμε, ωστόσο, ότι τα συστήματα προσωπικής βαθμολόγησης υπάρχουν εδώ και δεκαετίες στη Δύση.

Πάνω από 70 χρόνια πριν, δύο άντρες ο Bill Fair και ο Earl Isaac εφεύραν βαθμολογίες πιστοληπτικής ικανότητας.Σήμερα, οι εταιρείες χρησιμοποιούν βαθμολογίες FICO για να καθορίσουν πολλές οικονομικές αποφάσεις, συμπεριλαμβανομένου του επιτοκίου της υποθήκης μας ή εάν πρέπει να μας δοθεί ένα δάνειο.

Για την πλειοψηφία των Κινέζων, που δεν είχαν ποτέ βαθμολογίες πίστωσης και έτσι δεν μπορούν να πάρουν πίστωση."Πολλοί άνθρωποι δεν έχουν στην κατοχή τους σπίτια, αυτοκίνητα ή πιστωτικές κάρτες στην Κίνα, έτσι ώστε τα είδη πληροφοριών δεν είναι διαθέσιμα για μέτρηση", εξηγεί ο Wen Quan, ένας σημαντικός blogger που γράφει για την τεχνολογία και τη χρηματοδότηση."Η κεντρική τράπεζα έχει τα οικονομικά στοιχεία για 800 εκατομμύρια ανθρώπους, αλλά μόνο 320 εκατομμύρια έχουν ένα παραδοσιακό πιστωτικό ιστορικό."Σύμφωνα με το κινεζικό Υπουργείο Εμπορίου, η ετήσια οικονομική ζημία που προκαλείται από την έλλειψη πληροφοριών για την πίστωση υπερβαίνει τα 600 δισεκατομμύρια γιουάν (£ 68 δις).

Η έλλειψη ενός εθνικού πιστωτικού συστήματος από την Κίνα είναι ο λόγος για τον οποίο η κυβέρνηση είναι ανυπόμονη ότι τα Citizen Scores έχουν καθυστερήσει και χρειάζετε να διορθώσουν αυτό που λένε ως «έλλειμμα εμπιστοσύνης».Σε μια κακώς οργανωμένη αγορά, η πώληση προϊόντων απομίμησης και υποπροϊόντων είναι ένα τεράστιο πρόβλημα.Σύμφωνα με τον Οργανισμό Οικονομικής Συνεργασίας και Ανάπτυξης (ΟΟΣΑ), 63 τοις εκατό όλων των ψεύτικων αγαθών, από ρολόγια μέχρι τσάντες και παιδικές τροφές, προέρχονται από την Κίνα."Το επίπεδο της μικροδιαφθοράς είναι τεράστιο," λέει ο Creemers."Αν λοιπόν το συγκεκριμένο σύστημα καταλήξει σε πιο αποτελεσματική εποπτεία και λογοδοσία, θα το χαιρετίσουμε θερμά".

Η κυβέρνηση υποστηρίζει επίσης ότι το σύστημα είναι ένας τρόπος να φέρουμε τα άτομα που εγκαταλείπονται από τα παραδοσιακά πιστωτικά συστήματα, όπως οι φοιτητές και τα νοικοκυριά χαμηλού εισοδήματος.Ο καθηγητής Wang Shuqin από το Γραφείο Φιλοσοφίας και Κοινωνικών Επιστημών στο Capital Normal University της Κίνας κέρδισε πρόσφατα την προσφορά για να βοηθήσει την κυβέρνηση να αναπτύξει το σύστημα στο οποίο αναφέρεται ως «Σύστημα Κοινωνικής Πίστης της Κίνας».Χωρίς ένα τέτοιο μηχανισμό, η επιχειρηματική δραστηριότητα στην Κίνα είναι επικίνδυνη, τονίζει, καθώς περίπου οι μισές από τις υπογεγραμμένες συμβάσεις δεν τηρούνται.«Δεδομένης της ταχύτητας της ψηφιακής οικονομίας, είναι ζωτικής σημασίας να μπορούν οι άνθρωποι να επαληθεύουν γρήγορα την πιστωτική τους αξία», λέει."Η συμπεριφορά της πλειοψηφίας καθορίζεται από τον κόσμο των σκέψεών τους. Ένας άνθρωπος που πιστεύει στις σοσιαλιστικές βασικές αξίες συμπεριφέρεται πιο αξιοπρεπώς".Θεωρεί και επιβραβεύει τα ηθικά στάνταρ καθώς και τις οικονομικές επιδόσεις με μπόνους"

Πράγματι, ο στόχος του Κρατικού Συμβουλίου είναι να αυξήσει την "ειλικρινή νοοτροπία και τα επίπεδα πίστωσης ολόκληρης της κοινωνίας" προκειμένου να βελτιωθεί η "συνολική ανταγωνιστικότητα της χώρας".Είναι πιθανό το SCS να είναι στην πραγματικότητα μια περισσότερο επιθυμητά διαφανής προσέγγιση της εποπτείας σε μια χώρα που έχει μακρά ιστορία να παρακολουθεί τους πολίτες της;"Ως Κινέζος, γνωρίζοντας ότι, ό, τι κάνω παρακολουθείτε ηλεκτρονικά, θα ήθελα να γνωρίζω τις λεπτομέρειες του τι παρακολουθεί και να χρησιμοποιήσω αυτές τις πληροφορίες για να μάθω πώς να συμμορφωθώ με τους κανόνες;"λέει ο Rasul Majid, ένας κινεζικός μπλόγκερ με έδρα τη Σαγκάη ο οποίος γράφει για τη συμπεριφορική σχεδίαση και την ψυχολογία παιχνιδιών."Ή θα προτιμούσα να ζώ σε άγνοια και ελπίδα / επιθυμία / όνειρο ότι η ιδιωτική ζωή εξακολουθεί να υπάρχει και ότι τα κυβερνητικά μας όργανα σέβονται αρκετά ώστε να μην την εκμεταλλευτούν;"

Όταν λέω σε δυτικούς για το Κοινωνικό CreditSystem στην Κίνα, οι απαντήσεις τους είναι ένθερμες και σπλαχνικές.Ωστόσο, αξιολογούμε ήδη εστιατόρια, ταινίες, βιβλία και ακόμη και γιατρούς.Το Facebook, εν τω μεταξύ, είναι πλέον σε θέση να σας εντοπίσει σε εικόνες χωρίς να βλέπει το πρόσωπό σας.χρειάζεται μόνο τα ρούχα, τα μαλλιά και τον τύπο του σώματος για να σας επισημάνει σε μια εικόνα με ακρίβεια 83%.

Το 2015, ο ΟΟΣΑ δημοσίευσε μια μελέτη που αποκαλύπτει ότι στις ΗΠΑ υπάρχουν τουλάχιστον 24,9 συνδεδεμένες συσκευές ανά 100 κατοίκους.Όλα τα είδη επιχειρήσεων εξετάζουν τα "μεγάλα δεδομένα" που εκπέμπονται από αυτές τις συσκευές για να κατανοήσουν τις ζωές και τις επιθυμίες μας και να προβλέψουμε τις ενέργειές μας με τρόπους που δεν μπορούσαμε να προβλέψουμε τον εαυτό μας.

Οι κυβερνήσεις σε όλο τον κόσμο βρίσκονται ήδη στην επιχείρηση παρακολούθησης και αξιολόγησης.Στις ΗΠΑ, η Υπηρεσία Εθνικής Ασφάλειας (NSA) δεν είναι το μόνο επίσημο ψηφιακό μάτι πίσω απο τις κινήσεις των πολιτών της.Το 2015, η Υπηρεσία Ασφάλειας των Μεταφορών των ΗΠΑ πρότεινε την ιδέα της διεύρυνσης των ελέγχων ιστορικού PreCheck για να συμπεριλάβει τα αρχεία κοινωνικών μέσων, τα δεδομένα θέσης και το ιστορικό αγοράς.Η ιδέα απορρίφθηκε μετά από έντονη κριτική, αλλά αυτό δεν σημαίνει ότι είναι νεκρή.Ζούμε ήδη σε έναν κόσμο προγνωστικών αλγορίθμων που καθορίζουν εάν είμαστε απειλή, κίνδυνος, καλός πολίτης και ακόμη και αν είμαστε αξιόπιστοι.Βρισκόμαστε πιο κοντά στο κινεζικό σύστημα - η επέκταση της βαθμολόγησης της πίστωσης στη βαθμολογία της ζωής - ακόμα κι αν δεν ξέρουμε ότι είμαστε.

Έτσι κατευθυνόμαστε προς ένα μέλλον όπου όλοι θα είμαστε μάρτυρες σε απευθείας σύνδεση και εξόρυξης δεδομένων;Είναι σίγουρο ότι τείνουν προς αυτή την κατεύθυνση.Με την παρεμπόδιση κάποιου είδους μαζικής εξέγερσης των πολιτών για να ξεδιπλώσουμε την ιδιωτική ζωή, μπαίνουμε σε μια εποχή όπου οι πράξεις ενός ατόμου θα κριθούν με πρότυπα που δεν μπορούν να ελέγξουν και όπου αυτή η κρίση δεν μπορεί να διαγραφεί.Οι συνέπειες δεν είναι μόνο ενοχλητικές.είναι μόνιμες.Ξεχάστε το δικαίωμα να διαγράψετε ή να ξεχάσετε, να είστε νέοι και ανόητοι.

Ενώ μπορεί να είναι πολύ αργά για να σταματήσει αυτή η νέα εποχή, έχουμε επιλογές και δικαιώματα που μπορούμε να ασκήσουμε τώρα.Για ένα πράγμα, πρέπει να είμαστε σε θέση να βαθμολογούμε τους βαθμολογητές.Στο βιβλίο τουThe Inevitable, ο Kevin Kelly περιγράφει ένα μέλλον στο οποίο οι παρατηρητές και οι παρακολουθούμενοι θα παρακολουθούνται διαφανώς ο ένας από τον άλλον."Η κεντρική επιλογή μας είναι τώρα κατά πόσο αυτή η επιτήρηση είναι ένα μυστικό, μονόπλευρο panopticon - ή ένα αμοιβαίο, διαφανές είδος« επιβίωσης »που περιλαμβάνει την παρακολούθηση των παρατηρητών», γράφει.

Η εμπιστοσύνη μας πρέπει να ξεκινά με άτομα εντός της κυβέρνησης (ή όποιος ελέγχει το σύστημα).Χρειαζόμαστε αξιόπιστους μηχανισμούς για να διασφαλίσουμε ότι οι αξιολογήσεις και τα δεδομένα χρησιμοποιούνται με υπευθυνότητα και με την άδειά μας.Για να εμπιστευθούμε το σύστημα, πρέπει να μειώσουμε τα άγνωστα.Αυτό σημαίνει τη λήψη μέτρων για τη μείωση της αδιαφάνειας των αλγορίθμων.Το επιχείρημα κατά των υποχρεωτικών γνωστοποιήσεων είναι ότι αν γνωρίζετε τι συμβαίνει κάτω από την κουκούλα, το σύστημα θα μπορούσε να γίνει πλαστό ή hacked.Αλλά αν οι άνθρωποι μειώνονται σε μια βαθμολογία που θα μπορούσε να επηρεάσει σημαντικά τη ζωή τους, θα πρέπει να υπάρχει διαφάνεια στον τρόπο με τον οποίο λειτουργεί η βαθμολόγηση.

Στην Κίνα, ορισμένοι πολίτες, όπως κυβερνητικοί αξιωματούχοι, πιθανόν να θεωρηθούν επάνω από το σύστημα.Ποια θα είναι η δημόσια αντίδραση όταν οι δυσμενείς ενέργειές τους δεν επηρεάζουν τη βαθμολογία τους;Θα μπορούσαμε να δούμε ένα έγγραφο του Παναμά 3.0 για απάτη φήμης.

Είναι ακόμη πολύ νωρίς για να μάθουμε πώς θα αποδειχθεί μια κουλτούρα συνεχούς παρακολούθησης και αξιολόγησης.Τι θα συμβεί όταν αυτά τα συστήματα, καταγράφοντας την κοινωνική, ηθική και οικονομική ιστορία ολόκληρου του πληθυσμού, έρχονται σε πλήρη ισχύ;Πόσο περαιτέρω θα καταστραφεί η ιδιωτικότητα και η ελευθερία του λόγου (που επί μακρόν βρίσκονται υπό πολιορκία στην Κίνα);Ποιος θα αποφασίσει ποια είναι η λειτουργία του συστήματος;Αυτά είναι ερωτήματα που όλοι πρέπει να εξετάσουμε και σύντομα.Σήμερα η Κίνα, αύριο ένα μέρος κοντά σας.Τα πραγματικά ερωτήματα σχετικά με το μέλλον της εμπιστοσύνης δεν είναι τεχνολογικά ή οικονομικά.είναι δεοντολογικά.

Αν δεν είμαστε άγρυπνοι, η κατανεμημένη εμπιστοσύνη μπορεί να γίνει ντροπή σε δίκτυο.Η ζωή θα γίνει ένας ατελείωτος διαγωνισμός δημοτικότητας, με όλους μας να αγωνιζόμαστε για την υψηλότερη βαθμολογία που μπορούν να επιτύχουν μόνο μερικοί.
...................................................................................................................................................................................................................

Αυτό είναι ένα απόσπασμα από τοWho Can You Trust;Πώς η τεχνολογία μας έφερε μαζί μας και γιατί θα μπορούσε να μας οδηγήσει εκτός» του Rachel Botsman, που δημοσιεύθηκε στις 4 Οκτωβρίου. Από τότε που γράφτηκε αυτό το κομμάτι, η People's Bank of China καθυστέρησε τις άδειες στις οκτώ εταιρείες που διενήργησαν πιλότους κοινωνικής πίστης.Τα σχέδια της κυβέρνησης για την έναρξη του συστήματος κοινωνικών πιστώσεων το 2020 παραμένουν αμετάβλητα

Προσθέστε περισσότερες πληροφορίες

To μέγιστο μέγεθος των αρχείων είναι 16ΜΒ. Επιτρέπονται όλες οι γνωστές καταλήξεις αρχείων εικόνας,ήχου, βίντεο. ΠΡΟΣΟΧΗ! Για να υπάρχει η δυνατότα embed ενός video πρέπει να είναι της μορφής mp4 ή ogg.

Νέο! Επιλέξτε ποιά εικόνα θα απεικονίζεται στην αρχή του σχόλιου.

Creative Commons License

Όλα τα περιεχόμενα αυτού του δικτυακού τόπου είναι ελεύθερα προς αντιγραφή, διανομή, προβολή και μεταποίηση, αρκεί να συνεχίσουν να διατίθενται, αυτά και τα παράγωγα έργα που πιθανώς προκύψουν, εξίσου ελεύθερα, υπό τους όρους της άδειας χρήσης Creative Commons Attribution-ShareAlike 4.0 International License