China cuenta con más de 500 millones de cámaras, y ya investiga la creación de gafas de reconocimiento facial.

Establecer un sistema de valoración en el que cada persona sea puntuada y que la cantidad de puntos que tengamos afecte a nuestra vida. Incluso en una sociedad como la nuestra, en la que a menudo nos preocupan las opiniones que el resto tiene sobre nosotros, esta idea puede parecer exagerada y más propia de la ciencia ficción que la realidad. De hecho, es un concepto que podemos ver en series como Black Mirror (en su capítulo “Caída en picado”), en literatura (1984 de Orwell) o en videojuegos. Sin embargo, se trata de algo que se ha planteado llevar a cabo en la realidad.

De hecho, de cara 2020 se plantea que ocurra en China, con el Sistema de Crédito Zhima y el carnet de buen ciudadano.

El Gran hermano llega a China

El concepto de Gran Hermano nace en la novela 1984 de Orwell, autor que presentaba un futuro en el que los ciudadanos eran monitoreados de manera continuada, siendo vigilados y controlados de tal manera que todo lo que hacen y dicen sea observado y valorado. Esta idea se ha expandido entre la población hasta llegar a utilizarse para referirse a aquellas situaciones en que se da un control y manipulación extremo del comportamiento de la población. Y es algo que podría ocurrir en China al implantarse el sistema que nos ocupa en este artículo.

Desde hace unos años, China ha propuesto y aprobado la implantación de un sistema que permita, mediante la extensa red de cámaras que recubren el país, valorar la actuación de los ciudadanos en función de criterios y algoritmos por el momento secretos.

El proceso en cuestión no es algo que ya haya sido establecido de manera definitiva, sino que está abierto a cambios en función de que aparezcan diferentes variables y se vean aciertos y errores que deban modificarse. En este sentido, el gobierno ha proporcionado permisos a ocho compañías privadas para generar un sistema en base a algoritmos dedicado al control y puntuación de las acciones de la población, siendo el sistema Zhima o Sesame Credit de Alibaba uno de los más activos y populares (junto a la compañía China Rapid Finance) en la generación de un algoritmo en función de diversos criterios.

Entre dichos criterios podríamos encontrar el historial financiero (¿pagas las facturas? ¿pides créditos?), la capacidad para satisfacer las obligaciones contractuales (eficiencia y efectividad en el trabajo), las características personales y el comportamiento y las preferencias. Ello quiere decir que se evaluaría de forma continuada la capacidad económica, productividad laboral de cada ciudadano, lo que compren y lo que no, sus hábitos y gustos, y se lo premiaría y castigaría por ello.

La participación en este programa es, por el momento, voluntaria. Sin embargo, se plantea que a partir de 2020 sea obligatoria para toda persona y entidad jurídica en China. Así, todo el país tendrá una valoración social como ciudadano, siendo puntuadas y controladas sus acciones.

Por supuesto, esta iniciativa está sujeta a numerosas críticas y controversias, ya que supone un casi total control de la ciudadanía por parte de las autoridades y estando sujeto a criterios desconocidos por la mayoría. Al fin y al cabo: ¿qué es ser un buen ciudadano? La respuesta a esta pregunta está sujeta a una gran subjetividad.

Vigilancia por reconocimiento facial

Para funcionar, este sistema requiere de un intrincado sistema de cámaras que cubran las ciudades, así como de un software que permita el reconocimiento facial. Y lo cierto es que ambos elementos ya están instaurados en China: existe por ejemplo la posibilidad de comprar o retirar dinero de entidades bancarias a partir del análisis de sus rasgos, sin precisar tarjetas, con sistemas como el de Face++.

También es empleado de manera punitiva: en algunas ciudades podemos ver cómo existen grandes carteles electrónicos donde se muestran los rostros de ciudadanos que han sido grabados cometiendo alguna imprudencia en lo que se refiere al tráfico automovilístico, se trate de peatones o conductores, a modo de escarnio público (es necesario pagar para retirar su imagen).

Se trata de sistemas útiles en diferentes sentidos, cuya aplicación ha permitido la detención de múltiples delincuentes y sospechosos. Facilita su localización y saber qué han hecho y cuándo. También hace más simple algo como comprar, no precisando elementos como tarjetas para pagar y reduciendo la probabilidad de robo (aunque también existe el riesgo de hackeo del sistema).

Asimismo, la idea de controlar información sobre algunos aspectos de la vida de los ciudadanos no es nueva ni exclusiva de China. Por ejemplo, en Estados Unidos existen informes sobre el crédito y la eficiencia y fiabilidad financiera que puede tener repercusiones a la hora de obtener créditos o valorar condiciones.

Lo que sí resulta pionero y controvertido de esta iniciativa es el hecho de aplicarlo al conjunto de la población de manera generalizada, y la idea de valorar lo buen o mal ciudadano que se es, teniendo esta valoración tintes mucho más subjetivos. Además, dicho control sería ejercido de manera continuada a lo largo de toda la vida del sujeto, en todos los ámbitos en que pudiera ser grabado.

Nuestra puntuación tiene consecuencias en el día a día

La puntuación y valoración que puedan tener los ciudadanos no será algo meramente anecdótico, sino que tendrá sus consecuencias.

Tal y como se plantea, las personas con baja valoración social podrían ver como su acceso a Internet es menor y de baja velocidad, y el acceso a diferentes sistemas de ocio, servicios y productos (ir al cine o a determinados restaurantes por ejemplo, o matricular a sus hijos en escuelas privadas) o derechos concretos (sacarse el pasaporte, acceder a algunos puestos de trabajo o acceder al derecho a usar algunos métodos de transporte), también quedará limitado si se realizan conductas consideradas inadecuadas. Por ejemplo, alguien con muy baja valoración no podría acceder a campos vinculados con la legalidad, el derecho civil o el periodismo.

Por otro lado, quienes tengan una mayor puntuación podrían tener múltiples beneficios además del hecho de ser socialmente mejor valorados: podrán por ejemplo tener prioridad para obtener visados, y estarán exentos de tener que dejar un depósito en hoteles o alquilar un apartamento (si bien esto sólo es aplicable a algunas ciudades).

Se trata de un sistema que ha sido calificado por el gobierno como un método para que aquellos dignos de confianza y valoración puedan actuar libremente mientras que los que no merezcan dicha confianza e incurran en diferentes delitos tengan dificultades para actuar como les plazca. Este concepto puede ser peligroso, en cualquier punto del globo: disidencias o ideologías concretas podrían ser fácilmente reprimidas y castigadas, e incluso avances científicos contrarios a la opinión o intereses de clases más cercanas al poder podrían verse refrenados.

Alterando el comportamiento

Además de lo anterior, este sistema de puntuación puede tener otro tipo de riesgos: alterar profundamente nuestro comportamiento, incluso allí donde la vigilancia no llega.

La ventaja principal es que se aumenta la seguridad en cuando a crímenes de sangre, y también se disminuye la posibilidad de que infrinja la ley, lo que podría llevar a reducir imprudencias como las que conducen a un accidente de tráfico.

Las consecuencias adversasson claras. Se produce una pérdida de libertad y privacidad, dejándose la totalidad de nuestro comportamiento expuesto y siendo constantemente juzgado por otras personas cuyas ideas no tienen por qué corresponder por las nuestras.

También pueden juzgarse comportamientos no delictivos ni perniciosos, como los hábitos sociales y personales individuales y las divergencias con la norma podrían verse perjudicadas. Asimismo se perdería espontaneidad y todo acto pasaría a estar mucho más controlado, debido al miedo a posibles represalias. Esto somete al ciudadano a una elevada presión en todos los ámbitos de su vida, generando un estrés y ansiedad que pueden disminuir sus capacidades e incluso dañar su salud.

Otro elemento a tener en cuenta es la posible búsqueda desesperada de aprobación social, pudiendo la valoración y la puntuación que tuviésemos llevar hasta un punto obsesivo o histriónico: aunque en principio la propia puntuación no es compartida con el resto de ciudadanos, el hecho de ser valorados de mejor o peor manera hará que algunas personas busquen por encima de todo la aprobación, de forma compulsiva y desesperada.

Por último, podemos encontrar otro riesgo: la venta de nuestros datos a terceras compañías para que éstas se beneficien e intentar atraernos hacia sus productos. Si bien se trata de algo que ya se lleva a cabo normalmente al entrar en diferentes webs y redes sociales, eso ya está requiriendo una aceptación implícita de que dichas webs tengan al menos parte de nuestra información y no es algo que se lleve a cabo por el mero hecho.