La vigilancia total ya es posible

Por Daniel Molina

En el origen de la cultura occidental, la idea de Utopía (que significa “lo que no sucede en ningún lugar”) remitía al sueño de una sociedad perfecta, en la que todo podría solucionarse sin dramas y permitiría una vida mejor para todos. Eso fue así hasta hace poco más de un siglo. Pero desde comienzos del siglo XX, a partir de las ficciones de Franz Kafka, Aldous Huxley o George Orwell - basándose todos ellos en los horrores de las guerras mundiales y en los dolores que el progreso traía a los más desprotegidos- se comenzó a pensar lo contrario: las utopías son mundos horribles en los que no queda nada librado a la creatividad del individuo. Lo que en esas ficciones (“1984”, “Un mundo feliz” o “El Proceso”) era un futuro siniestro que nos acechaba ya está haciéndose real hoy en China. Y esto es solo un “pequeño” ensayo para construir la nueva sociedad hipervigilada que la Inteligencia Artificial permitirá generar.

Lo único que hoy se puede comparar al poder que concentran las grandes empresas de internet (Google, Amazon, Facebook, Apple) es el poder digital que ya concentra el gobierno chino. Todavía seguimos pensando en países y en gobiernos locales, pero lo cierto es que el poder que se está desarrollando en el mundo virtual es de tal magnitud que no hay gobierno que hoy pueda hacerle frente (salvo el caso chino).

El desarrollo que está tomando el mundo digital permite que unos pocos actores tengan en su manos la posibilidad de ejercer el mayor control social que jamás se imaginó. Hace 30 años Gilles Deleuze dijo que estábamos pasando de una vieja sociedad disciplinaria (en la que una autoridad centralizada nos castigaba si no cumplíamos las reglas: la escuela, la policía o el gobierno) a una nueva sociedad de control.

Deleuze pensaba que esta sociedad del futuro controlaría todo el tiempo, sin descanso, nuestra vida, y sin que nos demos cuenta. Y ese control podría, ante cualquier conducta que considerase negativa, sacarnos del juego, convertirnos en parias y condenarnos a vivir fuera del mundo digital (lo que equivaldría a una especie de ostracismo). Esa sociedad que Deleuze imaginaba en un futuro próximo es ésta, en la que ahora vivimos. Y que está ya en etapa de prueba en China.

China ha inventado el “crédito social”, que da (o quita) puntos a cada uno de sus 1.400.000.000 de ciudadanos según bases que manejan los logaritmos de la inteligencia artificial (y que son posibles de aplicar sobre la masa inmensa de población china gracias al desarrollo tecnológico que ya ha alcanzado). Ese crédito social permite (si es positivo) conseguir alquilar una propiedad sin tener garantía, poder acceder al pasaporte para viajar al exterior o incluso conseguir los mejores asientos en el tren de alta velocidad. Pero si todo no va bien, el crédito social negativo puede hacer de la vida de una persona una verdadera tortura: lo puede confinar en su casa al no permitirle viajar (ni siquiera dentro de la ciudad en la que está registrado) y, aun peor, lo puede privar de comunicarse con otras personas o de acceder a cualquiera de las necesidades básicas.

Ya hay una prueba piloto sobre el crédito social: unas decenas de millones de personas participan del experimento. Se lo aplica con lo último en sistemas de vigilancia de alta tecnología: millones de cámaras equipadas con reconocimiento facial de última generación, escaneo corporal y geo-tracking para echar una mirada constante a todos los ciudadanos. Hoy, el control constante (las 24 horas del día, estén donde estén) solo se aplica sobre esas decenas de millones de personas, pero la idea es que los mil cuatrocientos millones de chinos sean vigilados hasta el detalle todo el día, todos los días dentro de apenas dos años.

Las aplicaciones para teléfonos inteligentes también se usarán para recopilar datos y monitorear el comportamiento en línea, día tras día. Luego, todo el big data proveniente de fuentes más tradicionales (como los registros del gobierno, que incluyen evaluaciones educativas y médicas, de seguridad del estado y registros financieros) se incluirán en los puntajes individuales. Estos sistemas de crédito social de prueba ya se encuentran en diversas etapas de desarrollo en, al menos, una docena de ciudades en China.

Varias compañías están trabajando con el estado para nacionalizar el sistema, coordinar y configurar la tecnología, y finalizar los algoritmos que determinarán el puntaje del ciudadano nacional. Es el proyecto de ingeniería social más grande que se haya intentado jamás en la historia de humanidad. Es una forma de controlar y coaccionar a más de mil millones de personas. Si tiene éxito, será la primera dictadura digital del mundo.

Por ejemplo, si una persona monitoreada entra a un supermercado y compra dos botellas de alcohol de alta graduación pierde puntos sociales (el algoritmo lo considera socialmente peligroso por sospechoso de alcoholismo), pero si luego compra pañales y productos para el bebé le devuelve puntos porque supone que se dedica conscientemente al cuidado de un ser indefenso. Parece un delirio, pero a ese grado de detalle se evalúa la conducta de cada persona.

El crédito social no solo depende de lo que cada individuo haga, sino de lo que hagan sus relaciones. Si el padre o el mejor amigo de una persona hablan en contra del gobierno, una persona pierde muchos puntos de su crédito social (por algo que él no ha hecho, y que quizá hasta desconoce).

La discusión sobre el crédito social cuenta con amplio apoyo popular en China, ya que es un país que en sus 5000 años de historia jamás valoró la intimidad o la libertad individual. Pero un proceso parecido en el mundo occidental (que, sin tanta publicidad, es lo que están haciendo Facebook, Google, Apple y Amazon) no contaría con tanta aprobación, aunque se lleve adelante de todas formas.

En China ya 10 millones de personas sufren distintas exclusiones debido a que en el testeo experimental obtuvieron bajo crédito social (no se les permite viajar a otras partes del país o acceder a medicina de vanguardia si tienen determinadas enfermedades, entre muchos otros inconvenientes graves).

Esto recién comienza. Y la mayoría de las personas ni siquiera está informada de que en un futuro demasiado cercano su vida, gracias a la vigilancia digital permanente, pueda convertirse en una pesadilla.