Imagen | Heráclito , Fernando Ivorra

Uno de los temas más recurrentes y fascinantes de la ciencia ficción -tanto en su vertiente literaria como cinematográfica- es el de la distopía, esto es, el reflejo de una sociedad futura, indeseable en sí misma, marcada por la deshumanización, los gobiernos tiránicos, las catástrofes ambientales, pandemias u otros desastres que conducen al declive de la civilización. Entre los ejemplos clásicos de obras narrativas que nos retratan un futuro distópico figuran las obras «Un mundo feliz» de Aldous Huxley y «1984» de George Orwell. La primera de ellas nos muestra una sociedad «ideal» donde el desarrollo tecnológico conduce a una vida feliz en apariencia pero privada de libertad y, por otra parte, la novela de Orwell, popularizó la figura omnipresente y vigilante  del Gran Hermano que, junto a la policía del pensamiento y el control de la lengua, contribuyen a garantizar la seguridad y la estabilidad política a costa de sacrificar la libertad humana.El secreto de la resonancia que han llegado a alcanzar ambas obras se cifra en que abordan de lleno una problemática ética de carácter universal e intemporal: el riesgo que supone para la libertad humana el deseo de controlar la seguridad, la estabilidad o la felicidad de una sociedad, conduciendo directamente a una suerte de jaula de oro. Tal y como reconoce otro grande del género como es Isaac Asimov en su artículo «Futuro amenazador» [1], la misión más útil de la ciencia ficción no es tanto la de predecir artificios tecnológicos concretos como la de advertir sobre las consecuencias sociales de los mismos. Y, desde luego, a la luz de la experiencia hoy cotidiana de sentirse permanentemente localizados a través de los dispositivos de ubicación del móvil o la de encontrar -cuando navegamos por Internet- ofertas publicitarias que se adecuan perfectamente a nuestras preferencias o, incluso, al contenido de nuestras últimas conversaciones junto al celular, no pude menos que resultarnos escalofriante y visionario el contenido de las ya mencionadas y otras grandes obras de la ciencia ficción. ¿Estaremos a las puertas de una distopía digital sin precedentes?

Del yo digital al control social y la manipulación

         Bien entrado ya el siglo XXI y cuando aún, ni la filosofía ni ninguna de las ciencias (como la neurología, la psicología o la sociología) han conseguido dar una respuesta satisfactoria a la pregunta acerca de lo que somos, resulta que el espectacular desarrollo de las tecnologías de la información y comunicación ha duplicado la dificultad de la cuestión en la medida en que ya no sólo tenemos que atender y descifrar -según nos encomendaba el oráculo de Delfos- a nuestro propio yo, sino que también debemos dar cuenta de ese otro yo, nuestro alter ego en código binario, que es el yo digital. ¿Qué es eso del yo digital? Cada vez que entramos en Internet para hacer una búsqueda, realizar una compra o conectarnos a las redes sociales para subir una foto o comentario o, simplemente, darle a un «Me gusta», olvidamos el hecho de que nuestras acciones dejan un rastro digital, una huella, que pasa a formar parte de nuestro perfil en la red. Toda esta información que dejamos pasará a engrosar el ingente acervo de macrodatos que es conocido como big data y será procesada por complejos y desconocidos algoritmos digitales de empresas como Google o Facebook para generar un perfil digital de nosotros. En base al mismo, recibiremos un bombardeo de ofertas de consumo afines a nuestros intereses, sugerencias de parejas compatibles u oportunidades de trabajo ajustadas a nuestra formación y experiencia. Según escribe el profesor y ensayista Yuval Noah Harari en su libro«Homo Deus», dichos algoritmos podrían llegar a conocernos mejor que nosotros mismos y, en un futuro próximo, acudiremos a ellos para consultar con quién debemos casarnos, qué carrera elegir o incluso la conveniencia de iniciar o no una guerra [2].

La  gran cantidad de información digital que vamos generando -todo el conjunto de macrodatos- podría ser utilizada como una poderosa herramienta para el control y la manipulación social y, como veremos, los temores no son nada infundados. A título de ejemplo considérense la sociedad dirigida por los datos que constituye Singapur o la iniciativa China de ensayar un sistema de «puntuación ciudadana»  concebida como una forma de control social. En este último sistema cada ciudadano recibe, según su actividad en Internet, una puntuación que determina sus condiciones para conseguir un crédito, un empleo o un visado para viajar al extranjero; adicionalmente, el programa llegaría incluso a condicionar las propias relaciones sociales al convertirse en un garante de la virtud o fidelidad política, condenando al ostracismo a quienes piensan o actúan de manera diferente (véase al respecto el episodio 1 «Caída en picado» de la temporada 3 de la serie televisiva Black Mirror). Y, si se piensa que Singapur y China quedan muy lejos de nosotros, asúmase que en nuestro querido Occidente los consumidores estamos sometidos a verificaciones digitales de crédito y solvencia, que las empresas consultan nuestro perfil en redes sociales para las entrevistas de trabajo o que algunas filtraciones como la del programa Karma Police, del servicio secreto británico, han dejado al descubierto el masivo seguimiento de la actividad ciudadana por Internet [3].

Si todo lo dicho no parece aún suficiente, considérese el maquiavélico concepto de «computación persuasiva»con el que están trabajando algunas empresas de software y que utilizan refinadas técnicas de manipulación para controlar nuestras acciones, dando así un vertiginoso salto de la programación de ordenadores a la programación de personas. El uso de estas estrategias digitales es una práctica que, en el argot de la big data, recibe el nombre de macroinsinuación (big nuding) y está empezando a ser utilizada por los gobiernos para persuadir a los ciudadanos para que adopten comportamientos más sanos o más respetuosos con el medio ambiente. Por ejemplo, se emplearon para recomendar la vacunación durante la gripe porcina de 2009 (¿hay ahora alguna campaña de vacunación importante?). Se justifican estas prácticas alegando una superación de intereses egoístas en pro de optimizar el funcionamiento de las sociedades, mejorando nuestras condiciones de salud, nuestra seguridad, el cuidado del medio ambiente, etc [3]. ¿A alguien le viene a la cabeza el fantasma del Gran Hermano?

La religión de los datos

Si bien la ideología totalitaria que George Orwell podía tener en mente al escribir su famosa novela era la del comunismo, en pleno siglo XXI y en pleno auge de las tecnologías de la información y comunicación, planea más bien la sombra de otra ideología que suele calificarse como dataísmo y que podría entenderse como una auténtica religión de los datos. Según el dataísmo la realidad pasa a ser concebida como un inexorable flujo de datos y el valor de cada cosa es ponderado por su contribución al procesamiento y diseminación de la información. Esta corriente ideológica tiene su fundamento, más allá del espectacular desarrollo de las tecnologías digitales, en un nuevo y emergente paradigma científico que arrancó en los años veinte del pasado siglo en el campo de las ciencias de la computación y ha ido tomando forma al propagarse a ramas tan diversas como la biología (donde los seres vivos pasan a ser concebidos como máquinas para el procesamiento y transmisión de la información genética), la termodinámica (a través del paralelismo entre los conceptos de entropía de Claude E. Shannon y Ludwig Boltzmann), la teoría de la relatividad o la física cuántica. En el ámbito de las llamadas ciencias sociales o humanas también parece imponerse el concepto de información para el análisis de las estructuras políticas, económicas, sociales o culturales que pasan a ser interpretadas como sistemas de procesamiento de datos que tienden a incrementar su eficacia, siguiendo la ley universal del flujo de información [4]. Más allá de esta esfera intelectual, esta religión de los datos se impone cada vez más en nuestra vida cotidiana donde se manifiesta en la creciente compulsión ciudadana por fotografiar momentos de la vida íntima (frecuentemente anodinos) y subirlo a las redes sociales para esperar la reacción de nuestros seguidores.

La ideología imperante nos impone como credo máximo la plena circulación de datos: la información, se nos dice, debe ser libre. Para convencernos de esta divisa, los profetas del mundo digital apelan los innumerables beneficios de la libertad de información: mayor eficiencia a la hora de detectar pandemias, reducir la contaminación ambiental, garantizar nuestra seguridad, etc. En el contexto de la actual pandemia por Covid-19, estos argumentos quedan reforzados  y justifican en nombre de la salud global el uso masivo de los dispositivos para el rastreo de la información privada. En el futuro «utópico» de esta ideología está el llamado Internet de las Cosas, el próximo peldaño de la revolución digital en el que cada uno de nuestros objetos cotidianos estará conectado a la red,  lo cual nos ofrecería -o eso nos dicen- una gran fuente de acceso a datos que podrían optimizar los servicios de educación, asistencia sanitaria o transporte, entre otros campos. Algunos de estos sistemas están ya en funcionamiento. Así, por ejemplo, cuando llegamos a la parada del autobús podemos conectarnos a la página de la empresa de transportes y saber por dónde viene nuestro autobús y cuánto tenemos que esperar, las cajas registradoras de los supermercados llevan un cómputo de los artículos vendidos y avisan al propietario cuando un producto debe ser repuesto, etc. Quizás en un futuro no muy lejano será nuestra propia nevera la que, conectada en línea, se ponga en contacto con el supermercado para comunicarle que se nos está acabando los yogures o que ya no nos quedan cervezas. Ahora bien, al margen de todas estas promesas de eficacia en una sociedad controlada por la información, no deberíamos obviar el hecho de que la libertad de información es un derecho de la información en sí pero no de las personas y que la misma constituye un valor que puede entrar en conflicto con nuestro derecho a la privacidad y la intimidad y erigirse en un obstáculo para la libertad humana.

Dignidad, democracia y el papel de la filosofía.

Es una idea muy común la de confundir el desarrollo tecnológico con la idea general de progreso. Es cierto que todo desarrollo tecnológico supone un avance desde el punto de vista de la ciencia y la técnica, pero resulta a su vez una moneda de dos caras, ambiguo en cuanto a sus posibilidades de uso: los combustibles fósiles mueven el transporte pero aceleran el cambio climático, de la investigación nuclear se deriva una poderosa fuente para la energía que mueve nuestras sociedades pero también desastres humanitarios como los de Hiroshima, Nagasaki o Chernóbil, la investigación genética puede llevarnos a la cura de enfermedades como el alzhéimer o la paraplejia pero también a una sociedad de castas cerradas como que se relata en la novela «Un mundo feliz» o la que se muestra en la película «Gattaca»… En definitiva, el mismo fuego de Prometeo que nos alumbra y calienta, puede también arrasar con nosotros. El debate ético que se deriva de todo desarrollo tecnológico no es nuevo y, en este sentido, las tecnologías digitales no son una excepción; ahora bien, su llama debe mantenerse siempre viva para no sucumbir a los potenciales peligros que encierra. En este sentido, cabe apelar al irrenunciable papel de la filosofía, pues sólo esta cultiva en el individuo el sentido crítico y estimula la libertad de pensamiento, al tiempo que nos aporta el utillaje conceptual y argumentativo necesario para este  tipo de debates. Sólo bajo el radical cuestionamiento de todo propio de la filosofía, pueden abrirse los ojos de la consciencia para escapar de esta nueva caverna digital o Matrix que nos acecha.

Puede que desde la altas esferas de algunos gobiernos se nos esté tratando de convencer de las bondades de prácticas con el big nuding en relación a mejoras en nuestra seguridad, nuestra salud o el cuidado del medio ambiente, pero estas prácticas constituyen una suerte de tutelaje paternalista que atenta contra la autonomía moral del ciudadano adulto, contra esa «mayoría de edad» que tanto defendió el filósofo ilustrado Inmanuel Kant, pues priva al ciudadano de su  capacidad para decidir por sí mismo y, en su lugar, impone un más que dudoso mecanismo de control social. Permitir en nombre del progreso tal privación es un atentado contra la dignidad humana, pues el individuo queda reducido a un mero flujo de información que, procesado desde intereses económicos, políticos o ideológicos, cosifica al sujeto que pasa a ser tratado como un objeto y no como un fin en sí mismo.

Ahora bien, no se trata ni mucho menos de oponerse al desarrollo tecnológico, esto no sería ni deseable ni -seamos realistas- posible: tal desarrollo es como una bola de nieve que, una vez puesta en marcha, no se puede detener. De lo que sí se trata es de encauzar un uso racional del mismo y someterlo a un control, que garantice el mantenimiento de nuestros derechos y libertades [5]. En este sentido, sería conveniente que los estados comiencen a trabajar conjuntamente en la creación de un marco legislativo supranacional que regule el uso de la información digital y permita, entre otras cosas:

1) que el ciudadano disponga de acceso y control sobre la información que se recopila sobre él.

2) garantizar la transparencia de los sistemas de procesamiento de la información y la veracidad de la misma, combatiendo la «desinformación» que genera la distorsión, ocultación total o parcial de los datos.

3) fomentar la madurez digital de los ciudadanos – en el caso de los jóvenes, nativos digitales- educándoles en el conocimiento de las nuevas tecnologías y previniéndoles ante sus potenciales riesgos.

Adicionalmente, se impone un trabajo colectivo orientado a profundizar en nuestra tradición democrática, pues la historia nos enseña que la única forma de evitar que toda forma de poder degenere en el abuso y la tiranía es someter la misma  a un control democrático. Para evitar el monopolio en el uso de la información por parte de gobiernos y empresas privadas, se debe descentralizar progresivamente el funcionamiento de los sistemas de procesamiento de información. En esta dirección, resultan herramientas eficaces la creación de plataformas participativas y la organización de debates en línea mediante los cuales se pueda fomentar la colaboración ciudadana en los problemas globales. Frente al recurso tecnocrático a los algoritmos como forma de ofrecer una respuesta a nuestros problemas sociales, la confianza en la inteligencia colectiva garantiza un pluralismo y una diversidad que constituyen una base más sólida para lidiar con la complejidad de los problemas a los que nos enfrentamos y mejorar nuestra resiliencia social.

Vivimos en un momento crítico en relación a la implantación de las tecnologías digitales; de las decisiones que tomemos o dejemos de tomar en los próximos años depende el que avancemos por el camino de lo que se ha dado en llamar democracia 2.0, en lugar de retroceder por ese camino distópico contra el que tanto nos previene la ciencia ficción y que conduce de lleno a una nueva forma de esclavitud:  feudalismo 2.0.

[1] Isaac Asimov, «El electrón es zurdo y otros ensayos científicos», Alianza Editorial, 2002,capítulo 1 «Futuro amenazador«, p 11.

[2] Yuval Noah Harari, «Homo Deus. Breve historia del mañana», Penguin Random House Grupo Editorial, 2016, capítulo 11 «La religión de los datos», p 400.

[3] Dirk Helbing y otros, «¿Democracia digital o control del comportamiento?», monográfico de la revista Investigación y Ciencia, «Temas: La sociedad hiperconectada», 1º trimestre 2018, p 68.

[4] Alfonso Viudez, «El nuevo paradigma de la información», revista digital  Homonosapiens, 31 de Agosto de 2019.

[5] Antonio Sánchez, «Café filosófico: Estaremos sometidos a un mayor control social?», revista digital Homonosapiens, 24 Abril 2020.

Leer más en HomoNoSapiens| Monográfico Libertad o Seguridad: ¡Seguridad! ¡Seguridad! ¡Llamen a seguridad!