ENTREVISTA AL ENSAYISTA FRANCES ERIC SADIN

“Las tecnologías digitales debilitan la capacidad de decidir”

Eric Sadin analiza en su obra, y en esta nota, las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos y la amenaza de los Data Center.

 Por Eduardo Febbro

Desde París Ya no estamos solos. Un doble o muchos dobles nuestros persisten en los incontables Data Center del mundo, en las redes sociales, las memorias gigantescas de Google, de Facebook o de la Agencia Nacional de Seguridad de Estados Unidos, la NSA. Es lo que el ensayista francés Eric Sadin, uno de los autores más proféticos y brillantes en el análisis de las nuevas tecnologías, llama “la humanidad paralela”. Este ensayista francés no comete la tontería de agitar espantapájaros triviales a propósito de nociones como el “transhumanismo”. Tampoco se refiere a la fusión física entre el ser humano y las máquinas, el famoso ciborg, ni ahonda en la tesis del fin de una humanidad recuperada o salvada mediante soportes numéricos. No. Eric Sadin piensa de manera magistral las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos y la amenaza de los Data Center.
En cada uno de sus libros anteriores, Surveillance Globale, La Société de l’anticipation, Eric Sadin ha explorado como pocos las mutaciones humanas inherentes a la erupción de la hiper tecnología en nuestras vidas. Lejos de contentarse con un anecdotario trivial de los instrumentos tecnológicos que surgieron desde hace décadas, Sadin los piensa de una forma inédita. Su último libro, L’Humanité Augmentée, L’administration numérique du monde (La humanidad aumentada, La administración digital del mundo), explora la capacidad cada vez más creciente que tienen los dispositivos inteligentes para administrar el rumbo del mundo. El libro ganó en Francia el Hub Awards 2013, un premio que recompensó al mejor ensayo del año.
La obra navega fuera de los senderos evidentes. Ni elogio fúnebre de la especie humana ni cántico de rodillas a las nuevas tecnologías, sino una reflexión pura que demuestra que nos encontramos en un momento crítico de la historia humana. Para Eric Sadin, Hal 9000, la computadora súper potente que en la película 2001 Odisea del Espacio equipa la nave Discovery, ha dejado hace mucho de ser una ficción: Hal 9000 ha sido incluso superada por la tendencia actual hacia una “administración robotizada de la existencia”. GPS, iPhone, smartphone, sistemas de gestión centralizados que deciden por sí solos, trazabilidad permanente, todo confluye en la creación de lo que el autor llama un “órgano-sintético que repele toda dimensión soberana y autónoma”. En esta entrevista con Página/12, Sadin analiza ese doble tecnológico que nos facilita muchas cosas al tiempo que nos acecha al punto de transformar nuestra humanidad.

–Eric Schmidt, el presidente de Google, dice en su último libro The New Digital Age que “acabamos de dejar los starting-blocks” de la revolución numérica. Usted, al contrario, estima que la revolución digital se acaba. ¿Fin o nueva fase?

–La década actual señala el fin de lo que se llamó “la revolución digital”, que empezó a principios de los años ’80 mediante la digitalización cada vez más vasta de lo real: la escritura, el sonido, la imagen fija y animada. Ese amplio movimiento histórico se desplegó paralelamente al desarrollo de las redes de telecomunicación e hizo posible el advenimiento de Internet, o sea, la circulación exponencial de los datos en la red. Esta condición tecnológica universalizada trastornó prioritariamente tres dimensiones: las condiciones de acceso a la información, el comercio y la relación con los otros a través de los correos electrónicos y las redes sociales. Hoy, esta arquitectura que no cesó de desarrollarse y consolidarse está sólidamente instalada a escala global y permite el advenimiento de lo que yo llamo “la era inteligente de la técnica”.

–La historia del siglo XXI se parece entonces a una redefinición de las líneas antropológicas. Usted la define como una humanidad “comprometida en una odisea incierta e híbrida, antropólogo-mecánica”.

–Nuestro tiempo instaura una relación con la técnica que ya no está prioritariamente fundada sobre un orden protético, o sea, como una potencia mecánica superior y más resistente que la de nuestro cuerpo, sino como una potencia cognitiva en parte superior a la nuestra. Hay robots inmateriales “inteligentes” que colectan masas abismales de datos, las interpretan a la velocidad de la luz al tiempo que son capaces de sugerir soluciones supuestamente más pertinentes, e incluso de actuar en lugar nuestro, como ocurre con el trading algorítmico, por ejemplo.

–Precisamente, el trading algorítmico desempeñó un papel nefasto en la crisis financiera de 2008. Un dispositivo creado por el ser humano operó una suerte de sustitución que terminó ahondando la crisis.

–Las transacciones financieras mundiales se llevan a cabo mediante la colecta automatizada de volúmenes astronómicos de datos: su tratamiento en tiempo real, la compra o la venta de acciones están a cargo de robots numéricos que trabajan a una velocidad que sobrepasa nuestras capacidades cognitivas. Hace 30 años, esa actividad estaba realizada por seres humanos, pero fue poco a poco transferida hacia sistemas interpretativos y reactivos. Ese fenómeno expone el momento inquietante de nuestra contemporaneidad, donde las producciones tecnológicas concebidas por seres humanos nos sustituyen e incluso actúan en lugar nuestro.

–En su último ensayo, La humanidad aumentada, la administración digital del mundo, usted expone un mundo cartografiado de manera constante por los sistemas digitales. Usted muestra la emergencia de una suerte de humanidad paralela –las máquinas– destinadas a administrar el siglo XXI. Se impone una pregunta: ¿qué queda entonces de nuestra humanidad?

–La historia de la humanidad está constituida por una infinidad de evoluciones sucesivas en todos los campos. Desde el Renacimiento, nuestro potencial humano se fundó sobre la primacía humana constituida por la facultad de juzgar, la facultad de decisión y, por consiguiente, de la responsabilidad individual que funda el principio de la Ley. La asistencia de las existencias por sistemas “inteligentes”, además de que representa una evolución cognitiva, redefine de facto la figura de lo humano como amo de su destino en beneficio de una delegación progresiva de nuestros actos concedida a los sistemas. Una creación humana, las tecnologías digitales, contribuyen paradójicamente a debilitar lo que es propio al ser humano, o sea, la capacidad de decidir conscientemente sobre todas las cosas. Esta dimensión en curso se amplificará en los próximos años. Además, nuestras vidas individuales y colectivas están cada vez más reorientadas por sistemas que nos conocen con mucha precisión, que nos sugieren ofertas hiper individualizadas, que nos aconsejan este u otro comportamiento. Por medio del uso de nuestros protocolos de interconexión se opera una cuantificación continua de los gestos, la cual autoriza un “asistente robotizado” expansivo de las existencias.

–Usted se refiere al surgimiento de un componente “órgano-sintético que repele toda dimensión soberana y autónoma”. En suma, el mundo, nuestras vidas, están bajo el orden de lo que usted llama “la gobernabilidad algorítmica”. El ser humano ha dejado de administrar.

–No se trata de que ya no administre más, sino de que lo hará cada vez menos en beneficio de amplios sistemas supuestamente más eficaces en términos de optimización y de seguridad de las situaciones individuales y colectivas. Esto corresponde a una ecuación que está en el corazón de la estrategia de IBM. Esta empresa implementa arquitecturas electrónicas capaces de administrar por sí mismas la regulación de los flujos de circulación del tráfico en las rutas o la distribución de energía en ciertas ciudades del mundo. Esto es posible gracias a la colecta y al tratamiento ininterrumpido de datos; los stocks de energía disponibles, las estadísticas de consumo, el análisis de los usuarios en tiempo real; la energía disponible, las estadísticas del consumo, el análisis de la utilización en tiempo real. Estas informaciones están conectadas con algoritmos capaces de lanzar alertas, de sugerir iniciativas o asumir el control decidiendo por sí mismos ciertas acciones: aumento de la producción, compras automatizadas de energía en los países vecinos, o corte del suministro en ciertas zonas.

–Eso equivale a una suerte de pérdida mayor de soberanía.

–La meta consiste en buscar la optimización y la seguridad en cada movimiento de la vida. Por ejemplo, hacer que una persona que pasa cerca de una zapatería pueda beneficiarse con la oferta más adecuada a su perfil, o que alguien que se pasea en una zona supuestamente peligrosa reciba un alerta sobre el peligro. Vemos aquí el poder que se le delega a la técnica, o sea, el de orientar cada vez más con mayor libertad la curva de nuestras existencias. Ese es el aspecto más inquietante y más problemático de la relación que mantenemos con las tecnologías contemporáneas.

–El escándalo del espionaje que explotó con el caso Prism, el dispositivo mediante el cual la NSA espía todo el planeta, puso al descubierto algo terrible: no sólo nuestras vidas, nuestra intimidad, son accesibles, sino que nuestras vidas están digitalizadas, convertidas en Big Data, dobladas.

–Prism reveló dos puntos cruciales: en primer lugar, la amplitud abismal, casi inimaginable, de la colecta de informaciones personales; en segundo, la colusión entre las compañías privadas y las instancias de seguridad del Estado. Este tipo de colecta demuestra la existencia de cierta facilidad para apoderarse de los datos, guardarlos y, luego, analizarlos para instaurar funcionalidades de seguridad. La estrecha relación que liga a los gigantes de la red con la NSA debería estar prohibida por la ley, salvo en ocasiones específicas. De hecho, no es tanto la libertad lo que disminuye sino partes enteras de nuestra vida íntima. El medio ambiente digital favoreció la profundización inédita en la historia del conocimiento de las personas. Este fenómeno está impulsado por las compañías privadas que colectan y explotan esas informaciones, a menudo recuperadas por las agencias de seguridad y también por cada uno de nosotros mediante las huellas que diseminamos permanentemente, a veces sin ser conscientes, a veces de manera deliberada. Por ejemplo, a través de la exposición de la vida privada en las redes sociales.

–El caso NSA-Prism marca todo un hito en la historia. De alguna manera, incluso si la gente ha reaccionado de forma pasiva, hemos perdido la inocencia digital. ¿Cree usted que aún persiste la capacidad de rebelarse en esta gobernabilidad digital?

–Con Prism habrá un antes y un después. Este caso mostró hasta qué punto la duplicación digital de nuestras existencias participa de la memorización y de su explotación. Esto ocurrió en apenas 30 años bajo la presión económica y de las políticas de seguridad sin que se haya podido instaurar un debate a la medida de lo que estaba en juego. Este es el momento para tomar conciencia, para emprender acciones positivas, para que los ciudadanos y las democracias se apropien de lo que está en juego, cuyo alcance concierne a nuestra civilización.

–La ausencia de Europa ha sido en este robo planetario tan escandalosa como cobarde. Usted, sin embargo, está convencido de que el Viejo Mundo puede ahora desempeñar un papel central.

–Me parece que Europa, en nombre de sus valores humanistas históricos, en nombre de su extensa tradición democrática, debe influir en la relación de fuerzas geopolíticas de Internet y favorecer la edificación de una legislación y una reglamentación claras. El término Big Data, más allá de las perspectivas comerciales que se desprenden de él, nombra ese momento histórico en el cual el mundo está copiado bajo la forma de datos que pueden ser explotados en una infinidad de funcionalidades. Se trata de una nueva inteligibilidad del mundo que emerge a través de gigantescas masas de datos. Se trata de una ruptura cognitiva y epistemológica que, me parece, debe ser acompañada por una “carta ética global” y marcos legislativos transnacionales. No obstante, hay que desconfiar de todo intento de toma de control por ciertos países capaz de conducir a una fragmentación de Internet. Justamente, el valor de Internet radica en su dimensión universalizada. Me parece que lo que necesitamos es un acuerdo en torno de algunas exigencias fundamentales.

El smartphone, ese “asistente robotizado”

En su libro, usted se refiere a una figura mítica del cine, Hal, el sistema informático de la nave Discovery que aparece en la película 2001 Odisea del espacio. ¿Hal es, para usted, como la figura que encarna nuestro devenir tecnológico a través de la inteligencia artificial?

–Hal es un sistema electrónico hiper sofisticado que representa la figura mayor de la película de Stanley Kubrick. Hal es un puro producto de la inteligencia artificial, es capaz de colectar y analizar todas las informaciones disponibles, de interpretar las situaciones y actuar por sí misma en función de las circunstancias. Exactamente como ciertos sistemas existentes en el trading algorítmico, o en el protocolo de Google. Hal no corresponde más a una figura imaginaria y aislada sino a una realidad difusa llamada infinitamente a infiltrar sectores cada vez más amplios de nuestra vida cotidiana.

–En esa misma línea se sitúa para usted el iPhone o los smartphones. No se trata de juguetitos sino de un casi complemento existencial.

–Creo que la aparición de los smartphones en 2007 corresponde a un acontecimiento tecnológico tan decisivo como el de la aparición de Internet. Los smartphones permiten la conexión sin ruptura espacio-temporal. Con ello los smartphones exponen a un cuerpo contemporáneo conectado permanentemente, tanto más cuanto que puede ser localizado vía el GPS. También, a través de él se confirma el advenimiento de un “asistente robotizado” de las existencias por medio de las innúmeras aplicaciones capaces de interpretar un montón de situaciones y sugerirle a cada individuo las soluciones supuestamente más adaptadas.

–Esos objetos, que son táctiles, nos hacen mantener una relación estrecha con el tacto. Pero, al mismo tiempo que tocamos, las cosas se tornan invisibles: toda la información que acumulamos desaparece en la memoria de los aparatos: fotos, videos, libros, notas, cartas. Están pero son invisibles.

–En efecto, ese doble movimiento trastornante debería interpelarnos. Nuestra relación con los objetos digitales se establece según ergonomías cada vez más fluidas, lo que alienta una suerte de creciente proximidad íntima. La anunciada introducción de circuitos en nuestros tejidos biológicos amplificará el fenómeno. Por otro lado, esa “familiaridad carnal” viene acompañada por una distancia creciente, por una forma de invisibilidad del proceso en curso. Esto es muy emblemático en lo que atañe a los Data Centers que contribuyen a modelar las formas de nuestro mundo y escapan a toda visibilidad. Es una necesidad técnica. Sin embargo, esa torsión señala lo que se está jugando en nuestro medio ambiente digital contemporáneo: por un lado, una impregnación continua de los sistemas electrónicos, y, por el otro, una forma de opacidad sobre los mecanismos que la componen.

“Desarrollar una conciencia crítica”

Los poderes públicos, principalmente en Europa, son incapaces de administrar el universo tecnológico, incapaces de encuadrarlo con leyes o fijar límites. La ignorancia reina, pero la tecnología termina por imponerse, al igual que las finanzas, a todo el espectro político. De alguna manera, los poderes públicos son víctimas de la ignorancia y de lo que Paul Virilio conceptualizó como nadie: la velocidad.

–Una velocidad aumentada sin nunca cesar caracteriza el movimiento vertiginoso imprimido por la innovación tecnológica. Estamos viviendo en el seno de un régimen temporal que se vuelve exponencial, prioritariamente mantenido por la industria que impone sus leyes. Lo propio de los regímenes democráticos es su facultad deliberativa, su capacidad colectiva para elegir conscientemente las reglas que enmarcan el curso de las cosas. Ese componente está hoy eminentemente fragilizado. Ahora como en el futuro, debemos enfrentarnos activamente, sin nostalgia y bajo diversas formas, a la amplitud de lo que está en juego éticamente, bajo la inducción de esta “tecnologización” de nuestras existencias. Tanto en las escuelas y universidades, creo que es urgente enseñar el código, la composición algorítmica, la inteligencia artificial. Creo que son los profesores de “humanidad numérica” quienes deberían ingresar en las escuelas y contribuir a despertar las conciencias y ayudar a encontrar las perspectivas positivas que se están abriendo con este movimiento. Es preciso que en adelante desarrollemos una conciencia crítica ante nuestra propia utilización, que se instaure lo que yo llamo “una disciplina de la utilización”. Esta disciplina me parece indispensable si no queremos estar infinitamente pegados a las producciones tecnológicas, si no queremos volvernos un mismo cuerpo con la técnica. Es preciso mantener cierta distancia, porque es la distancia quien condiciona el principio mismo de una relación abierta y singularizada con el mundo.