Con una mirada crítica sobre la tecnología, que no recae sobre objeciones habituales como el saqueo de datos o la amenaza a las libertades individuales, el filósofo francés Eric Sadin dedica su nuevo libro, “La inteligencia artificial o el desafío del siglo”, a caracterizar los efectos de una fase de la tecnología que está provocando distorsiones en la percepción del mundo, al límite que ha desatado un antihumanismo que puede significar el fin de la especie humana.
“Las tecnologías digitales se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas”, dice el autor de libros como “La vida algorítmica” o “La siliconización del mundo”.
Articulos Relacionados
El gran tópico de la producción de Sadin (París, 1972) es la intersección entre tecnología y sociedad, en especial los modos en que el llamado tecno-liberalismo horada el juicio crítico, convirtiendo las elecciones subjetivas en una práctica inducida por algoritmos.
El registro dramático que escoge el filósofo en “La inteligencia artificial o el desafío del siglo” (Caja Negra) ya había sido enunciado por uno de los artífices de la inteligencia artificial (IA), Marvin Lee Minsky, que en 1970 vaticinó que cuando las computadoras tomaran el control, sería muy difícil volver a recuperarlo: “Sobreviviremos mientras ellas nos toleren. Si tenemos suerte, quizá decidan tenernos como sus mascotas”, sostuvo por entonces.
“El término ´inteligencia artificial´ debe ser cuestionado”.
Sin embargo, Sadin se las ingenia para no incurrir en las profecías más transitadas y siembra su propio alerta apocalíptico: la idea de que la IA está impulsando un cambio antihumanista y antidemocrático, una alteración de la percepción del mundo que se produce a partir de aplicaciones presentes en la vida cotidiana -como diagnósticos médicos formulados por bots o programas de selección de personal que prescinden de la entrevista laboral- que enuncian conclusiones a partir de la habilidad para analizar y vincular a velocidad una cantidad de datos imposibles de ser procesados por el cerebro humano.
– En su libro plantea que se generó un cambio de estatuto de las tecnologías digitales, que pasaron de almacenar datos a enunciar verdades a partir de la interpretación automatizada de situaciones ¿Cuáles serán los órdenes de la vida más afectados por este nuevo rol de la IA?
– Lo que caracteriza la inteligencia artificial es que es un poder de experiencia que mejora constantemente. Los sistemas ahora pueden analizar situaciones cada vez más diversas y revelarnos hechos, algunos de los cuales son ignorados en nuestra conciencia. Y lo hacen a velocidades que van más allá de nuestra capacidad cognitiva.
Estamos experimentando un cambio en el estado de las tecnologías digitales, que ya no solo están destinadas a permitirnos manipular la información para diversos fines, sino para revelarnos la realidad de los fenómenos más allá de las apariencias.
La IA ha representado, desde principios de la década de 2010, una cuestión económica en la que es necesario invertir de forma masiva. Además de las empresas, también son los Estados los que movilizan todos los medios necesarios para estar a la vanguardia; ahora cada uno hace de este objetivo una gran causa nacional. A la vanguardia en ese sentido se encuentran Estados Unidos y China.
– Según su hipótesis, el propósito de este liberalismo digital es ir reemplazando a las personas y “robotizar” al ser humano ¿Seremos sujetos pasivos frente a esa deshumanización y perderemos toda capacidad de resistencia, o las sociedades se sublevarán como lo hacen hoy frente al rebrote racial tras la muerte de George Floyd?
– Este es un fenómeno único en la historia de la humanidad, que ve técnicas que nos ordenan actuar de tal o cual manera. Las tecnologías digitales, a partir de herramientas de apoyo a la toma de decisiones, se han convertido en órganos de toma de decisiones. En cierto modo, seremos menos llamados a dar instrucciones a las máquinas que a recibirlas de ellas. Esto puede variar desde un nivel moderado e inofensivo, por ejemplo a partir de una aplicación de entrenamiento deportivo que nos sugiera la utilización de un suplemento dietético, hasta un nivel prescriptivo en el caso del sector de reclutamiento laboral que ahora usa sistemas digitales para seleccionar los candidatos a una tarea.
El ejercicio libre de nuestra facultad de juicio es reemplazado por protocolos destinados a guiar y enmarcar nuestras acciones.
“Estamos presenciando la marginación de la evaluación humana”.
– ¿Cómo impacta esto en el mundo del trabajo?
– Los diferentes sectores de las grandes compañías ahora están infiltrados con sensores que hacen posible una disposición dual: primero, el mapeo en tiempo real de las “medidas de desempeño”, luego la implementación de sistemas destinados a promover gestos “buenos” a realizar. Estos procesos son ampliamente utilizados en los almacenes de Amazon, por ejemplo, pero se extienden a todo el mundo industrial. Los cuerpos se ven privados de su subjetividad y su capacidad de iniciativa, y se reducen continuamente a la ejecución de órdenes que emanan de programas que la mayoría de las veces son establecidos por empresas tercerizadas. Es hora de que los sindicatos aborden estas cuestiones de organización de conducta impersonal y altamente optimizada, que burlan la legislación laboral tanto como la dignidad humana.
– ¿Estamos una vez más frente a la reactualización de aquel concepto de Hobbes acerca del “hombre como lobo para el hombre”, dado que es la especie humana la que dictamina los usos y abusos de la tecnología?
– Estamos presenciando la marginación de la evaluación humana. En medicina, un campo que se supone que aprovecha los avances en inteligencia artificial, el diagnóstico del médico está obligado a ser progresivamente marginado por los sistemas. Porque la industria digital tiene la intención de tomar el control del campo de la salud. .
En términos más generales, estamos ante la prohibición del ser humano como un ser activo, capaz de evaluar las cosas, a favor de sistemas que tracen el mejor marco supuesto del curso de nuestra existencia. La ciudad inteligente, por ejemplo, margina cualquier proyecto concertado en beneficio de los mecanismos que enmarcan nuestra vida cotidiana en los espacios urbanos. Estas son las señales lógicas destinadas a establecer una mercantilización integral de la vida tanto como una visión higiénica de la sociedad.
Toda nuestra tradición humanista está en peligro en la medida en que estamos presenciando el destierro progresivo de los humanos como seres activos. Porque la inteligencia artificial margina el ejercicio de nuestra facultad de juicio e infringe nuestro derecho a determinarnos libremente y en conciencia.
– Usted asegura que la expresión “inteligencia artificial” debe ser cuestionada ¿Por qué?
– De ninguna manera estamos lidiando con una réplica de nuestra inteligencia, incluso parcial, sino con un abuso del lenguaje que sugiere que la IA podría sustituir la nuestra para poder asegurar una mejor conducta de nuestro negocio. Por lo tanto, el término “inteligencia artificial” debe ser cuestionado. En verdad, estamos tratando más exactamente con un modo de racionalidad que busca optimizar cualquier situación y satisfacer una serie de intereses privados.
“La inteligencia artificial margina el ejercicio de nuestra facultad de juicio”.
-¿Esta embestida tan radical de la tecnología sobre la subjetividad tiene algún correlato en ideas filosóficas o relacionadas con alguna corriente de pensamiento?
– El movimiento tecnológico vigente desde hace quince años se sustenta en una visión del mundo que prevalece en los Estados Unidos, principalmente en California, según la cual Dios no completó la creación. El mundo está lleno de fallas y el principal vector de estas imperfecciones son los humanos. Pero hoy tendría lugar un “milagro”: el advenimiento de las llamadas tecnologías “exponenciales” que se supone corrigen, a largo plazo, toda la escoria del mundo a una velocidad exponencial. Esto dio lugar al movimiento transhumanista, para el que lo característico de la vida, es decir, la corrupción y el declive, puede erradicarse. Es entonces la singularidad de los seres y la pluralidad humana que se neutralizan gradualmente mediante modos automatizados de organización que persiguen el conflicto, la deliberación y la concertación. Al esforzarnos continuamente por gobernarnos a nosotros mismos, estos sistemas establecen una relación estrictamente utilitaria con la existencia, suponiendo que toda acción debe apuntar a un fin, ya sea una supuesta comodidad o la optimización de secuencias de nuestras vidas.
-¿Y qué se puede hacer para detener el progreso de este “Leviatán algorítmico” que pretende administrar nuestras vidas en cada detalle?
– Estamos indefensos ante la velocidad de los desarrollos que nos impiden hablar en conciencia y que se presentan como inevitables. A medida que los evangelistas de la automatización mundial continúan emprendiendo, sin tener en cuenta todas las consecuencias civilizacionales, nos encontramos con apatía. Primero es necesario contradecir los discursos tecnológicos y traer de vuelta los testimonios que emanan de la realidad en el terreno, donde operan estos sistemas, en el lugar de trabajo, en las escuelas, los hospitales… Deberíamos mostrar nuestro rechazo hacia los dispositivos que burlan nuestra integridad y nuestra dignidad.Todavía depende de nosotros promover otros modos de existencia que los basados en el deseo de optimizar todo y comercializar todo. Celebremos la pluralidad humana, que condiciona la política según Anna Harendt. Contra este asalto antihumanista, prevalezcamos una ecuación simple pero intangible: cuanto más tengamos la intención de renunciar a nuestro poder para actuar, más será necesario estar activos.
