Lo de la IA

Parece que todo el mundo tiene una opinión sobre la IA, si va a destruir puestos de trabajo, si va a cambiar la forma de entender el mundo o si va a destruir la democracia tal y como la entendemos. De esto último habla Una teoría crítica de la inteligencia artificial, de Daniel Innerarity.

De esta forma, el principal desafío de la inteligencia artificial no consiste en el desarrollo de una tecnología cada vez más poderosa, sino en la capacidad de las sociedades democráticas para gobernarla. Innerarity sostiene que el debate sobre la IA suele oscilar entre dos extremos igualmente simplificadores: el entusiasmo tecnoutópico, que la presenta como la solución a la mayoría de los problemas humanos, y el catastrofismo, que la imagina como una amenaza existencial destinada a sustituir o dominar a la humanidad. Frente a estas posiciones, propone una perspectiva crítica que entiende la inteligencia artificial como una tecnología profundamente política y social, cuyos efectos dependen de las instituciones, las normas y las decisiones colectivas que orienten su desarrollo.

El autor argumenta que la IA no es una inteligencia comparable a la humana, sino una forma de capacidad especializada en detectar patrones, optimizar procesos y realizar predicciones a partir de grandes volúmenes de datos. El error consiste en atribuirle características humanas —comprensión, juicio moral, creatividad autónoma o conciencia— cuando en realidad sus resultados dependen de los objetivos, los datos y las estructuras diseñadas por personas. Por ello, el verdadero problema no es que las máquinas sustituyan completamente a los seres humanos, sino que las organizaciones y los sistemas de decisión deleguen excesivamente en modelos algorítmicos cuestiones que requieren deliberación, interpretación y responsabilidad.

La obra también plantea que la inteligencia artificial obliga a revisar conceptos fundamentales como conocimiento, autonomía, responsabilidad y democracia. Muchas decisiones que antes eran explícitamente políticas o administrativas pasan a estar mediadas por algoritmos cuya lógica resulta difícil de comprender incluso para quienes los utilizan. Esta opacidad puede erosionar la rendición de cuentas y desplazar el poder desde las instituciones democráticas hacia empresas tecnológicas y sistemas automatizados. En consecuencia, la cuestión central deja de ser qué puede hacer la IA y pasa a ser quién decide cómo se utiliza, bajo qué reglas y con qué mecanismos de control.

Lo que hay que tener en cuenta es que la inteligencia artificial no elimina la necesidad del juicio humano, sino que la hace aún más importante. Cuanto mayor sea la capacidad de automatizar tareas y producir recomendaciones, mayor será la responsabilidad de las personas e instituciones para evaluar críticamente esos resultados, establecer límites y corregir sus sesgos. Innerarity rechaza la idea de que la eficiencia técnica pueda sustituir la deliberación democrática, porque existen valores —como la justicia, la equidad o la dignidad— que no pueden reducirse a problemas de optimización matemática.

En definitiva, el libro defiende que el futuro de la inteligencia artificial dependerá menos de los avances tecnológicos que de la calidad de nuestras instituciones políticas y sociales. La IA debe entenderse como una herramienta capaz de ampliar las capacidades humanas, pero solo si permanece integrada en un marco democrático donde la transparencia, la supervisión, la pluralidad de perspectivas y la responsabilidad pública prevalezcan sobre la mera eficiencia. Su propuesta es, por tanto, una teoría crítica que desplaza el foco desde la fascinación por la tecnología hacia las condiciones políticas y éticas que permiten que esa tecnología contribuya al bien común, en lugar de reforzar desigualdades, concentraciones de poder o formas de decisión incompatibles con una sociedad democrática.