Seguimos con lo de la IA

Hay que asumir que la inteligencia artificial no es inteligente y que es poco artificial. Según las tesis de Ramón López de Mántaras, se le atribuyen capacidades que no posee: no piensa, no comprende, no razona y, sobre todo, no tiene conciencia. Y eso no está ayudando a salvarnos de una gran confusión.

Al igual que Innerarity, explica de forma muy pedagógica, los LLMs (Large Language Models), que son los modelos que están detrás de la Inteligencia Artificial Generativa como ChatGPT, no entienden el lenguaje. Funcionan mediante los denominados vectores, que no es otra cosa que predecir, de forma estadísticamente más probable, cuál será la siguiente palabra. Esto resulta tremendamente convincente, pero no implica la comprensión de su significado. Pueden producir respuestas sofisticadas sin saber realmente de qué están hablando.

Otro de los problemas para que la IA sea realmente inteligente es el llamado sentido común, que, como decía mi viejo profesor de matemáticas en BUP, es el menos común de los sentidos. Los seres humanos interpretamos el mundo apoyándonos en una enorme cantidad de conocimiento implícito adquirido mediante nuestra experiencia corporal y social. Así, tanto López de Mántaras como Innerarity asumen que las máquinas carecen de esa experiencia; por eso pueden cometer errores absurdos que un niño pequeño nunca cometería. Mientras no exista ese conocimiento de sentido común, se considera imposible hablar de una inteligencia comparable a la humana. Innerarity explica cómo es imposible que, por ejemplo, la inteligencia artificial llegue a entender un chiste como este: van caminando dos personas y se cae la del medio.

Entonces, si tanto el técnico informático como el filósofo están de acuerdo en sus tesis, ¿por qué le damos tanto bombo a la inteligencia artificial? La respuesta de López de Mántaras es que existe un importante componente de marketing que exagera deliberadamente las capacidades de estos sistemas para atraer inversión y generar expectativas. Expresiones como “la IA razona”, “piensa” o “está cerca de ser consciente” forman parte, en su opinión, de una narrativa comercial más que de una descripción científica.

Pero tampoco es negacionista. De hecho, ha dedicado toda su vida a investigar sobre este tema y reconoce todas las grandes capacidades que tiene para la medicina, la ciencia, la traducción, el análisis de datos o la automatización de tareas. El problema aparece cuando se le atribuyen competencias que no tiene o cuando se delegan decisiones importantes sin supervisión humana. Los riesgos que más le preocupan son la desinformación, los sesgos, la pérdida de privacidad, la manipulación de la opinión pública y la concentración de poder en unas pocas grandes empresas tecnológicas. Defiende, por ello, una regulación firme y una ciudadanía mejor formada para comprender tanto el potencial como las limitaciones de estas herramientas.

Aunque uno se centra más en la parte técnica y el otro en su influencia en la democracia, encuentro que ambos comparten un análisis y un diagnóstico bastante certeros sobre el futuro de la IA.

Si queréis ver la entrevista en YouTube: https://www.youtube.com/watch?v=pmsTzFLM8rI

*Imagen generada con ChatGPT