Hay quien sostiene que la actual inteligencia artificial sería muy inteligente y muy estúpida a la vez; su estupidez consiste en que cuando toma una decisión inteligente no tiene modo de saberlo. La inteligencia artificial es un conjunto de técnicas geniales para aprenderse el mundo de memoria. Aunque sobrepase la potencia calculatoria del ser humano, la inteligencia artificial es incapaz de dar una significación a sus propios cálculos. ¿Se puede ser inteligente sin saberlo, como un zombi que fuera capaz de realizar tareas inteligentes de un ser humano pero solamente de manera refleja? La inteligencia artificial tiene inteligencia refleja, no reflexiva. Y esto no corresponde a la noción que tenemos de inteligencia. Puede estar ocurriendo que muchos límites para el avance de la inteligencia artificial tengan que ver con que la concepción dominante de lo que es inteligencia sea reduccionista y no preste atención a las dimensiones cualitativas, contextuales, intuitivas, inexactas y corporales del conocimiento. Es hábil al encontrarse con situaciones específicas para las cuales hay una gran cantidad de datos, pero no para problemas nuevos o situaciones inéditas. La inteligencia artificial del futuro deberá aproximarse más a la nuestra, tiene necesidad de otros mecanismos cognitivos similares a los específicamente humanos.
Si quiere atravesar nuevas fronteras, la inteligencia artificial tiene que aprender más de cómo la gente realmente piensa: de nuestra comprensión, rapidez y adaptación, de nuestra capacidad de actuar con información incompleta e incluso inconsistente, consumiendo poca energía, sin muchos datos, aproximadamente. El reduccionismo de la inteligencia a gestión de datos y cálculo es lo que explica que estemos cediendo poder a unas máquinas que no son muy fiables, especialmente en lo que se refiere a valores humanos, sentido o visión de conjunto de su inserción en una sociedad, con sus prioridades y sus objetivos de equilibrio, sostenibilidad o igualdad. El cambio de paradigma de la futura inteligencia artificial debe ser su humanización en el sentido de que incorpore en la medida en que sea posible estas dimensiones de sentido, comprensión y equilibrio que hasta la fecha no ha sido capaz de desarrollar.
La cuestión de fondo tiene, no obstante, un carácter estructural. El problema del aprendizaje de los sistemas es que son incapaces de ver cada caso como un caso particular; están concebidos para construir estereotipos a través de una gran cantidad de datos. Su fortaleza consiste en que extraen las características que se repiten dejando al margen las propiedades raras, variables y contingentes. No sólo es que se apoyen en los estereotipos, sino que están calculados para maximizar la conformidad a los estereotipos.
Las tecnologías de la automatización y la inteligencia artificial resultarán incomprensibles si continúan siendo socialmente inexactas , si no las entendemos como una totalidad que incluye también el modo como configuran las realidades sociales o modifican nuestro comportamiento.
Daniel Innerarity, La inteligencia de la inteligencia artificial, La Vanguardia 16/12/2019 [https:]]