Hablamos de la inteligencia artificial como si tuviera personalidad y voluntad propias. Eso descarga aparentemente de responsabilidad a los humanos. Hablar de IA es una abstracción, lo que existe en realidad es el “sistema inteligencia artificial + factores humanos”. Es ahí donde debemos fijar la atención, si no queremos que, como decía el viejo romance, “entre tanta polvareda, perdimos a don Roldán”. La pregunta importante para el futuro no es lo que puede hacer la inteligencia artificial, sino qué quieren que haga quienes financian, diseñan, manejan la inteligencia artificial. ¿Quién se va a encargar de ello? La respuesta es doble: 1. Quien tenga poder para hacerlo. 2. La opinión pública que puede conceder, limitar o bloquear ese poder. Por desgracia, las nuevas tecnologías no han producido la democratización generalizada que esperaban sus padres fundadores, sino que ha concentrado el poder y puesto más herramientas en manos del poder. ‘La ciencia de la evolución de las culturas’ es en gran parte la historia de cómo todo poder tiende a expandirse y cómo los ciudadanos se han esforzado en limitarlo. El poder —sea político, religioso o económico— no tiene sistema de frenada. Llega hasta donde puede llegar. La democracia es el sistema que mejor ha funcionado hasta ahora para controlarlo, pero sin lograrlo del todo. Es cierto que el poder se apoya en la opinión pública. También lo es que el poder puede moldear en gran medida la opinión pública. Y la tecnología digital lo facilita.
En Proyecto Centauro (Edelvives) he analizado la configuración del sujeto actual, que está siendo ya influido por las nuevas tecnologías. Lo he llamado “el triunfo de Skinner”, lo que exige una explicación. En casi todos los rankings de los psicólogos más influyentes del siglo XX figura
Skinner en primer lugar. Explicó el comportamiento humano a través del condicionamiento operante. Si manejo los premios y castigos (los reforzadores positivos o negativos), puedo dirigir el comportamiento de las personas. El entorno esculpe al sujeto. Si domino el entorno, el sujeto es mío. Comprobó que esto funcionaba con animales en su famosa “caja de Skinner”. Pensaba que, utilizando ese método, la “ingeniería social” podía acabar con los problemas sociales. Todos nos comportaríamos adecuadamente si estábamos sometidos al adecuado régimen de refuerzos. Skinner se quejaba de que ese sistema tan eficiente no se hubiera podido aplicar por la influencia de dos ideas —“libertad” y “dignidad”— que él consideraba retardatarias y perjudiciales para la búsqueda humana de la felicidad. Si lo que queremos es una sociedad justa y feliz, concluía, debemos prescindir de la idea de libertad. La gente, decía, puede comportarse bien sin necesidad de hacerlo libremente. Basta premiar la bondad y castigar la perversidad. ¿Por qué hablo de “el triunfo de Skinner”? Dos fenómenos corroboran su triunfo: la “red” como forma de vida y la influencia ideológica de China. Al hablar de la red, suele enfatizarse el aspecto relacional, las aristas, nexos, que transmiten la información. En cambio, se da poca importancia a los nodos. Esto es grave. ¿Qué son estos nodos? Las personas. Insistir en las conexiones y no en las personas es un modo de debilitar al sujeto, de facilitar que la red se imponga a él. Cada vez que se transfieran más competencias a la red, se está disminuyendo la autonomía de los nodos. Al final, el sujeto no puede vivir sin la red, todo está en ella. La posibilidad de que un nodo influya en la red es insignificante, aunque la facilidad para subir contenidos, fotografías, memes le den la impresión de ser importante, de intervenir en el mundo, que resulta deliciosa y adictiva. Pero la red no es homogénea. Hay poderosos centros de poder en la red que pueden tener una influencia decisiva en los contenidos que viajan por ella. La sumisión a la red no se hace por coacciones o amenazas, sino por la grata aceptación de las comodidades y satisfacciones que produce al usuario. Nadie ha obligado a estar pendientes del móvil más de cuatro horas al día. La gente lo hace porque la pantalla es una fuente inagotable de pequeñas o grandes satisfacciones. Esto es lo que hace que, de acuerdo con la teoría de Skinner, se haya convertido en un gigantesco modificador de conductas, gratamente aceptado.
La tecnología nos proporciona grandes satisfacciones y comodidades. ¿Qué más da que estemos enganchados a esos premios? Sabemos que la tecnología se ha convertido en una industria de la persuasión, pero no nos importa. [El experto en ética] Tristan Harris escribe: “Puedo ejercer control sobre mis dispositivos, pero tengo que recordar que al otro lado de la pantalla hay un millar de personas cuyo trabajo es acabar con cualquier asomo de responsabilidad que me quede”. Su testimonio es relevante: formó parte de ese millar de personas. Trabajó en Apple, Wikia, Apture y Google. [El historiador] Siva Vaidhyanathan dice que Facebook nos engancha como las patatas fritas: “Ofrece placeres frecuentes y banales”.
Yuval Noah Harari advierte: “Podrías ser feliz cediendo toda la autoridad a los algoritmos y confiando en ellos para que decidan por ti y por el resto del mundo”. Con razón,
Evgeny Morozov, experto en tecnologías digitales, dice: “El verdadero santo patrón de internet es B. F. Skinner”.
Continúo con los testimonios en un intento (también yo) de persuadirlos. Sean Parker, presidente de Facebook, tiene claro el papel del reforzador positivo para atraer al cliente: “Necesitamos darle un pequeño chute de dopamina de vez en cuando, porque a alguien le gustó o comentó una foto, o un mensaje, o lo que sea. Y eso va a conseguir que aporte más contenido, y que tenga más “me gusta” y comentarios. Es un bucle de retroalimentación de validación social, el tipo de cosas que inventaría un hacker como yo, porque está explotando una vulnerabilidad de la psicología humana”. Vale la pena subrayar su referencia a la “vulnerabilidad humana”.
Un influyente personaje en este mundo tecno-skinneriano es B. J. Fogg, fundador del Persuasive Tech Lab de la Universidad de Stanford, que ha inventado la “captología”, la ciencia de la persuasión a través de ordenadores. Define “persuasión” como “a noncoercive attempt to change attitudes or behaviors” (un intento no coercitivo de cambiar actitudes o comportamientos). Fogg recomienda a sus alumnos la lectura de Skinner. La empresa creada por el neurocientífico Ramsay Brown, Dopamine Labs, anuncia: “Nuestra tecnología predice y troquela la conducta humana”. Nir Eyal, que trabajó con alguna de las compañías más influyentes de Silicon Valley para idear formas de “enganchar” a los usuarios, revela sus maquinaciones en Enganchado, donde dice: “Admitámoslo: nos dedicamos al negocio de la persuasión. Los innovadores crean productos pensados para convencer a la gente de que haga lo que queremos que haga. A esa gente los llamamos usuarios y, aunque no lo digamos en voz alta, deseamos secretamente que todos se enganchen endiabladamente a las cosas que fabricamos”. Describe sus métodos como “manipulación mental” y también cita a Skinner como modelo para lograrla. (…) Terminaré con el resumen que hace Johann Hari en
El valor de la atención (Península, 2023): “Hoy vivimos en un mundo dominado por tecnologías que se basan en la visión que Skinner tenía del funcionamiento de la mente humana. Su idea —que podemos entrenar a las criaturas vivientes por desear desesperadamente unas recompensas arbitrarias— ha llegado a dominar nuestro medio. Muchos de nosotros somos como esos pájaros enjaulados a los que se hace ejecutar un baile raro para obtener recompensa, y mientras eso ocurre imaginamos que lo hacemos por elección propia”.
José Antonio Marina,
El psicólogo que adelantó nuestra adicción a las recompensas digitales, El País 20/06/2024
10:47 .jpg)
[https:]
[https:]
[https:]
[https:]
