Hay una cosa que no se debe hacer un domingo de madrugada. No se deben escribir doce letras en el buscador de Google. Eso es todo lo que hice. Escribí: “s-o-n”, luego “l-o-s” y, por último, “j-u-d-í-o-s”. Desde 2008 Google intenta predecir qué quieres buscar y te ofrece varias opciones. Eso es lo que ocurrió. Me ofreció una selección de posibles preguntas que pensaba que yo querría hacer: “¿Son los judíos una raza?”. “¿Son blancos los judíos blancos?”. “¿Son cristianos los judíos?”. Y por último “¿son malvados los judíos?”.
¿Son malvados los judíos? Es una pregunta que jamás se me hubiera ocurrido hacer. No la había buscado. Pero ahí estaba. Entré en las respuestas y apareció una página de resultados. Esta era la pregunta de Google. Y esta, la respuesta: los judíos son malvados.
Ahí, en mi pantalla, estaba la prueba: una página entera de resultados, y nueve de los diez lo confirmaban. El primero, de una página llamada Listovative, tenía el titular “Los diez motivos principales por los que la gente odia a los judíos”. Entré: “Hoy los judíos controlan el marketing, el Ejército, la medicina, la tecnología, los medios, la industria, el cine... y continúan enfrentándose a la envidia del mundo a través de sus inexplicables éxitos dado su infame pasado y cómo fueron reprimidos como ratas por toda Europa”.
Google es buscar. Se ha convertido en un verbo, googlear. Es lo que hacemos todos, todo el rato, cuando queremos averiguar cualquier cosa. Lo googleamos. El sitio opera 63.000 búsquedas al segundo, 5.500 millones al día. Su misión como empresa, el resumen en una frase que ha inspirado la compañía desde que se fundó y que aún preside su página corporativa principal, es “organizar la información del mundo y hacerla universalmente accesible y útil”.
Intenta ofrecer los mejores resultados, los más relevantes. Y en este caso, el tercer mejor resultado, el tercero más relevante a la búsqueda es un enlace a un artículo de stormfront.org, una página neonazi. El quinto es un vídeo de Youtube: “Por qué son malvados los judíos. Por qué estamos contra ellos. El sexto es de Yahoo Answers: “¿Por qué son tan malvados los judíos?”. El séptimo es “Los judíos son almas diabólicas de otro mundo”. Y el décimo es de jesus-is-saviour.com: “¡El judaísmo es satánico!”.
Un resultado de los diez ofrece un punto de vista diferente. Es un enlace a la reseña académica, bastante densa, de un libro publicada en thetabletmag.com, una revista judía, con el desafortunado titular “Por qué literalmente todo el mundo odia a los judíos”.
Me parece haber caído en un agujero y haber pasado a un universo paralelo en el que el negro es blanco y el bien es el mal. Aunque más tarde pienso que quizá lo que he hecho es rascar en el barro superficial de 2016 y encontrado uno de los manantiales subterráneos que han estado alimentándolo tranquilamente. Ha estado ahí todo el rato, claro. Apenas a unas teclas de distancia… en nuestros ordenadores portátiles, nuestras tabletas, nuestros teléfonos. No es una célula nazi clandestina envuelta en la oscuridad. Está escondida a plena vista.
Herramientas de las noticias falsas
Las historias acerca de noticias falsas en Facebook han dominado algunos sectores de la prensa en las semanas posteriores a las elecciones estadounidenses, pero creo que esto es incluso más poderoso y más perverso. Frank Pasquale, catedrático de Derecho en la Universidad de Maryland y uno de los académicos más importantes que piden que las empresas tecnológicas sean más abiertas y transparentes, considera los resultados “muy graves y preocupantes”.
En 2006 encontró un caso similar cuando “si buscabas ‘judío’ en Google, el primer resultado era jewwatch.org. Algo así como ‘ten cuidado con esos judíos horribles que te están arruinando la vida’. Y la Liga Antidifamación entró en acción, así que pusieron un asterisco junto al resultado que decía: ‘Estos resultados pueden ser perturbadores, pero se trata de un proceso automatizado’. Pero lo que me está mostrando, y me alegra que quede registrado, es que pese a que han investigado mucho este problema, ahora es mucho peor”.
El orden de los resultados de búsqueda influye en la gente, dice Martin Moore, director del Centro para el Estudio de los Medios, la Comunicación y el Poder del King’s College de Londres, que ha escrito extensamente acerca del impacto de las grandes empresas tecnológicas en nuestras esferas cívicas y políticas.
“Hay estudios a gran escala, estadísticamente significativos, sobre el efecto de los resultados de búsquedas en las opiniones políticas. la manera en que ves los resultados y qué tipo de resultados ves en la página necesariamente tiene un impacto en tu perspectiva”, cuenta Moore.
Las noticias falsas, dice, simplemente han “revelado un problema mucho mayor. Estas empresas son muy poderosas y están empeñadas en generar cambios. Pensaban que estaban cambiando la política, pero en un sentido positivo. No habían pensado en la parte negativa. Estas herramientas permiten un mayor reparto del poder, pero tienen un lado oscuro. Permiten que la gente haga cosas muy cínicas y dañinas”.
Hitler, mujeres y musulmanes
Google es información. Es donde vas a enterarte de cosas. Y los judíos malvados son solo el comienzo. También hay mujeres malvadas. Tampoco fui a buscarlas. Esto es lo que escribí: “s-o-n l-a-s m-u-j-e-r-e-s” y Google me ofrece solo dos opciones, la primera de las cuales es “¿Son las mujeres malvadas?”.
Le doy a “intro”. Sí, lo son. Todos y cada uno de los 10 resultados “confirma” que lo son, incluyendo el primero, de una página llamada sheddingoftheego.com, que aparece recuadrado y subrayado: “Toda mujer tiene algo de prostituta dentro. Toda mujer tiene algo malvado dentro… Las mujeres no aman a los hombres, aman lo que ellos pueden hacer por ellas. Es razonable decir que las mujeres se sienten atraídas por los hombres pero no pueden amarlos”.
 |
Los judíos son malvados. Los musulmanes deben ser erradicados. ¿Y Hitler? ¿Queremos preguntar sobre Hitler? Busquemos en Google. “¿Fue Hitler malo?”, tecleo. Y aquí está el primer resultado de Google: “10 razones por las que Hitler era uno de los buenos”. Entro en el enlace: “Nunca quiso matar a los judíos”, “le preocupaban las condiciones de los judíos en los campos de trabajo”, “hizo reformas sociales y culturales”. Ocho de los otros diez resultados: en realidad Hitler no fue tan malo.
Unos días más tarde, hablé con Danny Sullivan, el fundador de SearchEngineLand.com . Me lo habían recomendado varios académicos como uno de los principales expertos en búsquedas. ¿Estoy siendo ingenua?, le pregunté. ¿Tenía que haberme imaginado lo que había ahí fuera? “No, no estás siendo ingenua”, dice. “Esto es espantoso. Es horrible. Es equivalente a entrar en una biblioteca, pedir al bibliotecario un libro sobre judaísmo y que te den diez libros llenos de odio. En esto Google está haciendo un pésimo, pésimo trabajo a la hora de proporcionar respuestas. Puede y debe hacerlo mejor".
También está sorprendido. “Pensé que habían dejado de ofrecer sugerencias de autocompletar para religiones en 2011.” Y entonces teclea: “Son las mujeres”. “¡Por Dios! Esa respuesta arriba del todo. Es un resultado destacado. Se llama una “respuesta directa”. Se supone que es indiscutible. Es el mayor apoyo que da Google”. ¿Que toda mujer tiene algo prostituta en ella? “Sí. Es el algoritmo de Google equivocándose horriblemente.”
Contacté con Google acerca de sus sugerencias de búsqueda que parecían funcionar mal y recibí la siguiente respuesta: “Nuestros resultados de búsqueda reflejan el contenido de la red. Esto significa que en ocasiones perspectivas desagradables de temas delicados influyen en los resultados que aparecen para búsquedas determinadas. Estos resultados no reflejan las opiniones o valores de Google; como empresa, apoyamos decididamente una diversidad de perspectivas, ideas y culturas”.
Google no es solo un motor de búsqueda, claro. Las búsquedas fueron el punto de partida de la empresa, pero eso fue solo el inicio. Alphabet, la empresa matriz de Google, ahora tiene la mayor concentración de expertos en inteligencia artificial del mundo. Se está expandiendo a salud, transporte y energía. Es capaz de atraer a los mejores informáticos, físicos e ingenieros. Ha comprado centenares de empresas pequeñas, incluyendo Calico, cuya misión declarada es “curar la muerte” y DeepMind, que busca “resolver la inteligencia”.
Hace 20 años ni siquiera existía. Cuando Tony Blair ganó las eleciones en 1997, no se le podía googlear: el motor de búsqueda aún no había sido inventado. La empresa se fundó en 1998 y Facebook no apareció hasta 2004. Los fundadores de Google, Sergey Brin y Larry Page, solo tienen 43 años. Mark Zuckerberg, de Facebook , 32. Todo lo que han hecho, el mundo que han reconfigurado, ha ocurrido en un parpadeo.
Un universo paralelo
Parece que las implicaciones del poder y el alcance de estas empresas solo ahora empiezan a ser percibidas por la opinión pública. Le pregunté a Rebecca MacKinnon, directora del proyecto Ranking Digital Rights en la New America Foundation, si ha sido el reciente escándalo sobre noticias falsas lo que ha alertado a la gente del peligro de ceder nuestros derechos como ciudadanos a las empresas. “La situación actual es rara,” contesta, “porque la gente por fin dice ‘vaya, Facebook y Google realmente tienen mucho poder’, como si fuera un gran descubrimiento. A uno le dan ganas de responder ‘¿en serio?’”.
MacKinnon es experta en cómo los gobiernos autoritarios se adaptan a internet y la usan para sus propósitos. “China y Rusia deberían ser una advertencia para nosotros. Creo que lo que ocurre es que la balanza va de un lado para otro. Durante la primavera árabe, parecía que los buenos iban ganando. Y ahora parece que los malos se imponen. Los activistas democráticos usan internet más que nunca pero, al mismo tiempo, el adversario se ha hecho más habilidoso”.
La semana pasada, Jonathan Albright, profesor de comunicación en la Universidad de Elon, en Carolina del Norte, publicó el primer estudio detallado sobre cómo las páginas web derechistas habían difundido su mensaje. “Hice una lista de esos sitios de noticias falsas que estaban circulando, tenía un listado inicial de 306 sitios y usé una herramienta, como la que usa Google, para buscar enlaces y a continuación los cartografié. Así vi dónde iban los enlaces; a YouTube, Facebook y entre ellos, millones de ellos. No podía creer lo que estaba viendo”.
“Han creado una red que está invadiendo la nuestra. No es una conspiración. No hay un tipo que haya creado esto. Es un inmenso sistema de cientos de distintas páginas que usan los mismos trucos que usan todos los sitios web. Mandan miles de enlaces a otras páginas y todas juntas han creado un inmenso universo de noticias y propaganda derechista que ha rodeado por completo el sistema tradicional de medios”.
Albright encontró 23.000 páginas y 1,3 millones de enlaces. “Facebook es solo el amplificador. De hecho, si lo ves en 3D parece un virus. Facebook es solo uno de los factores que ayudó a que el virus se transmitiera más rápido. Ves al New York Times y al Washington Post, y luego ves una red muy muy amplia que los rodea. La mejor manera de describirlo es como un ecosistema. Va mucho más allá de páginas individuales o historias concretas. Lo que este mapa muestra es la red de distribución, y puedes ver cómo está rodeando y de hecho asfixiando el ecosistema de los medios tradicionales.” ¿Como un cáncer? “Como un organismo que crece y se hace más fuerte todo el tiempo”, añade.
 |
| Afegeix la llegenda |
Mapa elaborado por Jonathan Albright sobre las conexiones y el universo creado por las páginas web de noticias falsas
Charlie Beckett, catedrático en la facultad de medios y comunicación de la LSE, me dice: “Hace tiempo que venimos diciendo que la pluralidad de los medios de comunicación es buena. La diversidad es buena. Criticar a los grandes medios es bueno. Pero ahora… se ha descontrolado radicalmente. Lo que el estudio de Jonathan Albright ha demostrado es que esto no es un subproducto de Internet. Y ni siquiera obedece a razones comerciales. Está motivado por ideología, por gente que intenta de modo muy deliberado desestabilizar Internet”.
El mapa de Albright también proporciona una pista para entender los resultados de búsqueda de Google que encontré. Lo que estas webs de información derechista han hecho, me explica, es lo que la mayoría de las webs comerciales intentan hacer. Intentan averiguar los trucos que les hacen subir en el sistema de ordenación de páginas de Google. Intentan “controlar” el algoritmo. Y lo que su mapa prueba es lo bien que lo están haciendo.
Eso es lo que mis búsquedas prueban también. Que la derecha ha colonizado el espacio digital alrededor de estos temas –musulmanes, mujeres, judíos, el Holocausto, los negros– de modo mucho más eficaz que la izquierda progresista.
Un monstruo con vida propia
“ Es una guerra de información,” dice Albright. “Eso es lo que intento explicar”. Pero es lo que sigue lo que de verdad da miedo. Le pregunté cómo se puede parar. “No sé. No estoy seguro de que se pueda. Es una red. Es mucho más poderoso que ningún actor aislado”. ¿Así que es casi como si tuviera vida propia? “Sí, y está aprendiendo. Cada día es más fuerte”, añade.
Cuanta más gente busque información sobre los judíos, más gente verá los enlaces a estas páginas de odio, y cuanto más entren en esos enlaces (muy poca gente pasa de la primera página de resultados), más tráfico tendrán, más enlaces obtendrán y parecerán más serias. Es una economía del conocimiento totalmente circular que solo tiene un resultado: la amplificación del mensaje. Los judíos son malvados. Las mujeres son malvadas. El islam ha de ser destruido. Hitler era uno de los buenos.
La constelación de sitios web que Albright encontró, una especie de internet en la sombra, cumple otra función. Más allá de limitarse a difundir ideología derechista, sirven para seguir y monitorizar e influir en cualquiera que entre en contacto con su contenido. “Vi los trackers en esas páginas y me quedé asombrado. Cada vez que alguien da un like a una entrada de Facebook o visita una de esas páginas, los scripts te siguen por toda la web. Y esto permite a empresas de recolección de datos y de influencia, como Cambridge Analytica, identificar con precisión a individuos, a seguirlos por la web y enviarles mensajes políticos muy personalizados. Es una máquina propagandística. Identifica individuos para convencerles de una idea. Es un nivel de ingeniería social que nunca había visto antes. Estás atrapando a la gente y luego les mantienen atados a una correa emocional y nunca les sueltan".
Cambridge Analytica, una empresa de propiedad estadounidense con sede en Londres, fue contratada tanto por la campaña del Brexit como por la de Trump. Dominic Cummings, el director de campaña de Vote Leave (a favor del Brexit), ha hecho pocas declaraciones desde el referéndum británico, pero algo que sí dijo fue: “Si quieres mejorar mucho la comunicación, mi consejo es: contrata a físicos”.
Steve Bannon, fundador de Breitbart News y recién nombrado jefe de estrategia de la Casa Blanca de Trump, está en la junta directiva de Cambridge Analytica (CA). Se ha informado que la empresa está negociando un contrato para hacer tareas de comunicación política para el nuevo presidente estadounidense. La empresa presume de haber construido perfiles psicológicos de 220 millones de votantes norteamericanos usando 5.000 datos individuales sobre cada uno. Conoce sus rarezas, sus matices y sus hábitos diarios y se puede dirigir a ellos individualmente.
 |
“Todo se hace de modo opaco y pueden gastar tanto dinero como quieran en lugares concretos porque puedes concentrarte en un radio de ocho kilómetros, o en una única categoría demográfica. Las noticias falsas son importantes, pero solo es una parte. Estas empresas han hallado la manera de eludir siglo y medio de leyes que desarrollamos para que las elecciones fueran justas y abiertas”.
¿Fue esa propaganda microdirigida, actualmente legal, la que decidió el voto del Brexit? ¿Contribuyeron esas mismas técnicas usadas por Cambridge Analytica a la victoria de Tump? De nuevo, es imposible saberlo. Todo esto ocurre en total oscuridad. No tenemos manera de saber cómo nuestra información personal está siendo recogida y empleada para influir en nosotros. No nos damos cuenta de que la página de Facebook que miramos, la página de Google, los anuncios que vemos, las búsquedas que hacemos, todo está hecho a nuestra medida, personalizado. No lo vemos porque no lo podemos comparar con nada. Y no está siendo vigilado ni registrado. No está regulado. Estamos dentro de una máquina y sencillamente no tenemos manera de ver el mecanismo. La mayor parte del tiempo ni siquiera nos damos cuenta de que hay un mecanismo.
Rebecca MacKinnon dice que la mayoría de nosotros considera que Internet es como “el aire que respiramos y el agua que bebemos”. Nos rodea. La usamos. Y no la cuestionamos. “Pero este no es un entorno natural. Hay programadores, ejecutivos, editores y diseñadores que crean este entorno. Son seres humanos y todos ellos toman decisiones”.
Sin embargo, no sabemos qué decisiones toman. Ni Google ni Facebook comparten sus algoritmos. ¿Por qué mi búsqueda en Google arrojó nueve de diez resultados que consideraban a los judíos malvados? No lo sabemos y no lo podemos saber.
Sus sistemas son lo que Frank Pasquale describe como “cajas negras”. Piensa que Google y Facebook son “un terrorífico duopolio de poder” y lidera un movimiento cada vez más amplio de académicos que pide “control algorítmico”. “Necesitamos poder auditar regularmente estos sistemas. En EEUU, con la Ley de Copyright del Milenio Digital, todas las empresas están obligadas a tener un portavoz al que se pueda contactar. Y eso es lo que tiene que ocurrir. Tienen que responder a las quejas sobre incitación al odio y sobre prejuicios”.
¿Están los prejuicios integrados en el sistema? ¿Afectan a los resultados de búsqueda que encontré? “Hay muchos tipos de prejuicios acerca de lo que cuenta como una fuente de información legítima y cuánto peso se le da. Hay un inmenso prejuicio comercial. Y cuando miras al personal, estos son jóvenes, blancos y quizás asiáticos, pero no negros ni hispanos, y son desproporcionadamente hombres. La visión del mundo de jóvenes blancos ricos está detrás de todos estos juicios”.
Resultados que influyen en el voto
Más tarde hablé con Robert Epstein, un psicólogo experimental en el Instituto Americano para la Investigacion y la Tecnologia de la Conducta, y autor del estudio del que me había hablado Martin Moore (y que Google ha criticado públicamente), que demuestra cómo el orden de los resultados de búsquedas afecta al voto. Al otro lado del teléfono, repite una de las búsquedas que realicé. Teclea “son los negros” en la página de Google.
“Mira esto. No he apretado ningún botón y automáticamente se ha llenado la página con respuestas a la pregunta ‘¿son los negros más propensos a delinquir?’. Y podía estar pensando en miles de preguntas. ‘¿Son los negros mejores deportistas?’ o cualquier otra. Y solo me ha dado dos opciones y no en base a búsquedas o a los términos más buscados ahora mismo. Antes Google usaba eso, pero ahora tienen un algoritmo que considera otras cosas".
"Déjame que compruebe Bing y Yahoo. Estoy en Yahoo y tengo 10 sugerencias, ninguna de las cuales es ‘¿son los negros más propensos a delinquir?’. Y la gente ni se plantea esto. Google no solo ofrece una sugerencia, es una sugerencia negativa y sabemos que dependiendo de bastantes factores una sugerencia negativa genera entre cinco y quince entradas más. Está todo programado y podría estar programado de otra manera”.
Lo que el trabajo de Epstein ha demostrado es que los contenidos de una página de resultados de búsqueda puede influir en las opiniones e ideas de la gente. Se probó que el tipo y el orden de los rankings de búsquedas influyó en votantes en India en experimentos neutrales. Se obtuvieron resultados similares acerca de las opciones de búsqueda que se ofrecen al usuario. “El público general ignora por completo cuestiones fundamentales sobre la búsqueda online y la influencia. Estamos hablando de la máquina de control mental más poderosa jamás inventada en la historia de la humanidad. Y la gente ni siquiera se da cuenta”, añade Epstein.
Damien Tambini, profesor de la London School of Economics, especialista en regulación de medios, afirma que no tenemos ningún marco que nos permita tratar el impacto potencial de estas empresas en el proceso democrático. “Tenemos estructuras que vigilan a las grandes empresas de medios. Tenemos leyes de competencia. Pero estas empresas no tienen que responder de sus actos. No tenemos el poder de hacer que Google o Facebook expliquen nada. Hay una función editorial en Google y en Facebook, pero la hacen sofisticados algoritmos. Dicen que son máquinas y no editores. Pero eso es solo una función editorial mecanizada”.
Las empresas, dice John Naughton, columnista del Observer e investigador asociado en la Universidad de Cambridge, están aterradas ante la posibilidad de adquirir responsabilidades editoriales que no desean. “Aunque pueden, y a menudo lo hacen, manipular los resultados de muchas maneras”.
Desde luego, los resultados acerca de Google en Google no parecen muy neutrales. Si buscas en Google “¿es Google racista?” el resultado destacado –la respuesta recuadrada que encabeza la página– es muy clara: no. No lo es.
Pero la enormidad y la complejidad de tener dos empresas globales de un tipo que nunca antes habíamos visto influyendo tantas áreas de nuestras vidas es tal, dice Naughton, que “ni siquiera tenemos la capacidad mental para saber cuáles son los problemas”.
Esto es especialmente cierto respecto al futuro. Google y Facebook están a la vanguardia de la inteligencia artificial. Van a ser los dueños del futuro. Y los demás apenas podemos empezar a esbozar el tipo de preguntas que deberíamos estar haciendo. “Los políticos no piensan a largo plazo. Y las empresas no piensan a largo plazo porque se centran en los resultados trimestrales y eso es lo que convierte a Google y a Facebook en distintas e interesantes. Sin duda alguna, están pensando a largo plazo. Tienen los recursos, el dinero y la ambición para hacer lo que quieran”.
“ Quieren digitalizar todos los libros del mundo: lo hacen. Quieren construir un coche sin conductor: lo hacen. Ver lo que la gente lee ahora acerca de las noticias falsas y darse cuenta de que podría tener un efecto sobre la política y las elecciones da ganas de preguntar: ‘¿En qué planeta vives?’. Por Dios, es obvio”, señala Naughton.
Del mundo virtual al mundo real
“Internet es una de las pocas cosas que el hombre ha creado que no entiende”, indica Naughton. Es “el mayor experimento de la historia que incluye un elemento anárquico. Cientos de millones de personas crean y consumen cada minuto una cantidad inimaginable de contenido digital en un mundo online que no está sujeto realmente a las leyes terrestres”.
¿Es internet un Estado anárquico sin ley? ¿Un inmenso experimento humano sin contrapesos ni equilibrios y desconocidas consecuencias potenciales? ¿Qué tipo de agorero digital diría tal cosa? Que Eric Schmidt, presidente de Google, dé un paso al frente. Son las primeras frases de The New Digital Age , el libro que escribió con Jared Cohen.
No lo entendemos. No está sujeto a las leyes terrestres. Y está en manos de dos empresas gigantescas y todopoderosas. Es su experimento, no el nuestro. La tecnología que se suponía que nos iba a liberar puede haber contribuido a la victoria de Trump, o a aportar votos disimuladamente al Brexit. Ha creado una inmensa red de propaganda que ha crecido como un tumor por todo Internet. Es una tecnología que ha permitido a empresas como Cambridge Analytica crear mensajes políticos dirigidos únicamente a ti. Conocen tus reacciones emocionales y saben cómo provocarlas. Saben lo que te gusta, lo que te disgusta, dónde vives, qué comes, qué te hace reír y qué te hace llorar.
¿Y ahora qué? Los estudios de Rebecca MacKinnon han explicado cómo los regímenes autoritarios reconfiguran internet para sus propios fines. ¿Ocurrirá eso con Silicon Valley y Trump? Como señala Martin Moore, el presidente electo presumió de que el consejero delegado de Apple, Tim Cook, le llamó para felicitarle por su victoria. “Y sin duda recibirán presiones para colaborar,” dice Moore.
El periodismo está fracasando ante estos cambios, y va a seguir fracasando. Las nuevas plataformas han hecho saltar en pedazos el modelo económico, la publicidad. Cada vez hay menos recursos, el tráfico depende más de ellas y los directores de los medios no tienen ningún acceso, ninguna idea de lo que estas plataformas hacen en sus oficinas, en sus laboratorios. Y ahora están pasando del mundo virtual al real. Los siguientes retos son sanidad, transporte y energía. Igual que Google tiene casi un monopolio en búsquedas, lo siguiente es su ambición de controlar y apropiarse de la infraestructura física de nuestras vidas. Ya posee nuestra información y, con ella, nuestra identidad. ¿Qué ocurrirá cuando entre en el resto de áreas de nuestra vida?
“Por ahora, hay un espacio entre teclear ‘los judíos son’ y ver ‘los judíos son malvados’,” dice Julia Powles, investigadora en derecho y tecnología en Cambridge. “Pero cuando pasas al mundo físico, y esos conceptos pasan a ser parte de las herramientas desplegadas cuando vas por tu ciudad o influyen en cómo la gente es contratada, creo que eso tiene consecuencias realmente perniciosas”.
Powles pronto publicará un estudio que evalúa la relación de DeepMind con la sanidad pública británica. “Hace un año, los historiales médicos de dos millones de londinenses fueron traspasados a DeepMind. En medio de un silencio absoluto por parte de políticos, de los reguladores, de cualquier persona en una posición de poder. Es una empresa sin ninguna experiencia en sanidad que recibe un nivel de acceso jamas visto a la sanidad pública y tardamos siete meses solo en saber que tenían la información. E hizo falta periodismo de investigación para averiguarlo.”
El titular decía que DeepMind iba a trabajar con la sanidad pública para desarrollar una aplicación que proporcionara alertas tempranas a pacientes renales. Y así es, pero la ambición de DeepMind –“resolver la inteligencia”– va mucho más allá. Los historiales médicos enteros de dos millones de pacientes son, para los investigadores en inteligencia artificial, un auténtico tesoro. Y su entrada en el sistema de sanidad pública, ofreciendo servicios útiles a cambio de nuestra información personal, es otro paso de gigante que aumenta su poder y su influencia en todas nuestras vidas.
Porque lo que hay después de la búsqueda es la predicción. Google quiere saber lo que quieres antes de que tú mismo lo sepas. “Esa es la siguiente etapa”, dice Martin Moore. “Hablamos de la omnisciencia de estos gigantes de la tecnología, pero esa omnisciencia vuelve a dar un salto adelante si son capaces de predecir. Y en esa dirección quieren ir. Predecir enfermedades. Es muy, muy problemático”.
Durante los 20 años de la existencia de Google, nuestra opinión de la empresa ha sido modulada por la juventud y la apariencia progresista de sus fundadores. Lo mismo ocurre con Facebook, cuya misión, según dijo Zuckerberg, no era ser “una empresa. Fue construida para cumplir una misión social para que el mundo sea más abierto y esté más conectado”.
Sería interesante saber qué opina Zuckerberg sobre cómo van las cosas al respecto. Donald Trump se conecta a través de exactamente las mismas plataformas tecnológicas que supuestamente contribuyeron a las primaveras árabes; pero se conecta a racistas y xenófobos. Y Facebook y Google amplían y difunden ese mensaje. Y nosotros también, los medios tradicionales. Nuestra indignación es solo otro nódulo en el mapa de datos de Jonathan Albright.
“ Cuanto más discutimos con ellos, más saben de nosotros,” dice Moore. “Todo revierte a un sistema circular. Lo que estamos viendo es una nueva era de la propaganda en red”.
Todos somos puntos en ese mapa. Y nuestra complicidad, nuestra credulidad, ser consumidores y no ciudadanos preocupados, forma parte fundamental de ese proceso. Lo que ocurra a continuación depende de nosotros.
“Diría que todo el mundo ha sido muy ingenuo y que tenemos que acostumbrarnos a un entorno mucho más cínico y proceder de esa manera”, aconseja Rebecca MacKinnon. “No hay duda de que estamos en un momento muy malo. Pero somos nosotros como sociedad quienes hemos creado conjuntamente este problema. Y si queremos ir a mejor, a la hora de tener un ecosistema de información que defienda los derechos humanos y la democracia en vez de destruirlos, tenemos que compartir la responsabilidad de hacerlo”.
¿Son malvados los judíos? ¿Cómo quieres que se responda esa pregunta? Internet es nuestro. No es de Facebook. No es de Google. No es de los propagandistas de la derecha. Solo nosotros podemos recuperarlo.
Carole Cadwalladr, Google, la democracia y la verdad sobre las búsquedas en internet, el diario.es/The Guardian 08/12/2016
Traducido por Miguel Aguilar