minority

China ya usa la inteligencia artificial para predecir delitos: qué miedo. Miguel Ors Villarejo

En El informe de la minoría (1956), Philip K. Dick describe un mundo que ha suprimido el delito gracias a “la teoría del precrimen”. Unos ordenadores registran “las palabras ininteligibles” que farfullan tres “mutantes premonitores”, estructuran ese galimatías y generan los correspondientes informes. Cuando dos de ellos anticipan una transgresión, se arresta al sospechoso antes de que pueda perpetrarla. “El precrimen ha reducido las fechorías en un 99%”, alardea John Anderton, jefe de policía y protagonista del relato. “Apenas si se dan casos de traición o asesinato”.

Suena utópico, pero de los valores políticos que más apreciamos la seguridad es probablemente el más asequible. Al Nobel Gary Becker le preguntaron hace unos años si algún día podríamos acabar con la delincuencia. “Es posible”, respondió, “pero no creo que sea deseable”. En su opinión, salía demasiado caro y la mayor parte de los regímenes optaban por buscar un equilibrio entre la ventaja de reducir los delitos y el coste que conllevaba en términos de libertad y justicia. “Y ese equilibrio se halla en un punto en el que quedan infractores sueltos”.

Xi Jinping no opina lo mismo. En la región de Sinkiang, agitada desde 2009 por el nacionalismo uigur, ha puesto en marcha un programa que, mediante análisis de datos y algoritmos, arranca de raíz cualquier conato de violencia. “En los dos últimos años”, escribe Christina Larson en la MIT Technology Review, “se han instalado miles de puntos de control en los accesos a autovías, mezquitas y centros comerciales en los que los paseantes deben identificarse. Los uigures también tienen que instalar en sus móviles aplicaciones que monitorizan sus contactos y las páginas web que visitan. Finalmente, funcionarios de policía visitan regularmente sus casas para ver cuánta gente vive en ellas, las veces que rezan al día, si han viajado al extranjero o qué libros tienen”.

Como en la ficción de Philip K. Dick, este torrente caótico de información es procesado y estructurado por unos potentes ordenadores, que predicen quién puede suponer una amenaza. “Aunque se ignoran los detalles del algoritmo”, sigue Larson, “se sospecha que alerta de comportamientos como la visita a una mezquita concreta, la compra de cantidades excesivas de gasolina o la recepción de llamadas o correos del exterior. Los ciudadanos señalados reciben la visita de la policía, que puede detenerlos e internarlos en prisión o en campos de reeducación”, donde se les “instila patriotismo y desaprenden creencias religiosas”.

¿Y qué tal funciona? En las ciudades de Sinkiang no se mueve, desde luego, ni un papel. Apenas si se dan casos de traición y crimen. Emily Feng, una periodista del Financial Times que visitó Kashgar en junio, tituló su crónica “¿Dónde se ha metido la gente?” Xi considerará esa paz una prueba más del dominio alcanzado por China en inteligencia artificial, pero el relato de Dick apunta algunas limitaciones de la teoría del precrimen. Cuando arranca la acción, dos mutantes generan una predicción en la que Anderton mata a un militar al que no ha visto en su vida. El jefe de policía comprende en seguida que está siendo víctima de un complot para arrebatarle el cargo y, al exponérselo a su esposa, esta observa cándidamente: “Me gustaría saber cuántas veces habrá ocurrido esto antes […]. Tal vez una enorme cantidad de reclusos están en tu misma situación”.

Es lo que ocurre cuando no hace falta cuerpo del delito para que haya delito. “En nuestra sociedad”, admite Anderton, “no tenemos grandes crímenes, pero tenemos un centro de detención lleno de criminales. […] Nosotros afirmamos que son culpables. Y ellos, a su vez, insisten en que son inocentes. Y en cierto sentido lo son”.

Leave a Reply

Be the First to Comment!

Notify of
avatar
wpDiscuz