La riqueza de las empresas se basa cada vez más en derechos de propiedad intelectual (PI) intangibles y no en activos tangibles. ¿Qué pasaría si pudiéramos modificar estos códigos legales y económicos que sustentan el capitalismo para que se basen en los derechos humanos, la solidaridad de los trabajadores, la sostenibilidad ecológica y la creación de riqueza comunitaria?

La empresa inmobiliaria más influyente de la historia no posee muchos inmuebles. Ha hecho que la vivienda sea menos asequible,1 ha creado crisis inmobiliarias en destinos turísticos populares, ha vaciado comunidades2 y ha alcanzado una valoración de 113.000 millones de dólares,3 todo ello sin poseer la propiedad física.

Sin embargo, Airbnb posee una gran cantidad de propiedades. Lo que la empresa carece de propiedad física lo compensa con propiedad intelectual (PI), los códigos jurídicos y económicos que rigen la creatividad, la información, la marca y la reputación en la economía mundial. Si usted es uno de los 500 millones de usuarios de Airbnb, cuando busca anuncios, hace una reserva, paga o se pone en contacto con el servicio de atención al cliente, está interactuando con diversos tipos de propiedad intelectual, como código de software protegido por derechos de autor, algoritmos protegidos por secretos comerciales y cientos de patentes de la empresa. A medida que Airbnb se expande a nuevos mercados, explica a sus inversores que el crecimiento a largo plazo de la empresa procederá de la red de propiedad intelectual que rodea al mercado de alquiler y alojamiento[4

El imperio intangible de Airbnb dista mucho de ser único. La propiedad física, las materias primas, los recursos, los productos –las cosas que se pueden tocar– tienen un valor de mercado cada vez más marginal. El cambio ha sido tectónico: hace cincuenta años, el 80 % del valor de las mayores empresas del mundo estaba en activos físicos; ahora, el 90 % está en intangibles.5 El valor de los intangibles se ha multiplicado por diez en los últimos siete años, hasta alcanzar los 65 billones de dólares, es decir, más del 75 % de la economía mundial.6 Ninguna cadena de suministro, ningún acuerdo comercial existiría sin que lo atravesara la propiedad intelectual. El poder digital no sería posible sin ella.

No podemos entender el capitalismo digital actual y sus muchas desigualdades sin comprender cómo ha transformado cada acto de la imaginación humana, cada punto de datos, pasado y presente, en una mercancía potencial. Una nueva generación de empresas tecnológicas disruptivas ha encontrado formas de utilizar la propiedad intelectual como una parte importante de su arsenal para controlar y explotar el trabajo y los datos de los trabajadores digitales y los consumidores por igual en la llamada economía colaborativa.

Sin embargo, quizá ninguna otra clase de activos esté tan madura para la revolución. A pesar de todo su poder en la economía, la propiedad intelectual también es especialmente vulnerable. Podemos ocupar las vulnerabilidades del sistema actual, desvincular la creatividad y los datos de la exclusión y la posesión personal, y forjarlos en su lugar como una práctica de construcción de comunidad radicalmente imaginativa, generativa y socialmente productiva.

screenpunk/Flickr/(CC BY-NC 2.0)

Creatividad abolicionista

“La abolición es presencia, no ausencia. Se trata de construir instituciones que afirmen la vida». Ruth Wilson Gilmore, geógrafa abolicionista

Hoy en día, se intercambian billones de dólares imaginarios por derechos a propiedades imaginarias, pero carecemos de la imaginación necesaria para transformar la economía en algo que pueda ayudar a que florezca la vida. Ahora, más que nunca, la creatividad es la vía para salir de los callejones sin salida a los que nos enfrentamos. Pero para que prospere, primero debemos abolir los códigos económicos y jurídicos que la encadenan.

La creatividad entra en la economía como propiedad intelectual, el régimen jurídico surgido de la Europa del siglo XVII, que formalizó la expresión creativa y la invención en derechos exclusivos individuales. La propiedad intelectual, término que engloba los derechos de autor, las patentes, las marcas y los secretos comerciales, está en todas partes. La tecnología del teléfono inteligente que puede estar utilizando para leer esto podría tener hasta 250 mil patentes.7

El informe del que es capítulo este ensayo lleva un aviso de derechos de autor –en forma de licencia Creative Commons– en la primera página. Incluso el garabato que haya hecho en una servilleta está automáticamente protegido por derechos de autor, lo quiera o no (e independientemente de su valor estético).

A la ley de derechos de autor no le importa si lo que hemos creado es bueno desde el punto de vista artístico. Para que un trabajo esté protegido por los derechos de autor, debe ser original y creativo, pero el umbral es muy bajo: un poco más creativo y original que organizar una guía telefónica por orden alfabético.

La propiedad intelectual, basada en los conceptos de trabajo e individualismo desarrollados por los filósofos de la Ilustración, se impuso en todo el mundo a través de los proyectos coloniales europeos y los acuerdos comerciales. A día de hoy, el sistema de propiedad intelectual sigue siendo rígidamente eurocéntrico, sin medios acordados para reconocer y respetar epistemologías o concepciones del individuo no europeas.

El régimen está reforzado por instituciones poderosas y legalmente vengativas cuya jurisdicción se extiende a todos los miembros de la Organización Mundial del Comercio (OMC). Bajo la bandera de la vigilancia de la infracción de la propiedad intelectual, las leyes de propiedad intelectual pueden bloquear cualquier bien en la frontera e impedir que incluso las innovaciones más esenciales se pongan a disposición del público. Y su poder no hace otra cosa sino aumentar. Bajo la presión de un amplio abanico de grupos de presión empresariales, los derechos exclusivos que en su día se extinguieron se han convertido en perpetuos y expansivos, erosionando el dominio público.

Naturalmente, un sistema así inspira resistencia. Las voces críticas se oponen a la visión colonial capitalista de los derechos de propiedad que sustenta el sistema. Los piratas y los defensores de la cultura libre insisten en que «la información quiere ser libre», estableciendo plataformas alternativas para compartir la cultura. Incluso los defensores liberales de los regímenes de propiedad intelectual admiten a regañadientes que, aunque la configuración inicial era acertada –promovería «el ideal de progreso, un mercado transparente, un acceso fácil y barato a la información, una producción cultural descentralizada e iconoclasta, una política de innovación autocorrectiva”–, el sistema se ha visto corrompido por la influencia empresarial, lo que ha socavado la cultura de compartir y remezclar.8

¿Qué hay que hacer? ¿eliminar por completo la propiedad intelectual? ¿reformarla mediante políticas públicas? ¿desarrollar tecnologías legales que permitan a los creadores excluirse? ¿promover campañas contra la piratería y las infracciones en línea? Aunque estos debates son importantes (algunos más que otros), frenan peligrosamente nuestra imaginación. Al limitar nuestra mirada al mundo interior de lo que constituye la propiedad intelectual –si las obras creativas deben protegerse y cómo, qué debe considerarse propiedad intelectual–, no estamos haciendo el trabajo radical: situar la propiedad intelectual en la economía política más amplia, cuestionar qué papel desempeña en las estructuras más amplias de explotación y opresión.

Cuando nos alejamos de las guerras culturales que han dominado los debates sobre la propiedad intelectual en sí, nos vemos obligados a enfrentarnos más seriamente a la materialidad de la creatividad, a cómo atraviesa todas las cadenas de suministro mundiales y todos los acuerdos comerciales internacionales que se puedan imaginar, a cómo hace posible y omnipresente el poder digital. El capitalismo reconoce este poder y se mueve para estrechar su control. Vaqueros capitalistas que acaparan titulares como Jeff Bezos, Nathan Myhrvold y Martin Shkreli están innovando en torno a las incongruencias de esta poderosa clase de activos.9 Los anticapitalistas han estado dormidos al volante.

La falta de atención no es sorprendente. La mención de la propiedad intelectual puede hacer que hasta los ojos más brillantes se nublen. Es una de las muchas cuestiones que deliberadamente se hacen parecer oscuras, demasiado técnicas, legalistas e irrelevantes para las crisis a las que nos enfrentamos. No hace falta ser licenciado en Derecho para entender las condiciones en las que la creatividad entra en la economía. Liberar a la propiedad intelectual de su andamiaje legalista y despertar su poder revela que se trata de un régimen singularmente vulnerable.

He aquí la laguna fundamental: la propiedad y el control de la propiedad intelectual siempre pertenecen, en primera instancia, a los artistas, inventores, académicos y creadores que la han creado. En la actualidad, este poder permanece latente. La mayoría de los productores de propiedad intelectual ceden sin concesiones su PI a las empresas (tanto con ánimo de lucro como sin él) mediante contratos de trabajo, condiciones de contratación y licencias de PI que permiten a estas instituciones dar rienda suelta a la comercialización de la PI en cadenas de suministro explotadoras y opresivas. Otros simplemente ceden su poder utilizando licencias Creative Commons o de código abierto, pero tampoco hacen nada para impedir que las empresas comercialicen la propiedad intelectual de forma agresiva y opresiva.

¿Podríamos imaginar un camino diferente? ¿y si los creadores se apoderaran de sus derechos de propiedad intelectual, los ocuparan y dieran la vuelta a su lógica? ¿y si tomáramos la esencia de la PI –el derecho económico y legal a excluir a otros de un intangible– y optáramos por excluir únicamente la opresión y la explotación? ¿podemos aprovechar nuestros derechos legales como creadores para poner trabas al capitalismo? ¿y si los creadores no se limitaran a protestar contra los regímenes que encarcelan la imaginación, sino que crearan, aquí y ahora, sistemas, estructuras e instituciones de base para sustituirlos?

Con estos fines, no nos preocupa principalmente la cuestión abstracta de si debe existir la propiedad intelectual. Para nosotros, la creatividad abolicionista no consiste en eliminar los derechos de los creadores o las protecciones otorgadas a las creaciones; consiste en garantizar que la creatividad entre en la economía como una herramienta contra la opresión. En palabras de la geógrafa abolicionista Ruth Wilson Gilmore, «la abolición tiene que ver con la presencia, no con la ausencia»).10 Pedimos a los creadores que aparezcan y estén presentes en los derechos que se nos han concedido, que los ocupen y los pongan juntos al servicio de los mundos que queremos crear. Que utilicemos nuestra creatividad para construir instituciones que afirmen la vida.

Inspirándonos en las preguntas formuladas por los abolicionistas Mariame Kaba y Dean Spade en su reflexión sobre las «reformas no reformistas» (término acuñado originalmente por el economista y filósofo francés André Gorz en la década de los sesenta), pedimos a los creadores que se pregunten: ¿cuál es la finalidad de la creatividad, de la información, del conocimiento? ¿supone un alivio material para los oprimidos y explotados dentro de las cadenas de suministro en las que se comercializa la creatividad? ¿crea poder, movilizando, la lucha continua entre los afectados por las obras creativas? ¿deja fuera a los grupos marginados? ¿legitima el sistema?.11

La mirada abolicionista ve la creatividad, tal y como se interpreta en nuestra economía, como un hilo que teje a través de sistemas de opresión entrelazados. Nos invita a tirar de ese hilo.

El régimen mundial de propiedad intelectual también es vulnerable por otra razón. Precisamente porque está torpemente modelado a partir de las leyes de la Edad Moderna temprana relacionadas con la propiedad física, la PI está llena de contradicciones y absurdos, que ofrecen oportunidades sugerentes para la experimentación transgresora, la imaginación radical y el juego subversivo. He aquí algunas de ellas.

Tramas del futuro abolicionista

 Trama 1. La protesta como actuación protegida por derechos de autor

 La protesta está cada vez más criminalizada en todas las democracias. Durante manifestaciones pacíficas contra la inacción climática, la injusticia racial, la brutalidad policial o la guerra, los servicios de seguridad detienen y reprimen violentamente a manifestantes, periodistas y observadores de derechos humanos. Los mandos policiales envían órdenes de «recuperar las calles», transformando a las personas que ejercen un derecho democrático fundamental, el derecho a protestar, en delincuentes.12 Cada vez más países están introduciendo leyes para responsabilizar penal y civilmente a los manifestantes por los daños a la propiedad que se produzcan durante las protestas.

La digitalización se ha convertido en un componente crucial de la mayor vigilancia y capacidad coercitiva de los estados, que la despliegan con escasa regulación o transparencia. Periodistas, defensores de los derechos civiles y manifestantes han documentado el uso que hace el gobierno de la vigilancia, el control de las redes sociales y otras herramientas digitales, advirtiendo de que pueden pasar años desde la celebración de una protesta hasta que se conozcan todas las formas en que las fuerzas de seguridad vigilaron a los organizadores. Los gobiernos también se coordinan con fuerzas de seguridad privadas expertas en tecnología que empezaron como contratistas en la guerra contra el terrorismo. El «solapamiento de los intereses del gobierno y la industria que utilizan la vigilancia, el mantenimiento del orden y el encarcelamiento como soluciones a problemas económicos, sociales y políticos» es lo que los abolicionistas denominan el complejo industrial penitenciario.13

Durante las protestas contra el oleoducto Dakota Access en la reserva de nativos americanos de Standing Rock (EEUU), por ejemplo, documentos filtrados revelaron que fuerzas militares estatales y federales trabajaban junto a un contratista militar privado, TigerSwan, contratado por los propietarios del oleoducto, Energy Transfer Partners.14 En colaboración con la policía de al menos cinco estados para atacar al movimiento indígena Water Protector, TigerSwan utilizaba medidas antiterroristas de tipo militar y vigilancia digital para vigilar los movimientos de los manifestantes, incluida la transmisión de vídeo en directo desde un helicóptero de seguridad privado de Dakota Access.

Aquí es donde entra en juego la propiedad intelectual. ¿Qué pasaría si protegiéramos legalmente la creatividad inherente a las protestas como arte escénico susceptible de derechos de autor? Las protestas incorporan habitualmente todo un repertorio de actuaciones muy innovador, desde Standing Rock hasta México, pasando por Irak y el Reino Unido.15 Sabemos que para las comunidades en resistencia, «los rituales, danzas, protocolos y canciones que caracterizan estas luchas no son meras efemérides culturales del activismo; son una parte íntima y constitutiva de la creación del mundo indígena, un medio para coordinar y alinear el imaginario colectivo con el fin de facilitar y enriquecer la cooperación de los implicados».16 Los académicos llevan mucho tiempo reconociendo la capacidad representativa de la protesta, estudiando el uso de la visualización y el espacio o argumentando que «la coreografía, el movimiento y el gesto no son periféricos, sino centrales en la política de la protesta». ¿Qué pasaría si los manifestantes reconocieran que estas características clave de la protesta también tienen derechos legales que pueden ayudarles a desafiar al complejo carcelario-industrial?

Imaginemos que los manifestantes llevaran el © «Todos los derechos reservados» en el cuerpo o se adornaran con códigos de barras que enlazaran con las condiciones de sus derechos de autor, especificando que las imágenes y el audio no pueden utilizarse para fines comerciales, incluida la vigilancia contratada de forma privada. Imaginemos que los manifestantes exigieran ante los tribunales saber cómo utilizan las fuerzas de seguridad privadas cualquier grabación de su arte, visual o sonora. Imaginemos que la proposición de prueba (el procedimiento previo al juicio en el que cada parte puede obtener pruebas de la otra mediante la solicitud de documentos) revelara los intereses comerciales secretos entre los departamentos de policía y las empresas de seguridad privada, o entre una empresa mercenaria privada y su empleador, una compañía petrolera. Imagina que estas empresas tuvieran que indemnizar a los manifestantes por violar los derechos de autor, o que los tribunales desestimaran las pruebas porque las empresas las habían obtenido ilegalmente infringiendo los derechos de autor. La legislación sobre derechos de autor no va a sacar a los manifestantes de la cárcel por cargos penales, pero puede ayudar a garantizar que el complejo industrial penitenciario no pueda lucrarse con la vigilancia policial.

¿Cómo querrían los creadores de una actuación protegida por derechos de autor de Extinction Rebellion, Black Lives Matter, BP or not BP, #NoDAPL y otros innumerables e intrépidos activistas condicionar el uso de su actuación? ¿qué tipo de exclusiones jurídicamente exigibles favorecerían los objetivos de su acción directa o respuesta comunitaria? ¿deberían los manifestantes permitir que los departamentos de policía (y las empresas de seguridad privada con las que trabajan cada vez más) utilicen grabaciones de vídeo y sonido de una actuación guionizada (es decir, una protesta) o de arte visual como el graffiti –y cualquier otro material sujeto a derechos de autor– sin ninguna condición? ¿qué indemnización debería pagar quien incaute o destruya una instalación artística?

Habitamos sistemas que ofrecen más protección jurídica a la indignación ante la injusticia que a la reivindicación de la justicia como derecho; sistemas que valoran más la inviolabilidad de la propiedad que la inviolabilidad de las vidas de las personas e indígenas, más que la protección de la biodiversidad. No existe un régimen internacional de derechos humanos que pueda aplicarse de forma fiable, pero sí un poderoso régimen jurídico internacional asociado a la propiedad intelectual. Podemos reconvertir radicalmente este poder. Podemos liberar los códigos y la tecnología jurídica de la propiedad intelectual de su uso previsto.

Las posibilidades son intrigantes. ¿Podríamos ser más capaces de ocupar la propiedad física ocupando la propiedad intelectual, remodelando los absurdos poderes otorgados a la propiedad intangible para fomentar nuestra capacidad de controlar el espacio físico? ¿puede la protección de los derechos de autor complicar la forma en que el poder digital oprime cada vez más la protesta o los actos de preservación, ya se trate de cuestiones medioambientales o de una vida digna?

Cualquiera puede participar. Todo manifestante es un artista de la performance. Para aquellos que ya se identifican como artistas socialmente comprometidos o artivistas, esta es una oportunidad para repensar la agencia política de su arte. ¿Puede una obra de arte tener agencia política directa, no a través de debates sobre la rectitud de su estética o contenido político, sino a través de artistas que ocupan el andamiaje legal y económico que la rodea?

Trama nº 2. Ocupar los contratos de trabajo con cláusulas morales de PI

 Los contratos de trabajo son el lugar en el que, como productores de PI, más a menudo cedemos nuestros derechos. Cedemos a las empresas lo que legalmente nos pertenece a través de la cláusula de cesión de PI: una cláusula contractual que otorga a nuestros empleadores plena propiedad y control para utilizar y comercializar nuestra PI. Dado el enorme valor de la propiedad intelectual para los resultados de una empresa, no es de extrañar que las empresas hayan intentado que sus reivindicaciones sobre la creatividad de los empleados sean lo más amplias posible.

Las leyes que rigen las cláusulas de cesión de propiedad intelectual a los empleados varían según la jurisdicción, pero las cláusulas más comunes exigen que los empleados renuncien a todos los derechos morales: derechos legales que facultan a los creadores a oponerse a usos de su trabajo que perjudiquen su honor o reputación. Otras cláusulas comunes conceden a los empleadores la propiedad de cualquier idea registrada en cualquier pieza de propiedad corporativa, incluida la idea de un empleado para un proyecto personal si por casualidad la grabó en un ordenador portátil del trabajo.

¿Qué pasaría si ocupáramos nuestras cláusulas de cesión de propiedad intelectual? ¿qué pasaría si nos organizáramos colectivamente como productores de PI y pusiéramos condiciones a los derechos de nuestros empleadores sobre nuestra PI? Una técnica jurídica existente que podemos utilizar es la cláusula de moralidad: una cláusula contractual que da derecho a rescindir un contrato, o a tomar otras medidas correctivas, si la parte infractora tiene un comportamiento inmoral. ¿Qué podrían estipular las cláusulas morales de la PI abolicionista cocreada?

¿Qué pasaría si nuestros empleadores ya no pudieran utilizar nuestra PI en cadenas de suministro con trabajos forzados y devastación ecológica, o al servicio de ejércitos, vigilancia y policía?

La propiedad intelectual tiene un enorme poder disruptivo sobre la cadena de suministro. Si los productores de PI de una parte de la cadena de suministro utilizaran cláusulas morales, podrían desencadenar un litigio de PI siempre que estas cláusulas morales se infringieran en cualquier punto de la cadena de suministro en la que se utilizara la PI.

He aquí un ejemplo de las grandes empresas tecnológicas, cuyas cadenas de suministro tienen un apetito insaciable de cobalto. La minería del cobalto es famosa por sus abusos de los derechos humanos, la corrupción, la destrucción del medio ambiente y el trabajo infantil.17 Una cláusula moral de PI utilizada por los productores de PI a lo largo de estas cadenas de suministro –por ejemplo, por la Coalición de Trabajadores de la Tecnología– podría utilizarse para aplicar las propuestas realizadas por los activistas de derechos humanos, según las cuales «cualquier empresa que se abastezca de cobalto procedente de la República Democrática del Congo (RDC) debe establecer un sistema independiente de terceros para verificar que todas las cadenas de suministro de minerales están limpias de explotación, crueldad, esclavitud y trabajo infantil. Deben invertir todo lo necesario para garantizar una remuneración decente, unas condiciones de trabajo seguras y dignas, la atención sanitaria, la educación y el bienestar general de las personas de cuya mano de obra barata dependen».18 Si estas condiciones se incluyeran en una cláusula moral de PI, capaz de paralizar las cadenas de suministro dependientes del cobalto al desencadenar un litigio de PI en caso de infracción, todo el poder de mercado de la PI podría utilizarse como zanahoria y garrote para aplicar estas propuestas.

Los académicos, periodistas, artistas y músicos también pueden esgrimir poderosas cláusulas morales de PI. Los editores dependen del papel, la tinta y el pegamento, o de los ordenadores, el software, Google y Amazon para difundir sus obras protegidas por derechos de autor. Sin embargo, la industria de la pulpa y el papel sigue beneficiándose de la deforestación de la selva amazónica, los fabricantes de tinta violan los derechos laborales y vierten residuos peligrosos, y las encuadernaciones de libros no son reciclables.19 Por su parte, la edición digital alimenta cadenas de suministro que vierten habitualmente residuos electrónicos en todo el Sur Global.20 Estas condiciones pueden coexistir con las condiciones de concesión de licencias de acceso abierto que permiten a cualquier persona acceder libremente a contenidos protegidos por derechos de autor, al tiempo que prohíben a los editores ofrecer contenidos de acceso abierto a través de cadenas de suministro poco éticas.

Mediante cláusulas morales de propiedad intelectual, podemos poner en práctica ideas sobre abolición, sostenibilidad o derechos humanos a través de las cadenas de suministro en las que se comercializan estas ideas. También podemos aprovechar el poder de la PI para profundizar en la solidaridad de los trabajadores a través de las cadenas de suministro. En este proceso, podemos experimentar con la PI no como un derecho individual exclusivo, sino como una herramienta colectiva. ¿Podemos imaginar sindicatos de PI organizados en torno a una moral colectiva de PI?

Por qué el acceso abierto no es abolicionista

 La creatividad abolicionista puede estar reñida con los movimientos contraculturales de mayor éxito del mundo de la propiedad intelectual, como el movimiento del software libre, el movimiento del código abierto y el movimiento Creative Commons. Aunque heterogéneos y enzarzados en animados debates entre sí, estos movimientos comparten una preocupación común: ¿cómo resuelve la sociedad el desajuste entre lo que teóricamente permite la tecnología digital –la oportunidad de acceder, compartir y colaborar en la creatividad a una escala sin precedentes y con un coste marginal cercano a cero– y lo que restringe la ley de derechos de autor?

Las respuestas de los movimientos de acceso abierto han logrado construir una comunidad, una cultura y una práctica alternativas en relación con los derechos de autor. Mediante mensajes creativos y recursos educativos accesibles, estos movimientos han llevado los derechos de autor a la esfera pública y los han liberado de su arcano andamiaje. Sus licencias estándar, fáciles de usar, permiten a los creadores salirse del marco por defecto de «todos los derechos reservados» y ejercer una mayor autonomía sin necesidad de convertirse en expertos en leyes de derechos de autor. Estos movimientos también han facilitado el acceso a la información a quienes no pueden permitirse muros de pago y han permitido la acción colectiva para crear software más seguro y respetuoso con la privacidad.

La creatividad abolicionista se basa en las aportaciones de los movimientos contemporáneos de acceso abierto, pero cambia fundamentalmente el quid del problema. Los movimientos de acceso abierto se centran en cómo compartir ideas y cultura más libremente; cómo facilitar la libertad de expresión y el libre acceso al tiempo que se mantiene la innovación. Estas preocupaciones son producto del lugar y el momento histórico del que surgieron. En la década de los noventa, los informáticos y estudiosos del ciberderecho de Europa y Estados Unidos que participaron en el auge del software e internet como herramientas de masas (la llamada Era de la Información) trataron de resolver un reto concreto: cómo hacer realidad el potencial y la esperanza de internet mientras la legislación sobre derechos de autor se volvía cada vez más restrictiva y punitiva.

En lugar de ello, comenzamos nuestro análisis examinando el sistema global más amplio en el que operan el conocimiento y la información: un sistema colono-colonial que extrae riqueza, conocimiento y cultura de las comunidades económicamente marginadas y redistribuye de forma desigual sus frutos económicos entre los más ricos y poderosos. Este enfoque está en consonancia con las críticas que activistas y académicos críticos llevan mucho tiempo haciendo a los movimientos de acceso abierto:21 que el enfoque central en los valores de la libertad ignora las preocupaciones sobre la igualdad; que una noción romántica del dominio público como un paisaje neutral en el que todo el mundo puede cosechar sus riquezas ignora su papel real en la explotación del trabajo y los cuerpos de las personas de color, las mujeres, las personas del Sur global y los empobrecidos.22 Ahora sabemos que el dominio público de los conocimientos indígenas sobre la flora y la fauna locales, las medicinas tradicionales, el folclore o las expresiones culturales tradicionales ha permitido a las grandes farmacéuticas apropiarse de los conocimientos indígenas, transformarlos en propiedad intelectual y convertirse en propietarias exclusivas de esos conocimientos: un fenómeno conocido como biopiratería.

La creatividad abolicionista tampoco está de acuerdo con una creencia ideológica que recorre algunos segmentos destacados de los movimientos de acceso abierto, a saber, que el sistema funcionó bien en su día, pero que «desgraciadamente, nuestros regímenes de PI se han desviado mucho de sus propósitos originales» (Electronic Frontier Foundation).23 Para los colonizados, para los pueblos indígenas cuyo conocimiento colectivo ha sido saqueado, para las comunidades obligadas a aceptar acuerdos comerciales opresivos (por ejemplo, los ADPIC), para el creciente número de esclavos modernos que trabajan en cadenas de suministro globales impulsadas por intangibles, es difícil ver cómo el sistema de PI ha funcionado alguna vez para ellos, o qué han conseguido décadas de intentos reformistas dentro de la legislación de PI en Estados Unidos.24

Para los abolicionistas, el sistema no está roto ni necesita reformas, ajustes y retoques. Funciona tal y como fue diseñado, como una estructura jurídica y económica colonial de colonos. Y se nos está acabando el tiempo y el pensamiento mágico esperando que las políticas públicas se vuelvan favorables de alguna manera en una oligarquía dominada por las corporaciones.25

Los movimientos de acceso abierto también deben enfrentarse a un hecho incómodo: las grandes empresas tecnológicas están de su lado. La creencia generalizada de que las grandes empresas siempre prefieren regímenes de propiedad intelectual más estrictos para bloquear a los nuevos competidores, o que la aplicación celosa de la ley de propiedad intelectual favorece a los poderosos, no se ve confirmada por la historia. Con la excepción de la industria farmacéutica, los monopolios de las industrias intensivas en tecnología se han resistido a lo largo de la historia a una fuerte protección de las patentes: la industria ferroviaria en el siglo XIX, IBM en la industria informática de los años sesenta y setenta del siglo XX, las grandes tecnológicas en la actualidad.26 Google, Facebook (Meta) y Twitter están tratando de aplicar selectivamente la observancia de la PI, gastando millones de dólares en grupos de presión para garantizar la menor fricción posible con la PI dentro de los mercados en los que ya tienen un poder de mercado dominante, para tener un control sin restricciones sobre los datos y el conocimiento, para seguir obteniendo «beneficios publicitarios colosales de los contenidos producidos gratuitamente por los usuarios»27 y para evitar la temida disputa por la PI.28

Si los actores más poderosos son los verdaderos ganadores en un mundo de acceso abierto, ¿no deberíamos replantearnos la afirmación de que la información quiere ser libre? Si el libre acceso significa seguir ignorando las súplicas de las comunidades indígenas para detener la biopiratería, la expropiación cultural y el dominio público de los colonizados, ¿por qué seguimos sosteniéndolo como un valor absoluto?

A diferencia de los movimientos de acceso abierto, la creatividad abolicionista reconoce que la economía global en la que liberamos nuestra creatividad no es un campo de juego neutral e igualitario. Renunciar o limitar los derechos existentes a la creatividad en nuestro sistema actual no hace nada para interferir en la estructura de opresión. Simplemente cede la capacidad de acción a actores más poderosos, una capacidad que debería cederse hacia abajo, no hacia arriba. En lugar de renunciar a nuestros derechos en nombre de una especie de libertarismo para la Era de la Información, deberíamos abrir los ojos a las formas materiales en que nuestra creatividad entra en la economía y rectifica las estructuras de poder digital (y de otros tipos).

Como ilustran nuestros  ejemplos para un futuro abolicionista, existen interesantes experimentos y ejercicios para reconocer y reutilizar el poder de lo que se clasifica como propiedad intelectual. Al apoderarnos de los medios de producción imaginativa, podemos transformar la creatividad en una herramienta de liberación colectiva que perturbe y anule los propios regímenes de poder digital que la encierran y explotan. Al mismo tiempo, lejos de cosificar el propio sistema de propiedad intelectual, la creatividad abolicionista pone de relieve sus contradicciones, sacude su equilibrio y crea crisis internas. Si existe un futuro para la propiedad intelectual, lo descubriremos, colectivamente, en nuestros actos de resistencia e imaginación.

Julia Choucair Vizoso es productora independiente de conocimiento y cofundadora del colectivo artístico AbolishIP. Trabaja en el ámbito de la justicia ambiental y climática en el mundo árabe, imparte cursos de Economía Política y, ocasionalmente, traduce literatura árabe al inglés. Es doctora en Ciencias Políticas por la Universidad de Yale y licenciada en Estudios Árabes y Servicio Exterior por la Universidad de Georgetown.

Chris Byrnes es abogado especializado en propiedad intelectual (PI), académico independiente y cofundador del colectivo artístico AbolishIP. Su trabajo se centra en la concesión ética de licencias de PI, la puesta en común de la PI basada en la Web3 y el pirateo de la PI para proteger la biodiversidad y potenciar imaginarios radicales. Es doctor en Derecho por la Universidad de Georgetown, máster en Religión, Ética y Política por la Universidad de Harvard y licenciado en Física por la Universidad de Denison.

Traducción: FUHEM.

NOTAS:

1. Barron, Kyle, Kung, Edward, y Proserpio, Davide (2020). The effect of home-sharing on house prices and rents: Evidence from Airbnb. Marketing Science 40(1), 23–47.
2. Bernardi, Monica (2 de octubre de 2018). The impact of AirBnB on our cities: Gentrification and ‘disneyfication’ 2.0. The Urban Media Lab.
3. Griffith, Erin (10 de diciembre 2020). Airbnb tops $100 billion on first day of trading. The New York Times. 
4. Airbnb, Inc. (11 de febrero de 2021). Annual Report for the fiscal year ended Dec. 31, 2020. 10-K, United States Securities y Exchange Commission.
5. Tang, Daren (5 de enero de 2022). WIPO: the IP Office of the future. World Trademark Review.
6. WIPO (2017). World Intellectual Property Report 2017: Intangible capital in global value chains. Geneva: World Intellectual Property Organization. WIPO (2021). IP for the Good of Everyone: Report of the Director General to the 2021 WIPO Assemblies. Ginebra: World Intellectual Property Organization.
7. Ver Patent Progress. Too Many Patents.
8. Boyle, James (2008). The Public Domain: Enclosing the commons of the mind. New Haven & London: Yale University Press.
9.  Ver Blumberg, Alex y Sydell, Laura (22 de julio de 2011). When Patents Attack. This American Life [Podcast]. Owles, Eric (22 de junio de 2017). The making of Martin Shkreli as “pharma bro”. The New York Times.
10. Gilmore, Ruth Wilson (10 de junio de 2020). What are we talking about when we talk about “a police-free future”? MDP150.
11. Duda, John (9 de noviembre de 2017). Towards the horizon of abolition: A conversation with Mariame Kaba. The Next System Project. 
12. Ver International Network of Civil Liberties Organizations (2013). “Take back the streets”: Repression and criminalization of protest around the world.
13. Ver Critical Resistance. What is the PIC? What is Abolition?
14. Brown, Alleen (15 de noviembre de 2020). In the mercenaries’ own words: Documents detail TigerSwan infiltration of Standing Rock. The Intercept.
15. Cadena-Roa, Jorge y Puga, Cristina (2021). Protest and Performativity. En Rai, Shirin et al. (eds.), The Oxford Handbook of Politics and Performance ( 101–116). Nueva York: Oxford University Press; Reuters (4 de enero de 2019). Basra youth adopt new tactic for peaceful protest., Brown, Mark (3 de septiembre de 2015). Activists plan oil protest at British Museum. The Guardian.. Ver también Mural Arts Philadelphia. Standing Rock: Decolonizing Creative Practice in the Environmental Justice Movement
16. Haiven, Max (2017). Monsters of the Financialized Imagination: From Pokémon to Trump. En N. Buxton y D. Eade (eds.), State of Power 2017. Amsterdam: Transnational Institute.
17. Kelly, Annie (16 de diciembre de 2019). Apple and Google named in US lawsuit over Congolese child cobalt mining deaths. The Guardian.  
18. Ochab, Ewelina U. (13 de enero de 2020). Are These tech companies complicit in human rights abuses of child cobalt miners in Congo? Centre de Ressources sur les Entreprises et les Droits de l’Homme.
19. Vermeer, Karen (21 de septiembre de 2020). Two sides of the same coin: How the pulp and paper industry is profiting from deforestation in the Amazon rainforest. Environmental Paper Network. ; Ro, Christine (11 de febrero de 2021). Reducing the environmental toll of paper in the publishing industry. Book Riot. Ver también China Labor Watch (13 de diciembre 2021). Abuse in the printing supply chain: An investigation into two cartridge manufacturers. China Labor Watch.  
20. Ver Good Electronics (25 de marzo de 2021). Global South: The dumping ground for the world’s electronics waste. Good Electronics.
21. Vats, Anjali y Keller, Deidre A. (2018). Critical Race IP. Cardozo Arts & Entertainment Law Journal, 36(3).
22. Chander, Anupam y Sunder, Madhavi (2004). The romance of the public domain. California Law Review, 92, 1331.
23. Electronic Frontier Foundation. Creativity and Innovation.
24. Ver ILO/OIT (12 de septiembre de 2022). 50 million people worldwide in modern slavery.
25. Gilens, Martin y Page, Benjamin (18 de septiembre de 2014). Testing theories of American politics: Elites, interest groups, and average citizens. Perspectives on Politics, 12(3), 564–581.
26. Barnett, Jonathan (2021). Innovators, Firms, and Markets: The organizational logic of intellectual property. Nueva York: Oxford University Press.
27. Riekeles, Georg (28 de junio de 2022). I saw first-hand how US tech giants seduced the EU—and undermined democracy. The Guardian.
28. Michel, Paul R. (5 de Agosto de 2022). Big Tech has a patent violation problem. Harvard Business Review; Schiffner, Christine (31 de mayo de 2022). As tech giants push for IP reform, plaintiffs firms see new momentum for litigation. The National Law Journal.; Pegoraro, Rob (30 de junio de 2015). Why the tech industry hates patent trolls, and you should too. Yahoo Tech. 

Estados Unidos está construyendo una infraestructura fronteriza digital en los países vecinos que amplía y profundiza la vigilancia, al tiempo que oculta la violencia estatal. Las implicaciones de esta nueva infraestructura serán duraderas y deberán integrarse en las estrategias de resistencia de los movimientos por la justicia de los migrantes en todo el mundo.

En 2021, José Eusebio Asegurado, agricultor de El Salvador, fue detenido por la Policía Nacional Civil salvadoreña por «promover la trata de personas». La base de la detención fue un chat de grupo de WhatsApp que Asegurado y otros migrantes utilizaban para coordinar una caravana, en la que se había infiltrado un agente de policía. Según las capturas de pantalla utilizadas para incriminarle, la única participación de Asegurado en el chat fue responder «OK» al mensaje de un migrante que le decía que estaría en un punto de encuentro sobre las cinco. La policía detuvo a Asegurado en el punto de encuentro, diciéndole que estaba «fichado» como organizador de la caravana.1

El mismo día, la policía salvadoreña también acusó a Fátima Pérez, cocinera, y a Juan Rufino Ramírez, guardia de seguridad privada, de promover la «trata de personas» basándose en los mensajes de un grupo de WhatsApp que habían creado para coordinar una caravana. En las capturas de pantalla del caso de Ramírez se le puede leer dando instrucciones al grupo de 55 miembros para reunirse en la estación de autobuses, así como los precios de los billetes a Guatemala. La policía detuvo a Ramírez y a Pérez la mañana en que planeaban partir.

Estas tres detenciones se produjeron en un lapso de cuatro horas. La entonces embajadora de Estados Unidos en El Salvador, Katherine Dueholm, felicitó rápidamente a la Fiscalía General y declaró: «Aplaudo a las autoridades salvadoreñas que están tomando medidas contra aquellos que quieren engañar a la ciudadanía con caravanas y falsas promesas. Solo promueven #UnViajeEnVano”[2

Las detenciones y los elogios de la embajadora Dueholm reflejan el papel fundamental que desempeñan la vigilancia encubierta y las tecnologías inteligentes basadas en datos en las prácticas estadounidenses de control migratorio que operan en países situados fuera de Estados Unidos. En los últimos veinte años, Estados Unidos (y otros países ricos) han hecho grandes esfuerzos por externalizar los regímenes de control de fronteras más allá de su propio territorio. Esto implica a menudo la participación efectiva de organismos de otros países en la vigilancia, el control policial y la exclusión de los inmigrantes.

Sin embargo, la nueva infraestructura digital que permite la externalización de las fronteras es poco conocida. Esta infraestructura digital se basa tanto en la tecnología de grado militar construida por los principales fabricantes de armas como en la innovación de Silicon Valley: bases de datos interoperables que comparten huellas dactilares sin problemas entre los organismos policiales a través de las fronteras; dispositivos de recogida biométrica utilizados por las autoridades de detención mexicanas para rastrear a los migrantes para la Oficina de Aduanas y Protección Fronteriza de Estados Unidos (CBP); aplicaciones de medios sociales que sirven como redes de comunicación críticas para los migrantes y herramientas de vigilancia para la policía; sistemas de identificación digital que permiten el acceso a los servicios esenciales, pero también pueden actuar como dispositivos de seguimiento.

Las infraestructuras −digitales o materiales− tienen un verdadero poder de adhesión; de eso se trata. Una vez que una autopista parte una comunidad por la mitad, esta nueva presencia sofoca el estruendo de las protestas y la gente sigue adelante. Utilizamos el término infraestructura digital para describir el establecimiento de unas bases que serán fundamentales en la forma en que las potencias mundiales practicarán el control de la migración; y, a medida que se implante, más allá de la propia infraestructura como desafío: una intervención estratégica unificada de los países poderosos, con Estados Unidos a la vanguardia. Aunque pueda parecer un experimento tecnológico (como los perros-robot dotados de inteligencia artificial en la frontera) o una captura de datos puntual y oportunista (como las redes de acuerdos internacionales de intercambio de datos), el crecimiento de la infraestructura fronteriza digital obedece a un diseño. Esto es posible gracias a las tecnologías digitales integradas que se asientan en el mismo tipo de existencia incuestionable y sin discusión que se concede a otras infraestructuras, tales como los cables de comunicaciones submarinos, los protocolos y los servidores que hacen funcionar Internet, una red eléctrica o una superautopista.3

Las profundas implicaciones de las nuevas infraestructuras persisten mucho tiempo después de su creación, como es el caso de la infraestructura digital desplegada para vigilar a los inmigrantes en el llamado patio trasero de Estados Unidos. Con frecuencia, sus repercusiones resultan invisibles. Los gobiernos promueven las tecnologías de vigilancia fronteriza como fundamentalmente seguras, humanas y no violentas, mientras que los defensores de los inmigrantes luchan por hacer visible la violencia al otro lado de estos circuitos fronterizos invisibles.4

Las implicaciones van desde la violencia desencadenada digitalmente y los asesinatos cometidos por la policía local en Centroamérica hasta las acciones de Estados Unidos, sus aliados y competidores en las contiendas geopolíticas por el control de la seguridad mundial. El gobierno estadounidense y la industria privada se han embarcado en un frenesí empresarial, en gran medida encubierto, para poseer y controlar la interfaz de vigilancia de la migración del futuro. Las capacidades de vigilancia y control –una parte rutinaria y de larga data de los paquetes de ayuda de Estados Unidos para luchar contra el crimen organizado– amplían el espionaje interno de los gobiernos-socios para sus propios fines y sirven a los intereses de externalización fronteriza de Estados Unidos en el control del movimiento de personas y su desvío fuera de la frontera territorial estadounidense.

Este ensayo se centra principalmente en cómo la infraestructura digital sirve a los intereses estadounidenses. ¿Qué sabemos sobre esta estrategia y cómo está afectando ya a la movilidad y los derechos humanos en la región? ¿cuáles son sus fundamentos históricos? ¿qué retos nos aguardan? Es imposible responder a estas preguntas simplemente diseccionando la crudeza o la procedencia de una única tecnología, sistema o actor. Primero tenemos que entender las motivaciones transnacionales que impulsan estas dinámicas en ascenso, más observables, sobre el terreno. En otras palabras, debemos hacer visible la infraestructura digital invisible.

La infraestructura digital es clave para la externalización de fronteras y el aumento de la violencia inexplicable

Entender la externalización de las fronteras a través de la lente de la infraestructura digital permite captar la verdadera escala de las prácticas fronterizas previstas por Estados Unidos (y sus competidores y aliados), así como su idea de permanenciaen el futuro orden mundial. La infraestructura fronteriza digital se alimenta de historias de dominación, control y atrocidades en nombre de proyectos transnacionales de lucha contra el crimen, preparando el terreno para unos elevados costes sociales.

En primer lugar, en lo que respecta a la escala, estamos asistiendo a una escalada del imperialismo fronterizo estadounidense y de la violencia en las fronteras, tanto en términos de alcance geográfico en territorios nacionales como de la ampliación de la capacidad policial a un número cada vez mayor de individuos y grupos a través de esta infraestructura digital[5 Esto incluye a cualquier persona que un algoritmo considere peligrosa, a quienes puedan emigrar, así como a los agentes humanitarios, los grupos de defensa de los inmigrantes y las organizaciones de ayuda. La capacidad de aplicarse a múltiples escalas y el rápido crecimiento que engendra es una propiedad por excelencia de las tecnologías digitales, independientemente de su origen o aplicación. Los desplazamientos hacia nuevos objetivos en el marco de la infraestructura digital no tienen tantas resistencias en comparación con las anteriores tácticas analógicas de vigilancia fronteriza. Asegurado, el agricultor que ayudaba a los inmigrantes en El Salvador, se vio envuelto en la red de externalización fronteriza de Estados Unidos con un simple «OK» en un chat de WhatsApp.

En segundo lugar, en cuanto a la permanencia, los defensores de las fronteras digitales en las capitales nacionales, la industria y las agencias de desarrollo adoptan el término infraestructura pública digital como una marca, para otorgar confianza (no merecida), normalización y un aura de inevitabilidad de las herramientas digitales cuestionadas, tales como las identificaciones biométricas y los sistemas de pago.6 Ceder el privilegio de definir la infraestructura digital a actores con importantes intereses en las actuales prácticas de control de la migración es imprudente. Sin una contranarrativa que articule su disposición violenta, las herramientas digitales de externalización de fronteras –incluida la recogida generalizada de datos biométricos, la recopilación de datos de transacciones en tiempo real en los sistemas de pago y la confiscación de teléfonos inteligentes en la frontera– pueden normalizarse fácilmente como infraestructura pública digital, en lugar de resistirse a ellas.

La escala y el impacto duradero del rápido endurecimiento de la infraestructura digital que alimenta la externalización fronteriza exigen una coordinación transnacional urgente. Como escritores y activistas, nos hemos unido para resistir el uso de la infraestructura digital en la política estadounidense de control migratorio en México, Centroamérica, Sudamérica y el Caribe. Solo tenemos rastros y no la imagen completa. Basándonos en el trabajo de otros, entretejemos todo esto para mostrar cómo la fusión del poder estatal y digital para construir una infraestructura fronteriza digital no es ni humana ni segura: más bien, está incrementando formas de violencia irresponsables.

Amyyfory, CC BY-SA 4.0 <https://creativecommons.org/licenses/by-sa/4.0>, via Wikimedia Commons. Este es el muro en la frontera entre Estados Unidos y México en San Diego. La sombra se proyecta sobre el territorio estadounidense.

Convergencia: guerra contra las drogas, externalización de fronteras, infraestructura digital y militarización de las regiones vecinas de EEUU

Desde la década de los setenta, las iniciativas económicas y políticas han impulsado sin tregua las inversiones estadounidenses en prácticas de control de la inmigración más militarizadas, criminalizadoras y digitalizadas. Desde el 11 de septiembre de 2001, la convergencia estadounidense de la política de seguridad nacional con la lucha contra la migración no autorizada ha impulsado un régimen de externalización de fronteras cada vez más amplio –actualmente hay 23 oficinas de la CBP y 48 oficinas del ICE en todo el mundo–7 y, en consecuencia, ha proporcionado un mercado especialmente lucrativo para las empresas de vigilancia digital.8 A través de programas como la Iniciativa Mérida y la Iniciativa de Seguridad Regional Centroamericana, Estados Unidos ha vinculado la ayuda a países como México, El Salvador, Guatemala y Honduras al aumento de la militarización, la vigilancia policial, el encarcelamiento y el control de la migración.

Sin embargo, los patrones migratorios hacia Estados Unidos desde México, América Central y el Caribe no pueden disociarse de las prácticas y políticas que Estados Unidos ha empleado durante más de un siglo para dominar a los países de estas regiones. Décadas de prácticas y políticas estadounidenses han alimentado la inestabilidad económica, política y ambiental, factores clave que impulsan la migración a Estados Unidos. En los últimos veinte años, el número de personas que emigran desde Centroamérica se ha más que duplicado, y los mayores aumentos se han producido en Guatemala, Honduras y México. La guerra contra el narcotráfico respaldada por Estados Unidos en México y Centroamérica ha aumentado drásticamente la violencia y la inestabilidad.9 En México, la lucha contra el crimen organizado ha provocado 350 mil muertes y más de 72 mil desapariciones entre 2006 y 2021. Según el Banco Mundial, el 60 % de la población rural centroamericana vive en la pobreza. Aunque los mayores contribuyentes a la crisis climática son los países ricos, estas poblaciones ya empobrecidas sufren los impactos más agudos del cambio climático. Durante décadas, las sequías prolongadas junto con catástrofes naturales como huracanes e inundaciones han afectado profundamente a Centroamérica. El número de personas que se enfrentan la inseguridad alimentaria se triplicó entre 2019 y 2021, afectando a 6,4 millones de personas. Asegurado, Pérez y Ramírez –como muchos otros– buscan alternativas a esta situación intolerable.

En lugar de reconocer estas causas subyacentes, la respuesta de Estados Unidos ha sido ampliar aún más su frontera. El general John Kelly, ex secretario del Departamento de Seguridad Nacional de Estados Unidos, declaró: «Creo que la defensa de la frontera suroeste comienza a 1.500 millas al sur». México ha sido durante mucho tiempo fundamental en el régimen de externalización de fronteras de EEUU, y la infraestructura digital desempeña un papel cada vez más crítico. Tony Crowder, ex director de Operaciones Aéreas y Marítimas de la CBP, compartía la opinión de Kelly: «Hemos enseñado a pescar a los mexicanos… [pero] aunque tenemos toda esta capacidad de vigilancia, no tenemos suficiente, necesitamos más”.10

Aunque forma parte de los esfuerzos continuados de Estados Unidos por reclutar a México en apoyo de sus objetivos regionales, esta asociación para la seguridad y el Estado de derecho se aceleró tras el 11 de septiembre. En 2007, Estados Unidos desplazó el foco de su guerra contra las drogas de Colombia a México, América Central y el Caribe. En este marco de securitización, la guerra contra las drogas se fusionó con el régimen de control de la inmigración. En 2008, se puso en marcha la Iniciativa Mérida, una asociación bilateral entre Estados Unidos y México en nombre de la guerra estadounidense contra las drogas. Inicialmente proporcionó financiación para que México adquiriera equipamiento para sus fuerzas militares y policiales y para la recopilación de información de inteligencia. En 2013, Mérida fue renovada para incluir cuatro pilares, incorporando la creación de una «frontera estadounidense-mexicana del siglo XXI, mejorando al mismo tiempo la aplicación de las leyes de inmigración en México y la seguridad a lo largo de las fronteras meridionales de México». Desde 2008, unos 3.500 millones de dólares, prolongación de la política estadounidense, han contribuido a dar forma a la agenda de control migratorio de México.

En 2014, el Programa Frontera Sur reforzó aún más la seguridad de la frontera sur de México mediante el aumento de la policía de migración y el aparato de deportación. En consecuencia, México cuenta ahora con uno de los mayores sistemas de detención de inmigrantes del mundo. Entre 2014 y 2017, México deportó a más centroamericanos que la Patrulla Fronteriza de Estados Unidos. Doris Meissner, ex comisionada del Servicio de Inmigración y Naturalización (INS, el predecesor de ICE y CBP), subrayó la importancia del control migratorio mexicano, explicando en 2017 la necesidad de examinar tanto los datos estadounidenses como los mexicanos para evaluar la eficacia de la aplicación de la ley en la frontera estadounidense.11

En el marco de estos acuerdos, el Departamento de Defensa de EE.UU. ha proporcionado formación y ha vendido millones en equipamiento militar a México, incluida una serie de tecnologías de fronteras inteligentes proporcionadas por empresas como Dev Technology, General Dynamics, Amazon Web Services y NEC.12 Un elemento clave del apoyo de EE.UU. a México ha sido el desarrollo de una infraestructura para recopilar y compartir datos –como información biométrica y biográfica, y antecedentes penales– de forma que interactúe sin problemas con las bases de datos estadounidenses.

La infraestructura digital que rastrea y cataloga a los migrantes es fundamental para la política migratoria estadounidense en México. La estrategia del Instituto Nacional de Migración (INM), respaldada por Estados Unidos, se basa en esta infraestructura como principal medio para controlar la migración en lugar de sellar la frontera sur de México con Guatemala. La recogida de datos biométricos es esencial para que los migrantes sean más legibles para el Estado. En 2011, Estados Unidos proporcionó cuatro quioscos biométricos para la frontera sur de México, y 117 escáneres biométricos adicionales al año siguiente. Entre 2018 y la primera mitad de 2022, el gobierno mexicano recopiló y compartió información sobre más de 360 mil migrantes en centros de detención.13 La información de la CBP revela que las autoridades mexicanas compartieron información de 10 mil solicitudes de visado humanitario ante el DHS. La liberación de aproximadamente 1.800 migrantes no registrados de un albergue en Piedras Negras (México) estaba condicionada al registro de sus datos.14

Un «entorno de intercambio de información» que incluya sistemas interoperativos de intercambio de datos es fundamental para lograr los objetivos del Estado de seguridad nacional.15 La interoperabilidad permite una conectividad sin fisuras entre la policía, las agencias de inmigración, los gobiernos extranjeros, etc.16 Las principales formas de la infraestructura digital iniciada por Estados Unidos se basan en la recopilación generalizada de información y el intercambio sin fisuras de datos para la vigilancia a través de las fronteras.

Este enorme volumen de recopilación e intercambio de datos se ha visto impulsado por el despliegue del poder del Estado carcelario –incluida la centralidad del «extranjero delincuente», el «miembro de una banda» y el «narcotraficante» como amenazas para la seguridad nacional– a todos los niveles geográficos del régimen estadounidense de control de inmigrantes. Por ejemplo, el Programa de Alerta Migratoria Transnacional de Identificación Biométrica (BITMAP) permite al DHS y a sus países socios saber dónde y cuándo llega una persona al hemisferio occidental y sus pautas de viaje antes de que llegue a la frontera suroeste de Estados Unidos. El BITMAP está desplegado actualmente en 18 países, incluido México. El DHS también cuenta con un programa de intercambio de información sobre antecedentes penales (CHIS) que permite compartir a escala mundial información biográfica, biométrica y descriptiva sobre las personas expulsadas de Estados Unidos (por ejemplo, presuntos antecedentes de inmigración, laborales, familiares y penales).

La criminalización estructural de la pobreza en ambos países se amplifica con el CHIS. Según la Encuesta Nacional de Población Privada de la Libertad en México, realizada por el Instituto Nacional de Geografía y Estadística (INEGI) en 2021, casi el 44 % de los encuestados declaró haber sido encarcelado por acusaciones o incriminaciones falsas. El 42 % afirmó haber sido obligado a declararse culpable o a incriminar a otra persona. Casi la mitad de las personas encarceladas no han sido condenadas,17 y casi la mitad de las condenas son por robos de menos de 100 dólares.18 Este es el tipo de datos que alimenta CHIS.

En otro ejemplo, el DHS está desarrollando el Sistema Avanzado de Tecnología de Reconocimiento Nacional (HART, por sus siglas en inglés) para sustituir a su actual base de datos biométricos centralizada, IDENT, mediante un contrato con Peraton (filial de Veritas Capital, una empresa de capital riesgo). Alojado en Amazon Web Services, HART permitirá al DHS agregar y comparar datos biográficos y biométricos de cientos de millones de personas en todo el mundo. Esto incluye los denominados datos de identificación procedentes de identificaciones policiales, reconocimiento facial, ADN, escáneres de iris e impresiones de voz, normalmente recopilados sin el conocimiento o consentimiento de la persona. La enorme base de datos HART se basa en la recopilación generalizada de datos biométricos en todos los ámbitos, por ejemplo, el desarrollo de bases de datos de ADN integradas en México y Centroamérica por parte del Departamento de Estado de EE.UU. en nombre de la lucha contra el tráfico de personas o la propuesta de un documento de identificación digital biométrica nacional en México. De este modo, se fusionan múltiples iniciativas estatales y crece exponencialmente el poder del Estado para vigilar, rastrear y controlar a los migrantes y a todas las personas bajo su vigilancia.

Aunque la Iniciativa Mérida terminó formalmente en 2019, su enfoque ha sido sostenido por el gobierno mexicano. En 2021, el gobierno mexicano aumentó el tamaño del ejército en un 46 % y el de la Guardia Nacional, dedicada a detener migrantes, en un 300 %. En julio de 2022, el presidente López Obrador comprometió 1.500 millones de dólares en infraestructura fronteriza inteligente durante los próximos dos años.

Para los estados socios de EEUU, cualquier canal tecnológico y de intercambio de datos que se financie y se exporte a ellos se convierte en un activo, no solo para vigilar a los migrantes, sino para impulsar múltiples agendas de construcción de poder coercitivo. Por tanto, esta infraestructura puede acabar alimentando la violencia y la criminalización, socavando el derecho de asilo, exacerbando la desigualdad y ampliando el poder de los paramilitares y la policía, al tiempo que privilegia las prerrogativas corporativas y neoliberales securitizadas.

La naturaleza geopolítica de la infraestructura digital

En su investigación sobre los sistemas de pago digitales, Marieke de Goede y Carola Westermeier utilizan el término geopolítica de infraestructuras para subrayar la creciente centralidad de las infraestructuras en la geopolítica y el modo en que el poder económico estadounidense está arraigado en las infraestructuras financieras (que, como el control de la migración, se están digitalizando rápidamente).19

La red mundial de mensajería financiera SWIFT es un ejemplo de infraestructura invisible para la mayoría de la gente y que, sin embargo, desempeña un papel fundamental, como describen los autores, en el refuerzo de las relaciones de poder del orden mundial de posguerra en el que surgió. Setenta años después de la Segunda Guerra Mundial y cincuenta desde la creación de SWIFT, las rutas de mensajería bancaria fluyen a través de antiguas capitales coloniales y se sitúan en un núcleo de países occidentales, dejando grandes franjas de América Latina, África y Oriente Medio en una periferia económica permanente, pero efectivamente invisible. Del mismo modo, las identificaciones digitales, el seguimiento y la infiltración en las redes sociales y las plataformas de intercambio de datos son esencialmente componentes, nodos o capas parcialmente visibles de proyectos de infraestructura digital geoestratégica más profundos y a más largo plazo.

La ampliación de las fronteras mediante infraestructuras digitales sirve a objetivos políticos y económicos de Estados Unidos que van mucho más allá de la vigilancia de la movilidad humana. La lucha geopolítica por el control de las infraestructuras se desarrolla en varios ámbitos. Los organismos militares codician el dominio de la identidad, un objetivo que llevó a las fuerzas estadounidenses a recopilar almacenes masivos de datos biométricos en Afganistán e Irak como arma de guerra.[20] Los gigantes estadounidenses de los servicios digitales como Amazon y Google dominaron la plataformización construyendo infraestructuras de comercio electrónico (publicidad digital, búsquedas, redes sociales, etc.) para dominar la economía digital. A menudo convergen los intereses de los sectores público y privado, incluso en forma de asociaciones público-privadas (APP) para construir infraestructuras. En cada caso, la verdadera pugna entre estados y gigantes corporativos se centra en el control de la interfaz, o de los métodos infraestructurales más esenciales e invisibles de comunicación y control digitales. Como explica Michael Kwet, «las corporaciones transnacionales de las ‘grandes tecnologías’ con sede en Estados Unidos han amasado billones de dólares y han adquirido poderes desmesurados para controlarlo todo, desde los negocios y el trabajo hasta los medios sociales y el entretenimiento en el Sur Global. El colonialismo digital se está extendiendo por todo el mundo».[21] La búsqueda de Estados Unidos de la dominación a través de infraestructuras externalizadas de vigilancia de la migración va de la mano de sus designios geopolíticos y corporativos de poder económico.

Estas formas de poder digital a través de las infraestructuras plantean retos únicos para la documentación y, en última instancia, para cualquier forma de cambio sistémico. Los retos incluyen líneas borrosas de responsabilidad, misión y función; los gobiernos y los actores corporativos son vistos o presentados como conductos pasivos o intermediarios en la infraestructura pública digital; y las infraestructuras pueden aparecer fácilmente como ahistóricas y sin motivación. En México y Centroamérica, el control de la migración converge con las operaciones policiales exteriores de Estados Unidos (como la guerra contra las drogas y las guerras entre bandas). Exploramos los diversos efectos simultáneos de esta compleja fusión: el giro hacia la infraestructura digital; su relación con la violencia y el sufrimiento humano; y su exclusión de la rendición de cuentas por estos daños.

Infraestructura digital de fronteras en su teléfono: las técnicas policiales de las Tecnologías de la Información y la Comunicación (TIC) en las rutas migratorias

La infraestructura de vigilancia es tangible en los centros físicos de detención de inmigrantes y en las detenciones policiales, con fichas policiales, frotis de mejillas y confiscación del teléfono móvil del detenido, entre otras. La creciente integración de la vida cotidiana, las telecomunicaciones y la informática abre amplias vías para una vigilancia más encubierta y oportunista de las comunicaciones y actividades privadas de los usuarios que recurren a las redes sociales, las comunicaciones móviles y las aplicaciones de mensajería. La vigilancia de los teléfonos móviles y las redes sociales abarca desde la obligación de revelar información para solicitar visados y prestaciones sociales hasta la elaboración de listas y el seguimiento por parte del gobierno de manifestantes y otros actores indeseables. La vigilancia de los migrantes está inmersa en estos sistemas de control, en los que la tecnología de vigilancia sirve como herramienta silenciosa para la violencia y la represión gubernamentales.

Esto ha repercutido en la forma en que los migrantes viajan y se mantienen a salvo, por ejemplo, mediante la seguridad en el número. Viajar en caravana se ha convertido, por tanto, en una estrategia tanto de supervivencia como de protesta: fuentes de seguridad tanto física como económica y de oposición a las políticas económicas que contribuyeron a su desplazamiento. Las redes sociales y las aplicaciones de mensajería son herramientas clave para la coordinación de las caravanas y para los migrantes en general. Los migrantes utilizan estas herramientas para identificar rutas, buscar refugio y alimentos, comunicarse con sus redes de apoyo, avisarse mutuamente de los riesgos y coordinar los viajes. Tanto los gobiernos como la delincuencia organizada entienden esta dinámica y utilizan estas mismas herramientas para vigilar y extorsionar a los migrantes.

El 5 de junio de 2019, Irineo Mújica, de Sin Fronteras –una organización de la sociedad civil dedicada a la protección de los derechos humanos de los migrantes en México y Estados Unidos, y que ha apoyado a múltiples caravanas de migrantes– fue detenido en México, acusado falsamente de tráfico de personas. Mújica apareció en la base de datos de la lista de vigilancia de la CBP publicada en 2019 que contenía fotos, nombres, profesiones y otros detalles de periodistas, activistas y personas influyentes en las redes sociales, tanto de México como de Estados Unidos, con vínculos con la caravana de migrantes.

Un informe de la Oficina del Inspector General (OIG) del DHS sobre la base de datos y otras prácticas de vigilancia descubrió que la CBP estableció alertas electrónicas (vigías) sobre periodistas, abogados y defensores que estaban conectados a través de las redes sociales con las caravanas de migrantes.22 Las personas etiquetadas por los vigías eran constantemente marcadas para un control secundario al entrar en Estados Unidos, e interrogadas sobre su trabajo, organización, familia, educación e inclinaciones políticas.

La militarización de esta información tuvo efectos nefastos en el lado mexicano de la frontera. Según Alex Mensing, activista de Sin Fronteras, después de que la CBP compartiera con el Gobierno mexicano la información recabada a través de los vigías, otros miembros de su organización que ayudaron a las caravanas de migrantes en el mismo periodo vieron aumentar el escrutinio fronterizo y las amenazas de muerte. Organizar y apoyar a los migrantes amenaza las operaciones lucrativas que dependen de la criminalización de la migración en toda la región. La ayuda de la sociedad civil hace que los migrantes sean menos propensos al secuestro y la extorsión, lo que por tanto reduce los ingresos de la delincuencia organizada vinculada a estas actividades y, como efecto dominó, también disminuyen los sobornos a las autoridades, lo que enfrenta los intereses colectivos de estos grupos con los de los activistas y los que prestan ayuda humanitaria.

La vigilancia de cualquier persona que pueda suponer una amenaza para el sistema ha sido durante mucho tiempo una forma generalizada y sistemática de control gubernamental en México. Un documento filtrado de NSO Group, la empresa israelí que creó Pegasus, reveló que 50 mil personas eran posibles objetivos de vigilancia en México. La lista incluía a políticos de la oposición, periodistas que investigaban la corrupción gubernamental y las ejecuciones extrajudiciales, activistas que abogaban por gravar las bebidas azucaradas, jueces, académicos y expertos internacionales que investigaron el caso de la desaparición forzada y ejecución extrajudicial de los 43 estudiantes, entre otros.

En 2022, se descubrió que los teléfonos móviles de dos periodistas y un activista que investigaron los abusos cometidos por el ejército mexicano estaban infectados con el programa malicioso Pegasus. En 2020, el Gobierno mexicano pretendió crear un registro de tarjetas SIM que enlazaría con los datos biométricos y otros datos personales del propietario de la tarjeta. Esto habría intensificado la vigilancia digital del gobierno a través de la infraestructura de las TIC, y contó con la oposición de la sociedad civil.

Documentos internos de la CBP muestran que las agencias gubernamentales comparten continuamente información sobre la ubicación de los migrantes, su origen y el número de personas en cada grupo, a través de la frontera, incluso antes de que comiencen a migrar. En 2018, agentes del DHS estadounidense se infiltraron en un grupo de WhatsApp de migrantes hondureños que viajaban en una caravana de unos 4.000. Estas prácticas policiales también están siendo reproducidas por el Gobierno mexicano. 23

Impacto: violencia estructural y falta de rendición de cuentas en la actuación policial globalizada en materia de migración

Roberto M., un joven de El Salvador, fue tiroteado y detenido por la policía poco después de ser deportado de Estados Unidos. Los policías rurales que dispararon a Roberto también amenazaron a punta de pistola a un testigo presencial, diciéndole que Roberto era miembro de una banda y que, si revelaba lo que había visto, le ocurriría lo mismo. La policía de El Salvador recibe de Estados Unidos datos sobre la afiliación de los miembros de las bandas, y comparte estas listas con la policía de los barrios donde tienen previsto vivir los deportados. Se ha comprobado que estas bases de datos son problemáticas y poco fiables.24 Los departamentos de policía confirmaron que esta información se utiliza para perseguir a las personas: «Pensamos que si una persona no era querida por los Estados Unidos, debe ser porque la persona deportada es mala».

La violencia puede vincularse cada vez más a las tecnologías digitales fronterizas, sobre todo en combinación entre sí y con las realidades físicas y ambientales que las rodean. Algunos estudios muestran los efectos de la vigilancia integrada por torres fijas en las tasas de mortalidad de los inmigrantes en el Valle de Altar, en Arizona. En este caso, la infraestructura digital se fusiona con la ineficaz, aunque antigua, política de disuasión estadounidense, que hace más peligrosas las rutas migratorias, con la teoría de que los migrantes no se arriesgarían a emprender el viaje. La fusión de tecnología y políticas que infligen un daño deliberado produce estos resultados predecibles del aumento de muertes de inmigrantes.25

La historia de Roberto M. y del testigo de su tiroteo y desaparición tras la deportación en El Salvador refleja otra pauta de violencia vinculada al intercambio de información a través de infraestructuras digitales. La criminóloga Ana Muñiz documenta un «ciclo de actuación policial violenta, migración, actuación policial más violenta, detención, deportación, actuación policial violenta, migración, y así sucesivamente»,26 en el que las propias etiquetas («extranjero criminal» o «miembro de una banda») se convierten en vectores ineludibles de precariedad. Tales etiquetas llevan a los individuos hacia una especie de apatridia, como chivos expiatorios habituales y cuantificables que proporcionan una distracción fácil para las fuerzas de seguridad del Estado y las corporaciones que producen y perpetúan las «causas estructurales de la violencia».27

La infraestructura digital no se fusiona con un terreno físico, sino con factores sociales y políticos preexistentes que hacen de la violencia una conclusión inevitable. La infraestructura digital polivalente de hoy en día también permite la incorporación eficaz de nuevas categorías criminalizadas indeseables, incluidos los organizadores de caravanas o los promotores de la migración, como en el intento de El Salvador de reformar su código penal, criminalizando la promoción de la migración en las redes sociales.

Retos y perspectivas

Nos interesa desarrollar un conocimiento más profundo sobre los orígenes políticos de estas infraestructuras para desafiar la violencia de los sistemas globales de control de la migración. Este ensayo solo delimita el campo del objeto de estudio. Se necesita mucho más trabajo colectivo para documentar y diseñar modelos de resistencia que permitan hacer frente a estos desafíos.

La naturaleza difusa y estructural del poder que subyace a las características aparentemente ahistóricas y carentes de motivación de las infraestructuras digitales socava los enfoques clásicos de la rendición de cuentas. Además, las conocidas vías judiciales nacionales e internacionales para responsabilizar a los autores de estas formas de violencia indirecta –por muy imperfectas o ineficaces que puedan ser– son excepcionalmente inadecuadas para las condiciones que se dan en el contexto específico del seguimiento policial de la migración, y esto por varias razones.

En primer lugar, las tecnologías en uso, como las bases de datos biométricos, y los medios de utilizar tecnologías civiles como las redes sociales y otras TIC, simplemente no están diseñadas para respetar o someterse al escrutinio democrático; son de corte militar y diseñadas para su uso en espacios cuasi-militarizados por instituciones impregnadas de ideología militar. Casi un tercio del personal de la CBP trabajó anteriormente en el ejército estadounidense. Las tecnologías de vigilancia biométrica avanzaron a pasos de gigante en las operaciones militares estadounidenses antes de integrarse en la vigilancia fronteriza civil. Los contratistas militares del sector privado desempeñan un papel fundamental en esta transición.

Como documenta la periodista Annie Jacobsen, en el marco de la recopilación de datos biométricos por parte del ejército estadounidense en Afganistán, Palantir Technologies sirvió de enlace fundamental entre las operaciones de inteligencia estadounidenses para rastrear y matar a objetivos militares y las operaciones policiales cuasi civiles, como la prueba piloto de muestras rápidas de ADN de familias migrantes en la frontera estadounidense en 2019 (Jacobsen, 2020). Hoy en día, los kits biométricos utilizados en Afganistán, algunos de los cuales aún almacenan datos biométricos recopilados en el campo de batalla, están a la venta en eBay.

En segundo lugar, los organismos de justicia y supervisión están mal equipados para cumplir la función que les corresponde en este ecosistema. En los procedimientos e investigaciones penales, el uso de tecnologías que capturan y registran pruebas de actividades supuestamente delictivas o que pretenden cotejar biométricamente los registros son extremadamente difíciles de impugnar debido a su barniz científico y a la opacidad de sus métodos de recopilación y análisis de datos, lo que no deja margen práctico para impugnar o excluir tales pruebas. El diseño de tecnologías que predeterminan factores de riesgo relacionados con conductas delictivas, incluida la migración, contraviene el derecho a la presunción de inocencia. En el contexto civil, los mecanismos de justicia de ámbito nacional niegan la legitimación activa a los no nacionales situados fuera de Estados Unidos que son víctimas de violaciones vinculadas a la vigilancia digital.

Por último, existen enormes incentivos para que tanto el Estado como el poder empresarial oculten la violencia. El posicionamiento político de las fronteras inteligentes como más humanas oculta el papel del Estado en la violencia y aísla a las corporaciones de las relaciones públicas negativas o de las restricciones por participar en mercados repugnantes. Su tarea se ve facilitada por la conversión del dolor físico en una abstracción que simula no afectar a seres humanos reales,28 así como por características de la economía de datos como la forma en que las empresas han promovido el movimiento hacia la gestión de las funciones gubernamentales como plataformas digitales privadas.

Las herramientas de evaluación de riesgos de mitigación, como la protección de datos o las evaluaciones de impacto sobre los derechos humanos proporcionan una tapadera, favoreciendo la continuación de estas prácticas empresariales porque las empresas las llevan a cabo voluntariamente y se enfrentan a pocas o ninguna consecuencia por una mala evaluación de riesgos. Como era de esperar, estas herramientas dirigidas por la industria a menudo no proporcionan un medio real para la rendición de cuentas; revelan escasa información que sea procesable si y cuando los productos causan daño; y la carga de probar las violaciones de derechos y encontrar un remedio eficaz después de los hechos es asumida enteramente por las víctimas. Los intereses de actores poderosos convergen en torno a una red de intereses financieros en este sistema, lo que lleva al acoso agresivo y al posible silenciamiento de activistas, como ilustra el caso de Irineo Mújica y Sin Fronteras.

Necesitamos herramientas y métodos de cooperación transnacional para documentar, recopilar y compartir información de forma segura, y organizarnos. La fusión de nuevos conocimientos sobre cómo funciona el poder digital dentro de los movimientos de resistencia transnacionales existentes ofrece la posibilidad de cuestionar la infraestructura digital de la externalización de fronteras.

Estamos en las fases iniciales de nuestro esfuerzo colectivo por comprender y sacar a la luz esta infraestructura digital. A través de este análisis, podemos empezar a identificar las intervenciones para empezar a desmantelarla y romperla. La organización transnacional contra las corporaciones tecnológicas ofrece oportunidades para un entendimiento compartido y una solidaridad significativa. Este año, organizaciones de Francia y Kenia, con el apoyo de actores de otros países, demandaron al gigante de la biometría IDEMIA por no cumplir ni siquiera las normas mínimas de diligencia debida en materia de derechos humanos, ya que cosecha miles de millones en ventas secretas de tecnología de seguridad fronteriza a países de renta baja y media. Esta iniciativa surgió de la colaboración en la recopilación de pruebas y la organización internacional.

Como reconoció el estamento militar estadounidense hace décadas: “quien domina el campo de las fronteras externalizadas define ‘amigo y enemigo’ en todas partes”.29 Cuanto más rápido establezca Estados Unidos el dominio económico y político sobre la infraestructura digital de control de la migración, mayor será su seguridad para mantener el poder digital global. La infraestructura digital sirve a múltiples propósitos a la vez, pero la función geopolítica última es el poder bruto y generalizado sobre los asuntos mundiales. Las herramientas examinadas aquí contendrán la vida humana dentro de espacios de catastrófica violencia, diseñados así.30 Este efecto específico traiciona los compromisos más fundamentales de los derechos humanos internacionales y el derecho humanitario ante los desafíos sin precedentes para la supervivencia humana en la mayor parte del mundo. Pero continúa estando despiadadamente fuera del foco.

En realidad, como facetas del poder infraestructural, las tecnologías que fijan el «cálculo de quién debe vivir y quién debe morir»[31] no lo hacen como un fin en sí mismo, sino al servicio del poder y de su reproducción en esta era digital.[32] De este modo, la complicidad de los actores estatales y corporativos en la producción de violencia se pone de manifiesto con la mayor crudeza. Este análisis geopolítico es nuestro punto de partida para construir la resistencia y promover la transformación.

Mizue Aizeki es directora ejecutiva del Laboratorio de Resistencia a la Vigilancia. Durante casi veinte años, Mizue se ha centrado en poner fin a las injusticias –incluida la criminalización, el encarcelamiento y el exilio– en las intersecciones de los sistemas de control penal y migratorio. Antes de trabajar en el Laboratorio, Mizue fue asesora principal del Proyecto de Defensa de los Inmigrantes (IDP) y directora del Proyecto de Vigilancia, Tecnología e Inmigración. Mizue es coeditora de Resisting Borders and Technologies of Violence (de próxima publicación en Haymarket Books, otoño de 2023).

Laura Bingham dirige el Instituto de Derecho, Innovación y Tecnología de la Universidad de Temple. Anteriormente, Laura fue directora jurídica de la Open Society Justice Initiative. Estableció y dirigió un programa global sobre datos, tecnología y derechos humanos. Desde 2017, Laura ha impartido cursos sobre derechos humanos y migración forzada como miembro adjunto de la facultad en el Centro de Asuntos Globales de la Universidad de Nueva York.

Santiago Narváez es investigador desde 2016 en la ONG de derechos digitales R3D: Red en Defensa de los Derechos Digitales, con sede en Ciudad de México, donde investiga cómo se ejerce la vigilancia gubernamental y su impacto en los derechos humanos. Es licenciado en Relaciones Internacionales y tiene formación en análisis de datos.

Traducción: FUHEM.

NOTAS:

1. Cáceres, Gabriela y Gressier, Roman (14 de mayo de 2021). Sting operation against migrant caravan arrests working-class migrants as human traffickers. El Faro.
2. Johnson, R. [@USAmbSV] (15 enero de 2021). Aplaudo a las autoridades salvadoreñas que están tomando acción contra quienes quieren engañar a los ciudadanos con caravanas y promesas falsas Solo promueven #UnViajeEnVano [Twit]. Twitter.
3. De Goede, Marieke y Westermeier, Carola (2022). Infrastructural geopolitics. International Studies Quarterly, 66(3), 1.
4. Ver Muñiz, Ana (2022). Borderland Circuitry: Immigration surveillance in the United States and beyond. Oakland: University of California Press; ver también Mijente, Immigrant Defense Project, NIPNLG (2018). Who’s behind ICE.
5. Esta lente también nos permite hacer hincapié en la conexión con antecedentes históricos como los proyectos de modernización de las infraestructuras físicas de tránsito y comercio, donde el vínculo con la violencia estatal es indiscutible (por ejemplo, los proyectos de construcción de ferrocarriles y el genocidio de los pueblos indígenas en Sonora entre 1880 y 1900). Ver Guidotti-Hernández, N. (2011). Unspeakable Violence: remapping U.S. and Mexican national imaginaries. Londres: Duke University Press. Insistimos en que esta escala no se aleja de las lógicas racializadas que han definido las prácticas fronterizas en esta región durante dé Ver Rosas, G. (2006). The managed violences of the borderlands: treacherous geographies, policeability, and the politics of race. Latino Studies, 4(4), 401–418.
6. Ver, por ejemplo, Shivkumar, G., O’Neil, K. y Nordhaug, L. (30 agosto de 2021). How to bring digital inclusion to the people who need it most.  (“[Digital Public Infrastructure (DPI)] se refiere a soluciones digitales que permiten funciones básicas esenciales para la prestación de servicios públicos y privados, es decir, colaboración, comercio y gobernanza. Piénsese en nuestras actuales infraestructuras públicas compartidas, como carreteras y educación, pero en línea: eso es la DPI en pocas palabras»; Masiero, Silvia y Arvidsson, Viktor (2021). Degenerative outcomes of digital identity platforms for development. Information Systems Journal, 31(6), 903–928; Massally, K. y Frankenhauser, C. (3 agosto de 2022). The right way to build digital public infrastructure: 5 insights.
7. Aizeki, Mizue et al. (2021). Smart Borders or A Humane World.
8. Andersson, Ruben (2018). Illegality, Inc.: clandestine migration and the business of bordering Europe. Oakland: University of California Press; Miller, Todd (2019). Empire of Borders: The Expansion of the U.S. Border around the World. Londres, Nueva York: Verso..; Akkerman, Mark (2021). Border Wars. Amsterdam: Transnational Institute
9. Paley, Dawn (2014). Drug War Capitalism. Oakland, CA: AK Press.
10. Miller, Todd (2019). Empire of Borders: The Expansion of the U.S. Border around the World. Londres, Nueva York: Verso.
11. Ibidem. p. 177.
12. Immigrant Defense Project, Mijente, y NIPNLG (2018). Who’s Behind ICE: The Tech and Data Companies Fueling Deportations.
13. Ver FOIA.
14. Watch CBP Intel (2019). Central American Caravans and Migration Crisis Flow – Update 32. S. Customs and Border Protection.
15. Meissner, Doris et al. (2013). Immigration Enforcement in The United States: a formidable machinery. Washington, DC: Migration Policy Institute.
16. Ver Woodward, John (2005). Using biometrics to achieve identity dominance in the Global War on Terrorism.
    Military Review; ver también Jacobsen, Annie (2021). First Platoon: a story of modern war in the age of identity dominance. Nueva York: Dutton.
17. Angel, Arturo (15 de diciembre de 2020). Población en cárceles crece a ritmo récord en 2020: hay 14 mil reos más que al inicio del año. Animal Políitico.
18. Romero, Oscar A. (10 de febrero de 2014). La criminalización de la pobreza y el sistema de justicia penal. Información Sididh.
19. De Goede, Marieke y Westermeier, Carola (2022). Infrastructural geopolitics. International Studies Quarterly, 66(3), 1–
20. Ver Woodward, John (2005). Using biometrics to achieve identity dominance in the Global War on Terrorism. Military Review; ver también Jacobsen, 2021.
21. Kwet, Michael (2021). Digital Colonialism.
22. DHS Office of Inspector General (2021) ‘CBP Targeted Americans Associated with the 2018–2019 Migrant Caravan’.

22. LIS and R3D (2023). Uso de las tecnologías digitales en los contextos migratorios: necesidades, oportunidades y riesgos para el ejercicio de los derechos humanos de las personas migrantes, defensoras y periodistas
23. Open Society Justice Initiative (2019). Unmaking Americans: insecure citizenship in the United States.
24. Chambers, Samuel et al. (2019). ‘Mortality, surveillance and the tertiary “funnel effect” on the U.S.-Mexico border: a geospatial modeling of the geography of deterrence’. Journal of Borderlands Studies, 36(3), 443–468.
25. Muñiz, Ana (2022). Borderland Circuitry: Immigration surveillance in the United States and beyond. Oakland: University of California Press.
26. Rosas, Gilberto (2006). The managed violences of the borderlands: treacherous geographies, policeability, and the politics of race. Latino Studies, 4(4), 401–418.
27. Guidotti-Hernández, Nicole (2011). Unspeakable Violence: remapping U.S. and Mexican national imaginaries. Londres: Duke University Press; Woodward, John (2005). Using biometrics to achieve identity dominance in the Global War on Terrorism. Military Review 
28. Woodward, John (2005). Using biometrics to achieve identity dominance in the Global War on Terrorism. Military Review.  
29. Muñiz, Ana (2022). Borderland Circuitry: Immigration surveillance in the United States and beyond. Oakland: University of California Press; Rosas, Gilberto (2006). The managed violences of the borderlands: treacherous geographies, policeability, and the politics of race. Latino Studies, 4(4), 401–418;
30. Khan, Jeffrey (2019). Islands of Sovereignty: Haitian migration and the borders of empire. Chicago: University of Chicago Press.
31. Rosas, Gilberto (2006). The managed violences of the borderlands: treacherous geographies, policeability, and the politics of race. Latino Studies, 4(4), 401–418.

31. McCoy, Alfred (2017). In the Shadows of the American Century: The Rise and Decline of US Global Power. Chicago: Haymarket Books.

Bajo el ropaje de la neutralidad valorativa y el deslumbramiento que nos produce la novedad, la tecnología está consolidando la opresión de las naciones centrales sobre los países periféricos a través de grandes empresas que ocupan espacios en comunidades vulnerables.

En 1939 se estrenó la película El Mago de Oz. Uno de sus protagonistas estelares fue el perro adiestrado Terry (en el rol de Toto), que en el momento era considerado «el animal más inteligente del planeta». La cuestión de la inteligencia animal ocupó a buena parte de los pensadores de la época mientras en paralelo crecía el interés por entender si una máquina podía pensar, un claro desafío al sentido común del momento, que lo descartaba de plano, y que fue cuestionado de manera concreta 10 años después de que la cinta debutara en el cine por el trabajo del matemático británico Alan Turing.¹ Durante gran parte del siglo XX, la idea de que los animales o las máquinas pudieran pensar era absolutamente descabellada ¡cuánto ha cambiado desde entonces!

A comienzos de 2016, El Mago de Oz fue el libro escogido por el gobernador de Salta, en Argentina, para distribuir entre estudiantes de su provincia que estaban aprendiendo a leer. Las niñas descubrieron en el texto firmado por L. Frank Baum que detrás de la magia siempre hay un hombre. Cuando pasaron a la adolescencia, ese aprendizaje se extendió a otros órdenes más concretos de sus vidas: que no hay magia, sino hombres, detrás de la pobreza, de las promesas, de los desengaños y de los embarazos.

En aquel entonces la inteligencia artificial había dejado de ser el desafío de Turing para convertirse en el área de conocimiento favorita de las empresas más poderosas e influyentes del mundo y, gracias a aplicaciones atractivas en dispositivos personales como teléfonos celulares y plataformas de streaming, logró popularizarse entre muchas personas.

Hasta hace unos pocos años sólo escuchábamos la frase “inteligencia artificial” para hacer referencia a HAL 9000² de 2001. Odisea del espacio o al androide Data de Star Trek, pero hoy pocos se sorprenden de su uso cotidiano. El consenso en los medios de comunicación y en cierta bibliografía académica es que nos encontramos frente a una de las revoluciones tecnológicas más importantes de la historia.

Sin embargo, el deslumbramiento que esta tecnología –que parece salida de un cuento de hadas o de una película de ciencia ficción– genera, esconde su verdadera naturaleza: se trata de una creación tan humana como los mecanismos que el supuesto mago de Oz quería hacer pasar como eventos divinos y sobrenaturales. En manos del aparato estatal y de grandes corporaciones, la inteligencia artificial puede ser un instrumento eficaz de control, vigilancia, dominación y consolidación del statu quo, tal como quedó de manifiesto cuando el gigantesco Microsoft se alió al gobierno de Salta con la promesa de que un algoritmo podría ser la solución a la crisis de deserción escolar y embarazo adolescente de aquella región argentina.

Esparta Palma/CC BY 2.0 via Wikimedia Commons

Algoritmos que predicen embarazos adolescentes

Un año después de que entregara copias de El mago de Oz a las escuelas de su provincia, el gobernador de Salta, Juan Manuel Urtubey, anunció un convenio con la filial nacional de Microsoft para la aplicación de una plataforma de inteligencia artificial destinada a la prevención de lo que calificó como “uno de los problemas más urgentes” de la región. Se estaba refiriendo al alza en el número de embarazos adolescentes. Según las estadísticas oficiales, en 2017, más del 18% de los partos totales de la provincia fueron de gestantes menores de diecinueve años: 4.914 hijos e hijas, a razón de más de trece por día.

En la promoción de su iniciativa, el gobernador manifestó: “Lanzamos un programa para prevenir el embarazo adolescente utilizando inteligencia artificial de la mano de una reconocidísima empresa de software del mundo. Con la tecnología vos podés prever cinco o seis años antes, con nombre, apellido y domicilio, cuál es la niña, futura adolescente, que está en un 86%  predestinada a tener un embarazo adolescente”.³

Casi con la misma fanfarria con la que el mago de Oz recibía a los visitantes que lograban recorrer el camino empedrado de ladrillos dorados, Microsoft daba el anuncio del acuerdo como una “iniciativa innovadora, única en el país y un gran paso en el proceso de transformación digital de la provincia”.⁴

La alianza entre el gigante tecnológico y el gobierno tenía un tercer actor, la Fundación CONIN, presidida por Abel Albino, médico activista en contra de la legalización del aborto y del uso de preservativos.⁵

Es esta alianza la que explica los intereses políticos, económicos y culturales detrás de este programa: una consolidación de la noción de familia en la que el sexo y los cuerpos de las mujeres están al servicio de la reproducción, supuestos fines últimos y sagrados que deben ser protegidos a toda costa. Es una visión conservadora conocida desde hace siglos en América Latina,  pero que aquí se viste de ropajes vistosos gracias a la complicidad de una compañía de capitales estadounidenses como Microsoft y la utilización de términos como inteligencia artificial que, como explicaremos en la siguiente sección, parece ser suficiente para garantizar eficacia y modernidad.

En esos anuncios, se informó, además, parte de la metodología de trabajo. Por ejemplo, se comunicó que la información de base “es entregada voluntariamente por las personas” y permite “trabajar en la prevención del embarazo adolescente y la deserción escolar. Los algoritmos inteligentes permiten identificar características en las personas que podrían derivar en alguno de estos problemas y advierten al gobierno”. El Coordinador de Tecnología del Ministerio de Primera Infancia de Salta, Pablo Abeleira, declaró que “a nivel tecnológico, el modelo que desarrollamos tiene un nivel de precisión de casi un 90% de una prueba piloto realizada en Salta capital”.⁶

Pero, ¿qué se escondía detrás de los artificios?

El mito de una inteligencia artificial objetiva y neutral

Aunque ya está instalada no sólo en el discurso público sino también en nuestra vida cotidiana, en ocasiones nos parece que todas las personas saben a qué nos referimos cuando hablamos de inteligencia artificial (IA). Sin embargo, el término está lejos de ser unívoco. No sólo porque suele ser utilizada como una noción paraguas bajo la que aparecen conceptos vinculados y muy cercanos pero que no son sinónimos, como aprendizaje automatizado (machine learning), aprendizaje profundo (deep learning) o computación cognitiva, entre otros. Sino porque un análisis más pormenorizado revela que la misma noción de inteligencia en este contexto es polémica.

En este texto, usaremos IA para hacer referencia a sistemas o modelos de algoritmos que pueden procesar grandes volúmenes de información y datos a la vez que pueden aprender y mejorar en su tarea más allá de cómo fueron programados originalmente. Por ejemplo, es un caso de IA un algoritmo que, luego de procesar cientos de miles de fotos de gatos, puede extraer lo que necesita para poder reconocer a un gato en una nueva imagen, sin confundirlo con un juguete o un almohadón. A medida que se le entregan más y más fotografías, en general más aprenderá y menos errores cometerá.

Estos desarrollos de IA se están dando en todo el mundo y ya están presentes en tecnologías cotidianas como el reconocimiento de voz de asistentes virtuales como Siri y Alexa o en proyectos más ambiciosos como automóviles que no necesitan conductor o estudios para poder detectar de manera temprana enfermedades como el cáncer. El campo de aplicación de estos desarrollos es vastísimo y afecta a muchas industrias y sectores de la sociedad, como la economía, con el auge de algoritmos que prometen sugerir las mejores inversiones en la bolsa de valores; la política, con campañas en redes sociales a favor o en contra de un candidato creadas para interpelar a distintos individuos en particular a partir de sus preferencias y conductas en la web, o en la cultura, con recomendaciones personalizadas en plataformas de streaming de series, películas o música.

El suceso de estas aplicaciones de la tecnología y las promesas de beneficios que hasta hace algunos años  existían en la ciencia ficción consiguieron sobredimensionar la percepción de lo que realmente puede hacer la IA. Hoy es considerada en vastísimos espacios como el punto máximo de la actividad racional, libre de prejuicios, pasiones y cualquier error humano.

Sin embargo, esto no es más que un mito. No existe algo tal como una IA objetiva o libre de valores humanos. Es inexorable el impacto de nuestra condición humana –quizás demasiado humana– sobre la tecnología.

Una manera de dejar en claro esto es quitar ciertos velos tras los que se esconde un término como algoritmo. Desde la filosofía de la tecnología, podemos distinguir entre al menos dos modos de caracterizarlo conceptualmente. En sentido estrecho, un algoritmo es un constructo matemático que se selecciona dada su eficacia pasada en la resolución de tareas similares a las que plantea el problema que ahora se pretende resolver (como las redes neuronales profundas, las redes bayesianas o las cadenas de Markov).⁷ En sentido amplio, por su parte, un algoritmo es un sistema tecnológico que comprende varios insumos como los datos de entrenamiento, que producen un modelo estadístico diseñado, ensamblado e implementado para resolver un problema práctico formulado previamente.

Todo comienza con la concepción ingenua en torno a los datos. Estos surgen de un proceso de selección y abstracción y, en consecuencia, no son nunca una descripción objetiva del mundo, sino que son inexorablemente parciales y sesgados en la medida en que resultan de decisiones y elecciones humanas. Así, por ejemplo, se decide incluir ciertos atributos y dejar de lado otros.

Lo mismo sucede con la noción misma de predicción que surge de los datos, ya que una cuestión clave para el uso gubernamental de la ciencia de datos en general y del aprendizaje automatizado en particular estriba en decidir qué medir y cómo medirlo a partir de una definición del problema que se pretende abordar, lo que lleva a elegir el algoritmo, en sentido estrecho, que se evalúa como más eficiente para esa tarea, sin perjuicio de que pueda tener consecuencias letales.⁸ Por consiguiente, la gravitación humana es crucial para establecer qué problema se quiere solucionar.

Así, queda claro que hay un vínculo inextricable entre la IA y una secuencia de decisiones humanas. Allí donde el aprendizaje automatizado nos provee las ventajas del rápido procesamiento de una voluminosa cantidad de datos y la capacidad de extraer patrones a partir de ellos, hay una serie de instancias donde la supervisión humana no sólo es posible, sino necesaria.

Desnudando a la IA

Cuando Dorothy, el Hombre de Hojalata, el León y el Espantapájaros logran conocer al mago de Oz quedan fascinados por la voz grave y sobrenatural de este ser, que en la versión fílmica de 1939 tiene el timbre de Frank Morgan y se presenta como un altar de fuego y humo místico. Sin embargo, Toto, el perro de la niña, no parece quedar tan impresionado y muerde una cortina hasta dejar al descubierto el engaño: hay alguien al mando de una serie de palancas y botones conduciendo todo lo que sucede en el escenario. Muerto de miedo y vergüenza, el supuesto mago intenta mantener la farsa: «No le presten atención al hombre detrás del telón». Pero, acorralado por los protagonistas, debe confesar su engaño: “Sólo soy un hombre normal”, le confiesa a Dorothy y a sus amigos. El Espantapájaros, sin embargo, lo corrige al instante: “Eres más que eso: ¡eres una estafa!”.

Cuando le quitamos los ropajes y vestidos lujosos a la IA la podremos ver tal y como realmente es: un producto del accionar humano que, por lo tanto, lleva en su seno las marcas de sus creadores. En ocasiones, incluso, se la considera como similar en sus procesos al pensar humano pero carente de errores o prejuicios. Así, frente a la extendida y persuasiva retórica acerca de su neutralidad valorativa y la objetividad que le sería concomitante, debemos analizar la ineludible gravitación de intereses humanos calificados en diferentes etapas de esta supuesta tecnología mágica.

La promesa que Microsoft y el gobierno salteño de poder predecir “cinco o seis años antes, con nombre, apellido y domicilio, cuál es la niña, futura adolescente, que está en un 86% predestinada a tener un embarazo adolescente” terminó siendo sólo una promesa incumplida.

Y el fiasco comenzó con los datos: se utilizaron bases reunidas por el gobierno provincial y organizaciones de la sociedad civil en barrios de bajos ingresos de Salta capital durante 2016 y 2017. La encuesta llegó a poco menos de 300.000 personas, de las cuales 12.692 eran niñas y adolescentes entre 10 y 19 años. En el caso de las menores de edad, la información fue recogida luego de obtener el consentimiento de “los jefes de hogar” (sic).

Estos datos nutrieron un modelo de aprendizaje automático que, según sus implementadores, permite predecir, con un grado cada vez mayor de precisión, qué niñas y adolescentes cursarán un embarazo en el futuro. Se trata de un absoluto absurdo: Microsoft estaba vendiendo un sistema que prometía algo técnicamente imposible.⁹ Esto es, se obtiene un listado de personas a las cuales les fue asignada una probabilidad de embarazo. Los algoritmos, lejos de autoejecutar políticas, brindaban la información al Ministerio de Primera Infancia para que abordara los casos identificados.

No se precisó desde el estado salteño en qué consistiría ese abordaje, ni los protocolos empleados, ni las acciones de seguimiento previstas, ni el impacto de las medidas aplicadas –ni si ese impacto se ha medido de algún modo–, ni los criterios de selección de los organismos no gubernamentales o fundaciones involucrados, ni el rol de la iglesia.

El proyecto también tuvo fallas técnicas graves: según una investigación de la World Web Foundation,¹⁰ no existe información accesible sobre las bases de datos empleadas, ni sobre la hipótesis que sirve de apoyo para el diseño de los modelos, ni sobre el proceso de diseño de los modelos finales, criticando la opacidad del proceso. Además, se ha sostenido que la iniciativa omite evaluar cuáles son las inequidades que se pueden producir y prestar especial atención a los grupos minoritarios o vulnerables que pueden verse afectados, amén de las dificultades de trabajar con un rango de edad tan amplio en los relevamientos y el riesgo de discriminación o aun criminalización inherente al sistema.

Los especialistas coincidieron en que hubo una contaminación sutil de los datos de evaluación ya que los datos sobre los cuales se evalúa el sistema no son distintos de los datos que se usan para entrenarlo. Por otra parte, los datos son inadecuados para el fin que se persigue. Estos datos provinieron de una encuesta a adolescentes que residían en la provincia de Salta, que indagaba información sobre su persona (edad, etnia, país de origen, etc.), su entorno (si contaba con agua caliente en su vivienda, con cuántas personas cohabitaba, etc.) y sobre si había cursado o estaba cursando un embarazo. Ahora bien, la pregunta que se intentaba responder a partir de estos datos actuales era si una adolescente podía cursar un embarazo en el futuro, algo que, más que una predicción, tiene el aspecto de una premonición. Eran, además, informaciones sesgadas porque los datos sobre embarazos adolescentes, por la sensibilidad inherente a esta clase de temas, tienden a estar incompletos o, directamente, ocultos.

Los investigadores del Laboratorio de Inteligencia Artificial Aplicada del Instituto de Ciencias de la Computación de la Universidad de Buenos Aires determinaron que, además de utilizar estos datos poco confiables, la iniciativa de Microsoft adolece de desaciertos metodológicos serios. Además, plantean el riesgo de tomar medidas incorrectas a los responsables de políticas públicas: “Las técnicas de inteligencia artificial son poderosas y demandan responsabilidad por parte de quienes las emplean; son sólo una herramienta más, que debe complementarse con otras, y de ningún modo reemplazan el conocimiento o la inteligencia de un experto”, especialmente en un área tan sensible como la salud pública y los sectores vulnerables.¹¹

Y es que este es uno de los nudos conflictivos graves: aun si fuera posible (lo cual no parece ser el caso) predecir el embarazo adolescente, no queda claro para qué se haría: la prevención permanece ausente en todo el proceso. Considerar un riesgo alto de estigmatización de niñas y adolescentes por esta causa es, entonces, inevitable.

La IA como herramienta del poder contra las poblaciones vulnerables

Desde el inicio, la alianza entre Microsoft, el gobierno salteño y la Fundación CONIN se fundó en preconceptos que no sólo son cuestionables sino que se enfrentan a principios y normas amparadas por la Constitución argentina y las convenciones internacionales incorporadas al sistema nacional. Así, se parte, de manera incontestable, de la idea de que el embarazo (infantil y adolescente) es una catástrofe que, en ciertos casos, sucederá indefectiblemente si no se interviene de manera directa para evitarla. Esta premisa lleva pareja, de manera correlativa, una postura muy difusa respecto de la atribución de responsabilidades.

Por un lado, quienes planearon y desarrollaron el sistema parecen ver al embarazo como un suceso que se da sin responsabilidad de nadie. Por otro, colocan su responsabilidad en las niñas o adolescentes embarazadas. Esta anfibología, en una u otra de sus alternativas, conduce en primer lugar a la objetivación de las personas involucradas y a la invisibilización de los responsables; para empezar, los hombres (o adolescentes, o niños, pero principalmente hombres) que contribuyeron de manera necesaria al embarazo (suele afirmarse, con un burdo giro eufemístico, que la niña o adolescente “se embarazó”). Pero, en segundo término, también soslaya que, en gran parte de los casos de embarazo de jóvenes, y en todos los de niñas, el consentimiento de la persona gestante no sólo no puede presuponerse, sino que debe descartarse. Dicho en pocas palabras, esta posición oculta un aspecto del fenómeno que no podría ser más relevante: todos los embarazos de niñas y muchos de los de jóvenes son el producto de una violación.

En otro plano, y ya reparando en el aspecto menos atendido del sistema, esto es, la predicción de la deserción escolar, se presupone (y se concluye en) que un embarazo de una estudiante lleva aparejado de manera inexorable el abandono de la escolaridad. Si bien no puede ignorarse que, de hecho, el embarazo y la maternidad tempranas suponen un costo de oportunidad para las mujeres, lo cierto es que la interrupción o el abandono de la trayectoria educativa no es una consecuencia inevitable, y existen programas y políticas inclusivas que han demostrado ser exitosos para contribuir a su evitación o su merma.

Desde una visión más general, el sistema y sus aplicaciones afectan derechos que forman parte del espectro de los derechos sexuales, considerados como derechos humanos. La sexualidad es un aspecto nuclear en el desarrollo de las personas, con independencia de si deciden o no reproducirse. Cuando se trata de menores de edad, han de marcarse diferencias de acuerdo con sus capacidades evolutivas, aunque siempre teniendo en cuenta que la orientación de las niñas y los niños por parte de los padres u otras personas responsables deben priorizar sus capacidades para ejercer derechos en su propio nombre y beneficio. En lo que hace a los derechos sexuales en particular, esas consideraciones son específicas. Por ejemplo, deben respetarse las circunstancias particulares de cada niña, niño o adolescente, su nivel de comprensión y madurez, su salud física y mental, el vínculo con sus familiares y, eventualmente, la situación concreta que le toca enfrentar.

Este uso de la IA afecta de manera concreta derechos de las niñas o jóvenes (también potenciales) gestantes. En primer término, hay una afectación del derecho a la autonomía personal de las niñas y jóvenes que fueron materia prima del proyecto. Ya se hizo mención a su objetivación, al trato indiferente respecto de sus intereses particulares en pos de un supuesto interés general. Las niñas y adolescentes no son si quiera consideradas sujetos de derecho y sus deseos y preferencias personales son desconocidos por el Estado.

En este proyecto de Microsoft la IA fue utilizada como una herramienta de poder contra niñas y jóvenes, que fueron catalogadas sin su consentimiento (ni, aparentemente, su conocimiento). Las consultas pertinentes fueron evacuadas, según los promotores del sistema, por los jefes de familia (en especial, sus padres), sin siquiera invitarlas a participar. Y, además, los cuestionarios tratan sobre cuestiones personalísimas (su intimidad, su vida sexual, etc.) sobre cuyos detalles sus padres, por lo habitual, no estarían en condiciones de responder sin invadir su esfera de privacidad o –algo que parece también muy grave– basarse en suposiciones o en prejuicios que el Estado asumirá como verdaderos y legítimos.

También se vulneraron otros derechos, como el de intimidad, privacidad y libertad de expresión u opinión, mientras que los derechos a la salud y educación corren riesgo de ser desconocidos, a pesar de las manifestaciones de las autoridades y de la multinacional respecto de su intención de cuidar a las niñas y adolescentes. Durante un reciente taller sobre derechos digitales, se discutió cómo actividades como online Sportwetten abschließen ohne Verifizierung plantean desafíos únicos para la privacidad y la seguridad en línea, especialmente en jurisdicciones con regulaciones laxas. Finalmente, merece mención un derecho conexo que, en el contexto especial del proyecto, cobra una relevancia singular: el derecho a la libertad de pensamiento, de conciencia y de religión.

No nos animamos a sugerir que el episodio tuvo, como en El Mago de Oz, un final feliz. Pero sí que el proyecto de Microsoft no duró mucho. Aunque su interrupción no aconteció por las críticas de los activismos sino por un motivo mucho más mundano: en 2019 se desarrollaron elecciones nacionales en la Argentina y Urtubey no logró ser reelegido. La nueva gestión interrumpió varios programas, incluyendo el de uso de algoritmos para predecir embarazos, y degradó al Ministerio de Primera Infancia, Niñez y Familia al rango de secretaría.

Lo que oculta la IA

Los efectos de humo y luces de la retórica de los desarrollos de inteligencia artificial valorativamente neutrales y objetivos parecen desmoronarse cuando se enfrenta a aquellas voces que aseguran mostrar su imposibilidad por principio, tal como señalamos en la primera sección, como cuando se exhibe la participación de analistas humanos en numerosas etapas del desarrollo de los algoritmos. Son hombres y mujeres quienes determinan el problema al que hay que dar respuesta, quienes los diseñan y preparan los datos, seleccionan qué algoritmos de aprendizaje automático son los más apropiados, interpretan críticamente los resultados del análisis y planifican la acción adecuada a tomar en función de las ideas que el análisis ha revelado.

El avance de esta tecnología no está acompañado por una suficiente reflexión y discusión abierta acerca de sus consecuencias no deseadas. Parece prevalecer en la sociedad la noción de que la aplicación de algoritmos en diferentes ámbitos no sólo es garantía de eficiencia y rapidez sino también de la no intervención de los prejuicios humanos, que pueden ensuciar el prístino accionar de los códigos que son el núcleo de los algoritmos. Así, se da por sentado que la IA fue creada para mejorar a la sociedad en su conjunto o, con más modestia, a ciertos procesos y productos. Sin embargo, no sólo no se problematiza lo más elemental, esto es: para quién representaría esto una mejora, quién se beneficiaría, quién evalúa la mejora –¿los ciudadanos?, ¿el Estado?, ¿las empresas?, ¿las adolescentes salteñas?, ¿los adultos que abusaron de ellas?– sino que no parece haber una real conciencia de la dimensión de su impacto social o de la necesidad de discutir si tal cambio es evitable.

Las continuas novedades sobre la inserción de la IA en nuevos ámbitos son recibidas como un dato que no sorprende más que por lo novedoso, y que, inexorable como el avance del propio tiempo, no puede ser impedido o revisado. La creciente automatización de procesos que antes eran realizados por humanos puede generar alarma y desazón, pero no el interés por tratar de detenerlo o preguntarse cuál es el futuro del trabajo o el de las personas una vez que la IA se haga cargo de nuestras tareas laborales. Se impone una serie de preguntas que raramente se formulan: ¿es eso algo deseable?, ¿para qué sector de la sociedad?, ¿quién se beneficiará de esta transformación y quién saldrá perdiendo?, ¿qué podemos esperar de un futuro en el que gran parte de las ocupaciones tradicionales serán llevadas adelante por máquinas? No parece haber tiempo ni espacios para discutir sobre eso: la automatización simplemente ocurre y sólo nos resta quejarnos por el mundo perdido o maravillarnos por lo que es posible lograr hoy.

Esta pasividad frente al continuo avance de la tecnología en nuestra vida privada, pública, laboral y cívica parece posible gracias a la confianza generada por la creencia de que estos desarrollos son superiores a lo que se podría conseguir a través del mero esfuerzo humano. De acuerdo con esto, ya que la IA es mucho más poderosa, es inteligente (la etiqueta smart hoy se aplica a teléfonos celulares, aspiradoras y cafeteras, entre otros objetos que harían sonrojar a Turing) y está libre de sesgos e intencionalidades. Sin embargo, como hemos señalado, es imposible por principio plantear una IA valorativamente neutra. Dicho en pocas palabras y de manera clara: los sesgos están presentes en todas las etapas del diseño, las pruebas y la aplicación de los algoritmos y, por eso mismo, son muy difíciles de identificar y más arduos aún de corregir. Sin embargo, es una tarea necesaria para desenmascarar su supuesto carácter aséptico, carente de los valores y errores humanos.

Un enfoque centrado en los peligros de la IA, junto con el optimismo sobre su potencial, puede conducir a una dependencia excesiva de la IA como una solución a nuestras preocupaciones éticas, a un enfoque en que la IA deba responder a los problemas generados por la IA. Si los problemas se consideran únicamente tecnológicos, deberían requerir únicamente soluciones tecnológicas. En cambio, tenemos decisiones humanas disfrazadas de decisiones tecnológicas. Necesitamos un enfoque diferente.

El caso de algoritmos que predicen embarazos adolescentes en Salta deja al descubierto la inviabilidad de la imagen de pretendida objetividad y neutralidad de la inteligencia artificial. Al igual que Toto, no podemos dejar de ver al hombre detrás del telón: el desarrollo de algoritmos no es neutral, sino que se realiza a partir de una decisión en medio de muchas posibles elecciones. En este sentido, como el diseño y la funcionalidad de un algoritmo reflejan los valores de sus diseñadores y de sus usos pretendidos, los algoritmos inexorablemente conducen a decisiones sesgadas. Hay decisiones humanas en la definición del problema, el diseño y la preparación de datos, la selección del tipo de algoritmo, la interpretación de los resultados y la planificación de acciones a partir de su análisis. Sin una supervisión humana calificada y activa, ningún proyecto de algoritmo de inteligencia artificial podrá lograr sus objetivos y ser exitoso. Los mejores resultados de la ciencia de datos se producen cuando la experiencia humana y la potencia de los algoritmos trabajan de forma conjunta.

Los algoritmos de inteligencia artificial no son mágicos, pero tampoco tienen que ser, como sostenía el Espantapájaros, una estafa. Basta con reconocer que son humanos.

Karina Pedace es profesora de grado y posgrado en la Universidad de Buenos Aires y en la Universidad Nacional de Matanza, e investigadora en el Instituto de Investigaciones Filosóficas de la Sociedad Argentina (IIF-SADAF- CONICET). Sus áreas de investigación actuales incluyen la filosofía de la tecnología, la metafísica de la mente y las metodologías de investigación. Es secretaria ejecutiva de la Red Latinoamericana de Mujeres Filósofas de la UNESCO y cofundadora del Grupo de Investigación en Inteligencia Artificial, Filosofía y Tecnología (GIFT). En 2022 fue reconocida internacionalmente como una de las 100 Mujeres Brillianten en la  Ética de AI

Tomás Balmaceda es doctor en Filosofía por la Universidad de Buenos Aires. Actualmente es Investigador del IIF (SADAF/CONICET) y forma parte del grupo GIFT que analiza la tecnología y la inteligencia artificial a través de la lente de la filosofía. Autor de varios libros, sus intereses incluyen la ética de la influencia en red, la nueva longevidad y la educación financiera para la población LGBTIQ+.

Tobías J. Schleider es abogado y especialista en derecho penal por la Universidad Nacional de Mar del Plata y doctor por la Universidad de Buenos Aires en Filosofía del Derecho. Es profesor titular de la Universidad Nacional del Sur, donde dirige la licenciatura en Seguridad Pública.  Sus líneas de investigación actuales incluyen la prevención de la violencia con apoyo tecnológico, la teoría de la acción humana, la causalidad y la influencia de la suerte en la atribución de responsabilidad.

Traducción a inglés: Karen Lang

Revisión y edición en español: Mercedes Camps

NOTAS:

1. Wikipedia, la enciclopedia libre (2023), Alan Tuting.
2. Wikipedia, la enciclopedia libre (2023), Hal 9000.
3. Página 12 (2018). La inteligencia artificial de Urtubey.
4. Ver Microsoft News Center LATAM (2017). Microsoft y el gobierno de Salta firman un acuerdo para aplicar la inteligencia artificial en la prevención de los problemas más urgentes.
5. Perfil (2018). Albino dijo que el preservativo no protege porque “el virus del SIDA atraviesa la porcelana”
6. Alonso, Alejandro (28 de marzo de 2018). Microsoft democratiza la IA y los servicios cognitivos.
7. Ver Wikipedia (2023). Aprendizaje profundo ; Red bayesiana;  Cadena de Márkov
8. Brunet, Pere, Font, Tica y Rodríguez, Joaquín (2022). Robots asesinos: 18 preguntas y respuestas.
9. Eubanks, Virginia (2018). Automating Inequality; How high-tech tools profile, police and punish the poor. Nueva York: St Martin’s Press.
10. Ortiz Freuler, Juan e Iglesias, Carlos (2018). Algoritmos e Inteligencia Artificial en Latinoamérica: Un Estudio de implementaciones por parte de Gobiernos en Argentina y Uruguay. World Wide Web Foundation.
11. Laboratorio de Inteligencia Artificial Aplicada (2018). Sobre la predicción automática de embarazos adolescentes.