Una veintena de miembros de la comunidad científica, académica y civil se han reunido este jueves en el Barcelona Supercomputing Center – Centro Nacional de Supercomputación (BSC-CNS) para alumbrar un manifiesto que llama a adaptar los modelos de inteligencia artificial (IA) para dotarlos de un enfoque feminista y pacifista.
El manifiesto, una iniciativa del Observatori d’Ètica en Intel·ligència Artificial de Catalunya (OEIAC), la Community of Research on Excellence for all (CREA) y el BSC, establece diferentes peticiones que, de fondo, piden garantizar que el despliegue de la IA no se base en la ambición comercial de las grandes corporaciones, sino en la necesidad de servir a la sociedad y de proteger sus derechos. “Queremos que entiendan que nos estamos movilizando para que las cosas cambien y tomen otro rumbo. Nada es inevitable», explica Albert Sabater, director de la OEIAC.
Por un lado, el documento hace un llamado a la no violencia y referencia a la necesidad de que la IA no se despliegue con objetivos militares, como hace Israel en Gaza con la asistencia de gigantes tecnológicos como Microsoft, Google y Amazon.
No discriminación
Por el otro, el manifiesto también pide garantizar la transparencia de los modelos de lenguaje que dan forma a aplicaciones como ChatGPT para detectar posibles sesgos y, con ello, evitar que se pueda amplificar la discriminación de colectivos vulnerables, tradicionalmente infrarrepresentados en el sector tecnológico. En esa dirección, cree necesario que los equipos que desarrollan los algoritmos cuenten con prisma ético que incluya todas las capas sociales, así como perspectivas feministas y antirracistas.
Así mismo, el texto apuesta por la regulación para garantizar una gobernanza democrática de la IA, evitar que el control de esta tecnología recaiga en un puñado de empresas con actitudes monopolísticas y dotar a la ciudadanía de una mayor capacidad de decisión e impugnación para evitar que sus datos sean explotados comercialmente por las Big Tech sin su consentimiento, un problema que se ha disparado con la eclosión de la IA generativa.
El manifiesto, explica la catedrática en sociología e investigadora de CREA Lídia Puigvert, responde a la necesidad de crear «un espacio de diálogo que incorpore la voz de toda la ciudadanía» para arrojar luz sobre una tecnología «que ya afecta sus vidas». Para Ulises Cortés, catedrático de IA y director del grupo de IA de alto rendimiento del BSC, manifiesta las inquietudes sociales de unos ciudadanos «desprotegidos (…) porque los políticos no están haciendo lo suficiente».
Expertos en ingeniería, ciencias de la computación, sociología, filosofía, feminismo, política, ética, derecho e incluso religión han participado en un encuentro de debate interdisciplinar del que ha nacido este manifiesto, con el que se pretende presionar a las instituciones públicas y a la industria tecnológica para que actúen en esa dirección y garanticen la protección de los derechos humanos. Sabater lo tiene claro: «Hay que pasar de la visibilización de muchos de estos temas a la acción y transformación, siempre desde una perspectiva participativa, plural y diversa”.
