¿Colonialismo de datos? Sesgos y representaciones de “lo indígena” en la inteligencia artificial generativa

Con un tema de gran actualidad: "Análisis conceptual de imágenes creadas con IA generativa", tuvo lugar la edición del mes de octubre del Ciclo Conversaciones Necesarias del ISES. La arqueóloga y doctoranda Agustina Ponce abordó aspectos teóricos y técnicos sobre el Colonialismo de Datos y el funcionamiento de modelos generativos, para luego proponer el análisis de una serie de imágenes sobre "lo indígena" generadas con estos métodos. La propuesta invitó a debatir sobre sesgos y estereotipos “colonialistas” que pueden estar operando desde el entrenamiento de estos modelos.

Se detuvo también en la mención de distintos tipos de sesgos que afectan la generación de imágenes con relación a las Ciencias Sociales, utilizando teoría de IBM y taxonomía de sesgos de imágenes propuestas por otros autores.

Los casos analizados permitieron visualizar sesgos sobre la constitución de las corporalidades, la religiosidad, la orientación sexual, la discapacidad, y asociaciones de género conforme a profesiones y edades.

En la puesta en común se mostraron imágenes creadas a partir de una serie de prompts, para comparar las respuestas de distintos modelos. Durante la jornada se originó un animado diálogo sobre los límites y posibilidades de la generación de imágenes a través de estos métodos considerando las Ciencias Humanas situadas desde y para Latinoamérica.