"Comunidad diversa” debe construir tecnologías e I.A.

Texto y fotos: Mar Arvizu

Infografía: Mario Ortega

Necesario evitar sesgos de género que propicien violencias, señaló Victoria Maya Sandoval, Maestra en Ciencias de Datos

---

Victoria Maya Sandoval, Maestra en Ciencias de Datos, destacó los sesgos de género que existen en las inteligencias artificiales; hizo énfasis en la aplicación ChatGPT y las violencias “invisibles” que alimentan los algoritmos.

“La tecnología debe ser construida por una comunidad diversa”, consideró Maya Sandoval, quien propuso una en donde la intransigencia no sea el común social y los algoritmos puedan ser dignificantes y no socialmente responsables. Con ejemplos demostró durante la conferencia cómo las imágenes y textos generados coincidían con discursos de exclusión y estereotipamiento de comunidades vulnerables.

“Si los datos son basura, el modelo aprenderá basura, ¿no?”, remarcó. Si las inteligencias artificiales son alimentadas con datos que toman de “prompts” e información del internet, que a su vez propicia violencias, como la transfobia, misoginia, fascismo, entre otras más, habrá una IA con un sesgo social, manifestó.

Durante la charla "La inteligencia artificial desde una perspectiva de género", realizada en la FCPS, retomó que las selecciones de currículums, los exámenes médicos, el entretenimiento y demás están en manos, virtuales, de las nuevas herramientas de procesamiento de datos.

Destacó como las inteligencias artificiales generativas son sólo la punta del iceberg en cuanto a herramientas de producción y análisis de información.

“Realmente donde ocurren las cosas es por abajo. Las cosas que afectan están ahí y se conocen como modelos prescriptivos. Son modelos que anticipan el futuro y en base a eso se toman decisiones. Y esas esos modelos están implementados en todos lados”, dijo.

“La Inteligencia Artificial (...) simplemente está reconociendo todo lo que hay ahí y que nosotros no podemos ver”, expresó.

Exhortó a incluir a las Ciencias Sociales y Humanidades a involucrarse en el desarrollo de herramientas digitales, como asistentes personales, motores de búsqueda en inter