Ciudad de México.-La escritora y artista digital Joy Buolamwini, reconocida por su trabajo en torno a la justicia algorítmica, participó este viernes en el evento México Siglo XXI, donde conversó con el moderador mexicano Oso Trava sobre los riesgos que representa el sesgo en los algoritmos y su impacto en la vida cotidiana.

Durante su charla, Buolamwini explicó que las máquinas, al igual que las personas, pueden estar cargadas de prejuicios, pero con consecuencias amplificadas: “Las máquinas pueden estar cesgadas, pero han visto a la gente; también hay sesgo en la gente. Lo que hemos visto en los datos es que se va más allá del sesgo social. Ahora tenemos un sistema de inteligencia artificial generativa que nos está llevando a la discriminación del pasado, quitándonos la humanidad del presente. Por eso veo a las IA como un caleidoscopio de discriminación, externó durante su participación.

La autora ejemplificó cómo este tipo de sesgos puede afectar procesos tan importantes como la búsqueda de empleo o la atención médica. En el ámbito laboral, advirtió que los algoritmos pueden discriminar en la selección de candidatos:

“Por eso a veces te preguntas por qué nunca te llamaron, no sabes qué pasa”*. Mientras que en salud, señaló, las IA podrían distorsionar la información en consultas o entrevistas clínicas.

En el terreno educativo, Buolamwini alertó sobre la dependencia excesiva de estas herramientas:
“El otro día platicaba con una amiga que me decía que en la escuela de su hijo les permitían usar ChatGPT, y al final del ciclo todos sacaron diez, menos aquellos alumnos que en sus hogares no se tenía el uso de la IA; sin embargo, se evaluó que estos alumnos obtuvieron mayores aprendizajes” argument.

La investigadora, fundadora del Algorithmic Justice League, llamó a reconocer el valor de alzar la voz frente a estas problemáticas, por lo que instó a los oyentes a que compartan sus historias.

“Creo que parte de esto es que he visto que nuestro trabajo cambia, todos empiezan a vender reconocimiento facial, procuración de justicia. Podemos hacer una diferencia cuando compartes tu historia, cuando alzas tu voz eres capaz de inspirar”.

Durante su charla abordó también algunos consejos para madres y padres que hoy se encargan de la crianza de quienes llamó “IA Nativos” La autora invitó a cuestionar cómo se manejan los datos de los menores en las escuelas y a establecer límites en el uso de pantallas.

“Hay una necesidad de salvaguardar los datos de nuestros niños, la información biométrica, los IA nativos, la forma en que los equipamos. Mi voz de niño tiene un valor, mis decisiones tienen valor, son importantes de compartir. Otra cosa importante es el tiempo de pantalla: hay que ser creativos fuera de la pantalla, haz algo diferente, no solo la pantalla”.

Para cerrar su participación, Buolamwini leyó su poema “Deseo inestable”, escrito en un momento en que observaba el entusiasmo colectivo por la inteligencia artificial, con la intención de invitar a la reflexión sobre la responsabilidad humana frente a la tecnología.

Celebrará la UACJ su 52 aniversario con concierto de Alejandro Fernández

Honrada con mención, pero trabajo en Chihuahua: Maru por candidatura de 2030

Joy Buolamwini advierte sobre los riesgos del sesgo en la inteligencia artificia