La IA no es ni inteligente ni artificial
La IA se basa en datos generados por humanos (o clasificados en sistemas creados por humanos), no es raro que cualquier sesgo humano también se refleje en IA.
EPAAAA!! Antes de que sigas leyendo, aún no estás suscrit@, te invito a que lo hagas🥳. Hablaremos mucho acerca de: tendencias en People & Org (o HR), management, liderazgo, emprendimiento no romantizado, desarrollo de carrera, lo que nadie te cuenta de la industria del mercado laboral, feminismo no demonizado y puedo seguir 👀.
He hecho esta pregunta antes para que las personas entiendan la importancia de la “perspectiva de género” en las distintas dimensiones de interacción humana:
¿Cuáles son los síntomas de un infarto? la mayoría responde: dolor en el pecho que puede sentirse como presión, opresión, dolor, o sensación opresiva o de dolor. Dolor o molestias que se propagan al hombro, al brazo, a la espalda. Lo saben?
Y en una mujer? … cri cri cri ponen cara de…”mmmmmm, ¿los mismos?”
Ok, el infarto en una mujer: dolor de estómago en su mayoría. ¿No lo sabías? Bueno, los estudios médicos no tienen perspectiva de género. Y te comparto algunos síntomas para que cuides a tu mami, abuela, hermana, esposa, amiga, cualquier mujer:
Molestias la parte superior del vientre (abdomen) en el cuello, la mandíbula, los hombros
Sudor frío.
Falta de aire.
Náuseas o vómitos ( y más)
Y así como este claro ejemplo de la tipificación común de un infarto, la que claramente es una tipificación masculina, esconde la realidad de las diversidades humanas (como ser mujer) existentes y este es el gran problema en la IA pues la mayoría de los estudios que usamos para entrenar algoritmos y codificar, aportan al sistema IA usando estudios basados en la realidad y las necesidades masculinas.
Maria José Ortín - informática y académica universitaria, hace poco en una entrevista dijo: “la Inteligencia Artificial (IA) está programada por hombres y aprende por repetición, piensa que lo que se repite mucho es lo correcto, por lo que los algoritmos de la IA están siendo amplificadores de la brecha de género en la tecnología”.
Ortín considera que “la Inteligencia Artificial es machista”, al igual que hasta hace poco «el traductor de Google traducía ‘lawyer’ como ‘abogado’ y no abogada y ‘nurse’ como ‘enfermera’ y no ‘enfermero’», aunque esto “lo están corrigiendo”...y mientras seguimos esperando que se corrija todo el resto de sesgos…cri cri cri.
Explicado con peras y manzanas
Se refiere a que, dado que la Inteligencia Artificial se basa en los datos generados por humanos (o clasificados en sistemas creados por humanos), y podemos acordar que no es raro que cualquier sesgo que exista en los humanos también se refleje en esos sistemas de IA.
Gabriela Arriaga, académica de la UTFSM en Chile dijo hace unos días: “Partimos desde una brecha sistemática donde la mujer no está representada en los datos. Está invisibilizada, pues los sesgos nacen a nivel metodológico”.
¿Quién hace la Inteligencia Artificial?
Expertos ya habían alertado de los sesgos de género de la IA en los que pone el acento las académicas ya mencionadas. En una investigación publicada en la revista Algorithms y titulada ‘Lidiando con problemas de sesgo de género en procesos algorítmicos de datos: una perspectiva social-estadística’ vinculaba “la presencia de sesgos de género con la infrarrepresentación de las mujeres en el diseño y producción de productos y servicios de Inteligencia Artificial”». Esto seguirá sucediendo mientras Las mujeres en la tecnología sigamos siendo minoritarias.
Problema de la cuestión social y de género
De acuerdo a ONU Mujeres, un 37% del género femenino no tiene acceso a dispositivos digitales, un panorama que es incluso más complejo en los países en vías al desarrollo y de ingresos medios y bajos.
El 22% de la comunidad científica del campo de la inteligencia artificial son mujeres, una cifra incluso menor a la de mujeres en áreas STEM (30%). A 2050 un 75% de los empleos, tres de cada cuatro, dependerán de tener conocimientos de los ámbitos STEM.
Sin embargo, estas brechas de representatividad de género y acceso no reflejan el problema de fondo: el sesgo que se genera por la falta de diversidad en el proceso de desarrollo de las soluciones basadas en las tecnologías que protagonizan la denominada revolución 4.0.
“La incorporación del feminismo a la inteligencia artificial presenta una mirada transformadora de cómo desarrollamos la inteligencia artificial, y de cómo hablamos sobre sesgos, prejuicios y estructuras sistemáticamente desiguales”, profesora Arriagada UTFSM.
A juicio de redes de científicas en todo el mundo, la cuestión de género es uno de los grandes dilemas éticos de la tecnología. Y sobre la misma ética en IA, es urgencia avanzar en criterios de inclusión, equidad y no-discriminación en el desarrollo de la tecnología. La cuestión de género es uno de los diez ejes que aborda el instrumento, que se define como de carácter normativo para los países.
Y ahora, qué opinión tienes acerca de esto? Te estoy leyendo!!!
¿Te gustó? ¿Lo compartimos en LinkedIn?