Beijing, 04 mayo, batalladeideas.com.- En un contexto donde los modelos de inteligencia artificial (IA) son clave en la transformación digital, emerge una inquietud significativa: los sesgos culturales arraigados en estos sistemas que impactan la imparcialidad de las respuestas producidas.
En este marco, surge SHADES, una colección de datos creada para reconocer y reducir los estereotipos en modelos de lenguaje de gran escala. De acuerdo con MIT Technology Review, este avance busca corregir las inclinaciones presentes en las respuestas automáticas, subrayando la relevancia de la equidad y la representación en varios idiomas.
Cuestiones de sesgos en modelos de lenguaje
El núcleo del asunto se encuentra en la manera en que los modelos de lenguaje natural, conocidos como LLMs por sus siglas en inglés, fundamentan sus algoritmos en información que puede estar influenciada por estereotipos culturales.
Estos modelos, esenciales para muchas aplicaciones en IA, a menudo son objeto de sesgos que provocan discriminación.
Según lo expuesto por MIT Technology Review, Margaret Mitchell, la experta en ética de Hugging Face, encabeza el proyecto que busca solucionar estas carencias a través de la creación de SHADES.
SHADES: la creación de un conjunto de datos en múltiples idiomas
A diferencia de herramientas previas que se restringen al inglés, SHADES representa un esfuerzo inigualable. Edificado sobre una red de 16 lenguas de 37 áreas geopolíticas, este conjunto innovador explora las respuestas de los modelos.
Zeerak Talat, de la Universidad de Edimburgo, indica que uno de los inconvenientes de las herramientas actuales es su dependencia de traducciones automáticas del inglés, que no siempre reflejan estereotipos particulares de otros idiomas.
Para superar esta restricción, SHADES proporcionó a los modelos ejemplos de enunciados estereotipados, creando un “puntaje de sesgo” que evalúa la inclinación del modelo a difundir esos estereotipos.
EL ARAGUEÑO
