Datasets diversos: cómo los crowdworkers globales reducen el sesgo en modelos de IA

Un dataset diverso no es una cuestión de imagen. Es una cuestión de si tu modelo funciona para todos tus usuarios. En el estudio Gender Shades (Buolamwini, Gebru, 2018), los sistemas comerciales de clasificación de género se equivocaban con mujeres de piel más oscura en hasta el 34.7% de los casos, frente a un máximo del 0.8% con hombres de piel más clara. La causa estaba en los datos: en dos conocidos datasets de rostros, el 79.6% y el 86.2% de las personas tenían la piel más clara.
Y no es un caso aislado. Una revisión sistemática publicada en The Lancet Digital Health (Wen et al., 2021) analizó datasets abiertos para el diagnóstico de cáncer de piel: de más de 100,000 imágenes, solo 2,436 registraban el color de piel, y apenas 11 de ellas mostraban piel morena u oscura. Un modelo entrenado con datos así no puede funcionar de forma fiable para una gran parte de la población mundial.
El sesgo de un modelo casi siempre empieza por quién entró en el dataset y quién se quedó fuera. A continuación veremos de dónde viene el sesgo en los datos, cómo planificar la diversidad desde el principio, qué aportan los crowdworkers de todo el mundo y cómo comprobar que tu dataset de verdad se ha vuelto más diverso.
De dónde viene el sesgo en los datos
"Sesgo" suena a algo intencionado, pero en los datos casi siempre se cuela por accidente, a través de cómo y a quién se recogieron. Estas son las principales fuentes de desequilibrio y cómo se ven en la práctica.
Fuente del sesgo | Cómo se manifiesta | Qué hacer al respecto |
|---|---|---|
Quién está en la muestra | Los datos vienen de quien es más fácil de alcanzar: empleados, estudiantes, internautas de habla inglesa | Fija cuotas por grupo de antemano y recluta personas para cubrirlas |
Dispositivos y condiciones | Todas las fotos tomadas con un teléfono caro y buena luz, todas las grabaciones hechas en silencio | Añade dispositivos y condiciones a la matriz de cobertura |
Etiquetado | Los anotadores de una sola cultura tienen su propia idea de lo que es una "respuesta educada", un "gesto agresivo" o la "comida casera" | Recluta anotadores de los mismos grupos que tus usuarios |
Contexto | Un objeto siempre se fotografía en el mismo entorno, así que el modelo aprende a reconocer el fondo, no el objeto | Pide el mismo objeto en distintos lugares y situaciones |
Datos históricos | El modelo aprende de decisiones pasadas de personas y repite sus errores | Recoge datos nuevos para los casos infrarrepresentados en lugar de limitarte a limpiar los antiguos |
Las cinco tienen algo en común: el desequilibrio permanece invisible hasta que miras los datos grupo por grupo. Una precisión global del 95% puede esconder un 70% para un grupo pequeño, y ese grupo se dará cuenta antes que tú: por su propia experiencia usando tu producto.
Cómo planificar la diversidad antes de empezar la recogida
La diversidad no surge sola, ni siquiera con muchos trabajadores. Hay que integrarla en el plan de recogida, y eso empieza con una pregunta: ¿en qué se diferencian tus usuarios de una forma que pueda afectar al modelo?
Dimensiones habituales de la diversidad:
- Personas: edad, género, tono de piel, rasgos de apariencia (gafas, barba, prendas que cubren la cabeza).
- Idioma: lengua materna, dialecto, acento, alternancia de idiomas (code-switching).
- Entorno: casa, calle, tienda, ciudad o pueblo, iluminación, ruido.
- Dispositivos: teléfonos de gama alta y económicos, webcams, micrófonos.
- Casos límite: situaciones poco frecuentes pero críticas para los usuarios: personas con trastornos del habla, documentos no estándar, ángulos inusuales.
No necesitas todas las dimensiones a la vez. Elige las que realmente cambian lo que el modelo ve u oye. Para el reconocimiento de gestos importan el tono de piel, la edad y la iluminación, pero no la lengua materna. Para un asistente de voz, es al revés.
Ejemplo de cuotas para 2,000 vídeos de gestos con las manos:
Dimensión | Grupos | Mínimo por grupo |
|---|---|---|
Tono de piel | Claro / medio / oscuro | 25% |
Edad | 18–30 / 31–50 / 51+ | 20% |
Iluminación | Luz natural / artificial / tenue | 20% |
Trabajadores | Límite por persona | no más de 10 vídeos |
Fija un mínimo por grupo en lugar de una proporción exacta. Así ningún grupo desaparece del dataset y la recogida no se atasca si un grupo se completa más rápido que los demás.
Nota: no mires solo cada dimensión por separado, sino también las intersecciones clave. En Gender Shades, el mayor error recayó en la intersección "mujeres + piel oscura". Un dataset puede estar equilibrado por género y, por separado, por tono de piel, y aun así casi no contener mujeres de piel oscura.
Qué aportan los crowdworkers de todo el mundo y qué no
El crowdsourcing es la forma más rápida de salir del círculo de "el equipo y sus amigos". Los trabajadores viven en distintos países, hablan distintos idiomas, usan distintos teléfonos y fotografían sus casas y calles reales. Para recoger fotos, voz, vídeo y texto, esa es justo la diversidad que les falta a los datasets abiertos.
Pero el crowd tiene sus propios sesgos, y necesitas conocerlos:
- El público de una plataforma no es la población mundial. Según un estudio sobre los trabajadores de Mechanical Turk (Difallah et al., 2018), alrededor del 75% eran de EE. UU. y, en conjunto, eran más jóvenes que la población general. En cualquier plataforma, algunos países y grupos de edad están mejor representados que otros.
- Los grupos sin conexión quedan fuera de alcance. Las personas sin smartphone ni una conexión a internet decente no acaban en un crowd online. Si tu modelo está pensado para ellas, la recogida en remoto tiene que completarse con trabajo de campo.
- Los trabajadores más activos se comen la cuota. Sin un límite por persona, unos pocos de los colaboradores más rápidos llenarán una parte notable del dataset con su propia voz, su cocina y su teléfono.
Así que "recogemos a través de un crowd" no significa "tenemos datos diversos". El crowd te da acceso a la diversidad, y cuatro herramientas la convierten en un dataset equilibrado:
- Segmentación geográfica: campañas separadas por país, para que un país grande no desplace al resto.
- Requisitos en la tarea: "para personas de 50 años o más", "graba con luz de atardecer".
- Un límite por trabajador: para que una sola persona no se convierta en la cara de todo un grupo.
- Tarifas más altas para los grupos escasos: si una tarea para participantes mayores se completa despacio, la tarifa suele ser la razón.
Atención: pide la edad, el tono de piel y otros atributos demográficos solo cuando de verdad los necesites para equilibrar el dataset. Hazlo opcional, con la opción "prefiero no decirlo", y explica por qué lo preguntas. Las leyes de protección de datos imponen requisitos especiales a parte de esta información.
Cómo comprobar que tu dataset es más diverso y tu modelo más justo
La diversidad se comprueba dos veces: primero en los datos y después en el comportamiento del modelo.
Auditoría de datos. Tras la recogida, cuenta cuántos ejemplos han caído en cada grupo y en las intersecciones clave, y compáralo con tus cuotas. Describe el dataset en un documento breve: quién recogió los datos y dónde, qué grupos están representados y cuáles faltan. Datasheets for Datasets (Gebru et al.) ofrece una estructura lista para este tipo de documento.
Métricas por grupo. La precisión global esconde problemas. Calcula las métricas por separado para cada grupo de tu matriz de cobertura y mira la diferencia entre el mejor y el peor grupo. Si la diferencia es grande, haz una recogida adicional dirigida al grupo débil. Para esto necesitas un conjunto de prueba en el que todos los grupos estén bien representados; si no, la métrica de un grupo pequeño será puro ruido.
La diversidad de los datasets se está convirtiendo en un requisito legal
Para los sistemas de IA de alto riesgo en la UE (contratación, evaluación crediticia, educación y otros), el artículo 10 del Reglamento de IA de la UE (EU AI Act) exige que los datos de entrenamiento, validación y prueba sean pertinentes y suficientemente representativos, que se examinen en busca de posibles sesgos y que tengan en cuenta el contexto geográfico, conductual y funcional de uso. Tras las enmiendas del Digital Omnibus, estos requisitos para los sistemas del Anexo III se aplican a partir del 2 de diciembre de 2027. Para las empresas que entran en el mercado de la UE, una matriz de cobertura documentada y las métricas por grupo ayudan no solo con la calidad, sino también con el cumplimiento normativo.
Cuánto cuesta un dataset equilibrado en RapidWorkers
En RapidWorkers, el empleador fija la tarifa por tarea (mínimo $0.05), y al coste de las tareas se suma una comisión del 15%. La segmentación geográfica y las campañas separadas te permiten pagar más donde un grupo se completa más despacio. Ejemplo para los mismos 2,000 vídeos de gestos (las tarifas son ilustrativas):
Campaña | Vídeos | Tarifa | Coste |
|---|---|---|---|
Principal | 1,600 | $0.40 | $640.00 |
Participantes de 51 años o más | 400 | $0.60 | $240.00 |
Todas las tareas | 2,000 | $880.00 | |
Comisión del 15% | $132.00 | ||
Total | $1,012.00 |
La diferencia entre "quien llegó primero" y un dataset equilibrado es aquí de $92 con comisiones incluidas, por la tarifa más alta para el grupo escaso. Normalmente sale más barato que recoger más datos y reentrenar el modelo cuando los usuarios empiezan a quejarse.
Preguntas frecuentes sobre datasets diversos
¿Qué es un dataset diverso?
Es un dataset que representa adecuadamente a todos los grupos de usuarios y todas las condiciones en las que trabajará el modelo: edad, tono de piel, idioma, acento, iluminación, dispositivos. Qué dimensiones importan depende de la tarea del modelo.
¿Por qué los datos hacen que un modelo esté sesgado?
Un modelo aprende de lo que ve. Si un grupo apenas está representado en los datos, o solo aparece en ciertas condiciones, el modelo cometerá más errores con él. En el estudio Gender Shades, la diferencia de error entre grupos fue de más de cuarenta veces: 34.7% frente a 0.8%.
¿Cómo se reduce el sesgo de la IA en la fase de recogida de datos?
Define tus dimensiones de diversidad y un mínimo para cada grupo, limita el número de tareas por trabajador, usa la segmentación geográfica y revisa las métricas del modelo por separado para cada grupo. Para los grupos débiles, haz una recogida adicional dirigida.
¿El crowdsourcing hace que un dataset sea diverso automáticamente?
No. Un crowd te da acceso a personas de distintos países con distintos dispositivos, pero cada plataforma tiene sus propios sesgos por país y edad. El equilibrio llega con cuotas, segmentación geográfica y límites por trabajador.
¿La ley exige datos de entrenamiento diversos?
En la UE, para los sistemas de alto riesgo. El artículo 10 del Reglamento de IA de la UE (EU AI Act) exige datos suficientemente representativos y controles de sesgo, y para los sistemas del Anexo III estos requisitos se aplican a partir del 2 de diciembre de 2027. Esto no es asesoramiento legal: consulta con un abogado cómo se aplica a tu sistema.
La diversidad va en el plan de recogida, no en un arreglo posterior
Prevenir el sesgo de un modelo sale más barato que corregirlo. Define tus dimensiones de diversidad, fija un mínimo para cada grupo y evalúa el modelo por grupos, no solo por la precisión global. Los crowdworkers de todo el mundo te dan acceso a las personas y condiciones adecuadas, y las cuotas y los límites convierten ese acceso en un dataset equilibrado.
Para empezar, lanza una campaña piloto en RapidWorkers con un mínimo para cada grupo. Para saber más sobre la recogida de tipos de datos concretos, consulta nuestras guías sobre imágenes y voz.
¿Listo para empezar?
Únete a miles de trabajadores y empleadores que ya usan RapidWorkers para completar tareas rápido.
- Sin suscripción
- Cancela cuando quieras
- Disponible 24/7
- Resolución de disputas


