Publicidad

Algoritmos imperfectos: cuando los sesgos y secretismo dejan más preguntas que respuesta (Despeja la X, 1x70)

Algoritmos imperfectos: cuando los sesgos y secretismo dejan más preguntas que respuesta (Despeja la X, 1x70)
Sin comentarios

Publicidad

Publicidad

El mundo no es justo, dicen, pero es que parece que los algoritmos tampoco lo son. El último caso que ha reabierto el debate sobre nuestra dependencia de los algoritmos ha mostrado cómo en la Apple Card solo por ser hombre o mujer se te puede asignar un límite más alto en tu tarjeta de crédito.

¿Qué está pasando aquí? Pues que los algoritmos son imperfectos, y lo son porque quienes los programan y entrenan tienen sesgos que es difícil controlar y evitar. De algoritmos falaces, de su secretismo, de sesgos y de la necesidad de auditarlos hablamos en este nuevo episodio de Despeja la X.

Para tratar de aclarar la situación en este programa os acompañamos Marcos Merino (@mmerino), editor en Xataka y un servidor, Javier Pastor (@javipas), editor en Xataka. La producción corre a cargo de Santi Araújo (@santiaraujo), editor en GenBeta y que además presenta, produce y dirige este y otros podcasts de Webedia España.

Escucha y suscríbete a 'Despeja la X'

dlx

A continuación puedes escuchar el episodio de esta semana. Si lo prefieres, puedes suscribirte directamente en cualquiera de las plataformas en las que estamos, así no tendrás que preocuparte cada vez que salga una nueva entrega.

Cuidado con ese algoritmo, podría no funcionar tan bien como crees

Lo sucedido estos días con Apple, su Apple Card y el algoritmo de Goldman Sachs es una prueba más del problema al que nos venimos enfrentando desde hace tiempo.

Quizás confiamos demasiado en los algoritmos, sobre todo teniendo en cuenta que este no es el primer ni el último caso de un algoritmo imperfecto y cuestionable.

El problema no solo está ahí, sino en que parece muy difícil evitar los sesgos y la subjetividad a la hora no solo de programar los algoritmos (el código) sino a la hora de entrenarlos o de introducir los datos necesarios para producir una respuesta. Los algoritmos no son injustos: solo hacen lo que les decimos que hagan.

Estos sucesos reabren un debate que no es nuevo: el de la necesidad de una mayor transparencia que entre otras cosas permita auditar esos algoritmos de caja negra que controlan nuestras vidas. Saber cómo funcionan por dentro para poder pulir su funcionamiento si no es el adecuado.

El problema nos está afectando ya en temas muy delicados, pero podría hacerlo mucho más en el futuro si no tenemos cuidado: la progresiva automatización plantea muchas luces para el futuro, pero también sombras como esta.

Cada semana, un nuevo capítulo

Y recuerda: cada jueves tienes un nuevo capítulo de nuestro podcast Despeja la X, en el que analizamos a fondo el gran tema tecnológico de cada semana.

Si te quedas con ganas de más dosis tecnológica en audio, puedes escucharnos en el resto de podcasts de Xataka, con distinta temática y formato:

  • Captcha (iVoox, iTunes, Pocket Casts, YouTube o Spotify): el gran viaje a través del presente y futuro de la Inteligencia Artificial que busca explicar a fondo cómo funciona la llamada "nueva electricidad", la disciplina científico tecnológica más apasionante de los siglos XX y XXI.
  • Insert Coin (iVoox, Spotify o iTunes): cada programa, un invitado super especialista y técnico en algunos de los temas que nos fascinan.
  • Xataka Now (iVoox, Spotify o iTunes): la actualidad tecnológica diaria, resumida en forma de informativo de unos minutos.

¡Gracias por acompañarnos!

Temas

Publicidad

Publicidad

Publicidad

Inicio
Compartir