El algoritmo de Facebook tiene un problema con su IA, ya que confunde personas de raza negra con monos.

El gigante de las redes sociales tiene problemas con la Inteligencia Artificial: a quienes vieron un clip sobre un incidente racista en Estados Unidos les sugirió más «vídeos sobre primates». Facebook se disculpa.

Un algoritmo de Facebook confundió a las personas negras con monos. Una portavoz de la compañía confirmó el viernes el problema, que se produjo con un vídeo publicado por el tabloide británico Daily Mail. A los usuarios de Facebook que habían visto el vídeo, titulado «White man calls police over black men at docks», se les preguntó posteriormente si «querían seguir viendo vídeos sobre primates», informó el New York Times.

algoritmo de facebook
Photo by Oleg Magni on Pexels.com

La portavoz habló de un «error claramente inaceptable». El software responsable fue retirado inmediatamente de la red, dijo. «Pedimos disculpas a quien haya visto estas recomendaciones ofensivas».

El algoritmo de Facebook se basa en varias formas de inteligencia artificial para personalizar el contenido que se muestra a los usuarios. También se utiliza un software de reconocimiento facial en el proceso. Sin embargo, los libertarios civiles llevan mucho tiempo señalando problemas de precisión. Facebook también utiliza la inteligencia artificial para moderar contenidos, por ejemplo para reconocer y bloquear mensajes e imágenes problemáticas.

El caso actual se descubrió cuando un antiguo empleado de Facebook publicó una captura de pantalla en un foro de comentarios sobre productos. Un director de producto de la división de vídeo de la empresa respondió, calificando el incidente de «inaceptable» y prometiendo abordar la raíz del problema.

El ex empleado dijo al New York Times que una serie de incidentes mostraban que tratar los problemas de racismo no era una prioridad en la dirección de la empresa: «Facebook no puede seguir cometiendo errores y limitarse a decir que lo siente.»

Deja un comentario