Google Photos soluciona su algoritmo “racista” eliminando de su base de datos a gorilas y monos

Google Photos soluciona su algoritmo “racista” eliminando de su base de datos a gorilas y monos

Jacky Alciné, un programador de Nueva York, comprobó que unas imágenes en las que aparecía junto con una amiga se habían guardado en una carpeta generada de manera automática bajo la etiqueta «Gorillas» - ARCHIVO
Jacky Alciné, un programador de Nueva York, comprobó que unas imágenes en las que aparecía junto con una amiga se habían guardado en una carpeta generada de manera automática bajo la etiqueta «Gorillas» – ARCHIVO

 

Los sistemas de reconocimiento facial se han introducido en los métodos de etiquetado de determinados servicios digitales en los últimos años como Facebook o Google. Son prácticos, sí, de gran utilizada para el día a día y ayudan a organizar el material gráfico, pero aunque han evolucionado positivamente no son totalmente perfectos. En 2015, el algoritmo informático integrado en la aplicación Google Photos confundió a dos afroamericanos y los etiquetó en una imagen como «gorilas». Un error que causó gran polémica y que obligó a la compañía norteamericana a pedir disculpas además de prometer que no volvería a suceder, reseña abc.es.

J.M.Sánchez
@abc_tecnologia

Después de este tiempo, la solución que ha tomado el gigante de internet para evitar que se repita de nuevo un caso similar ha sido dejar fuera de la lista de etiquetados a simios, gorilas, chimpancés, monos. Una decisión rudimentaria. Aquel episodio se descubrió de casualidad, cuando Jacky Alciné, un programador de Nueva York, comprobó que unas imágenes en las que aparecía junto con una amiga se habían guardado en una carpeta generada de manera automática bajo la etiqueta «Gorillas» -gorilas, en español-. Las acusaciones de racismo no cesaron. La empresa tuvo que recular y actualizar el servicio.

Según ha comprobado el medio especializado «Wired», la respuesta de Google para que no se repita esta «confusión» ha sido borrar (literalmente) tanto a los gorilas como a algunos otros primates del léxico del servicio tales como «babuino», «gibón» o «tití». Una «extraña solución», explican los expertos, que refleja las dificultades que enfrentan las compañías tecnológicas para mejorar los sistemas de reconocimiento de imágenes que comienzan a asaltar la vida de las personas en cada esquina. El software, además, tampoco es capaz de encontrar «mujer negra» o «hombre negro» en su nueva actualización, lo que se traduce en una máxima de andar por casa; mejor ocultar el problema que solucionarlo.

La aplicación y servicio web Google acumula en la actualidad unos 500 millones de usuarios, según las últimas cifras conocidas. Está concebido como un espacio para administrar y realizar copias de seguridad de las imágenes personales. Utiliza un modelo tencnológico basado en «aprendizaje automático» o «machine learning» para agrupar de manera automática las fotografías con contenido similar y ubicaciones. El sistema permite, además de «aprender» y adaptarse a los hábitos de los consumidores conforme más se utiliza, que los usuarios puedan localizar sus recuerdos personales rápidamente.

Siga leyendo en  abc.es

Exit mobile version