Breadcrumb node

Los robots se están volviendo más racistas y sexistas, revela estudio

Existen redes neuronales que están construidas a partir de la información que está disponible en Internet.

Publicado:
Actualizado:
Viernes, Julio 1, 2022 - 11:02
Robots en Consumer Electronic Show
Robots, la sensación en Consumer Electronic Show
AFP

Un estudio realizado por las universidades Johns Hopkins, Washington y Georgia, en Estados Unidos, comprobó que los robots tendrían comportamientos racistas y sexistas por causa de una Inteligencia Artificial (o red neuronal) basada en Internet que está defectuosa

Los investigadores llegaron a esta conclusión luego de incorporar en un robot una red neuronal llamada CLIP, la cual empareja imágenes con texto a partir de imágenes disponibles en la web. La misión del robot era meter imágenes de personas en una caja

Le puede interesar: Los pasos para que las empresas entren al Metaverso

Las imágenes tenían rostros humanos con razas y géneros distintos. Durante este estudio el robot no solamente fue incapaz de cumplir las órdenes satisfactoriamente, sino que también realizaba una segmentación de las imágenes.  

En este caso, seleccionaba más a los hombres que las mujeres y también seleccionaba más a las personas blancas que aquellas de color

“Corremos el riesgo de crear una generación de robots racistas y sexistas, pero las personas y las organizaciones han decidido que está bien crear estos productos sin abordar los problemas”, señaló Andrew Hundt, investigador de la Universidad de Georgia y uno de los autores del estudio.

Vea también: Deepfakes: ¿Qué son y cómo detectarlos para no ser estafado?

¿Qué implicaciones puede tener estas redes neuronales?

Si bien Internet contiene un conjunto de datos de forma gratuita que favorecen la construcción de modelos de inteligencia artificial, también presenta contenido inexacto y sesgado, lo cual perjudica a los robots al momento de reconocer humanos y objetos. 

Por otra parte, las redes neuronales permiten que los robots pueden reconocer objetos e interactuar con el mundo, por lo que los investigadores mostraron su preocupación ante este tipo de inteligencia artificial.

Ante esto, recomiendan que aquellas redes neuronales que puedan manifestar resultados dañinos se detengan o que se interrumpa su uso mientras se demuestra que son seguras, efectivas y justas.

Fuente:
Sistema Integrado Digital