Lensa AI es una de las apps de las que todo el mundo habla últimamente en redes sociales. Gracias a ella, los usuarios pueden generar ‘Magic Avatars’ de ellos mismos a través de tecnología basada en Inteligencia Artificial. Sin embargo, tiene un inconveniente: mientras los hombres obtienen versiones animadas de sus rostros como guerreros, astronautas, superhéroes inventores o políticos, las mujeres se encuentran con dibujos hipersexualizados con su cara, sobre todo si son chicas con rasgos asiáticos.

Tiene sesgos racistas y machistas

«Mis avatares fueron pornográficos caricaturescos, mientras que mis colegas masculinos se convirtieron en astronautas, exploradores e inventores», se ha quejado la periodista Melissa Heikkila en un artículo de MIT Technology Review. Además, asegura que la IA repite más este problema cuando la persona es una chica racializada.

Algunos resultados de Melissa Heikkila en Lensa AI.
Algunos resultados de Melissa Heikkila en Lensa AI.
MIT Technology Review

Heikkila tiene ascendencia asiática y Lensa solo reconoció ese rasgo en sus selfies: «Obtuve imágenes de mujeres asiáticas genéricas». Gran parte de los resultados eran avatares desnudos, claramente hipersexualizados, y algunos se mostraban llorando. Ella hizo la prueba en otras compañeras, una blanca, que obtuvo un par de desnudos y avatares con escote, pero menos; y otra también de ascendencia asiática, con resultados similares a los suyos.

El problema de Lensa se repite en otras IAs

Aunque el caso de Lensa se haya viralizado, no es la primera IA que muestra sesgos racistas y machistas. Esta tecnología suele entrenarse con información creada por humanos, así que, realmente, están imitando problemas que existen en nuestra sociedad.

Lensa utiliza un modelo de IA de código abierto llamado Stable Diffusion para crear sus avatares. Esta emplea a su vez LAION-5B, un conjunto masivo de datos de código abierto que extrae imágenes de Internet.

Un estudio realizado en 2021 analizó un conjunto de datos similar al que se usó para crear Stable Diffusion y descubrió que los datos de entrenamiento de las inteligencias artificiales están llenos de estereotipos racistas, de pornografía e incluso de imágenes explícitas de violaciones. Esto pudieron hacerlo con el conjunto de datos LAION porque es de código abierto, pero otras IAs que carecen de código abierto (DALL-E o Google Imágenes), repiten un patrón similar. 

Más allá de los sesgos de Lensa

Lensa es una aplicación con Inteligencia Artificial que permite crear imágenes de dibujos animados personalizadas que se desarrolló en 2018. Su función más viral ahora mismo es ‘Magic Avatars’, una herramienta que permite crear dibujos con el rostro del usuario, aunque con sus polémicas ya mencionadas.

Según Sensor Tower, más de 4 millones de personas descargaron la aplicación durante los primeros cinco días de diciembre y gastaron en total 8 millones de dólares en ella. Puede que tú fueses uno de los usuarios que instaló la aplicación y la probó, pero, ¿leíste la Política de privacidad antes de aceptar?

David Leslie, director de investigación de ética e innovación responsable en el Instituto Alan Turing y profesor de la Universidad Queen Mary de Londres, recuerda que «siempre debemos estar atentos cuando nuestros datos biométricos se utilizan para cualquier propósito».

En el caso de Lensa, las selfies que se toman los usuarios se eliminan tan pronto como se generan los avatares. Eso es lo que dice Andrey Usoltsev, director ejecutivo y cofundador de Prisma Labs, empresa detrás de la app.

A pesar de ello, han existido otras aplicaciones parecidas que han quebrantado la privacidad de sus consumidores sin que estos se diesen cuenta al no leer la Política de privacidad y los Términos de uso. Por ese motivo, lo ideal es que, en todas las plataformas, y en especial en las que obtienen tus datos biométricos, revises toda la letra pequeña, para evitar que tu información sea vendida a terceros.

Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.

Artículo anteriorAllanamientos y detenciones para Lucas Retamozo y Sofía Piña
Artículo siguienteExtraña fuga en la nave Soyuz: investigan los misteriosos ‘copos de nieve’ surgidos en una caminata espacial de dos astronautas rusos
Catamarca Provincia, Diario de Catamarca, provincia del Norte de Argentina, con toda la información de la región actualizada y seleccionada. https://catamarcaprovincia.com.ar/ Esta compuesta por 3 comunicadores que trabajan para informar los eventos mas destacados y de interés, desde política a Entretenimiento y Virales.