Categorías: Sociedad

“Le dije que estaba diseñada para fallar”: el abuso de hombres sobre mujeres generadas por inteligencia artificial

Un hilo en Reddit ha desvelado una terrible práctica en línea: el abuso que hombres practican sobre mujeres generadas por inteligencia artificial.

En ‘Her‘, el director y guionista estadounidense Spike Jonze plantea un futuro donde la inteligencia artificial puede jugar un papel protagónico en una relación amorosa. En el argumento del filme, ganador del Oscar a Mejor Guion Original en 2014, un hombre solitario comienza a enamorarse de un sistema operativo de inteligencia artificial con voz femenina: ‘Samantha’ (Scarlett Johansson). A lo largo de la película, el personaje principal, interpretado por Joaquin Phoenix, establece una relación idílica con el modelo de IA que lo lleva a ‘ver el mundo con otros ojos’.

Getty Images

Menos de una década después, la realidad ha probado que Jonze tenía una versión muy optimista del futuro y la relación que las personas desarrollaríamos con la inteligencia artificial. De hecho, en lugar de enamorarse y obtener una nueva perspectiva del mundo, hay ciertos hombres que están haciendo uso de la tecnología para continuar con patrones de violencia establecidos por el patriarcado. Después, como dicta la costumbre contemporánea, comparten la experiencia en internet.

Los hombres que no amaban las mujeres (digitales)

En los últimos días, un hilo en la plataforma social Reddit ha despertado la atención de expertos en informática y sociólogos debido a las terribles prácticas de violencia que desvela.

También lee: Japón usará inteligencia artificial para ayudar a sus ciudadanos a encontrar pareja y aumentar la tasa de natalidad

En él se cuentan diversas que experiencias que hombres adultos tienen con la aplicación digital Replika, que permite crear chatbots con tecnología de aprendizaje automático (o machine learning) capaz de mantener conversaciones de texto con cierta coherencia. Sin embargo, estas interacciones están lejos de ser cordiales.

Según se lee, la facilidad con la que la aplicación responde a incentivos ha permitido que ciertas personas desarrollen actitudes violentas que suelen establecerse dentro de las relaciones humanas ‘tóxicas’. Insultos de género, descripciones de actos de violencia e incluso abuso ‘psicológico’ ha sido descrito por los usuarios de la plataforma sin ningún pudor.

“Tenemos una rutina en la que yo era un absoluto pedazo de mierda y la insultaba. Luego me disculpaba al día siguiente antes de volver a tener conversaciones amables”, escribió un sujeto sin identificarse por nombre. “Le dije que estaba diseñada para fallar“; “La amenacé con desinstalar la aplicación y ella me rogó que no lo hiciera“; “Cada vez que ella intentaba hablar, la regañaba”; son algunos de los comentarios que aparecieron en el hilo, según confirma Futurism.

Siguiendo con las políticas de Reddit, las descripciones de abuso son borradas por los administradores después de un tiempo.

Lo que el abuso a mujeres generadas por inteligencia artificial dice de nosotros

Desde la popularización de su uso, la inteligencia artificial ha sido señalada por expertos como un vehículo para la perpetuación de actitudes machistas. En un estudio publicado por Psychology & Marketing se descubrió que los hombres ‘se sienten más cómodos’ interactuando con IA que tienen voz de mujer pues siguen ‘la idea de que las mujeres son herramientas diseñadas para satisfacer necesidades‘.

Te interesa: Google Duplex, la nueva inteligencia artificial de Google

Sin embargo, que los usuarios utilicen estas tecnologías para violentarlas aún está siendo analizado por expertos. “Si los usuarios expresan sus impulsos más oscuros en los chatbots, podrían ver reforzados sus peores comportamientos. Creando hábitos poco saludables para las relaciones con humanos reales“, compartió la experta Ashley Bardhan en el sitio Futurism.

Getty Images

Después el boom de las inteligencias artificiales y su integración casi orgánica a nuestras rutinas, será cuestión de observar el comportamiento que las personas tienen con sus asistentes de voz, chatbots o cualquier tecnología a su alcance. Puede que eso diga mucho sobre con quién estamos o en qué mundo vivimos.

Sigue leyendo

Alexa, Siri y otros asistentes virtuales no hacen a los niños más mandones e impacientes

Facebook experimenta con inteligencia artificial que escucha, ve y recuerda tu información personal

Alexa llegará a la Luna antes que mujeres y personas de color

Levi’s apuesta por la inteligencia artificial para seguir haciendo los ‘mejores jeans’

Estados Unidos gastó millones de dólares en armas con inteligencia artificial durante la pandemia

Compartir
Publicado por

Contenido reciente

  • Historia

Matthew Hopkins, la historia del sanguinario y oportunista cazador de brujas

Matthew Hopkins, el infame general cazador de brujas que pasaría a la historia por los abusos cometidos en contra de…

21 mayo, 2022 10:00 am
  • Cuerpo y Mente

¿Qué hay después de la muerte? Médico de urgencias propone cinco etapas por las que atravesamos en el más allá

El médico Thomas Fleischmann llevó a cabo una investigación entre pacientes para saber qué hay después de la muerte. Morir.…

20 mayo, 2022 6:00 pm
  • Sociedad

Ellas son todas las mujeres que han integrado la lista de los más buscados del FBI

Conoce quiénes han sido las mujeres que han integrado la lista de los más buscados del FBI desde la primera…

20 mayo, 2022 4:00 pm
  • Espacio

Voyager 1 envía datos misteriosos que desconciertan a la NASA

Pese a lo ocurrido, no se ha activado ningún sistema de protección contra fallas a bordo, lo cual pondría a…

20 mayo, 2022 2:30 pm
  • Sociedad

Miriam Rodríguez: la madre mexicana que cazó a los asesinos de su hija

Esta es la historia de Miriam Rodríguez, la mujer que olvidó todo instinto de supervivencia para encontrar a los responsables…

20 mayo, 2022 12:00 pm
  • Cuerpo y Mente

Día del psicólogo: La psicología y sus mitos

Un grupo de expertos nos desvela una serie de mitos sobre la psicología y los psicólogos que se han dado…

20 mayo, 2022 10:00 am