Polémica por crear una inteligencia artificial que genera pornografía
- Os Keyes (Universidad de Seattle) afirma que es "deprimente cómo tanto las opciones como los valores predeterminados replican una mirada muy heteronormativa y masculina" para crear a las modelos.
- ¿Te acusan de pornografía y exhibicionismo? Cuidado, esta extorsión suplanta a la Interpol.
TechCrunch informa de la existencia de una web que es capaz de generar pornografía a través de inteligencia artificial (IA). La página se llama 'Porn Pen' y se puede personalizar a los modelos, escenarios y puntos de vista de la cámara.
Este medio de comunicación indica que las modelos son mujeres, además, Porn Pen "plantea una serie de cuestiones éticas, como los sesgos en los sistemas de generación de imágenes y las fuentes de los datos de los que surgieron", teniendo en cuenta que esta innovación podría perjudicar a los creadores de contenido para adultos.
Ashley (una trabajadora sexual) apunta para TechCrunch que Porn Pen no es una amenaza para las empleadas sexuales, no obstante, le preocupa que si los sitios de pornografía toman medidas enérgicas contra la IA, se podrían generar restricciones más severas para las trabajadoras.
La web recalca el mensaje "esta persona no existe", aunque puede generar cualquier rostro humano. Un usuario en Y Combinator Hacker News asegura que es el creador de Porn Pen y que ha modificado partes del código para evitar que se generen imágenes dañinas.
Las etiquetas para crear a una mujer irreal varían entre 'nena', 'modelo de lencería', 'gordita' y 'etnias'. Os Keyes (candidato para un doctorado en la Universidad de Seattle) afirma que "sigue siendo deprimente cómo tanto las opciones como los valores predeterminados replican una mirada muy heteronormativa y masculina".
Porn Pen a veces genera imágenes sin una persona, concretamente, TechCrunch confirma que "muestra modelos físicamente improbables, generalmente con extremidades adicionales, pezones en lugares inusuales y carne retorcida".
Os Keyes añade que "por definición, estos sistemas van a representar a aquellos cuerpos aceptados y valorados en general. Porn Pen solo tiene categorías para personas cisnormativas, no me sorprende que terminen con un número desproporcionadamente alto de mujeres".
Apúntate a nuestra newsletter y recibe en tu correo las últimas noticias sobre tecnología.