OpenAI, la empresa detrás de ChatGPT, está considerando actualmente permitir a los usuarios crear pornografía y otros contenidos explícitos utilizando inteligencia artificial. Sin embargo, la compañía enfatizó que su prohibición de deepfakes seguirá aplicándose a los materiales para adultos, si los hubiera.
OpenAI, que también es el desarrollador del generador de imágenes DALL-E, dijo que está considerando permitir a los desarrolladores y usuarios crear «responsablemente» contenido que llama «no seguro para el trabajo» (NSFW). OpenAI dijo que esto puede incluir «erótica, violencia extrema, abuso y blasfemias no deseadas».
«Estamos explorando si podemos brindar de manera responsable la capacidad de generar contenido NSFW en contextos apropiados para la edad.. Esperamos comprender mejor las expectativas de los usuarios y de la sociedad sobre el comportamiento del modelo en esta área», dijo OpenAI.
Joan Jang, empleada de la empresa con sede en San Francisco, dijo que OpenAI quiere iniciar un debate sobre si los textos eróticos y la desnudez deberían prohibirse siempre en sus productos. Sin embargo, destacó que no se permitirán los deepfake.
«Queremos asegurarnos de que la gente tenga el mayor control posible en la medida en que no viole la ley o los derechos de otros, pero permitir deepfakes está fuera de discusión», dijo Jang.
Sin embargo, añadió que la percepción del contenido como pornografía “depende de la definición” de la categoría. Chan señaló que ha habido «casos creativos en los que el contenido relacionado con la sexualidad o la desnudez es importante para nuestros usuarios».
Cuando el director ejecutivo de OpenAI, Sam Altman, dijo que la gente no se da cuenta de que la IA pronto provocará despidos masivos.. Aunque es poco probable que precisamente alguien se parase a pensar en este tipo de trabajos.
Artículos Relacionados
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.