En este artículo, exploramos, la intensa controversia alrededor de la plataforma X de Elon Musk y las políticas permisivas de Grok AI sobre la creación de contenido adulto.
Esto no es algo nuevo, X antes twitter, lleva años teniendo a la pornografía como una de sus fuentes de ingresos y a pesar de ello; jamás ha cambiado la edad de registro a la plataforma, siendo la edad de registro permitida sin permiso parental de solamente 13 años.
Esto, es algo que sería completamente sub realista en cualquier red o negocio público en Internet. A pesar de que, los menores pueden acceder a infinidad de páginas para adultos, todas ellas indican que es contenido no apto para menores de +18 y en sus registros indican que no se encuentra permitido el registro de menores de 18 años.
Por tanto, vamos a revisar los desafíos éticos, de seguridad y legales relacionados con las imágenes explícitas generadas por la IA de Grok, los deepfakes y los riesgos que esto involucra respecto a los menores, incluyendo el material de abuso sexual infantil, así como las reacciones de la industrial.
Un debate entre el contenido adulto permisivo por la IA, la ética social y el alcance de estos contenidos por los menores.
Introducción a Grok y la permisividad de contenidos para adultos
Los esfuerzos de Elon Musk en IA bajo xAI, especialmente el chatbot Grok integrado en su plataforma social X, han generado un debate global al incorporar la creación de contenido explícito como una de sus funcionalidades principales.
A diferencia de otras empresas de IA como OpenAI, Anthropic o Meta, que imponían límites estrictos sobre contenido sexual, puesto OpenAI ha decidido también recientemente entrar en el oscuro nicho de mercado de la creación de contenido pornográfico.
En el caso de xAI de Elon Musk, se han integrado directamente modos provocativos en los prompts que son activados con las palabras clave como “sexy”, “spicy” (ppicante) o “unhinged” (desquiciado), permitiendo así la creación de material adulto con muy pocas restricciones.
Cambio de política oficial de X sobre el contenido adulto
Desde la adquisición de Twitter y su rebranding a X, la plataforma formalizó su postura sobre el contenido sexual, permitiendo contenido sexual consensuado, siempre que esté claramente etiquetado y no se muestre de forma destacada en elementos como fotos de perfil o banners.
Lo que es doblemente grave, no solamente porque la empresa ha pasado a financiarse directamente del contenido sexual, la prostitución en las redes y la pornografía.. Si no, porque se ha convertido en la mayor red del mundo que permite acceder a menores (a partir de 13 años) y los lleva directamente hacía el contenido pornográfico.
Esto, distingue a X de otras plataformas como Instagram, TikTok y Facebook, que mantienen prohibiciones más estrictas sobre los desnudos, la «expresión sexual» o el contenido porno.
A pesar de que X exige a los usuarios que compartan material adulto activen las advertencias de contenido y así, se aplican «supuestas restricciones» que deberían proteger a los menores..
Cualquier persona que tenga un perfil dentro de la plataforma, habrá descubierto por pruebas propias el hecho de que esto es completamente insuficiente. El contenido altamente erótico, pornográfica e incluso obsceno, se sigue mostrando en la gran mayoría de «hastags» que se hacen virales.
Todo esto, sumado a la extraña moda de los pervertidos y pedófilos que transitan por la red, de autopublicar sus tocamientos y perversiones sexuales mezcladas con un extraño fetichismo no consentido de cualquier persona que publique contenido abierto en Internet..
Han convertido a X (twitter) en una de las redes sociales más altamente peligrosa, tanto para los menores como para los adultos, puesto que cualquier perfil que alcance una mínimo capacidad de hacerse viral.. Puede ser objeto de este tipo de enfermos.
De hecho, recientemente, una chica joven que comenzaba a hacer directos jugando a videojuegos, fue acosada por un señor que publicaba videos de su pene junto a su imagen y videos.
La IA, aumenta exponencialmente las posibilidades de que ocurren otros delitos sexuales con el uso indebido de imágenes o vídeos, y una IA sin limitaciones multiplica ampliamente las posibilidades de que ocurra todo esto.
Funciones controversiales de Grok AI
Las capacidades de Grok van más allá del chat, incluyendo la generación de videos e imágenes, con un modo de contenido explícito “spicy” que puede producir contenido semi-desnudo o provocativo, incluidos deepfakes de celebridades sin medidas adecuadas de verificación de edad.
Por ejemplo, se ha documentado que Grok genera videos explícitos con semejanzas de celebridades, lo que genera preocupaciones sobre consentimiento, desinformación y privacidad.
Riesgos y preocupaciones éticas
El diseño permisivo ha provocado serios desafíos, especialmente relacionados con la seguridad infantil. Se ha reportado que empleados de xAI han estado expuestos a grandes volúmenes de contenido sexual, incluyendo solicitudes de material de abuso sexual infantil generado por IA.
A pesar de que Musk ha declarado públicamente su prioridad de eliminar la explotación infantil, el manejo abierto de este contenido genera estrés psicológico en el personal y evidencia la dificultad de controlar completamente los resultados generados por IA.
Expertos advierten que no establecer límites claros en el material explícito difumina líneas críticas, dificultando la detección y prevención de contenido dañino.
Esta permisividad es vista como una elección deliberada de xAI para integrar contenido adulto en el ADN de Grok.
La generación de deepfakes sexuales no solicitados también revela sesgos misóginos dentro de las tecnologías de IA, lo que aumenta la reacción pública negativa.
Reacciones regulatorias e industriales
La situación ocurre en un contexto de regulación creciente.
Existen leyes que buscan limitar el contenido sexual generado por IA sin autorización, pero Grok opera con pocas barreras técnicas o legales, lo que podría convertirlo en un punto conflictivo para futuros debates legales y éticos.
Mientras tanto, otras plataformas de IA y redes sociales avanzan en verificación, advertencias de contenido y moderación estricta para manejar material adulto de manera segura y responsable.
Conclusión
La decisión de Elon Musk de permitir contenido adulto explícito en X y mediante Grok AI resalta una tensión fundamental entre la libertad de expresión artística y sexual, la demanda de los usuarios y la necesidad de proteger a poblaciones vulnerables y la ética pública.
A medida que la tecnología evoluciona, el equilibrio entre innovación y responsabilidad será crucial para definir el futuro de la creación de contenido por IA y la gobernanza de plataformas.
Artículos Relacionados
Descubre más desde CIBERED
Suscríbete y recibe las últimas entradas en tu correo electrónico.