Grok, la IA de X, dejará de permitir ediciones sexualizadas de imágenes reales tras denuncias por deepfakes
X (antes Twitter) anunció que su modelo de inteligencia artificial Grok dejará de permitir la edición de fotografías de personas reales para mostrarlas con ropa reveladora.
Según informó la BBC, la decisión llega después de una ola global de denuncias por deepfakes sexualizados y el inicio de una investigación formal por parte de autoridades estadounidenses y británicas.
En un comunicado publicado en la plataforma, la empresa informó: “Hemos implementado medidas tecnológicas para impedir que Grok permita editar imágenes de personas reales en ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluyendo suscriptores pagos”.
Investigación en California y presión internacional
La medida se hizo pública horas después de que el fiscal general de California, Rob Bonta, revelara que el estado está investigando la difusión de deepfakes sexualizados, incluidos casos que involucran a menores, generados con herramientas de IA como Grok.
Bonta advirtió que este tipo de material se ha utilizado para acosar mujeres y niños en múltiples plataformas: “Este contenido, que muestra a mujeres y menores en situaciones desnudas o sexualmente explícitas, se ha usado para hostigar a personas en toda internet”.
El Reino Unido también subió la presión. El primer ministro Keir Starmer advirtió que X podría perder su “derecho a autorregularse” si no toma medidas contundentes.
Además, el regulador británico Ofcom anunció el lunes que investigará si la empresa violó la legislación local al permitir la circulación de estas imágenes.
Nuevas restricciones y cambios en el funcionamiento de Grok
Con la actualización, X amplió las limitaciones existentes y reiteró que solo los usuarios pagos podrán utilizar las herramientas de edición de imágenes de Grok.
Según la compañía, esta exigencia busca agregar una capa de responsabilidad y facilitar la identificación de quienes intenten abusar del sistema.
La plataforma aclaró que cualquier intento de generar imágenes de personas reales en bikinis, ropa interior o vestimentas similares será bloqueado automáticamente, de acuerdo con las leyes del país desde donde se use el servicio.
Bloqueos en Asia y reacción global
La controversia alrededor de Grok no se limita a Estados Unidos y Reino Unido. Malasia e Indonesia directamente bloquearon el acceso al chatbot, citando su uso para crear imágenes sexualizadas.
Ambos gobiernos señalaron preocupaciones éticas y legales, especialmente frente al riesgo de que menores sean expuestos a material manipulado con IA.
X (antes Twitter) anunció que su modelo de inteligencia artificial Grok dejará de permitir la edición de fotografías de personas reales para mostrarlas con ropa reveladora. Según informó la BBC, la decisión llega después de una ola global de denuncias por deepfakes sexualizados y el inicio de una investigación formal por parte de autoridades estadounidenses y británicas.En un comunicado publicado en la plataforma, la empresa informó: “Hemos implementado medidas tecnológicas para impedir que Grok permita editar imágenes de personas reales en ropa reveladora, como bikinis. Esta restricción aplica a todos los usuarios, incluyendo suscriptores pagos”.Investigación en California y presión internacionalLa medida se hizo pública horas después de que el fiscal general de California, Rob Bonta, revelara que el estado está investigando la difusión de deepfakes sexualizados, incluidos casos que involucran a menores, generados con herramientas de IA como Grok.Bonta advirtió que este tipo de material se ha utilizado para acosar mujeres y niños en múltiples plataformas: “Este contenido, que muestra a mujeres y menores en situaciones desnudas o sexualmente explícitas, se ha usado para hostigar a personas en toda internet”.El Reino Unido también subió la presión. El primer ministro Keir Starmer advirtió que X podría perder su “derecho a autorregularse” si no toma medidas contundentes. Además, el regulador británico Ofcom anunció el lunes que investigará si la empresa violó la legislación local al permitir la circulación de estas imágenes.Nuevas restricciones y cambios en el funcionamiento de GrokCon la actualización, X amplió las limitaciones existentes y reiteró que solo los usuarios pagos podrán utilizar las herramientas de edición de imágenes de Grok. Según la compañía, esta exigencia busca agregar una capa de responsabilidad y facilitar la identificación de quienes intenten abusar del sistema.La plataforma aclaró que cualquier intento de generar imágenes de personas reales en bikinis, ropa interior o vestimentas similares será bloqueado automáticamente, de acuerdo con las leyes del país desde donde se use el servicio.Bloqueos en Asia y reacción globalLa controversia alrededor de Grok no se limita a Estados Unidos y Reino Unido. Malasia e Indonesia directamente bloquearon el acceso al chatbot, citando su uso para crear imágenes sexualizadas.Ambos gobiernos señalaron preocupaciones éticas y legales, especialmente frente al riesgo de que menores sean expuestos a material manipulado con IA. La Voz
