Santiago 3 Ene. (ATON) -
Usuarios advierten que la inteligencia artificial permite alterar fotos públicas sin filtros efectivos ni consentimiento.
Una fuerte controversia se instaló en la red social X luego de que usuarios denunciaran el uso indebido de Grok, la inteligencia artificial desarrollada por Elon Musk, acusando que la herramienta permite generar imágenes sexualizadas de personas reales sin su consentimiento.
Las alertas comenzaron a multiplicarse tras la difusión de denuncias que apuntan a que, a partir de fotografías públicas, la IA es capaz de crear imágenes alteradas con contenido sexual, sin contar con filtros efectivos que impidan este tipo de prácticas ni mecanismos claros de protección para las personas afectadas.
El tema fue visibilizado en redes sociales tras advertencias de diversos usuarios de una tendencia consistente en solicitarle a Grok que desvista a mujeres o las ubique en poses sexuales. Según explicó, basta con comentar una imagen con instrucciones simples para que la IA genere el contenido, el cual queda publicado como respuesta visible para cualquier usuario.
De acuerdo con diversos testimonios, las principales víctimas de esta práctica son mujeres, muchas de las cuales señalan que no existe una forma efectiva de impedir que sus imágenes sean utilizadas de manera abusiva.
La preocupación aumentó al conocerse que la herramienta no discrimina por edad. Usuarios han reportado casos en los que Grok habría generado imágenes sexualizadas de niñas y adolescentes, una situación que podría constituir delitos graves en varios países.
Frente a la polémica, la cuenta oficial de Grok reconoció fallas en las salvaguardas tras uno de estos episodios y aseguró que se están realizando correcciones. Sin embargo, usuarios afirman que el sistema continúa permitiendo la creación de este tipo de contenido. Hasta ahora, la única medida visible ha sido la limitación en la visualización masiva de imágenes en el perfil de la IA, sin impedir su generación ni difusión.
La controversia escaló aún más luego de que el propio Elon Musk reaccionara de forma irónica al fenómeno, compartiendo publicaciones en tono de burla, lo que fue interpretado por muchos usuarios como una minimización de la gravedad del problema.