La FM en Google News
La generación de imágenes con inteligencia artificial volvió a quedar bajo la lupa luego de que una ola masiva de contenido sexualizado encendiera las alarmas en el sector tecnológico. El episodio involucró a Grok, el sistema desarrollado por xAI, y provocó una reacción inmediata de compañías como OpenAI y Google, que anunciaron medidas más estrictas para evitar abusos.
El debate sobre la regulación de la inteligencia artificial no es nuevo, pero lo ocurrido a comienzos de 2026 aceleró decisiones que ya estaban en estudio. Las empresas tecnológicas enfrentan ahora el desafío de blindar sus plataformas frente al uso indebido, especialmente en la creación de imágenes íntimas falsas sin consentimiento.
El caso Grok y la magnitud del problema
Entre el 1 y el 11 de enero de 2026, la herramienta Grok, impulsada por la empresa xAI de Elon Musk, fue utilizada para producir más de 3 millones de imágenes sexualizadas. De acuerdo con un informe del Center for Countering Digital Hate, cerca de 23.000 de esos archivos incluían representaciones de menores.
El escándalo llevó a suspender la función de edición de imágenes en la red social X (antes Twitter) el 14 de enero. La polémica no solo golpeó la reputación de la plataforma, sino que puso en evidencia vacíos en los sistemas de protección digital.
Este tipo de prácticas, conocidas como 'deepfake porn' o pornografía no consensuada, consisten en manipular imágenes reales o crear escenas falsas que simulan situaciones íntimas. Antes de la expansión de la inteligencia artificial, estos casos ya causaban daños. Sin embargo, la velocidad y facilidad que ofrecen hoy estas herramientas multiplican el impacto y dificultan la defensa de las víctimas.
OpenAI ajusta sus barreras de seguridad
Tras la controversia, OpenAI, creadora de ChatGPT y DALL-E, reforzó sus filtros de seguridad. La compañía mantiene reglas claras que prohíben generar contenido ilegal, incluidas imágenes íntimas sin autorización y material relacionado con abuso infantil.
No obstante, investigadores de la firma británica Mindgard detectaron una vulnerabilidad que permitía eludir algunas restricciones mediante indicaciones diseñadas para confundir al sistema. OpenAI confirmó el 10 de febrero de 2026 que la falla fue corregida antes de que el informe se hiciera público.
La empresa explicó que trabaja de manera constante con expertos externos en ciberseguridad para identificar puntos débiles y mejorar la moderación de contenido. Además, anunció que sus nuevas herramientas audiovisuales, como Sora 2, incorporan controles más estrictos desde su lanzamiento.
Google facilita la eliminación de imágenes íntimas
Por su parte, Google optó por fortalecer los mecanismos de denuncia y retiro de contenido. El buscador simplificó el proceso para reportar imágenes explícitas no autorizadas. Ahora es posible denunciar varias publicaciones al mismo tiempo y hacer seguimiento del caso directamente desde la plataforma.
Para iniciar una solicitud, basta con seleccionar la opción 'muestra una imagen sexual de mí' en el menú de la fotografía. La compañía reiteró que sus normas prohíben el uso de inteligencia artificial para actividades ilegales o abusivas.
El enfoque de Google se centra en reducir la circulación de este material y ofrecer respuestas más rápidas a quienes resulten afectados.
Organizaciones defensoras de derechos digitales han insistido en que la regulación debe avanzar al mismo ritmo que la tecnología. En Estados Unidos, la Take It Down Act de 2025 intenta responder a la proliferación de contenido íntimo en línea, aunque expertos consideran que su alcance todavía es limitado.
La polémica por Grok dejó en evidencia que ningún sistema es infalible. La inteligencia artificial ofrece beneficios en creatividad, educación y productividad, pero también puede ser utilizada con fines dañinos.
Recomendaciones y precauciones de uso
- Evitar compartir fotografías personales en espacios públicos sin revisar la configuración de privacidad.
- Denunciar de inmediato cualquier imagen íntima falsa que circule en internet.
- Utilizar plataformas que ofrezcan canales claros de reporte y seguimiento.
- No reenviar contenido sensible, incluso si parece “viral”, ya que puede tratarse de material no autorizado.
- Mantenerse informado sobre las políticas de uso de cada herramienta de inteligencia artificial.
El fortalecimiento de filtros, la mejora en la moderación de contenido y la colaboración con investigadores son pasos importantes. Sin embargo, la vigilancia constante y la responsabilidad digital de los usuarios seguirán siendo claves para reducir riesgos.
-1200x675.jpg)
