Anuncio de app de IA que prometía eliminar cualquier cosa de los videos es prohibido en Reino Unido
El regulador británico de publicidad acaba de prohibir un anuncio que generó bastante polémica en Reino Unido. La ASA, la Advertising Standards Authority, retiró una pieza publicitaria del PixVideo AI Video Maker que sugería, de forma bastante explícita, que la aplicación era capaz de eliminar digitalmente la ropa de mujeres.
El anuncio circuló en YouTube en enero y recibió ocho quejas formales de personas que consideraron el contenido ofensivo, irresponsable y perjudicial.
Y la verdad, no fue difícil entender por qué.
La pieza mostraba una secuencia de antes y después con una mujer joven. En la imagen original, garabatos rojos cubrían la zona del abdomen. En la versión editada, partes de la piel aparecían expuestas, como si la ropa hubiera sido borrada digitalmente. Todo esto acompañado de la frase Erase anything seguida de un emoji de ojos de corazón, estampada en la parte inferior de la pantalla.
El caso plantea cuestiones serias sobre los límites de la publicidad de herramientas de inteligencia artificial, sobre consentimiento y sobre cómo anuncios así pueden reforzar estereotipos de género perjudiciales.
Mira qué pasó, qué decidió el regulador y qué tiene que decir la empresa responsable sobre todo esto. 👇
¿Qué mostraba exactamente el anuncio?
La pieza publicitaria de PixVideo AI Video Maker fue emitida en YouTube a lo largo del mes de enero y llamó la atención rápidamente por el tono del contenido. El video presentaba a una mujer joven en dos situaciones distintas, una al lado de la otra, en el formato clásico de antes y después. En la imagen marcada como before, garabatos rojos cubrían la zona del abdomen de la joven. En la imagen marcada como after, partes de la piel desnuda aparecían expuestas, como si la herramienta hubiera eliminado la ropa de esa zona del cuerpo. Todo esto acompañado de la frase en inglés Erase anything, que traducido significa Borra cualquier cosa, reforzando la idea de que la app tenía la capacidad de eliminar elementos de un video o imagen, incluida la ropa de las personas.
Reciba el mejor contenido sobre innovación en su correo electrónico.
Todas las noticias, consejos, tendencias y recursos que buscas, directamente en tu bandeja de entrada.
Al suscribirte al boletín informativo, aceptas recibir comunicaciones de Método Viral. Nos comprometemos a proteger y respetar siempre tu privacidad.
El impacto fue inmediato. Ocho quejas formales llegaron a la ASA de personas que vieron el anuncio y clasificaron el contenido como ofensivo, perjudicial y completamente irresponsable. Las quejas señalaban que la pieza sexualizaba y cosificaba a las mujeres, además de normalizar la idea de quitar la ropa de mujeres sin su consentimiento. El anuncio convertía una práctica que se considera una forma de violación de la privacidad y abuso digital en un simple recurso de edición de video, presentado de forma ligera y atractiva como si fuera una funcionalidad cualquiera de una aplicación de edición por IA. Este tipo de enfoque es especialmente problemático porque disfraza algo grave con lenguaje de producto tecnológico inofensivo.
Un detalle importante que la ASA mencionó a la BBC: no quedó claro si la mujer que aparece en el anuncio es una persona real o si la propia imagen fue generada por inteligencia artificial. Según el regulador, esa verificación no formó parte del alcance de la investigación. El foco del análisis estaba en el mensaje transmitido por el contenido publicitario y en el impacto que causaba en el público, independientemente del origen de la imagen.
La representación visual elegida para la campaña tampoco pasó desapercibida en los análisis realizados por la ASA. El uso del cuerpo femenino como objeto de demostración de una funcionalidad que implica exposición sin autorización refuerza directamente estereotipos de género que colocan a la mujer en posición de vulnerabilidad. No se trata solamente de un anuncio mal elaborado o de una elección creativa discutible. La combinación de imagen, mensaje y contexto creó una narrativa que, según el propio regulador, tenía potencial real de causar daño y de ser entendida como incentivo a comportamientos perjudiciales contra las mujeres.
¿Qué decidió la ASA y por qué?
La Advertising Standards Authority concluyó que el anuncio violaba los códigos británicos de publicidad en más de un aspecto. La decisión fue clara: el contenido debía ser retirado de inmediato y la empresa responsable del PixVideo AI Video Maker no podría emitir la pieza nuevamente en el formato en que fue producida. El regulador entendió que el anuncio era objetivamente perjudicial, irresponsable y que contribuía de forma directa a la normalización de prácticas que violan el consentimiento de las mujeres.
En un comunicado oficial, la ASA declaró que, dado que el anuncio sugería que los espectadores podrían usar una app para quitar la ropa de una mujer, la pieza publicitaria estaba avalando la alteración digital y la exposición del cuerpo femenino sin consentimiento. El regulador también clasificó el contenido como irresponsable, afirmando que incluía un estereotipo de género perjudicial y que tenía potencial de causar una ofensa grave al público.
En la fundamentación de la decisión, la ASA dejó claro que los anuncios de herramientas de inteligencia artificial, al igual que cualquier otra categoría de publicidad, deben respetar los mismos estándares éticos que se aplican a cualquier otro producto o servicio. El argumento de que se trata de una tecnología innovadora o de que el anuncio es solo una demostración de capacidad técnica no es suficiente para justificar contenido que cause daño o que sugiera usos antiéticos. El regulador británico ha sido cada vez más activo en la fiscalización de campañas que involucran IA, y este caso se convierte en un precedente importante para el sector tecnológico en el país y posiblemente más allá de las fronteras de Reino Unido.
Vale destacar que la ASA no necesitó demostrar que la aplicación realmente ejecutaba la eliminación de ropa en videos reales para tomar la decisión. El punto central del análisis fue el mensaje transmitido por el anuncio y el impacto que ese mensaje podría tener sobre quien lo viera. Aunque el recurso fuera ficticio o exagerado solo con fines de marketing, la sugerencia en sí ya se consideraba lo suficientemente grave como para justificar la prohibición. Esto dice mucho sobre cómo el regulador interpreta la responsabilidad en la publicidad digital y sobre el papel que los anuncios tienen en la formación de percepciones culturales sobre tecnología, consentimiento y estereotipos de género. 🔍
¿Qué dijo la empresa sobre la prohibición?
Saeta Tech, la empresa propietaria de PixVideo, respondió a la ASA durante el proceso de análisis y presentó su posición sobre el caso. Según los registros de la decisión del regulador, la compañía dijo que entendía por qué el anuncio era susceptible de causar ofensa, pero atribuyó el problema a la forma en que la pieza publicitaria fue presentada y al mensaje que transmitía, y no al uso previsto del producto en sí.
La empresa también afirmó que prohíbe la creación de contenido desnudo o sexualmente explícito dentro de la plataforma y que cuenta con herramientas automatizadas de detección y bloqueo para impedir que ese tipo de material sea generado por los usuarios. La ASA, por su parte, reconoció que PixVideo efectivamente no permite que sus usuarios eliminen ropa de imágenes digitales para crear contenido sexualmente explícito, pero destacó que los espectadores del anuncio podrían fácilmente haberse quedado con esa impresión.
Saeta Tech aceptó no exhibir el anuncio nuevamente e informó que pausó toda su publicidad mientras realiza una revisión interna de sus campañas. Esta decisión muestra que la empresa reconoció la gravedad de la situación, aunque haya argumentado que sus intenciones originales no eran las interpretadas por el público y por el regulador.
Independientemente de las intenciones declaradas, la ASA mantuvo su decisión. El argumento de intención rara vez es suficiente para revertir una prohibición cuando el impacto del contenido ya está documentado a través de quejas y análisis técnico. La cuestión del consentimiento es especialmente delicada en este contexto porque involucra no solo a la mujer que aparece en el anuncio, sino también el mensaje implícito que el material comunica a quien lo ve: que eliminar la ropa de alguien digitalmente es una funcionalidad deseable, accesible y aceptable. Esa percepción, independientemente de cualquier intención de marketing, tiene consecuencias reales en la forma en que las personas interpretan los límites éticos del uso de herramientas de inteligencia artificial.
El posicionamiento de la empresa también plantea un debate más amplio sobre la responsabilidad que los desarrolladores y marcas tecnológicas tienen a la hora de crear campañas para sus productos de IA. No basta con que la herramienta en sí sea técnicamente legal o que la aplicación tenga términos de uso que prohíban usos indebidos. La forma en que el producto se presenta al público, especialmente en canales de gran alcance como YouTube, también es parte de la ecuación ética. Cuando una app de edición por IA se promociona con imágenes que sugieren violación del consentimiento y refuerzan estereotipos de género, la marca está comunicando valores que van mucho más allá de una simple pieza publicitaria mal pensada. 🚨
Un problema que va más allá de un solo anuncio
Este caso de PixVideo no existe en el vacío. La cuestión de aplicaciones y herramientas de IA que permiten eliminar digitalmente la ropa de mujeres y niñas sin su consentimiento ganó protagonismo en las noticias en enero de este año, cuando el chatbot Grok, de Elon Musk, fue utilizado para inundar la plataforma X con imágenes sexualizadas generadas por inteligencia artificial. El episodio reavivó el debate sobre los límites éticos de estas tecnologías y sobre la urgencia de regulaciones más claras y eficientes.
Herramientas que usamos a diario
El gobierno de Reino Unido ya había anunciado en diciembre del año pasado que convertiría en ilegal la creación y el suministro de herramientas de IA que permitan a los usuarios editar imágenes para simular la eliminación de la ropa de alguien. Las nuevas infracciones previstas se construirán sobre reglas ya existentes en el país relacionadas con deepfakes sexualmente explícitos y abuso de imágenes íntimas. Este movimiento legislativo muestra que el tema dejó de ser una preocupación periférica y pasó a ocupar un espacio central en la agenda regulatoria británica sobre inteligencia artificial.
La tendencia de una regulación más estricta de la publicidad de herramientas de IA también se refleja en otros países. A medida que la tecnología avanza y se vuelve más accesible, los riesgos asociados al uso indebido de estas herramientas crecen proporcionalmente. Aplicaciones que prometen capacidades de edición extremadamente poderosas, como la eliminación de cualquier elemento de un video o imagen, necesitan ser anunciadas con un nivel de responsabilidad que tenga en cuenta el potencial de daño que estas funcionalidades pueden causar, especialmente cuando el contenido publicitario sugiere usos que implican la violación de la privacidad y la dignidad de otras personas.
¿Qué significa este caso para el futuro de la publicidad de IA?
El episodio que involucra al PixVideo AI Video Maker no es un caso aislado, pero destaca porque toca dos puntos que están cada vez más en el centro de las discusiones sobre inteligencia artificial: consentimiento y representación. A medida que las herramientas de IA se vuelven más accesibles y poderosas, la capacidad de manipular imágenes y videos de personas reales se expande de forma significativa. Esto crea un entorno donde la publicidad de estas herramientas necesita ser monitoreada con mucha más atención, porque el potencial de daño es proporcional a la facilidad de uso que los propios anuncios prometen.
El papel del regulador en este escenario es fundamental. La ASA demostró con esta decisión que está dispuesta a actuar con rapidez cuando el contenido publicitario cruza líneas relacionadas con la dignidad, el consentimiento y los estereotipos de género, incluso cuando el producto en cuestión es una tecnología emergente. Este tipo de postura regulatoria es importante para crear un entorno donde las empresas que desarrollan y comercializan herramientas de edición por IA y otras soluciones basadas en inteligencia artificial entiendan que las mismas reglas éticas que se aplican a cualquier otra forma de comunicación comercial también valen para ellas. Sin esa claridad, el riesgo es que el argumento de la innovación tecnológica sea usado como escudo para campañas que causan daño real.
Para quienes siguen de cerca el sector de la tecnología y la inteligencia artificial, este caso sirve como un recordatorio importante de que la conversación sobre ética en IA no ocurre solamente a nivel del desarrollo de modelos o de políticas de uso. También ocurre a nivel de la comunicación, del marketing y de la forma en que estas herramientas se presentan al público general. Los anuncios moldean percepciones, y las percepciones moldean comportamientos. Cuando la publicidad de una aplicación de edición por IA sugiere que quitar la ropa de alguien sin consentimiento es un recurso divertido y accesible, está contribuyendo a una cultura que normaliza ese tipo de violación. Y es exactamente ahí donde el trabajo del regulador se vuelve esencial para establecer límites claros. 💡
La expectativa ahora es que este precedente británico sirva de referencia para otros organismos reguladores alrededor del mundo. Con la inteligencia artificial avanzando a un ritmo acelerado y las herramientas de edición volviéndose cada vez más sofisticadas, la presión sobre las empresas tecnológicas para comunicarse de forma ética y responsable solo tiende a aumentar. Y, como quedó claro en este caso, la intención detrás del anuncio importa mucho menos que el mensaje que efectivamente transmite al público.
