El auge de los deepfakes: Huawei, Alibaba y más buscan aprobaciones de la CAC

Los gigantes tecnológicos chinos Huawei y Alibaba se encuentran entre muchas marcas tecnológicas chinas que buscan aprobaciones de deepfake. Han solicitado su aprobación al regulador del ciberespacio de China, la Administración del Ciberespacio de China. Según Reuters, la CAC ha recibido alrededor de 110 solicitudes para productos que pueden producir deepfakes. La CAC estableció reglas en diciembre de 2022 que rigen el uso de tecnología deepfake . Estas marcas están buscando aprobaciones para cumplir con estas reglas.

¿Qué son los deepfakes?

Los deepfakes son un tipo de medio sintético que utiliza inteligencia artificial para crear engaños convincentes. Pueden tener la forma de imágenes, audio o vídeos falsos. Se crean mediante el uso de aprendizaje profundo, un tipo avanzado de aprendizaje automático. Los deepfakes se crean mediante el uso de un tipo especial de estructura de red neuronal llamada codificador automático. Se compone de dos partes: un codificador y un decodificador. Además, el codificador comprime la imagen, el audio o el vídeo original en una representación más pequeña. Sin embargo, el decodificador intenta recrear el original a partir de la versión comprimida.

Los deepfakes se pueden utilizar para diversos fines, incluido el arte, el entretenimiento y la propaganda política. Sin embargo, también pueden plantear enormes peligros, incluidos chantajes, daños a la reputación y situaciones jurídicas comprometidas. Generalmente son legales y es poco lo que las fuerzas del orden pueden hacer al respecto, a pesar de las graves amenazas que representan. Sólo son ilegales si violan leyes existentes como la pornografía infantil, la difamación o el discurso de odio.

La falta de leyes contra los deepfakes se debe a que la mayoría de la gente desconoce la nueva tecnología, sus usos y sus peligros. Las víctimas no obtienen protección legal en la mayoría de los casos de deepfakes. Los deepfakes pueden realizarse con fines nefastos, como engañar al público difundiendo noticias falsas.

¿Por qué Huawei y Alibaba buscan aprobaciones deepfake?

Huawei y Alibaba se encuentran entre las marcas que buscan aprobaciones de deepfake para cumplir con las reglas establecidas por la CAC. Estas reglas requieren que las marcas obtengan aprobación antes de utilizar tecnología deepfake. Las leyes establecen que estas marcas deben marcar claramente cualquier contenido de su deep fake como tal. El incumplimiento de estas reglas puede resultar en multas y otras sanciones.

Además de Huawei y Alibaba, varias otras empresas tecnológicas chinas también han solicitado a la CAC la creación de tecnología deepfake. Estos incluyen Tencent, Baidu y ByteDance. Estas marcas buscan desarrollar tecnología deepfake para diversos fines. Estos incluyen entretenimiento, publicidad y educación. Aquí hay algunas otras razones por las que estas empresas necesitan la aprobación de la CAC

Razones

1. Si estas marcas no cuentan con la aprobación de la CAC, probablemente serán objeto de una investigación seria. La investigación podría terminar en una prohibición o una gran sanción, como lo establecen las leyes de la CAC. Por ello, para evitarlo, estas marcas buscan aprobaciones antes de desarrollar la tecnología.
2. Empresas como Huawei, Alibaba, Baidu Inc, SenseTime Group y otras marcas están tratando de mejorar su tecnología de deepfake. Ésta es otra razón por la que necesitan la aprobación. Será inútil desarrollar una tecnología enorme y no poder lanzarla al público. Por ello, estas marcas quieren asegurarse de que su innovación pueda llegar al mercado. De ahí la necesidad de aprobación antes de seguir desarrollando la tecnología.
3. La tecnología Deepfake se puede utilizar para crear contenido de marketing realista y atractivo. Por ejemplo, Alibaba utilizó tecnología deepfake para crear un influencer virtual llamado Xiaobao. Al buscar aprobaciones de deepfake, marcas como Alibaba pueden estar buscando expandir el uso de esta tecnología en marketing.
4. La tecnología Deepfake también se puede utilizar para crear efectos especiales realistas en películas y programas de televisión. Al buscar aprobaciones de deepfake, marcas como Huawei pueden querer utilizar esta tecnología en sus productos de entretenimiento.
5. La tecnología Deepfake se puede utilizar para crear simulaciones realistas para capacitación y pruebas de seguridad. Al buscar aprobaciones de deepfake, es posible que empresas como Huawei quieran utilizar esta tecnología en sus productos de seguridad.