Métodos para identificar al creador y eliminar videos en caso de ser víctima de 'Deepfake

En el año 2020 (Reiwa 2), hubo noticias de una persona que fue arrestada por difamación y violación de la Ley de Derechos de Autor japonesa (Ley Japonesa de Derechos de Autor) por publicar videos en Twitter y sitios de pago en los que se reemplazaba la cara de los actores de videos para adultos por la de celebridades populares. A este tipo de videos se les llama “Deepfakes”.

Se dice que la tecnología que sirve de base para los Deepfakes fue originalmente desarrollada en la Universidad de Stanford en los Estados Unidos, pero en los últimos años, ha habido un aumento en los casos en Japón donde celebridades y personas famosas son víctimas de videos Deepfake.

Por lo tanto, en este artículo, para las agencias de talentos y celebridades que han sido víctimas de Deepfakes, explicaremos cómo identificar a los autores de los videos que han sido subidos a sitios de videos sin permiso y el proceso para eliminar estos videos.

¿Qué es Deepfake?

Deepfake es un nuevo riesgo que ha comenzado a ser problemático recientemente. Primero, explicaremos qué es Deepfake y qué tipo de daño se teme.

Deepfake es una tecnología que utiliza la IA

Deepfake es una palabra creada a partir de “deep” que se refiere al aprendizaje profundo (deep learning) por inteligencia artificial (IA) y “fake” que significa falso. En otras palabras, un video falso creado intencionalmente utilizando la tecnología de aprendizaje profundo se llama Deepfake.

En la tecnología Deepfake, si preparas cientos o miles de imágenes de la persona objetivo, el algoritmo analiza y aprende las expresiones y características faciales de la persona objetivo a través del aprendizaje profundo.

Basándose en este aprendizaje, es posible cambiar un video en el que aparece otra persona por un video que parece haber sido hecho por la persona objetivo. No solo las imágenes, sino también los acentos e inflexiones de la voz se pueden crear de la misma manera a través del aprendizaje profundo.

En el pasado, incluso si se creaban imágenes y videos sintéticos, la precisión era tan baja que era obvio que eran sintéticos. Sin embargo, gracias al avance de la tecnología de la información en los últimos años, Deepfake ahora puede ser creado con una precisión que podría confundirse con un video real de la persona.

Por lo tanto, existe el riesgo de que las personas que ven el video puedan confundirse y pensar que la persona en el video realmente dijo y actuó como se muestra en el video.

Daño causado por Deepfake

No es que la tecnología Deepfake en sí sea mala. Sin embargo, con Deepfake, es posible disfrazar acciones y declaraciones que la persona objetivo no ha hecho realmente como si existieran.

Por lo tanto, si alguien con malas intenciones utiliza Deepfake, como en el caso de los arrestos recientes, es posible crear videos para adultos en los que celebridades y personas famosas no han participado realmente.

Además, si se crea un Deepfake de una persona en una posición de influencia en la política y la economía, como un funcionario gubernamental, los medios engañados pueden difundirlo como noticias falsas, lo que podría llevar a la inestabilidad política y problemas diplomáticos. Por esta razón, se está comenzando a considerar un problema no solo en Japón sino en todo el mundo.

Criminalidad e ilegalidad de Deepfake

Esta vez, hubo el primer arresto relacionado con Deepfake. Según lo anunciado por la Policía Metropolitana de Tokio, el sospechoso publicó un video en sitios de pago y otros en el que la cara de una actriz de video para adultos fue reemplazada por la cara de una actriz. Según los informes, los cargos en el momento del arresto fueron los siguientes:

• Difamación contra la actriz
• Infracción de derechos de autor de la productora de videos para adultos

Difamación

En este caso, el video fue publicado en lugares como Twitter y sitios de pago donde un número indeterminado o un gran número de personas pueden verlo.

Por lo tanto, se determinó que había difamado el honor de la víctima, una actriz, al dar la impresión a un número indeterminado de espectadores de que la actriz había aparecido en un video para adultos.

Infracción de derechos de autor

Además, los derechos de autor de los videos para adultos pertenecen a la productora de videos para adultos que los creó. Uno de los derechos de autor es el “derecho a mantener la integridad”, que es el derecho a no tener la obra modificada sin el consentimiento del titular de los derechos de autor.

En este caso, ya que el contenido del video fue modificado sin el permiso de la productora de videos para adultos, se puede decir que se violó el derecho de la productora a mantener la integridad.

Invasión de la privacidad y violación del derecho de imagen

Deepfake, que utiliza la cara de otra persona en un video sin permiso, normalmente constituye una violación del llamado derecho de imagen.

Además, la invasión de la privacidad, en términos simples, es “ilegal publicar asuntos privados de un individuo (independientemente de si son verdaderos o no) sin permiso”, y publicar asuntos sexuales de un individuo, incluso si son falsificados, normalmente constituye una invasión de la privacidad.

https://monolith.law/reputation/personal-information-and-privacy-violation[ja]

Sin embargo, la violación del derecho de imagen y la invasión de la privacidad son ilegales en términos civiles y pueden ser la base para identificar al autor de la publicación, eliminar el video y reclamar daños y perjuicios al delincuente, pero no son “delitos”. Por lo tanto, simplemente alegar este tipo de daño no puede instar a la policía a investigar.

La ley no ha seguido el ritmo del desarrollo tecnológico

Por supuesto, no todos los Deepfakes se convierten en delitos por difamación o infracción de derechos de autor. Básicamente, la ley actual no asume que se pueden crear videos Deepfake sofisticados gracias al avance de la tecnología de IA. Por lo tanto, la realidad es que hay cosas que no se pueden considerar delitos bajo la ley actual.

Como en el caso del video que llevó al arresto esta vez, si el video se publica en un estado en el que un número indeterminado o un gran número de personas pueden verlo, y el contenido del video sintetizado es tal que generalmente degrada la imagen de la celebridad, puede ser considerado difamación.

Por lo tanto, en este momento, se espera que si una celebridad es víctima, a menudo se alegará que es difamación.

Identificación del creador de Deepfake

En caso de ser víctima, lo primero que se considera es la identificación del creador. Sin embargo, los deepfakes a menudo se negocian en un mundo cerrado, y no es raro que sea difícil rastrearlos.

Por lo tanto, explicaremos cómo se crea el mundo de los deepfakes y cómo identificar a los creadores de deepfakes.

La realidad de los creadores de Deepfake

En el caso del incidente que llevó a las detenciones esta vez, se podría decir que el daño salió a la luz porque se publicó en un lugar accesible para todos. Sin embargo, se dice que hay una gran demanda subterránea para los videos para adultos de celebridades famosas, y se cree que los arrestados esta vez son solo la punta del iceberg.

En el caso de muchos deepfakes, es posible que los fanáticos de las celebridades estén solicitando a los técnicos de deepfake que creen videos de su gusto (a menudo para adultos) en comunidades especiales inaccesibles desde el exterior.

En algunos casos, se paga la remuneración al técnico en criptomonedas para evitar ser rastreado, lo que puede dificultar la identificación del creador.

Métodos para identificar a los creadores de Deepfake

Aunque es difícil identificar al creador, si se publica en un sitio accesible para todos, como Twitter, es posible identificarlo. Se puede recibir la divulgación de la dirección IP en el momento de twittear el video de la compañía Twitter, y esto puede ser una pista para identificar al creador. Siguiendo el procedimiento correcto, si la identificación es exitosa, se puede conocer la dirección, el nombre y la dirección de correo electrónico.

El método de identificación del creador en este caso es básicamente el mismo que en casos donde se ha recibido difamación en Internet. En cuanto al procedimiento para identificar al autor de una publicación en Internet, se explica en detalle en el siguiente artículo.

Además, este procedimiento es civil, y se permite siempre que se cometan infracciones de derechos de imagen o privacidad, como se mencionó anteriormente, incluso si no es un “delito”.

https://monolith.law/reputation/disclosure-of-the-senders-information[ja]

Sin embargo, como se mencionó anteriormente, si el video deepfake se crea en una comunidad cerrada, puede ser difícil identificar al creador en la realidad.

Como una posibilidad, si el caso es considerado un delito, como en este incidente, puede ser posible identificar al creador de deepfake a través de una investigación policial al presentar una denuncia penal.

Eliminación de videos deepfake

Si el contenido de un video deepfake disminuye la imagen social de la víctima, es necesario eliminar el video sin falta.

Además, si el video se publica en Internet, se difundirá a medida que pase el tiempo desde su publicación. Por lo tanto, es deseable tomar medidas lo más pronto posible una vez que se detecta el daño.

Solicitud de eliminación al creador del deepfake

Si se puede identificar al creador mediante el procedimiento mencionado anteriormente, es posible solicitar directamente al creador que elimine el video.

Si el creador tiene una cuenta en Twitter, Instagram, etc., puede ser una opción ponerse en contacto con él utilizando la función de mensaje directo (DM).

Sin embargo, si la víctima se pone en contacto con el creador, existe el riesgo de que este elimine su cuenta y las pruebas y huya. Por lo tanto, es mejor solicitar la eliminación al creador después de guardar cualquier cosa que pueda ser evidencia del daño.

Solicitud de eliminación al administrador del sitio

Si no se puede identificar al creador de inmediato, o si se puede identificar pero se cree que no accederá a la eliminación, existe un método para solicitar la eliminación al administrador del sitio donde se publicó.

Por ejemplo, si se trata de Twitter o un foro famoso, la empresa operadora puede eliminar el contenido que viola los términos de uso que ha establecido.

Al solicitar la eliminación debido a una violación de los términos de uso, es importante verificar los términos de uso del servicio del sitio web donde se publica y especificar claramente qué cláusula de los términos de uso se viola.

Además, si el administrador del sitio web no accede a la eliminación, se puede solicitar la eliminación del artículo problemático mediante un procedimiento a través del tribunal, como una disposición provisional. Para obtener más detalles sobre la disposición provisional para eliminar publicaciones en Internet, consulte el siguiente artículo.

https://monolith.law/reputation/provisional-disposition[ja]

Resumen

En caso de que una celebridad o un talento sea víctima de un deepfake, es necesario que la agencia de entretenimiento recoja información rápidamente.

Además, si descubres un video que parece ser un deepfake, debes guardar el video y los datos relacionados que se encuentran en el sitio donde se publicó, así como la forma en que se publicó, utilizando fotos, grabaciones, capturas de pantalla, etc., y considerar inmediatamente cómo manejarlo.

En cuanto a las medidas legales posteriores, es probable que necesites consultar a un abogado, ya que necesitarás llevar a cabo procedimientos ante los tribunales y la policía. En ese caso, se recomienda consultar a un abogado que esté familiarizado con la estructura de Internet y la tecnología de la información.