西班牙网红兼模特Laura Escanes不久前发现，虚拟的网络世界对她来说并不友好，除了各路“喷子”外，高科技也令她“防不胜防”——

Lo más serio tiene que ver con el uso y abuso de la Inteligencia Artificial (IA). Dice en su twitter:  "Me ha llegado un link donde hay fotos mías desnuda, editadas y creadas por IA. Aparte de sentirme totalmente utilizada y expuesta, hay algo que hace que me hierva la sangre. El cuerpo de una mujer no se utiliza. Ni para el placer, ni para abusar, ni para manipular. Me repugna la persona que las haya creado, pero también los que están ahí y les parece divertido y callan”.
最严重的困扰与人工智能（AI）的使用和滥用有关。她在推特上说：“我收到了一个链接，里面有我的裸照，是由人工智能编辑和创建的。除了感觉自己完全被当做物品使用并暴露在人们面前之外，还有一件事让我愤怒。女人的身体不是用来被物化的，不是用来被取乐的，也不是被虐待的，更不能被滥用。我厌恶制作假裸照的人，也厌恶那些明明看到这一切却觉得这很有趣，并保持沉默的人。”

(图源：Instagram@lauraescanes)

La tecnología aplicada al porno. La proliferación de herramientas de Inteligencia Artificial de todo tipo en los últimos años ha hecho que aparezcan también plataformas que permiten generar vídeos o imágenes falsas de carácter pornográfico. La tecnología que lo permite es conocida como deepfake.
这种高新技术却被应用于色情产业。近年来，各种人工智能工具的激增也导致了生成虚假视频或色情图像的平台的出现。 实现这一点的技术被称为“Deepfake”。

 


(图源：Twitter/X@lauraescanes)

这引发了人们的思考——人工智能技术是否存在法律漏洞？ 我们该如何抵御Deepfake带来的伤害？尽管欧洲议会已通过了世界上第一部人工智能法律，尽管最知名的平台具有禁止NSFW（“Not suitable for work”不适合工作）内容的过滤器，但仍有一些平台允许此类虚假照片和视频的生成。

Ahora, la SER ha podido comprobar cómo este fenómeno está llegando con fuerza a España. En las tres páginas web especializadas con más material, al menos 32 famosos españoles -la inmensa mayoría, mujeres- ponen su cara, sin saberlo, a vídeos eróticos o, directamente, pornográficos.
现在，西班牙媒体Cadena SER已经能够核实这种现象是如何在国内横行霸道的。在三个此类合成内容最多的网站上，至少有32位著名的西班牙人（其中绝大多数是女性）在不知不觉中将自己的面部暴露在淫秽或色情视频中。


（图源：）

En los últimos meses, algunos han levantado la voz al localizar contenido pornográfico deepfake con su imagen. Es el caso del actor Manu Ríos o la influencer Laura Escanes. Pero hay muchos más.
近几个月来，一些人甚至通过将深度伪造的色情内容与受害者声音结合起来，让后者发出了逼真的拟人声音。演员Manu Ríos或网红Laura Escanes遇到的就是这种情况，但还存在着更恶劣的情形。

(图源：Instagram@manurios)

Desde actrices como Ana de Armas, Elsa Pataky, Penélope Cruz, Anna Castillo, Blanca Suárez o Ester Expósito hasta cantantes como Chanel, Edurne o Rosalía; pasando por políticas como Inés Arrimadas, presentadoras como Patricia Conde o Paula Prendes e influencers y youtubers como Biyin o AuronPlay. Todos ellos han sido víctimas de porno deepfake, según ha podido comprobar la Cadena SER.
从Ana de Armas、Elsa Pataky、Penélope Cruz、Anna Castillo、Blanca Suárez及Ester Expósito等女演员，到Chanel、Edurne和Rosalía等歌手，再到Inés Arrimadas等政客、Patricia Conde和Paula Prendes等主持人以及Biyin或AuronPlay等网红， Cadena SER已经证实，他们所有人几乎都是深度伪造的色情内容的受害者。

 

(图源：Instagram@)

这一没有下限的行为不但影响了名人，普通人带来了困扰——“这是一种野蛮行为”，受害者之一的母亲Miriam Al Adib是这样控诉的。目前已有大约二十名母亲向国家警察报告称，她们未成年女儿的照片在社交网络上流传。 用人工智能制作的假图像看起来与裸照无异。

Parece todo tan real. "Es tan realista que lo primero que he pensado al verlo ha sido 'qué has hecho'", explica una de las madres que han denunciado la situación. Con los avances en inteligencia artificial es muy sencillo generar estas imágenes de forma realista, lo que no quita que sea un grave ataque contra la intimidad de estas menores.
这一切看起来都是那么真实。 “这太真了，当我看到它时，我想到的第一件事就是‘你做了什么’，”另一位报告了这一情况的母亲解释道。随着人工智能的进步，人们很容易以逼真的方式制作这些图像，尽管是伪造的，这仍然是对这些未成年女孩隐私的严重侵害。

 

(图源：)

Según explica Borja Adsuara, profesor y abogado en Derecho Digital: "en España los delitos nunca se regulan por la tecnología, sino lo que se hace con ella, en base a la intención con que se hacen y el resultado". Es decir, no importa si las imágenes son generadas por IA, por Photoshop o por cualquier otro método. Lo que deriva en un delito es el uso que se hace y el resultado.
数字法教授兼律师Borja Adsuara表示，“在西班牙，犯罪从来不受限于用了什么科技，而是根据犯罪行为的意图和结果来判断犯罪行为。” 也就是说，这些图像是由AI、Photoshop还是任何其他方法生成的并不重要。 导致犯罪的因素是所进行的使用和结果。

El actual Código Penal castiga estas prácticas del "uso indebido" de los datos personales y sin consentimiento de la imagen de una persona. Pudiendo castigarse, según expone el artículo 173, con penas de seis meses a dos años a quien inflija a otro un trato degradante, menoscabando gravemente su integridad moral.
现行刑法对这些未经个人同意而“不当使用”个人数据的行为进行惩罚。任何人对他人实施有辱人格的行为，严重损害他人的道德操守的，都可以按照第173条的规定受到处罚，处六个月至两年的刑期。


(图源：)

"En cuanto a los posibles delitos cometido, pueden ser varios: además de contra la integridad moral, también puede ser un delito de pseudo-pornografía infantil (art. 189.1 CP) que está penado con hasta 9 años de cárcel, si las víctimas son menores de 16 años. La cuestión es que, como los autores son menores de edad, aunque mayores de 14 años, no ingresarían en la cárcel, sino en un Centro de Menores", apunta Adsuara.
“至于可能犯下的罪行，可以有多种：除了危害道德诚信之外，还可能造成伪儿童色情犯罪（《刑法典》第 189.1 条），可判处最高9年监禁——如果“受害者是16岁以下的未成年人。但关键是，由于肇事者是未成年人，尽管已经超过14岁，他们也不会去监狱，而是去青少年管教中心”，Adsuara特别指出了这一点。

科技是一把双刃剑，看来在人工智能使用和法律法规上，人类还是任重道远啊!

 

声明：双语文章中，中文翻译仅代表译者个人观点，仅供参考。如有不妥之处，欢迎指正。未经允许，请勿转载。