韩娱公司，正在反击 AI 造孽。
上周，韩国文娱公司 HYBE 晓谕，将与京畿北谈探员局合作，共同打击以 HYBE 艺东谈主为对象的深度伪造内容。
HYBE 与 NGPPA 签署了一份条约，明确了合作细节，包括加速磋商案件的观测进度，并在韩国树立举报热线，浅陋公众呈报磋商犯罪戾动。同期，HYBE 也晓谕加强对深度伪造内容的监控和处理，尤其是在色情内容方面，将颠倒树立反应机制，尽快剿袭行动。
旧年 9 月，韩国文娱公司 JYP、YG 和 Cube 也向使用其 K-pop 艺东谈主图像创建的深度伪造视觉内容斗殴。YG 指出，包括 ( G ) I-dle、NewJeans、Twice、Kwon Eun-bi 和 BlackPink 等闻明 K-Pop 女子组合都是深度伪造内容的受害者中的冰山一角。
频年来，深度伪造内容泛滥已成为全球柔和的焦点，尤其是针对文娱行业的坏心报复。那么，为什么深度伪造时间会蚁集盯上 K-Pop 圈？背后遁入着奈何的坏心旨？
困在 AI 色情视频里的女明星
深度伪造是一种东谈主工智能时间，依赖深度学习时间，尤其是生成起义收集，来生成或改变图像和视频。其中，GAN 由生成器和判别器构成，通过两者贬抑地起义和博弈，生成器安靖学会生成愈加传神的伪善内容，直到能够以伪乱真。
借助深度伪造，不错把一个东谈主的脸、声息、四肢换到另一个视频或图片上，让它看起来像是信得过发生的事情，比如让某东谈主"说"他从未说过的话，或者"作念"他从未作念过的事情。
而在韩国文娱行业，好多女明星的形象被作歹分子用来制造孽搞、色情等无益内容，严重侵害了艺东谈主的秘籍和名誉。
好意思国收集安全公司 Home Security Heroes 的一份呈报自大，在互联网统共深度伪造视频中，简直 98% 是深度伪造色情视频，前 10 个颠倒用于深度伪造色情内容的网站上，视频总造访量越过 3 亿次，总瞻念看次数越过 3000 万。
呈报还指出，94% 的深度伪造色情内容都发生在文娱业，其中歌手、演员永别以 58%、33% 占据大头。在深度伪造的色情内容中，99% 的受害者是女性，仅 1% 为男性。
而在 10 个深度伪造色情网站和 85 个视频分享平台上的近 9.6 万个视频中，53% 的东谈主是韩国歌手和演员。
在外洋外交媒体 Reddit 上，有网友指出，当搜索" K-Pop "磋商的要道词时，跳出的热点 subreddit 简直都是 18 禁的话题，驳倒简直令东谈主作呕。
刻下，深度伪造的色情内容照旧膨胀到多样在线外交平台。其中，曾激勉韩国恶性集体性犯罪" N 号房事件"的阅后即焚 APP Telegram 便是重灾地，甚而有东谈主将其定名为"新 N 号房事件"。
旧年 8 月，韩国女性民友会发布一组呈报，指出在外交平台 Telegram 的聊天群组中，只需上传熟东谈主相片，付费后 5 秒钟内就能生成瞻念合成图。令东谈主畏缩的是，这个聊天群的参与东谈主数高达 22.7 万。
更恶心的是，一些深度伪造网站甚而列出了来自简直每一代 K-Pop 的 200 多名女性偶像的名字，包括多个第五代 K-Pop 团体的成员。
旧年，YG 旗下女团 BABYMONSTER 的粉丝群体在外交平台上发声，命令粉丝暂时放下饭圈纷争，共同保护女艺东谈主。他们强调，大家不管接济哪个团体，面前都应互助一致，强硬反对深度伪造色情内容的行动，今天的受害者是她们，来日可能便是其他东谈主。尤其是 BABYMONSTER 的 7 名成员中，有 4 东谈主仍是未成年东谈主，这足以讲解问题的严重性。
本年 1 月，韩国文娱公司 Starship 因职责主谈主员要紧空幻，官方微博转发了公司旗下 K-Pop 女子团体 IVE 成员张元英、安宥果然深度伪造内容。
尽管经纪公司、粉丝群体、网友都对深度伪造内容痛斥不已，纷繁敦促磋商部门飞快剿袭法律行动来保护受害者，并根究牵累东谈主，但深度伪造内容对女艺东谈主的伤害却难以王人备终止，它不仅是时间糜费的服从，更是长期以来数字空间中性别暴力与秘籍侵害问题的缩影。
面前，韩国政府和磋商机构在公论压力下，已加速立法进度，以更严厉的法律打击深度伪造色情内容的制作和传播。
深度伪造为何盯上 K-Pop 女明星？
不错说，时间的低门槛、艺东谈主的高曝光、社会对女性偶像的归天、法律的滞后，种种身分交汇，共同催生了这场韩娱生态中的"数字性侵"。
有报谈自大，在韩国，触及深度伪造的色情案件从 2022 年的 3725 起激增到 2023 年的 21019 起。
尽管左证《对于处罚性犯罪的颠倒案件法》，参与剪辑、合成或处理深度伪造色情内容的个东谈主将靠近最高五年的幽囚或 5000 万韩元的罚金，以牟利为方针传播此类内容的发布者最高可被判处 7 年幽囚。
关联词，在 2020 年至 2023 年韩国对深度伪造犯罪作念出的 71 项裁决中，只须 4 起案件仅因深度伪造犯罪而被判处幽囚。面前还莫得针对下载或瞻念看深度伪造色情内容的法律。
这意味着，现行法律只针对深度伪造色情内容的制作和传播者进行处罚，而瞻念看或捏有这些内容的东谈主却不受法律拘谨。这种法律间隙使得"瞻念众"不错毫无系念地浏览磋商内容，进一步生长了犯科商场的需求，也使受害者更难获取灵验的法律保护。
左证 Home Security Heroes 统计，10 大最常被深度伪造色情内容报复的数据统计中，大部分受害者都是韩国歌手，其中一位歌手的视频数目高达 1595 个，而另一位韩国歌手的深度伪造视频瞻念看量越过了 561 万。
2017 年，在一个名为 DeepFake 的 Reddit 用户出现，伪造出了一系列女性色情电影，自后，这个词的含义安靖扩大，不仅包括他制作的换脸视频，还指多样应用 AI 时间生成的合成内容。随后，开源器具如 DeepFaceLab 和 Faceswap 接踵发布，使得用户能够更容易地创建深度伪造内容。
当下，深度伪造内容不再是一个高门槛的时间挑战，简直任何东谈主都能简陋、高效地制作出传神的伪善内容。从操作难度来看，面前只需一台手机就足以制作出 AI 换脸内容，用户只需要提供素材并马虎调遣，时间本人就会完成大部单干作。
而 K-Pop 产业在全球鸿沟内的无为传播，尤其是韩国女歌手通过外交媒体与粉丝的概括互动，创造了极高的曝光度。这种高度可见性使得她们的形象成为了深度伪造内容的理思素材。
旧年 3 月，K-Pop 女子团体 ITZY 成员黄礼志在一次粉丝连线行动中，不测地看到了一段我方的深度伪造的跳舞视频。那时，黄礼志的神采昭彰有些难以不平，既精炼又有些困惑，只可窘态地师法起视频中的跳舞四肢。尽管这段视频名义上似乎并无坏心，但过后，好多东谈主默示，瞻念看这段视频让东谈主感到"胆颤心寒"。
如今，偶像的每一个四肢、每一个神采都可能成为被坏心应用的对象。任何东谈主只需借助时间妙技，就能应用公开的艺东谈主影像、物料，制作出极为传神的伪造视频。这些伪造的视频不仅可能被推向全球平台，也有可能被表示到深奥场面，给偶像带来无法预见的困扰和伤害。
另一方面，韩国社会对女性偶像的越过柔和和归天，加重了这种扰乱的宽敞性。
在传统的性别文化中，女性经常被视为视觉消费的对象，尤其是年青的女歌手，她们的形象和时势经常被放大、注视和评价，使得这些女明星成为了深度伪造内容的高频策划。对她们进行深度伪造不仅能够飞快诱导眼球，其社会影响力也使得这些内容具备了更高的传播价值。
况且，大多数瞻念看深度伪造色情的男性并不觉得这种行动有谈德问题。
以 Home Security Heroes 的 1522 名好意思国男性受访者为例，74% 的东谈主对深度伪造色情内容莫得症结感，其中"我知谈这不是真东谈主。""只是我个东谈主兴味，这不会伤害任何东谈主。""深度伪造色情只是更传神的性幻思。""深度伪造色情和平常色情莫得太大区别。"。
其背后的逻辑，他们或是受名东谈主诱导力驱使，或是"幻思快乐"，但愿获取更个性化、定制化的成东谈主文娱体验，却无视了基本谈德界限，抱着轻蔑女性尊荣的魄力，这让深度伪造色情在谈德和法律的空缺地带放肆泛滥，进一步加深了对女性艺东谈主的伤害与归天。
而对于经纪公司而言，磋商到影像的残留与公论的烙迹在互联网难以抹去，甚而可能成为二次收集暴力的导火索。大多时候莫得办法披露深度伪造色情案件的具体细节，这也让外界难以全面了解案件的严重性和受害者所履历的逆境。
由此可见，K-pop 女明星成为深度伪造内容的高危群体，其背后既有深度伪造时间的遁入性与低门槛，也折射出部分男性对女性的轻蔑。
不错说，K-pop 产业高度的全球曝光度与对偶像形象的极致塑造，使得女艺东谈主不仅是营业记号，更成为公众理想的投射对象。再加上法律体系在搪塞这一新兴问题时的滞后，让女性艺东谈主沦为收集上的玩偶，随时不错被任何东谈主放肆操控、诽谤，甚而纵脱身段地耗尽。
那时间成为"赛博照妖镜"
一个更恐怖的事实是，不仅在韩国，左证旧年 3 月英国《卫报》报谈，在欧洲 5 个造访量最大的深度伪造内容网站上，有近 4000 位明星被 AI 换脸成色情内容的主角，5 个网站三个月的浏览量就达到了 1 亿次。受害者包括女演员、电视明星、音乐家和 YouTube 网红。
旧年龄首，Taylor Swift 的深度伪造色情图片曾经在 X 上无为传播，在平台况且被累计浏览超 4700 万次。据磋商统计自大，那时全网已有越过 9500 个网站"颠倒制作非自觉亲密图像"。最终， X 一度禁闭了对斯威夫特的磋商搜索，以终止这些伪善内容的传播。
而国内，也出现了深度伪造的磋商案件，且受害者并不限于女明星，更有你我这么的平常东谈主。
2020 年，虞某一边通过传播换脸的淫秽视频来"吸粉引流"，同期通过出售" AI 换脸"软件和提供所谓" AI 换脸"的私东谈主定制管事，在不到半年的时刻里就赢利数万元。2023 年 11 月，杭州市萧山区东谈主民法院判决虞某犯制作、传播淫污物品牟利罪，判处有期徒刑七年三个月，并处罚金 6 万元。这亦然我国首例对于" AI 换脸"扰乱公民个东谈主信息公益诉讼案的审理判决。
国内在此类案件的处理中，该封号的封号，该处罚的处罚，但利益、理想似乎老是先于规定，而法律的步履却经常滞后于时间变革。面对时间糜费的新式挑战，"以时间起义时间"正成为进犯的搪塞政策。
比如，旧年推出的荣耀 Magic7 系列鼓励手机行业首个端侧 AI 反诈检测时间，可在手机端识别内容是否存在 AI 换脸的风险。该时间还获取了 2024 年中国收集安全立异创业大赛最具投资价值奖。
天然，平台的牵累也不应该只是是"一火羊补牢"，不然，规定再完善，也只是落伍于东谈主性流弊的一纸空文，既拦不住逐利的黑产，也保护不了受害者的尊荣。
外交平台上，依然有大都作歹分子在犯科网站上传不青娥艺东谈主的磋商深度伪造视频内容，一些来去平台的商家不外是换了张神态，便在规定的夹缝中不绝行云活水。
频年来，国内诚然在磋商立法方面磋商注这一议题，但已出台的顺序轨制还不具备可操作实在定和明确的处罚法式。在本年 3 月寰宇两会上，寰宇东谈主大代表，TCL 创举东谈主、董事长李东生也淡漠了对于加强 AI 深度伪造诓骗惩处的建议。
近几年，"时间无善恶，但却有鸿沟"近似的话术，简直成为每一篇对于时间糜费的报谈中的标语。但时间无法为谈德缺失填坑，每一帧都是施暴者的主动采选，不是算法自作意见。
那时间成为了一部分东谈主的"赛博照妖镜"云开体育，简略咱们更需要的不单是是更尖锐的监管刀刃，也需要一场全民的精神醒觉。数字世界的"不要脸"，实质是履行东谈主格的透顶溃烂。