为了把 Deepfake 关进笼子各大公司都拼了
2022-06-02 12:41:10
因为受众平凡，市道上有不少现成的 deepfake 算法，供用户操纵，如 DeepFaceLab (DFL) 和 FaceSwap。而且，因为深度进修工夫的普及，也有少许低本钱以至免费的正在线东西，能够熬炼这些算法，从而让好事之徒抵达其目标。
常用的东西之一便是谷歌的 Colab，一个免费的托管式 Jupyter 条记本任事。容易来说，用户能够正在 Colab 的网页界面上运转庞大的代码，“白用l”谷歌的 GPU 集群，从而熬炼那些依赖高功能硬件的深度进修项目。
chervonij 还暗示，他比来考试用 Colab 运转自身的代码的功夫，碰到了如下的提示：
“您正正在推广被禁止的代码，这将有不妨影响您正在另日操纵 Colab 的才气。请查阅FAQ页面下特意列出的禁止行径。”
然而这个弹出提示只是做出警备，并没有齐全禁止，用户还是能够络续推广代码 (continue anyway)。
有效户展现，这回谷歌的手脚该当是苛重针对 DFL 算法的，商酌到 DFL 是目前汇集上 deepfake 行径最常采用的算法。与此同时，另一个没那么时兴，的 deepfake 算法 FaceSwap 就比拟光荣，还是能够正在 Colab 上运转且不会弹出提示。
FaceSwap 联络开荒者 Matt Tora 继承 Unite.ai 采访时暗示，自身并不以为谷歌此举是出于品德目标：
“Colab 是一个方向 AI 熏陶和探索对象的东西。用它来实行范围化的 deepfake 项目标熬炼，和 Colab 的初志南辕北辙。”
他还填充暗示，自身的 FaceSwap 项目标首要目标便是通过 deepfake 来熏陶用户合于 AI 和深度进修模子的运转道理，言外之意不妨这才是 FaceSwap 没有被 Colab 针对的情由。
Colab 另日是否将会齐全禁止 deepfake 类项目标推广？看待不听劝的用户会有奈何的惩处？目前谷歌并未对此次窜改作出回应，这些题目也眼前没有谜底。
只是咱们能够确定的是，谷歌断定是不心愿 Colab 如许一个出于公益目标，供给免费熬炼资源的平台，被 deepfake 开荒者滥用。
Google Research 将 Colab 免费怒放给广泛用户，目标是低落深度进修熬炼的硬件本钱门槛，以至让简直没有编程常识布景的用户也能轻松上手——也即所谓的 AI 普及化 (democratization of AI)。
因为区块链行业的发作增进，以及疫情的次生影响，当今环球芯片（迥殊是 GPU） 很大水准上还是处于断供状况。于是假如是为了勤俭资源而禁用 Colab 运转 deepfake 项目，确实能够分析。
只是除了 deepfake 之外，Colab 禁止的其它行径当中也确实网罗公众认知的恶意行径，例如运转黑客攻击、暴力破解暗号等。
正在过去相当长一段时分里，看待初初学和中等程度的 deepfake 视频创作家来说，思要完成日常可继承画质（480p或720p以上）的内容输出，自身却没有足够的硬件装备的话，那么 Colab 简直是独一确实切采用。
结果 Colab 界面容易，上手轻松，熬炼功能抵达能够继承的程度，并且还免费，没有情由无须。前面提到的少许 deepfake 算法项目也都针对 Colab 供给了代码扶助。
要磋商 deepfake，很难避开讯息换脸视频和成人换脸内容。硅星人展现，DFL 主项目页面直接把讯息视频换脸行动苛重操纵场景之一，而且页面中劝导的少许用户社群也都默许明星或小我复仇式 (revenge porn) 的换脸成人内容，使得此类内容豪爽存正在。
现而今谷歌决议禁止 deepfake 类项目正在 Colab 上运转，势必将对小我的 deepfake 内容创制变成不小的冲击。
由于这意味着那些低级和中级 deepfake 创制家将失落一个最首要的免费东西，让他们络续创制此类内容的本钱明显抬高。
只是据规模内少许黑幕人士暗示，那些最顶级的，将 deepfake 看成一高足意的专业创制家，依然根本完成了齐全“自决坐褥”。
这群人通过犯科出卖及会员募捐等方法，赚到了不少钱，能够投资特别高级的摆设。现正在他们能够创制辞别率、大白度和脸部还原度更高的 deepfake 视频，从而无须依赖 Colab 以及云筹划等正在线任事，就能完成平稳坐褥和营收。
举个例子：思要完成2k以至4k辞别率和60fps的帧率，而且单片单次衬着用时正在能够继承的领域（例如几天）的话，必要一个强大的衬着农场，起码10台电脑，每台两张扶助 SLI 工夫的英伟达 RTX 高端显卡，以及上百GB的内存。如许下来仅单台的置办本钱就依然相当高了，更别提还要算上运转时的电费（衬着、冷却等），能够说是一笔相当大的投资。
很缺憾，看待这群人来说，谷歌的新计谋对他们齐全起不到功用。惟有全社会对 deepfake 带来的负面影响晋升珍爱，全数科技行业都手脚起来，deepfake 的滥用题目才具获得治理。
这确实不是谷歌第一次出头冲击 deepfake 内容创制了。正在2019年，Google Research 就楬橥过一个大型视频数据集。其背后是谷歌正在自身内部通过创制 deepfake 视频的方法，从而试图相识合连算法的就业道理。
看待谷歌来说，它必要抬高识别 deepfake 的才气，从而正在贸易化产物处境里（最典范的便是 YouTube 用户视频上传），从源流上堵截恶意换脸视频的散播途径。以及，第三方公司也能够操纵谷歌怒放的这个数据集来熬炼 deepfake 探测器。
只是，近几年 Google Research 确实没有花太众心理正在冲击 deepfake 上。反而，该公司比来推出的 Imagen，一个超高拟真度的文字天生图片模子，成效额外惊人，反倒是激发了少许指斥。
微软探索院正在2020年配合推出了一项 deepfake 探测工夫，名为 Microsoft Video Authenticator。它可以检测画面中的衬着畛域当中灰阶数值的不寻常转化，对视频内容实行逐帧及时认识，而且天生置信度分数 (confidence score)。
微软也正在和网罗纽时、BBC、加拿大播送公司等顶级媒体互助，正在讯息行业的场景下对 Video Authenticator 的才气实行检测。
与此同时，微软也正在 Azure 云筹划平台中列入了媒体内容元数据 (metadata) 校验的工夫。通过这一方法，那些被窜改过的视频内容能够和原视频的实行元数据比对——和下载文献的功夫比对 MD5 值差不众道理。
然而这个计谋推广得并不彻底。例如，目前正在 Instagram 上还能够时时睹到阿谁出名的中邦翻版马斯克 deepfake 视频（苛重是从 TikTok 上转发过来的）。
老手业层面，Meta、亚马逊 AWS、微软、MIT、UC伯克利、牛津大学等公司和机构正在2019年配合倡议了一个 deepfake 检测挑衅赛，唆使更众、更优异、更与时俱进的检测工夫。
2020年 Twitter 封杀了一批时时宣告 deepfake 视频的账号。只是看待其它 deepfake 内容，Twitter 并没有齐全局部，而是会打上一个标签“被窜改的内容”(manipulated media)，而且供给第三方底细核查机构的检测结果。
OARO MEDIA：西班牙公司，供给一套对内容实行众样化数字署名的东西，从而裁汰deepfake 等被窜改过的内容散播对客户变成的负面影响。
Quantum+Integrity：瑞士公司，供给一套基于 API 的 SaaS 任事，能够实行各式基于图像类的检测，才气网罗视频集会及时 deepfake、截屏或图片“套娃”、失实身份证件等。
中邦：2020年印发的《法治社会设备践诺概要（2020 - 2025年）》进一步央浼，对深度伪制等新工夫行使，订定和完美样板处置法子。
美邦：2019年正式签订生效的2020财年邦防接受法当中包罗了和 deepfake 合连的条则，苛重是央浼政府向立法机构转达涉及跨邦、有机合、带有政事目标的 deepfake 失实讯息行径。
加州、纽约州和伊利诺伊州都有自身的 deepfake 合连国法，苛重目标是维持 deepfake 受害者的权力。
欧盟：GDPR、欧盟人工智能框架修议、版权维持框架、失实讯息针对计谋等高级别国法文献，都对不妨和 deepfake 相合的工作完成了交叉笼盖。只是，全数区域级别目前并没有特意针对 deepfake 的国法和计谋。
正在成员邦级别上，荷兰立法机构正在2020年也曾央浼政府订定冲击 deepfake 成人视频的计谋，以及暗示商酌酌将合连题目写入该邦刑法。返回搜狐，查看更众