“深度造假”是一种基于人工智能(AI)的网络犯罪，在印度总理纳伦德拉·莫迪和包括卡特里娜·凯夫、拉什米卡·曼丹娜和卡约尔在内的演员成为“深度造假”的牺牲品后，这种网络犯罪已经成为最新的流行语。北方邦网络警察现在计划开通一条专门的帮助热线来报告案件，并开发一种工具来确保被发现。
什么是深度造假?
国家网络安全专家拉克希特·坦登博士解释说，深度造假是一种网络犯罪，利用多种人工智能技术工具复制某人的身份，传播虚假信息。它可以是使用人工智能技术制作的图像、视频或音频。它需要对原始照片或视频进行编辑，以制作看似真实但实际上并非真实的内容。‘深度造假’这个词是对人工智能工具、编辑和造假的‘深度’了解的结合。”
这位网络专家表示，深度造假主要用于制作视频、音频或图像，在这些过程中，受害者的脸被巧妙地交换了。在深度假语音克隆的情况下，网络犯罪分子利用基于人工智能的技术来模仿一个人的声音，给他们的亲人打电话寻求金钱帮助。
当莫迪总理成为牺牲品时
在莫迪总理成为deepfake的牺牲品后，deepfake席卷了整个国家。
2023年11月17日，印度总理纳伦德拉·莫迪表达了他对滥用人工智能制造深度假货的深切担忧。
“我看了一段深度模仿garba的视频。但现实是，我没有做garba后，我的学校生活。有人制作了我的深度假视频。”莫迪总理在德里举行的印度人民党排灯节米兰活动上向媒体发表讲话时说道。
首相表示，深度造假可能是“新的危机”，因为社会的很大一部分没有平行的验证系统。
卡特里娜·凯夫，拉什米卡·曼丹娜和卡约尔
卡约尔在镜头前换衣服的深度造假视频于11月17日浮出水面。在曼丹娜的案件中，视频显示一名身穿黑色服装的女子进入电梯。然而，她的脸变成了一个深度假视频中的演员的脸。《虎3》中凯夫的动作戏在她的深度模仿中有所改变。
MEITY咨询
在曼丹娜的深度造假走红一天后，电子和信息技术部(MeitY)向包括Facebook、Instagram和YouTube在内的社交媒体平台发布了一项建议，要求它们在24小时内删除通过人工智能生成的误导性内容。该通知重申了平台作为网络中介必须遵守的现有法律规定。它提到了《信息技术法》第66D条，该条款规定对使用计算机资源进行冒充作弊的人处以最高3年监禁和最高10万卢比的罚款。
上升趋势
2022年3月至2023年3月期间，北方邦发生了13155起网络犯罪案件。来自网络警察的消息称，相当一部分属于深度伪造类别。
“最近，涉及深度造假的网络犯罪案件突然激增。基于人工智能的语音克隆、深度假视频(使用人工智能工具制作的视频)或变形图像的趋势正在上升，”北方邦警方网络犯罪部门警司特里韦尼·辛格说。
向上的方向
消息人士称，北方邦大约在一年前目睹了第一起案件，网络罪犯制作了深度伪造的图像。“最初，它仅限于图像，但最近，深度伪造视频和音频的案件有所增加，”SP网络犯罪部门表示。“网络犯罪分子正在广泛使用人工智能(AI)生成的语音克隆或‘语音深度伪造’来冒充受害者认识的人的声音来骗取钱财。这可能是家人、好朋友或办公室同事要求将资金转入他们账户的声音。”
政府的计划
北方邦首席部长Yogi Adityanath宣布在该邦建立57个专门的网络警察局，以打击网络犯罪。
“近年来，由于科技的滥用，犯罪的性质发生了变化。与客户服务、养老金、电费、在家工作、性勒索、贷款应用、包裹、加盟商、虚假博彩应用、加密投资欺诈等相关的各种网络欺诈已经浮出水面。普通人正成为这种情况的直接受害者。为了避免这种情况，我们必须在各个层面保持警惕，”北方邦首席部长在一份新闻稿中说。
专门解决深度造假的热线电话
北方邦政府准备开通一条专门的帮助热线来解决深度造假问题。此外，北方邦网络警察也在研究用于识别深度假货的工具。“我们已经在研究可用于识别深度伪造的工具。我们还计划在常规求助热线(1930)之外开通一条专门的求助热线，以解决深度假冒案件。人们也可以通过现有的帮助热线举报此事，”SP网络警察说。
