近日，青岛保时捷销售中心的牟女士自称，近期发现由AI恶意合成的虚假不雅视频，对其进行诽谤和侮辱。10月11日，青岛市李沧区虎山路派出所工作人员确认，牟女士已在虎山路派出所报警。南都N视频此前调查发现，深度伪造及类似的合成技术的滥用已催生了一批黑灰产。
南都此前报道。
南都此前报道，2024年1月，贵阳市花溪区一女子在某短视频平台直播带货的照片，被人截图后将上半身换成裸照，在网络传播。
经调查，家住广西玉林市的谢某，将该主播的直播截图上传到一款AI绘图软件，使用局部改图功能合成了该主播上身赤裸的照片，又将合成的裸照打上马赛克之后转发到微信群内北京科汇配资，照片被多人转发。随后，谢某被警方抓获并被处以行政拘留处罚。
南都记者搜索网购平台发现，仍有少量“AI换衣”“AI换脸”类工具售卖，只是搜索路径更为隐蔽。一些店铺隐晦地将“去衣”表述为“去一”等同音字。
南都记者点击进入一个仅售1.9元的AI工具的链接，发现虽未写明“换脸”，但有“换服装”“一键完成照片视频处理”等字样。在客服发来的收货内容中，既有“去一”也有“换lian”。
另一家销售“一键换衣软件”的网店内，有两款价格不同、但介绍相似的AI换衣工具，分别售价8元、15元左右。
对此，客服解释称，便宜的工具是“换”衣，贵一点的工具是“去yi”。还有一家网店用名称“上半升趣一”暗示工具功能。
对此，中国计算机学会计算机安全专业委员会数字经济与安全工作组成员方宇告诉南都记者，“AI换脸、换衣技术已经相当成熟，如深度伪造，可以生成逼真的视频、图片。”他介绍，这些技术也被不法分子用于造谣，甚至进行诈骗等。
从技术上来看，可通过一些专业的检测手段进行真伪分析，一些常见的辨别方法包括检查图像或视频中的不一致性，如异常的光影效果、物体的不自然变形等。专业软件和工具也可以通过分析图像的元数据和像素模式来检测伪造。
同时，方宇指出北京科汇配资，如今AI技术进步很快，这些检测方法也无法给出绝对的结论，只能作为参考。“但监管机构和平台也正采取措施提高公众的识别能力。”方宇表示。
蚂蚁配资提示：文章来自网络，不代表本站观点。
