你能分辨出哪些图片是AI生成的，还是真实拍摄的吗？在多个短视频平台上，一些内容发布者自称“相亲主播”，展示着风度翩翩的“相亲对象”。这些相亲对象真的能线下见面吗？看似真诚的相亲背后隐藏着什么猫腻？
网络直播间中滚动播放针对中老年女性的相亲内容，声称有同样相亲需求的大哥“条件安稳、有担当”，可以帮忙牵线搭桥。仔细观察会发现，这些所谓的主播说话时神态违和，表情僵硬，坐在他们身后的“大哥”频频机械地点头，整个画面看起来油画感很重。
记者使用国家反诈中心App的“AI内容鉴定”板块对这些直播内容进行识别，结果显示图像含AI生成痕迹。但这些直播间中仅标识了“剧情演绎，无不良引导”等字样，并未对AI内容进行明确标识。
记者打开一名主播的视频主页，发现他发布的视频大多为征婚内容。其中一条点赞量最多的视频达到了3.2万次。视频里采访话筒上写着“二次缘”的字样，用户昵称则标明“直接私信”，引导网友可以直接联系。尽管这条视频页面附带了一行“作者声明：含AI生成内容”的提示文字，评论区仍有不少真假难辨的留言在附和视频里的观点，并希望能结识视频中的这名男士。
按照视频里标注的“直接私信”指引，记者添加了主播的联系方式，对方很快发来了一位刘先生的基础信息，介绍刘先生年收入达到千万元级别，名下有房有车，希望能找一位适龄女性。记者把刘先生的照片进行了AI内容鉴定，结果也显示为“含AI生成痕迹”。当记者提出想要和刘先生进一步交流时，对方说必须先交一笔服务费才能进行匹配牵线。
记者在多个平台搜索“中老年相亲”关键词，发现类似的视频不在少数。记者又添加了另一名“红娘”主播的联系方式，对方发来的照片同样显示“含AI生成痕迹”。在记者表示有相亲意愿后，对方催促缴纳报名费，支付2000元即可安排和“赵大哥”联系。当记者提出照片含有AI生成痕迹时，对方却回复“照片是真实的，只是有美颜”“只要牵手成功了，肯定都会见面”。
根据人工智能生成合成内容标识办法，发布者和网络直播平台对直播间内具备误导风险的AI生成内容负有法定标识义务。在网络直播间中，不管是AI生成人像图片还是AI合成视频，只要该内容容易使公众将虚拟素材误认为真实自然人，就必须在画面合理位置设置显式标识。即便是真人主播出镜、背景滚动播放AI人像图片的混合直播模式，背景里用于塑造相亲人设、容易造成观众误判的AI素材也同样不能豁免标识义务。
使用AI生成的图片作为男嘉宾的真实照片展示，而网络直播间中并未明确标识AI生成字样的提示，这样极具误导性的内容在多家平台、多个网络直播间中存在。这些所谓的婚介公司专盯中老年女性，既没有深入了解询问者的相亲需求，也没有安排线下见面，只是一味地催促缴费。
不久前，四川成都警方侦破的一起案件揭露了其中的秘密。报案人卞女士在网络视频平台刷到一家婚介公司，在表明自己有相亲意愿后，一个账号昵称为“匹配中心王主任”的人给她发来了“李哥”的简介，上面详细介绍了“李哥”的个人情况并附有一张照片。卞女士先后缴纳了2000元相亲服务费，但“李哥”怎么都联系不上，屏幕那头的“王主任”也开始不回消息。
民警通过调查发现，与卞女士签约的公司并不存在，但在实地核查中发现了一家相似度非常高的公司。这家公司主营婚介业务，但现场并没有相亲人员也没有所谓的“红娘”，只有销售岗、剪辑岗和主播岗。在这些剪辑人员的电脑上，民警看到了报警人提供的婚恋男嘉宾的资料一模一样的AI形象。
种种异常让民警意识到，这家公司并不是普通的婚介服务公司。随后，民警通过现场员工联系上了公司老板王某。在电话中，王某表示愿意退钱，但始终回避合同内容的问题。虽然卞女士的退费诉求解决了，但办案民警并未就此止步。通过连日蹲守老板王某的开播账号，警方发现所谓的“李哥”形象经常出现在画面里。
警方掌握确凿证据后，将王某等28名犯罪嫌疑人抓捕归案。抓捕现场，这伙人仍在使用AI男性形象开播，并制作了许多“逼单”话术以及剧本。从AI形象的人设打造到台词互动，直播中的每个环节都经过精心设计。为了加深网友的信任，网络主播还会借助变声器冒充有相亲需求的优质男性进行直播连线。据调查，这家所谓的婚介公司根本不会提供真正的相亲服务。在被害人缴纳了服务费后，和被害人聊天的也不是那些所谓的优质男性，而是由公司里的售后人员继续唱“双簧戏”。
在不到一年的时间里，这个团伙的作案涉案金额高达100余万元，约有50余名群众遭受财产损失。目前，王某等28名犯罪嫌疑人已被公安机关依法采取刑事强制措施。
此类利用AI虚构人设的诈骗手法危害显而易见，更令人担忧的是，这类骗局至今仍在短视频平台上存在。平台应当加强检测和预警，建立风险分级处置机制。当检测发现疑似AI生成且带有婚恋交友引流特征的直播间与短视频，并且有诱导用户跳转站外、索要服务费等涉诈苗头时，平台不应仅停留在内容打标层面，还应分阶梯采取制约，并按规定把涉诈线索移送公安、网信等主管部门。专家建议，可以通过更新技术手段、加强跨平台的协同治理，找到解决问题的途径。平台不仅要严格落实AI生成内容标识义务线上炒股配资开户，还应完善AI内容的识别风控系统，加强对高风险涉诈内容的监测预警和联动处置，从算法上阻断推送，从源头上压缩虚假信息的生存空间。对于普通用户来说，需要筑牢自身的风险意识，面对疑似AI生成的内容，同样可以使用技术检测鉴别真伪。
元鼎证券_专业交易服务平台——助你把握资本增长新节奏，期待你的加入！提示：本文来自互联网，不代表本网站观点。