AI批量伪造明星家属当休矣
《 河南日报 》（ 2026年11月04日 第 06 版）
□孔德淇
据央视网报道，近日不法分子利用AI生成伪造视频，冒充明星家属，借家庭温情叙事包装，面向中老年群体推销黄精五黑粉。这款谷物粉出厂成本仅五六元，线上售价接近30元。从业者还设置998元入伙费的招商门槛，许诺高额佣金，不少交费学员事后才看清，所谓带教，只是拉人头割韭菜的套路。
这类骗局持续迭代，是技术降维与心理拿捏叠加的结果。以往造假者直接冒充明星本人，辨识度高，容易识破。如今转向冒充公众信息较少的家属身份，依托亲属关系自带的信任效应，增加迷惑性。中老年群体养生需求旺盛，易被温情叙事牵动情绪，叠加对AI合成技术认知不足，防备心理随之松懈。生成式AI进一步压低造假成本，视频批量产出、账号快速轮换、内容跨平台扩散，违法成本和获利空间严重失衡，助推黑灰产快速复制蔓延。这不是孤立个案，而是虚假宣传、消费欺诈朝着智能化、规模化演化的典型表现。
整条造假链条里，没有哪一方能置身事外。AI视频制作方和账号运营者虚构身份、编造说辞，既侵害他人人格权，还涉嫌消费欺诈，是骗局的始作俑者。供货方与品牌方不能拿“只供货、不做推广”当借口，明知产品靠仿冒名人引流却默许纵容，属于虚假宣传的共同行为人，理应承担连带责任。平台承担内容分发的关键职责，不该停留在出事之后再下架处置。按照《互联网信息服务深度合成管理规定》，深度合成服务提供者应当核验合成内容，对容易混淆的内容打上醒目标识。这类仿冒特征鲜明的伪造内容，平台有必要主动搭建识别拦截机制，把监管关口往前移。这不是附加要求，而是法律划定的义务。
骗局带来的损害，远不止单次购物的财产损失。产品端，成本仅数元的普通谷物粉被包装成养生佳品，违反广告法、食品安全法中普通食品不得宣称保健功能、不得涉及疾病预防治疗功效的明确规定，这透支的是公众对养生健康行业的信任。招商端，所谓“入伙费+高额佣金+拉人头”模式，本质是在AI带货外壳下嵌套的传销式收割，将黑手伸向寻求副业的就业群体，对消费者和创业者进行双重收割。若不及时遏制，极易形成可复制的黑灰产模板，持续扰乱市场秩序，侵蚀社会信任。
治理AI伪造乱象，不能只靠单点打击，必须构建多方发力的共治体系。平台应持续优化深度伪造识别算法，针对名人亲属等衍生人设设立专项风控，落实AI生成内容标识要求，降低内容迷惑性。相关部门需深化联合执法，顺着供应链倒查全链条责任，打通举证维权通道，抬高违法代价。社会层面则需面向中老年群体提升数字素养和普及反诈知识，厘清普通食品和保健食品的边界，拆解温情营销背后的套路，帮助公众提高辨别能力。
技术越发达，越要守住法律与伦理的底线。别让一张张伪造的温情面孔，破坏数字市场秩序，透支人与人之间最珍贵的信任。让制度跑在技术前面，让责任跟上创新脚步，才能真正推动技术向善。