谨防AI合成变为诈骗工具

近日，有网友在网络卖货视频中看到“张文宏医生”在卖一种蛋白类的产品。实际上，这根本不是张文宏本人，而是利用AI技术合成的。（综合近日多家媒体报道）

被AI合成视频冒名顶替，张文宏的遭遇并非个案，靳东、雷军等人都曾遇到过。这种用AI伪造信息的做法，既涉嫌侵犯当事人肖像权，欺诈消费者，也影响公众人物的专业形象和社会公信力，还会污染网络空间、影响正常的社会秩序。

当下，AI合成技术已在短视频制作中大量应用，其以假乱真的程度虽然骗不过熟悉AI的人，但对于不少习惯了“眼见为实”的人来说，就很容易信以为真、上当受骗。因此，我们在积极拥抱人工智能新技术新应用的同时，要从制度、技术等方面加强治理和规范，避免AI合成变为诈骗工具。

2022年发布的《互联网信息服务深度合成管理规定》就明确了深度合成技术的使用规范。避免AI合成变为诈骗工具，要严格遵守相关规定，切实增强制度刚性。同时，有关方面应畅通投诉举报机制、加大处罚力度，网络平台要严格审核发布内容、及时发现问题视频并处罚相关账号。坚持科技向善，从多个方面加强对人工智能的监管和规范，才能有效遏制乱象，让网络空间更加风清气正，让技术真正服务于人、造福社会。