防止生成式人工智能成为诈骗“新武器”

VIP专免

笔中情 2026-03-25 999+ 28.17KB 5 页海报

侵权投诉

防止生成式人工智能成为诈骗“新武器”

随着大数据和深度学习的发展，生成式人工智能技术给世

界政治、经济、文化领域带来极大冲击，技术创新进入新一轮

活跃期。生成式人工智能技术在促进新质生产力发展，带来巨

大商业价值的同时，也存在深度伪造、虚假信息、广告欺诈等

问题，可能为不法分子提供新的技术工具，成为诈骗活动的

“新武器”。预防、监测和治理生成式人工智能诈骗，保护公

众免受智能诈骗行为的影响，促进人工智能技术健康发展和规

范应用具有重要意义。

生成式人工智能技术基于迁移学习和人工神经网络，使用

深度学习模型，传输和处理现有文本、图像和音视频信息，自

动创建出新内容、新方法和新方案。随着生成式人工智能技术

的发展，诈骗形式从线下诈骗、电话诈骗扩展到网络诈骗。常

见的网络诈骗包括以下几种形式：网络购物诈骗，诈骗者使用

虚假网站、虚假商品和虚假促销信息，诱骗消费者购买商品，

通过虚假支付链接欺诈消费者；网络投资诈骗，诈骗者以高收

益低风险为诱惑，通过虚假网站参与虚拟货币投资、股票期货

等投资活动，骗取消费者钱财；网络视频诈骗，诈骗者利用提

前录制的真人视频和盗录的视频影像，合成为欺诈视频，向视

频被盗录者的好友借钱，开展诈骗行为。

防止生成式人工智能成为诈骗新工具是一项系统工程，存

在三大监控治理难点。一是全链路信息监管难。诈骗者通过短

信、电话、互联网等通信渠道，与受害者联系，基于获取的个

人信息和事前准备好的诈骗脚本，骗取受害者的信任，诱导受

害者使用银行转账、网上支付、手机支付等方式向指定账户转

款，并快速完成资金转移，获取非法经济利益。二是个人信息

保护难。诈骗分子通过非法渠道窃取或购买个人信息，包括身

份证信息、电话号码、家庭住址、网络账号、银行卡账号等，

精准获取社会上各行各业人员的个人信息，为实施诈骗构建个

人信息基础数据库。三是智能生成产品识别破解难。诈骗分子

基于开放数据流和获取的个人信息，使用深度合成技术，篡改

图片或者视频信息，对原始信息进行深度伪造，获得人工智能

生成产品，通过“换脸”“换声”等方式实施违法犯罪行为。

因此，要坚持目标导向和问题导向，在全链路信息监管、个人

信息保护和智能生成品鉴别技术上深耕细作，建立健全政策法

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

立即下载 VIP免费下载

摘要：

防止生成式人工智能成为诈骗“新武器”随着大数据和深度学习的发展，生成式人工智能技术给世界政治、经济、文化领域带来极大冲击，技术创新进入新一轮活跃期。生成式人工智能技术在促进新质生产力发展，带来巨大商业价值的同时，也存在深度伪造、虚假信息、广告欺诈等问题，可能为不法分子提供新的技术工具，成为诈骗活动的“新武器”。预防、监测和治理生成式人工智能诈骗，保护公众免受智能诈骗行为的影响，促进人工智能技术健康发展和规范应用具有重要意义。生成式人工智能技术基于迁移学习和人工神经网络，使用深度学习模型，传输和处理现有文本、图像和音视频信息，自动创建出新内容、新方法和新方案。随着生成式人工智能技术的发展，诈骗形...

展开>> 收起<<

防止生成式人工智能成为诈骗“新武器”.docx

共5页,预览2页

还剩页未读，继续阅读

声明：公文铺尊重并保护知识产权，根据《信息网络传播权保护条例》及《民法典》第1195条之规定，如果我们转载的作品侵犯了您的权利，请在一周内通知我们，我们会及时删除。微信客服：wengaopai123

立即下载