人工智能技术治理应抓住要害

VIP专免

字里行间 2026-03-15 999+ 28.23KB 5 页海报

侵权投诉

人工智能技术治理应抓住要害

自ChatGPT-4 上线之后，人工智能技术创新浪潮再度掀

起，如果说之前还有观点质疑当下并非规制人工智能技术的最

佳时机，那么 ChatGPT-4 所展现出的高度智能化功能使得这

些质疑观点逐渐消散。正如过去各类信息技术发展规律，生成

式人工智能技术在不断进行创新的同时，也正在扩大社会风险

的波及范围和损害程度。尤其是在网络信息内容生态领域，人

工智能技术能够根据用户提出的具体需求，在短时间内生成海

量文本信息、图片信息乃至视频信息，一旦这些生成信息在网

上传播，网络空间将不得不面对新一轮的信息浪潮的冲击。一

方面，生成类信息具有典型的同质性特征，加之平台以用户偏

好推送相关信息，这使得用户可以获取的信息内容、信息类型

均有所衰减；另一方面，人工智能技术所生成的信息越发贴合

人类的表达逻辑，这使得一般用户无法轻易辨别信息内容的真

伪。当然，人工智能的技术风险远不止于此。例如，在科研教

学领域，人工智能技术能够成为学生自主学习的辅导工具，但

过度依赖人工智能技术完成课程作业或文献撰写，从长远来看

只会削弱学生批判意识和独立学习能力。在网络安全领域，人

工智能技术已经能够为部分代码片段编写提供辅助指导和查漏

补缺功能，这无疑会降低恶意代码编写的技术门槛与时间成本，

进而导致网络安全态势的恶化。

事实上，人工智能技术所引发的诸多社会风险问题早已不

再是理论空想，在当下的社会生活中，已经存在滥用人工智能

技术进行违法犯罪活动的事件。在今年 4月侦破的一起利用人

工智能发布网络虚假信息的犯罪活动，犯罪嫌疑人为了规避平

台的信息内容审核机制，利用ChatGPT 对新闻素材进行修改

编辑，上传至平台非法获利。无论是专家学者预估的社会风险，

还是现实生活已经发生的犯罪活动，无不说明当下人工智能技

术需要规范治理。国家互联网信息办公室也在 4月发布了《生

成式人工智能服务管理办法（征求意见稿）》，用于指引和规

范生成式人工智能技术的应用活动。

然而，这远远不足以规制潜在的技术滥用风险，传统的治

理理念和治理工具在人工智能技术治理领域正在逐渐失效。其

中的原因正是技术服务提供者无法完全控制用户的使用行为，

作为技术工具的人工智能应用，其输出结果是否合理合法，在

很大程度上取决于用户所输入的问题和需求。更重要的是，对

于部分海外人工智能服务提供者而言，国内立法难以在域外予

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

立即下载 VIP免费下载

摘要：

人工智能技术治理应抓住要害自ChatGPT-4上线之后，人工智能技术创新浪潮再度掀起，如果说之前还有观点质疑当下并非规制人工智能技术的最佳时机，那么ChatGPT-4所展现出的高度智能化功能使得这些质疑观点逐渐消散。正如过去各类信息技术发展规律，生成式人工智能技术在不断进行创新的同时，也正在扩大社会风险的波及范围和损害程度。尤其是在网络信息内容生态领域，人工智能技术能够根据用户提出的具体需求，在短时间内生成海量文本信息、图片信息乃至视频信息，一旦这些生成信息在网上传播，网络空间将不得不面对新一轮的信息浪潮的冲击。一方面，生成类信息具有典型的同质性特征，加之平台以用户偏好推送相关信息，这使得用户...

展开>> 收起<<

人工智能技术治理应抓住要害.docx

共5页,预览2页

还剩页未读，继续阅读

声明：公文铺尊重并保护知识产权，根据《信息网络传播权保护条例》及《民法典》第1195条之规定，如果我们转载的作品侵犯了您的权利，请在一周内通知我们，我们会及时删除。微信客服：wengaopai123

立即下载