积极防范人工智能带来的安全新挑战(1)

VIP免费

静水深流 2026-05-10 999+ 27.46KB 4 页海报

侵权投诉

积极防范人工智能带来的安全新挑战

人工智能正日益成为新质生产力的重要要素和核心驱动力

推动生产方式和生产关系发生深刻变革。当前，一系列人工智

能交叉领域的重大突破正在重新定义人类社会的数据交互、多

模态生成、智能制造、信息连接和智算资源范式。以 sr 为代表

的空间计算、以 Sr 为代表的生成式人工智能、以 Fur 为代表的

具身机器人、以 Str 为代表的天地一体化网络和以 B200 为代

表的算力基础设施，都昭示着以人工智能为代表的战略性新兴

科技产业集群对传统生产力和生产关系格局的重塑已成为不可

逆转的趋势。人工智能新质生产力急速崛起，数字技术与实体

经济加速融合，智能化发展成为社会共识。

人工智能技术的广泛应用，在促进数字社会发展的同时，

也为网络攻击带来了新的途径和手段，并引发一系列亟待应对

的安全挑战，比如，“奶奶漏洞”可以绕过人工智能伦理提示

词攻击、U算力芯片可被侧信道攻击、大模型深度伪造诈骗、

生成式人工智能生成虚假新闻等，这些网络安全事件都暴露出

人工智能安全问题的新变化。导致网络攻击加剧主要有以下三

方面原因：一是人工智能赋能网络攻击手段升级。网络攻防技

术呈现自动化、智能化、体系化快速演进等趋势，网络攻击更

加隐蔽高效；二是人工智能系统自身安全挑战凸显。人工智能

系统自身也面临数据中毒、模型窃取、算法歧视等诸多安全风

险，网络攻击更加多变难溯；三是人工智能引发的伦理与社会

风险加剧。人工智能误判、滥用、失控、操纵等引发的连锁反

应极可能导致灾难性后果，网络攻击更加未知。##b##

人工智能发展带来的网络安全新挑战不容忽视，既有技术

层面的攻防对抗，也有系统自身的脆弱性，更有深层次的伦理

困境。如何筑牢人工智能安全防线，维护人工智能健康发展，

事关国家安全、经济运行和社会稳定大局。

人工智能快速发展将使未来数字世界具有时空超越性和快

速演进性两大新特征，目前已有的伴生性网络安全防护已无法

有效解决网络攻击加剧的新挑战，亟须加快推动人工智能安全

屏障的建设。一是坚持系统思维方式，从国家发展战略全局审

视新兴安全挑战，注重人工智能安全韧性风险评估，提升战略

威胁预知能力。二是提出新生网络安全理念，由伴生防护向内

生防御至新生防范转变，强化主动纵深防御体系。三是凝聚创

新联合生态，汇聚交叉科学战略专家、技术团队和产业力量，

集中攻研人工智能、数字孪生、网络安全等关键技术，形成国

家战略科技新力量。四是建设关键数字基础设施，优先面向人

工智能+产业数字化新场景，加快开展人工智能+先行先试试

验平台能力建设，提高人工智能安全水平。

坚持高水平科技自立自强，积极开展人工智能安全领域技

术攻关。网络攻击当前难以彻底根除，应优先构建网安事件持

续跟踪分析能力，可从人、机、物、态四个方面做安全风险评

估，建立一套人工智能产业安全韧性指标体系，针对不同行业

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

立即下载 VIP免费下载

摘要：

积极防范人工智能带来的安全新挑战人工智能正日益成为新质生产力的重要要素和核心驱动力推动生产方式和生产关系发生深刻变革。当前，一系列人工智能交叉领域的重大突破正在重新定义人类社会的数据交互、多模态生成、智能制造、信息连接和智算资源范式。以sr为代表的空间计算、以Sr为代表的生成式人工智能、以Fur为代表的具身机器人、以Str为代表的天地一体化网络和以B200为代表的算力基础设施，都昭示着以人工智能为代表的战略性新兴科技产业集群对传统生产力和生产关系格局的重塑已成为不可逆转的趋势。人工智能新质生产力急速崛起，数字技术与实体经济加速融合，智能化发展成为社会共识。人工智能技术的广泛应用，在促进数字社会...

展开>> 收起<<

积极防范人工智能带来的安全新挑战(1).docx

共4页,预览2页

还剩页未读，继续阅读

声明：公文铺尊重并保护知识产权，根据《信息网络传播权保护条例》及《民法典》第1195条之规定，如果我们转载的作品侵犯了您的权利，请在一周内通知我们，我们会及时删除。微信客服：wengaopai123

立即下载