生成式人工智能的技术局限和伦理风险

VIP专免

笔中情 2026-03-24 999+ 28.38KB 5 页海报

侵权投诉

生成式人工智能的技术局限和伦理风险

自ChatGPT 面世以来，生成式人工智能成为人工智能领

域发展的热点。生成式人工智能技术的基本形态，是采用海量

数据来训练人工智能大模型，使其学会人类的语言文本和图像

视频的统计模式后，能够在用户给出提示指令后，自动地生成

所需的数字内容。与传统人工智能局限于分类、识别等特定功

能相比，生成式人工智能更关注创造性内容的生成，展现出前

所未有的文字对话、文档撰稿、代码编写、图片创意、语音合

成和视频生成等多样性的能力。

生成式人工智能技术综合了 60 多年来人工智能的研究成

果，特别是最近 10 年来深度学习的技术突破。首先，能够从

海量的语料数据中学习人类知识，熟记文本、语音、图像、视

频等内在规律与统计模式，自动生成用户所需的新文本、图片、

声音和视频。其次，实现了大模型的基于大量数据的训练学习

通用特征与在特定任务上进行微调以优化性能的学习模式，并

能够接受人类反馈进一步强化学习。不但可以记忆通用的人类

知识，还可以持续学习专业的知识与技能，并在人类的奖励指

导下，输出符合人类道德和法律约束的内容。最后，具备多模

态数据的融合机制，动态融合文本、语音、图像、视频等数据，

不仅能够生成更为丰富多样的数字内容，而且通过语音、手势、

面部表情等的识别，支撑实现 AI 像人一样与人类交流互动。总

之，生成式人工智能已经展现出了多模态、通用化的认知和交

互智能，表现出“由专到通”的强大能力，在自动化文档生成、

自动化编程、智能客户服务、供应链管理、产品研发、智慧教

育和智慧医疗等多个领域展现出极大优势，因而成为诸多领域

的热门应用。

虽然这两三年来生成式人工智能展现出了前所未有的认知

和多模态交互能力，但是其内在局限日益凸显，如何继续深入

推进生成式人工智能技术发展，使之能够真正广泛落地应用，

成为人们关注的焦点。

首先，生成式人工智能所依赖的大模型在精准的认知理解

和逻辑推理方面存在明显局限。一方面，由于大模型的幻觉现

象问题，容易输出事实性错误的内容。另一方面，大模型的内

容生成本质上属于概率统计性的词汇预测，所以它无法像人类

一样完成长链条的动态逻辑推理。这两个方面的问题意味着很

文档加载中……请稍候！
如果长时间未打开，您也可以点击刷新试试。

下载文档到电脑，查找使用更方便

立即下载 VIP免费下载

摘要：

生成式人工智能的技术局限和伦理风险自ChatGPT面世以来，生成式人工智能成为人工智能领域发展的热点。生成式人工智能技术的基本形态，是采用海量数据来训练人工智能大模型，使其学会人类的语言文本和图像视频的统计模式后，能够在用户给出提示指令后，自动地生成所需的数字内容。与传统人工智能局限于分类、识别等特定功能相比，生成式人工智能更关注创造性内容的生成，展现出前所未有的文字对话、文档撰稿、代码编写、图片创意、语音合成和视频生成等多样性的能力。生成式人工智能技术综合了60多年来人工智能的研究成果，特别是最近10年来深度学习的技术突破。首先，能够从海量的语料数据中学习人类知识，熟记文本、语音、图像、视频...

展开>> 收起<<

生成式人工智能的技术局限和伦理风险.docx

共5页,预览2页

还剩页未读，继续阅读

声明：公文铺尊重并保护知识产权，根据《信息网络传播权保护条例》及《民法典》第1195条之规定，如果我们转载的作品侵犯了您的权利，请在一周内通知我们，我们会及时删除。微信客服：wengaopai123

立即下载