生成式人工智能带来认知操纵风险显著提升认知战影响力

2023-12-22 14:26

阅读(157)

随着人工智能的不断发展，生成式人工智能日益强大。生成式人工智能指的是拥有视频，音频，图片，文本等内容生成能力的技术和模型。生成式人工智能的产生和日益完

随着人工智能的不断发展，生成式人工智能日益强大。生成式人工智能指的是拥有视频，音频，图片，文本等内容生成能力的技术和模型。生成式人工智能的产生和日益完善，会给人类社会在认知方面带来操纵风险，或许会显著将认知战的影响力提升。生成式人工智能对人类认知的影响的途径有三类。

1.为人类提供错误虚假的信息

生成式人工智能所生成的内容并不一定是完全准确的，有时也会存在虚假和错误的信息。根据研究显示生成式人工智能很可能被人为地进行篡改和引导，而产生一些错误虚假的信息，而这些信息通常真假难辨与人类的认知会产生干扰。

2.展示一些具有侵略性或歧视性的观点

生成式人工智能回答问题的能力是在海量数据训练的基础上而产生的，其生成的内容很有可能会受到数据来源的影响。所收集到的数据内容就会影响其产生内容的判断。经过调查显示 Chatgpt所生成的文本当中有7%，具有侵略性或攻击性的语气。这些生成的内容对于价值判断有着一定的偏颇，因此会使人类的认知在不知不觉中产生影响。

3.生成式人工智能会使人类产生情感依赖

新城市人工智能拥有非常出色的沟通能力，因此而受到很多用户的喜爱。同时生成式人工智能拥有分析问题，解决问题的能力和巨大的知识储备量，因此被很多用户来而认可。长此以往就会有很多用户习惯使用人工智能来进行情感支撑和决策的判断，从而过于信任和依赖人工智能，对于人工智能所给出的观点和答案，也会充分的信任，这样就会对人类自己的认知产生一定的影响。

认知战指的就是通过通过影响目标人群的认知，来影响其决策和行为，这样就能够达到其政治目的，这是一种非常规的战争方式。对于生成式人工智能对人类的认知会产生影响，因此很有可能会被运用到战争当中，因此扩大认知战的影响力和范围。

生成式人工智能带来认知操纵风险显著提升认知战影响力

相关问答推荐

热点关注

科技

科技热门

快速找问题

科技

生成式人工智能带来认知操纵风险 显著提升认知战影响力

相关问答推荐

热点关注

科技

科技热门

快速找问题

科技

生成式人工智能带来认知操纵风险显著提升认知战影响力