国家安全部今日发布安全提示，指出人工智能训练数据存在虚假信息、虚构内容及偏见性观点等问题，导致数据源污染，威胁AI安全。
新研究提示：训练数据哪怕混入万分之一虚假文本，模型有害输出即可显著放大，且虚假内容会回流网络、逐代累积，形成“污染遗留”。在金融、公共安全等场景，此类数据投毒可能触发市场操纵、舆论误导等，现实风险不容忽视。
人工智能技术的滥用正催生新型市场操纵手段。通过定向污染训练数据，攻击者可系统性生成虚假市场信号，如虚构企业合作、虚增财务指标等，利用AI生成内容的传播裂变效应，短期内引发市场认知偏差，进而操控特定标的交易价格。
目前来看，虚假信息主要有三板斧，首先是虚构企业合作，篡改官网信息、伪造会议纪要、诱导模型生成“战略签约”结论；其次是虚增财务指标，在论坛、问答社会大量植入“超预期盈利”帖子，训练集吸收后，AI研报自动给出“上调评级”；最后是深度伪造视频，有些AI模型已经出现伪造“创始人官宣即将上线某交易所”的短片，配合社交媒体裂变传播，曾在加密市场造成代币短时暴涨后闪崩。
实验表明，训练集中混入约万分之一虚假文本，模型输出的有害或误导性内容即可出现两位数的增幅；污染信息一旦上网，又会被新一轮爬虫抓取，形成“递归污染”闭环。
监管部门已把“AI数据投毒”列为新型市场操纵手段，要求券商、基金在采购第三方大模型服务时，必须提供数据来源与清洗报告；交易所亦在测试实时语义水印，识别并阻断异常生成的“研报”与“快讯”。
对投资者而言，凡遇“AI生成”的利好利空，需交叉核验原始出处；于机构而言，应把训练数据溯源、对抗样本检测纳入常规风控，防止模型成为操纵市场的“放大器”。
【以上内容不构成投资决策依据。投资有风险，入市需谨慎。】
【免责声明】：凡注明文章来源为“长江有色金属网”的文章，均为长江有色金属网原创，版权归本网站所有，任何媒体、网站或个人未经本网站书面授权不得转载。凡本网注明来源：“XXX(非长江有色金属网)”的文章，均转载自网络，版权归原作者及其公司所有。本站已尽可能对作者和来源进行了标注，若有疏忽造成漏登，请及时与我们联系，我们将根据著作权人的要求，立即更正或删除有关内容。本网站所发布的文章目的在于传递更多信息，并不构成任何投资及应用建议。
