全国政协委员周鸿祎谈大模型“幻觉

大模型的“幻觉”是一个重要且备受关注的问题。

一、现象表现
1. 生成虚假内容
   大模型可能会生成看似合理但实际上与事实不符的内容。例如在回答历史事件、科学事实等问题时，给出错误的信息。比如在回答某一历史战役的发生时间、地点或者参战方等要素时出现错误陈述。
2. 逻辑不严谨
   大模型生成的内容在逻辑上可能存在漏洞。有时会在一段文字表述中，前后逻辑不连贯，或者在进行推理时，得出不符合逻辑规律的结论。例如在分析经济现象之间的因果关系时，给出的逻辑链存在明显错误，把不相关或者间接相关的因素强扭为因果关系。

二、周鸿祎可能的观点
1. 从安全角度
   周鸿祎可能强调大模型“幻觉”带来的安全隐患。在网络安全方面，如果大模型被广泛应用于内容生成、信息传播等领域，其产生的幻觉内容可能会误导公众，特别是在一些敏感领域，如医疗健康、金融投资等。例如，大模型生成错误的医疗建议或者金融投资预测，可能会对用户的健康和财产造成损害。
2. 技术改进方向
   他可能指出需要通过技术手段来解决大模型的“幻觉”问题。比如通过改进模型的训练算法，增加数据的准确性和多样性来减少幻觉现象。在训练数据方面，要对数据进行严格的筛选、清洗和标注，确保输入模型的数据质量较高。同时，也可能提及探索新的模型架构或者融合多种技术（如知识图谱与大模型的结合等）来增强大模型回答的准确性和逻辑性。
3. 行业规范与责任
   强调行业需要建立规范来应对大模型的“幻觉”问题。大模型开发者和使用者都应该承担一定的责任。开发者要对模型的性能进行充分测试，尽量降低幻觉出现的概率；使用者在应用大模型输出内容时，也要保持谨慎态度，对重要信息进行核实。例如，在新闻报道、学术研究等场景下，不能直接将大模型生成的内容当作事实而不加验证地使用。