【禹风大讲堂】第33期：魏瑞斌教授作“AI生成内容的幻觉现象：机制、影响与应对”专题讲座

4月23日下午，第33期“禹风大讲堂”在图书馆五楼报告厅顺利举行。本次讲座邀请安徽财经大学管理科学与工程学院副院长、博士生导师魏瑞斌教授主讲，主题为“AI生成内容的幻觉现象：机制、影响与应对”。讲座由计算机与数据工程学院副院长夏日教授主持。

魏瑞斌教授是中国科学技术信息研究所博士后，美国印第安纳大学访问学者，兼任多项国家级学术组织职务，担任《情报杂志》《科技情报研究》《农业图书情报学报》等学术期刊编委，长期从事信息组织与检索、科学计量学和知识图谱方向研究，主持多项国家社科基金、教育部人文社科项目，公开发表论文100余篇，出版学术专著3部，学术造诣深厚，实践经验丰富。

讲座伊始，魏瑞斌教授结合4月23日是第30个世界读书日这一特殊时间节点，引导大家思考阅读与认知世界的重要意义，强调知识积累对提升个人气质和思维方式的深远影响。随后魏教授回顾了人工智能自20世纪40年代以来的发展历程，从早期的模式识别、机器学习到近年的深度学习、大模型，指出人工智能技术在算力、算法、数据的推动下实现了跨越式进步，带来了文化、科技、军事等多领域的变革。他以丰富的图表资料展示了全球人工智能产业格局，强调中美两国在大模型研发方面形成了领先优势，并分析各国民众对人工智能前景的不同认知态度。

在谈及AI幻觉时，魏教授指出，幻觉是指AI在生成内容时出现的不准确、不真实或逻辑错误的信息，主要分为视觉性幻觉与语言性幻觉。他结合多个实例，剖析了幻觉产生的内在机制，如训练数据偏差、推理过程缺陷、算力与算法局限等，强调幻觉问题对科研、教育、社会认知带来的潜在影响。他指出，虽然当前国内外模型在整体性能上趋于接近，但幻觉现象仍普遍存在，需引起高度重视。

针对如何应对AI幻觉问题，魏教授提出了多项建议：一是加强模型训练数据质量控制，提升语料库的准确性与权威性；二是发展模型评测体系，设立幻觉率等评估指标；三是结合人类监督与反馈，推动模型不断优化；四是加强使用者的信息素养教育，提升辨别与甄别能力。与此同时，魏教授也指出，AI幻觉在特定领域亦可能激发创新与启发。他提醒在座师生，在广泛应用人工智能工具的过程中，应保持审慎与理性，做到“善用而不盲从”。

讲座不仅为师生理解AI幻觉现象提供了理论依据与实践指引，也启发了在座教师在科研与教学中探索人工智能工具赋能的新路径，为学生合理利用大模型规划学习、提升能力拓展了思路。通过此次讲座，大家对人工智能技术的发展现状及应用风险有了更加全面而深刻的认识。讲座在热烈的掌声中圆满结束。

（文/桑启悦 图/融媒体中心 审/陈士超）