2025年11月7日下午，信息所双周学术论坛暨上海社科院AI工作坊活动在院总部113会议室举行，由信息所AI4SS实验室、所青年学术交流中心和院信息办联合主办。本次讲座主题为“社会科学赋能的AI研究：生成式人工智能中的偏见、价值观与意识形态”，由上海理工大学管理学院刘臣副教授、博士生导师主讲，顾洁副研究员主持。信息所副所长丁波涛、院信息化办公室副主任奚艳等相关同志参加，活动同时吸引了院内多个研究所的科研人员前来聆听，现场交流气氛热烈。
刘老师长期从事人工智能安全、图神经网络等领域研究，主持国家自然科学基金、国家社会科学基金等多项项目，在IEEE TKDE、KBS、EAAI等国际权威期刊发表论文六十余篇。
报告中，刘老师系统阐述了为什么AI需要社会科学赋能、生成式AI的技术逻辑与偏见来源、偏见检测与评测、价值对齐，以及生成式AI对人类信念与意识形态的影响。
他指出，生成式AI以自然语言处理的语言建模逻辑为基础，通过概率计算从海量词汇中选取最优输出，实现语言的“生成”而非“理解”。从技术演进看，生成式AI经历了从传统统计学习到深度学习，再到Transformer模型突破的历程，其背后的技术逻辑决定了偏见在信息传播中可能被放大。他表示，大语言模型在预训练与微调阶段均可能引入偏见，而注意力机制的加权效应会进一步强化这种偏向。为此，他还介绍了多种偏见检测与评测方法。
关于“价值对齐”，刘老师认为，通过人类反馈强化学习（RLHF）训练大模型的机制可部分矫正偏见，但也可能在奖励模型中引入新的价值取向。他进一步讨论了AI意识与图灵测试的争议问题，指出当前技术尚难以创造具备真实意识的智能体，但其“类人”表现已对社会科学提出新的研究议题。
最后，刘老师强调，生成式AI不仅是技术产物，更是一种嵌入社会语境的行动者，其语料构建、算法设计与应用场景中都深植人类价值选择。社会科学应积极介入，从理论、方法与伦理等层面探讨AI偏见与价值体系的形成机制，为技术发展提供社会价值的校正与指引。
在互动环节，与会学者围绕AI与人类价值的关系、AI偏见，以及AI技术应用的可控性等话题展开热烈讨论。本次讲座以生成式AI的偏见与价值问题为切入点，深入剖析了技术逻辑背后的社会意涵，为社会科学与人工智能的跨界融合提供了新视角。
