分论坛 > 南京 > 新闻动态
AIGC重塑同质化、信号污染与认知收缩的信息生态——探索多方协同破茧之路
2026-02-04 阅读量:0 小字

图片

图片


2026年1月24日,CCF YOCSEF 南京观点论坛——“AIGC时代的信息茧房:新困境与新出路”在黄埔大酒店举行。本次论坛由中国计算机学会(CCF)主办,CCF YOCSEF 南京学术委员会组织,来自高校、科研机构与企业的60余位专家学者齐聚一堂,围绕生成式人工智能背景下信息茧房的新变化、新挑战与破局路径展开深入讨论。论坛由来自南京航空航天大学的YOCSEF南京AC学术秘书臧天梓与YOCSEF南京委员李逸聪作为执行主席共同主持。


图片


会议开始,臧天梓首先介绍了CCF YOCSEF的文化和使命,强调CCF YOCSEF南京分论坛始终坚持立足地方特色、汇集各方才智、倾听社会声音、探索学术高峰,并致力于促进江苏省内高校、企业与政府间的合作与交流。随后,李逸聪详细介绍了此次观点论坛的背景。随着大模型与AIGC技术在内容生产、分发与治理场景中的快速渗透,信息环境正在发生结构性变化。一方面,内容生成门槛显著降低,信息供给规模与速度前所未有;另一方面,生成内容在风格、立场与叙事方式上的高度相似性,使得信息同质化、信号污染与认知收缩问题更加突出。在这一背景下,信息茧房不再仅由推荐算法的分发逻辑所塑造,而逐步演化为由生成—传播—反馈共同驱动的系统性闭环。在此情境下,如何理解AIGC对信息茧房的影响机理,推荐系统等工具在新环境下面临哪些挑战,以及是否存在可持续、可协同的破茧路径,成为亟需深入讨论的关键问题。本次论坛围绕这些问题展开观点导向的集中思辨。

引导发言:从生成机制、社会心理到平台治理的多维视角

论坛邀请了三位引导嘉宾,从不同层面为讨论奠定理论与实践基础。

图片

许小龙(南京信息工程大学教授、博导,计算机学院/软件学院副院长)指出,AIGC以低成本、高产量、强个性化的方式持续生成迎合既有偏好的内容,容易造成低质内容堆积与虚假信息扩散,并在算法反馈闭环中不断放大相似叙事,从而加速信息茧房的形成与固化。进一步来看,当生成模型与推荐机制形成高频交互闭环时,内容供给与用户偏好之间的相互强化将被显著放大,使信息分布更快收敛于少数主导叙事,也削弱了多样性内容被感知和验证的空间。

图片

孙相国(东南大学教授、博导,国家级青年人才)从社会网络与群体行为建模角度出发,利用超图等结构化工具刻画从众效应、群体互动与信息扩散机制,揭示信息茧房并非单一技术问题,而是深植于真实社会心理与群体结构之中,为理解“越推越窄”的信息分发现象提供了新的分析路径。他指出,个体认知、群体互动与平台机制之间存在复杂耦合关系,仅从算法或模型层面进行局部修正,往往难以触及信息茧房形成与演化的根本机制。

图片

洪海文(阿里安全AGI实验室御风大模型负责人)结合大规模内容治理实践,系统梳理了AIGC内容与传统内容在生成方式、传播节奏与治理难度上的差异,指出生成式内容正在改变平台的内容生态结构,使信息茧房呈现出更快闭环、更难识别的新趋势。他进一步强调,在内容规模、生成速度和表达多样性显著提升的背景下,依赖人工规则或静态策略的治理方式面临明显瓶颈,亟需通过模型级理解与系统化治理能力进行应对。

三位嘉宾从算法生成、社会心理与平台治理三个层面,为后续思辨提供了互补的视角。

观点思辨


围绕“AIGC时代的信息茧房:新困境与新出路”,论坛设置了三个思辨议题,与会嘉宾展开了充分讨论。


思辨议题一:AIGC对信息茧房带来了哪些新的影响?


西南大学副教授黄俊杰指出AIGC时代信息茧房的形成机制发生了改变,AIGC时代AI产生内容、AI进行推荐、甚至AI进行阅读消化,整个过程都变成纯AI在完成,而人则变得相对脱离这个过程。他认为,AI改变了信息处理机制,加深了社会影响,同时带来了审计、责任归属和监管层面的挑战。

思辨环节从以下六个方面展开。在内容层面,【王春阳、沈杰、孙倩】认为,AIGC显著提升了内容生成的规模与效率,但生成内容在逻辑结构、叙事模板与价值取向上高度相似。信息茧房不再主要表现为内容表面的重复,而是逐步固化为对认知结构与思维路径的约束,隐蔽性和稳定性明显增强。同时,高逼真度生成内容模糊了虚实边界,进一步影响信息判断。

用户层面,【安悦瑄、李超、方炜、张雪白】认为,AIGC在降低信息获取门槛的同时,也放大了不同群体之间的认知差异。部分用户,尤其是认知能力和媒介素养较弱的群体,更容易对生成内容产生依赖,独立判断与创造能力受到影响,长期可能引发认知惰性、自我怀疑或幸福感下降。

系统层面,【鄢兴雨、郭志强】认为AIGC使推荐候选空间由稀疏走向致密,用户的兴趣和偏好几乎可以被持续、精准地满足。在降低噪音的同时,也显著压缩了异质信息暴露空间,生成内容与用户行为之间形成更强的正反馈回路,使信息茧房在系统层面不断自我强化。

平台与商业层面,【郭志强、吴伶、陈昊】认为,AIGC在生成、分发和获利环节的深度参与,使信息供给更加围绕用户注意力展开。定向生成与个性化推荐持续诱导点击与停留,使信息茧房变得更加“舒适”和“顺滑”,但其引导性和操纵性更强,对用户心理、消费行为和价值判断产生潜在影响。

社会与文化层面,【郭志强、吴伶】认为,AIGC的高速内容生产正在挤压真实创作者的生存空间,使内容生态呈现出更加明显的长尾化与集中化并存趋势。长期来看,这可能压缩人类原创表达和多元观点的空间,对公共讨论质量和文化多样性带来挑战。

治理层面,【黄俊杰、吴伶、孙倩】认为,AIGC使信息从生成、分发到理解逐步形成算法闭环,信息茧房更多以内生方式由系统运行逻辑塑造。这一变化使治理对象从单一推荐机制扩展至生成—分发—反馈的全链条,责任归属、审计与监管难度显著提升。

总体来看,观点认为,AIGC使信息茧房从以内容为中心的问题,演变为贯穿内容生产、用户行为、平台机制与治理体系的结构性问题,其影响已超越技术问题,深度嵌入认知、文化与社会治理之中。

图片

思辨议题二:推荐系统等工具在面对“新”信息茧房时有哪些新挑战?


清华大学助理教授郭志强认为AIGC 时代的信息茧房正在从数据、模型与评价指标三个层面被系统性放大:大规模生成内容使数据分布更易同质化并冲击推荐冷启动,用户行为反馈在高度定制化内容刺激下进一步窄化;生成式内容与推荐机制形成更快的正反馈闭环,强化伪多样性;而以点击为中心的静态指标难以刻画用户认知变化,放大长期偏差。总体来看,传统推荐范式在 AIGC 环境下面临失效风险,信息茧房更易快速固化。

讨论迅速被收敛为以下四个方面。从技术系统视角看,【郭志强、王春阳、王宁、蔡惠】认为AIGC 时代的信息茧房已不再是单一推荐算法的局部偏差,而是由内容生成、推荐分发、用户反馈与评价指标共同作用形成的系统性结果。生成模型与推荐机制之间形成更紧密的正反馈闭环,使信息环境具备持续“塑形”能力,传统依赖静态指标与单点优化的推荐范式在刻画长期认知影响方面逐渐显现出局限性。

用户与认知视角看,【吴伶、洪海文、唐开强、王祝、张雪白】认为信息茧房的风险已不再主要表现为观点是否单一,而更突出地体现为对个体注意力、时间分配和认知节奏的持续占用与引导。在高频生成、碎片化消费和情绪引导式交互的作用下,用户逐渐被动适应系统节奏,独立反思与主动选择空间受到压缩,且不同认知能力群体之间的影响差异明显。

平台与商业视角看,【鄢兴雨、陈昊、徐欣宇】认为推荐系统的核心目标往往在于提升效率、体验与商业收益。在这一视角下,新形态的信息茧房未必被视为问题,反而可能强化用户黏性与变现能力,从而削弱平台主动打破既有信息结构的内在动力。这也使得信息茧房在商业逻辑中呈现出一定的“合理性”。

社会价值与治理视角看,【黄俊杰、刘艾、刘文懋、杨伟博、吴伶】认为AIGC 是否加剧信息茧房,本身取决于所采纳的评价立场与价值目标。只有当信息多样性、公平性与认知健康被确立为公共目标时,信息茧房才构成需要系统性回应的现实问题。在此背景下,治理对象需从单一推荐结果,拓展至生成、分发与反馈的全链条过程。

综合来看,AIGC 时代的信息茧房并非单一技术问题,而是技术系统、用户认知、平台逻辑与社会价值多重视角交织下形成的结构性现象,其应对路径亦需在不同视角之间取得平衡。


图片

思辨议题三:AIGC时代,应该如何进行多方联动寻找破茧新出路?


华东师范大学助理教授王春阳讨论了在信息茧房挑战下,平台、AIGC技术社区和公众如何通过联动破茧的问题。他认为平台应实施默认机制确保信息多样性,加强内容监管与标识溯源,激励高质量内容创作;AIGC技术社区需确保生成内容负责,在把模型做的更好更准确的同时避免加剧信息窄化;公众层面则需提升AIGC素养,提升自律能力,同时可以将相关教育融入公共课程,共同构建健康的信息环境。

讨论主要从以下五个视角展开。从用户与个体能力视角,【孙敬云、符润泽、袁泽世、孟凡、张嘉超】发言强调,破除信息茧房不能仅依赖系统“替用户做决定”,而需强化用户的主动性与自我调节能力。包括通过主动接触异质信息、合理使用平台功能、提升信息判断与心理韧性,乃至借助个人智能体等工具,增强用户在信息获取中的主权与控制力。

技术与系统设计视角,【郭志强、吴伶、王宁】认为,AIGC 与推荐系统需要从“效率与精准”导向,转向兼顾多样性、均衡性与可解释性的系统设计。这包括引入多目标算法、均衡性指标、内容标注与溯源机制,以及通过技术手段识别虚假内容和认知差异,避免生成与推荐共同放大信息窄化。

平台责任与商业逻辑视角,【王春阳、孙敬云、王宁】观点指出,平台在信息茧房问题中承担关键责任。若以用户黏性和变现为唯一目标,信息茧房将被持续强化;因此平台需要调整默认机制,保障信息多样性,激励高质量内容生产,并在青少年、老年人等重点人群场景中体现“以人为本”的设计原则。

治理与制度设计视角,【鄢兴雨、黄俊杰、洪海文】认为,AIGC 时代的信息茧房具有显著的负外部性,单靠用户自律或企业自觉难以应对。需通过监管介入、标准制定、民主监督与多方协同,弥合技术发展速度与监管能力之间的差距,并重点关注弱势群体保护与事前预防机制。

教育与社会协同视角,【徐翔宇、吴伶、王春阳】认为,信息茧房的长期破解离不开教育体系与社会层面的协同发力。通过将 AIGC 素养、信息判断能力与理性使用技术的意识纳入公共教育和终身学习体系,帮助不同年龄与背景群体适应新的信息环境,是构建健康信息生态的重要基础。

综合来看,观点认为,AIGC 时代信息茧房的破局不再是单一技术或单一主体的问题,而需要在用户能力、技术设计、平台责任、制度治理与社会教育等多个高层视角上形成协同推进的系统性路径。


图片

论坛总结


AIGC时代的信息茧房已不再是单一由推荐偏好导致的“观点同质化”问题,而是在数据、模型、评价指标与用户行为等多层面被系统性放大:生成式内容显著改变了信息供给结构,加速同质化与闭环强化,并对用户注意力、时间与认知轨迹产生持续影响;同时,传统以点击率与转化为核心的静态评价体系,难以刻画认知演化、长期偏差与潜在风险。另外,信息茧房的影响具有明显的立场性、人群差异与场景依赖性——在企业、监管与公众视角下,其“问题性”并不一致,治理目标也难以一刀切。因此,破解 AIGC 时代的信息茧房,不能仅依赖单点算法优化,而需在指标革新、数据与评测基础建设、平台责任、用户可控性以及信息素养提升等方面形成多方协同的系统性应对路径。


热门动态
2025-01-20
信息爆炸时代下,推荐算法的广泛使用解决了信息过载问题,但同时...
2025-01-19
2025年1月12日,中国计算机学会青年计算机科技论坛南京分论坛(...
2024-12-16
大学生作为一个特殊社会群体,面临着学业、就业、人际关系等多重...
2024-11-18
2024年11月09日,CCF YOCSEF南京钟山论剑观点论坛——“智法新时...
2024-11-05
2024年10月26日,CNCC 2024技术论坛:“探索大语言模型的潜能与...
2024-08-25
2024年8月18日,CCF YOCSEF南京钟山论剑观点论坛——“从‘循序...
2024-07-10
2024年6月22日,中国计算机学会青年计算机科技论坛南京分论坛(...
2024-07-10
2024年6月16日,由CCF YOCSEF南京举办的“大模型赋能材料科学创...
2024-06-03
      习近平总书记在黑龙江考察期间首次提出的“新质生产力”理...
2024-05-30
2024年4月20-21日,CCF YOCSEF南京不负春光,在南京市江宁区花筑...
2024-03-19
2024年考研成绩新鲜出炉,今年的考研人数虽然有所下降,但也达到...
2024-01-18
参会人员集体合影留念2024年1月14日,中国计算机学会青年计算机...
2023-12-26
2023年12月16日,CCF YOCSEF南京在南京市江宁区数动未来空间举办...
2023-11-24
2023年11月4日,由CCF YOCSEF南京举办的“计算机技术如何助力青...
2023-08-27
2023年8月19日,CCF YOCSEF南京在南京邮电大学仙林校区计算机学...
2023-08-14
2023届毕业生达历史之最的1158万人,而当下的考研人数越来越多,...
2023-08-10
2023年7月25日,CCF YOCSEF南京成功举办了钟山论剑技术论坛“打...
CCF聚焦