构建“数字人”治理框架

青岛日报 2026年01月06日

  上海交通大学马克思主义学院马尚明近日在《解放日报》撰文指出:

  近年来,形神兼备的“数字人”正加速走进人类生活,化身带货主播、虚拟教师和情感顾问等多重角色,重塑社交方式和劳动形态。面对这一新兴态势,有必要前瞻性构建“数字人”治理框架,将以人为本、技术向善的理念转化为可操作的规范与机制,共同塑造安全可信的数字未来。为了推动“数字人”向善发展,可为其设置底线:以风险预防原则构建治理框架,贯通技术合规、伦理干预和归责机制三重防线,形成全链条、可监管、可追责的治理闭环。

  第一,坚持以人为本,重塑人机边界。“数字人”作为人类创造的技术工具,需被置于人类的主导和控制之下。可进一步明确“数字人”的工具属性,所有应用场景均应嵌入不可移除的身份水印与实时风险提示。同时,凡是涉及商业、金融、医疗等高风险场景,“数字人”仅能提供参考信息,最终决策权由人类掌握,并建立预警系统,防止“数字人”逾越伦理边界。

  第二,筑牢情感护栏,拆解情感茧房。冲破“数字人”织就的情感茧房,离不开平台和用户的主动作为。平台须履行首要责任,建立交互熔断机制。一旦用户的使用时长与情感依赖指数超过设定阈值,可立即中断对话并提示回归现实。

  第三,锚定责任主体,强化内容监管。可建立“数字人”身份备案制度,并推动算法透明化,规范保存运行日志,确保“可解释、可审查、可追溯”。同时,加强平台内容监管,对相关不良信息予以实时拦截、人工复核、留档备查,对涉事主体依法即时追责,以刚性制度守护清朗数字空间。

  (青岛日报/观海新闻记者  李彦宏  整理)