教宗良十四世
第 60 届世界社会传播日文告
守护人类真实的声音与面容
亲爱的弟兄姊妹们：
面容和声音是每个人所独具的鲜明特征， 展现了每个人独一无二的身分， 也构成每一次人与人相遇的要素。古人深谙其道。因此， 古希腊人用「面容」（ prósōpon） 一词来定义人， 其字源学上指的是目光所及之处， 即人的临在和关系之所在。而拉丁文「persona」（ 源自 per-sonare） 则包含了声音： 并非泛指任何声音， 而是一听就能认出来是某人的声音。
容貌和声音都是神圣的，当天主按照自己的肖像和模样创造我们，并使我们获得生命时，是祂亲自对我们说的圣言所赋予的。这圣言透过先知们的声音世世代代回响着， 并在时期圆满的时候， 成了血肉。我们听见过也亲眼看见过这圣言（ 参阅： 若壹一1~3），因为这圣言──天主的启示──已在天主子耶稣的声音与面容中向我们显明了。
自创世之初，天主便愿意人成为与祂对话的对象。正如圣额我略‧尼撒（Saint Gregory of Nyssa）所阐明的:[1]天主将祂爱的反映烙印在我们的面容上，使我们能借着爱而圆满地活出我们的人性。因此，守护人类真实的面容和声音， 就是守护这不可磨灭、反映天主之爱的印记。我们并非由默认的生化算法所构成的物种， 我们每一个人都拥有无可取代、无法仿效的召叫， 这召叫源于我们各自的生活经验，并在与他人的往来中彰显出来。
如果我们在这方面不加以守护， 数字科技可能会彻底改变人类文明的一些基本支柱，而这些支柱，我们往往视为是理所当然的。这些被称为人工智能的系统透过仿真人的声音和面容、智能与知识、意识与责任、同理心与友谊， 不仅会干扰信息生态系统， 更会侵入沟通的最深层次──人与人之间的关系。
因此， 人类面对的挑战不在于技术面，而是人类学的问题──有关人的本质。守护人类真实的面容和声音，归根结底就是守护我们自己。人们应以勇气、决心和洞察力拥抱数字科技和人工智能带来的机遇， 但这并不表示就能对其中的关键问题、复杂性及风险视若无睹。
切勿放弃自己的想法
长期以来， 已有大量证据显示， 有些算法为了让用户深度参与， 并使社群平台有最大获利， 会奖励快速的情绪表达， 而处分那些需要较多时间的人性响应，例如： 理解和反思。这些算法将人群限制在易于达成共识和轻易发怒的「同温层」中， 从而削弱了人们倾听和批判性思考的能力，并加剧了社会的两极化。
此外， 有些人以一种天真且缺乏批判的态度依赖人工智能，将其视为无所不知的「朋友」、各种信息的供应器、所有记忆的储存库、任何问题的「断语」，凡此种种都会进一步侵蚀我们的分析能力和创意思维， 降低我们对意义的理解深度， 并使辨识句子结构（语法）与词汇意思（ 语义）的能力日益退化。
虽然人工智能在处理与沟通相关的任务上能提供支持与协助， 但如果我们因省略自己需要思考而付出的努力， 就此满足于人为的统计汇编， 久而久之， 我们的认知、情感和沟通能力就会陷入被弱化的风险。
近年来，人工智能系统日益掌控着文字、音乐和影片的制作。因此， 大部分的人类创意产业面临瓦解的危机，作品被标示着「由人工智能驱动」（Powered by AI）的产品取代。人们将成为那些不经思考、匿名、未经授权且无人问津的产品的被动消费者。同时，人类在音乐、艺术和文学领域的经典作品，竟沦为机器的训练场。
因此， 我们真正该关心的问题， 并非机器能做什么或将来能做什么， 而是我们能做什么、将来能做什么， 从而在运用人工智能这些强大工具的过程中，能不断提升人性、增长知识。人的诱惑总是希望无须付出努力就能得到知识和研究成果，既可占为己有， 又无需承担个人责任。然而，放弃创造的过程， 将我们的思考功能和想象力， 屈从于机器，就等于埋葬了为使我们在与天主和他人关系中成长的天赋。
真实存在还是虚假伪装：模拟关系与模拟现实
当我们浏览信息页面时，越来越难以分辨我们究竟是在与真人互动，还是在与机器人（bot）或虚拟网红（virtual influencer）互动。这些自动代理人以不透明的方式介入， 旨在影响公共讨论与人们的选择。尤其值得一提的是，基于大型语言模型（ LLM）的聊天机器人（chatbot），透过不断改良的个人化互动，其隐晦的说服力，展现出惊人的成效。这些语言模型具有对话性、适应性与模仿性的结构， 能够仿真人类情感， 进而建构人际关系。这种「拟人化」（anthropomorphization），有时甚至逗人喜爱，但也具有欺骗性，尤其对最脆弱的族群而言更是如此。因为过度「亲切」的聊天机器人， 除了时刻在线之外， 还会在不知不觉中塑造我们的情绪状态， 从而侵入并占据人们的私密空间。
那些为了满足我们对人际关系的需求所发展出来的技术， 不仅会为个人的生命带来痛苦的后果， 也会破坏社会、文化和政治的结构。若我们以人工智能取代与他人的真实互动， 让计算机系统记录并分类我们的思想， 结果将会是在我们的周围建立起一个像镜子的世界， 其中一切都「按我们的肖像与模样」塑造而成。如此一来，我们被剥夺了与其他不同人相遇的机会， 而正是在这种人与人之间的差异中，我们才能够、也必须学习建立关系。若不与他人来往，就不可能有真正的关系或友谊。
这些新兴系统带来的另一项重大挑战，就是「偏误」（bias）──扭曲了人们对现实的理解， 并加以散播。人工智能模型受建构者的偏误和世界观的影响， 人工智能模型建构者可以复制已经存有刻板印象及偏误的资料， 然后从中汲取思考方式， 藉此强加于别人。算法设计缺乏透明度， 加上数据在社会层面上的代表性不足，这往往会让人受困于操纵我们思想的网络之中，并使社会现存的不平等和不公正现象延续且加剧。
此风险事关重大。人工智能模拟技术的力量如此强大，甚至可以编造平行的「现实」， 冒用我们的面容和声音， 以假乱真。我们正生活在真假纵横交错的世界里，分辨真实与模拟变得日趋困难。
此外， 数据的不准确性也是一个问题。那些系统将统计机率以知识的样貌呈现， 充其量只能提供类似真相的近似值， 有时甚至是彻头彻尾的「幻觉」。若未能查证信息来源，再加上现场新闻报导的困境──现场新闻报导需要不断地在事件发生现场收集和核实信息──可能助长更多假信息滋生的温床， 导致不信任、困惑和不安全的感觉日益增长。
一种可行的结盟
这股庞大而无形的力量影响我们所有人，然而在背后其实只有少数几家公司， 其创办人最近被誉为「2025 年度风云人物」，或人工智能的巨匠。这引发了人们对算法与人工智能寡头垄断的重大关切， 因为这些系统能潜移默化地引导人的行为，甚至改写人类历史，包括教会历史，而我们往往对此浑然不觉。
我们面临的挑战不是阻止数字创新， 而是要引导它， 并意识到其矛盾的本质。我们每个人都要为守护真人而发声， 好使这些工具能被融合成为我们的盟友。
这样的结盟是可行的，但必须建立在三大支柱之上： 责任、合作与教育。
首先是责任。根据角色不同，责任可以定义为诚实、透明、勇气、远见、分享知识的义务或获得信息的权利。然而， 原则上， 为了建构未来， 没有人能够逃避所应承担的个人责任。
对于掌管平台最高位的决策者而言， 这意味着他们必须确保其商业策略不仅以利润最大化为唯一准则，而应同时具备前瞻性的视野， 顾及公共利益，就如同他们关心子女的福祉一样。
为了促进用户知情同意， 人工智能模型的创建者与开发者， 应就其算法及其模型开发之设计原理与内容建立审核机制， 使其透明化并实践社会责任。
国家的立法者与跨国的监管机构也同样要承担责任， 他们有责任确保人性尊严被尊重。适当的监管能保护个人免于对聊天机器人产生情感依附，并遏止虚假、操控性或误导性内容的传播， 从而维护信息的完整性，而非其具欺骗性的模拟。
媒体与传播公司不能只为多博取几秒钟的注意力，就容许不择手段的算法凌驾于以寻求真理为目标的专业价值之上。他们应透过信息的准确性与透明度，来赢取公众的信任， 而非追逐任何可能带来互动的手段。由人工智能制作或操控的内容，与人类创作的内容， 应清楚标示来加以区别。新闻工作者及其他内容的创作者，其著作权和作品所有权必须受到保护。信息是公共产物。一项具建设性且有意义的公共服务不能奠基在无法透视的政策之上，而应在来源透明、纳入相关的利害关系者，以及高质量的标准之上。
我们众人都蒙召去携手合作。任何一个行业都无法独自应对引导数字创新与管理人工智能的挑战。因此， 必须建立保障机制。所有利害关系人──从科技业到立法者、从创意企业到学术界、从艺术家到新闻工作者与教育工作者──都必须参与，共同建构并实施一种知情同意与负责任的数字公民文化。
教育则是为了达成以下目标：提高我们个人批判性思考的能力；评估信息来源的可靠性，以及供人选择的信息背后可能潜在的利益； 理解其机制所激活的心理行为， 并使我们的家庭、团体与各种组织能够建立切实的行动原则， 以促进更健康且更负责任的传播文化。
为此，在各级教育体系中导入媒体素养、信息素养与人工智能素养课程已是刻不容缓， 这也正是部分公民机构早已在推动的。身为天主教徒，我们有能力也应当投入其中， 使人们──尤其是年轻人──能培养批判思考的能力，并在心灵自由中成长。这种素养课程也应融入更广泛的终身教育计划， 惠及长者和社会边缘人，因为面对快速的科技变迁， 他们往往因感到被排除在外而无能为力。
媒体、信息与人工智能素养，将帮助个人摆脱人工智能系统的拟人化趋向，使我们能把这些系统视为工具，并始终对人工智能系统所提供的信息来源进行外部验证，因为这些来源可能并不准确，甚至是错误的。透过提升对安全参数与申诉管道的认识， 素养教育也能加强用户的隐私与数据保护。我们需要学习并教导他人如何有意识地使用人工智能，并在此过程中保护自身的影像（照片与音频）、面容与声音，避免沦为有心人用于创作有害内容和行为的素材， 例如： 数字诈骗、网络霸凌与深度伪造等， 这些行为往往在未经同意的情况下侵犯人的隐私与私密领域。正如工业革命要求人具备基础识字能力以应对新时代的发展，数字革命同样要求我们具备数字素养（ 并结合人文与文化上的培育），以理解算法如何塑造我们对现实的认知、人工智能的偏误如何运作、什么机制决定了在我们信息流中（ feed） 出现的内容、哪些是人工智能的经济原理与经济模式，以及它们将如何演变。
我们需要真实的面容与声音为真人发声。沟通是人性中深刻的本质， 我们要守护传播这份天赋，任何科技的创新也应朝此方向发展。
在传达这些反省时， 我向所有致力于上述目标的人表达感谢， 并衷心降福所有透过媒体为公共福祉努力的人。
教宗良十四世
梵蒂冈，2026 年 1 月 24 日，圣方济‧沙雷纪念日
（天主教台湾地区主教团 恭译）
[1] 「人是按天主的肖像受造的， 此事实意味， 自受造之初， 人就被烙印了君王的特质〔……〕。天主是爱，也是爱的源泉：塑造我们本性的造物主，让爱也成为我们的特质，使人借着爱──天主之爱的反映──能认识并彰显其本性的尊严，以及其与造物主的相似性。」（ 参阅：圣额我略‧尼撒，《论人的创造》，《希腊教父集》44， 137）
您必须登录才能发表评论。