fivsevn-devlog

文章翻译

source

note

本文为原文内容的中文翻译,仅用于学习与知识整理。原文版权归原作者及出版方所有。若权利人认为本文不宜公开保留,请联系后删除或调整。

正文

新闻机构应如何向受众标注 AI 使用?新研究给出了一些答案

另外:TikTok 用户如何衡量可信度,以及关于从商业新闻业转向的可行性的一些好消息。

正如我们此前报道过的那样,AI 生成的新闻会引发读者的不信任,受众更偏好有人类参与的新闻。这一点或许显而易见,但这个宽泛说法中隐藏着许多问题。首先,AI 的使用方式如此之多,那么“AI 生成”到底是什么意思?受众又会如何回应记者使用 AI 的不同类型和不同程度?其次,如果读者希望新闻机构透明披露其 AI 使用情况(正如此前研究所发现的那样),但知道 AI 实际被使用会降低他们的信任和对准确性的感知,出版方应当如何行动?

《Digital Journalism》期刊上的两项研究回应了这些问题。第一项研究,《新闻中的生成式 AI 对媒体可信度和选择性的影响:来自智利一项联合实验的证据》,采用了实验方法。参与者被要求两两比较媒体机构的 AI 政策。这些政策在与 AI 使用和披露相关的七个不同维度上有所差异,参与者必须说明他们认为哪项政策更可信,以及他们会选择哪家机构作为新闻来源。

研究作者 Sebastián Valenzuela、Ingrid Bachmann、Porismita Borah 和 Natalia Solís Valdés 发现,人类监督是参与者考虑的最有影响力的因素。与没有这类监督的机构相比,要求对所有 AI 内容进行人工审核的媒体机构被认为更可信,也更常被选作新闻来源。参与者还认为,披露生成式 AI 的使用对于可信度和新闻使用都很重要。与禁止所有由 AI 自动撰写新闻的机构相比,当 AI 既自动生成客观新闻报道,也自动生成需要细微判断和解释的内容时,参与者更不愿意使用该机构,也更不认为它可信。

但对于新闻机构是否应使用 AI 来处理琐碎任务,人们并没有表现出任何偏好;显然,这并不影响可信度。他们也没有对 AI 用于个性化新闻形式,或用于创作视觉内容表现出偏好。

第二项研究是 Jessica Zier 和 Nicholas Diakopoulos 撰写的《超越署名行:受众对新闻媒体 AI 披露的期待》,它通过访谈更具体地探讨了 AI 标注这一难题。参与者列举了他们希望看到 AI 标注的多个原因,包括让记者承担责任、避免欺诈、提升信任,以及把它作为一种提示,提醒读者可能需要核验信息。受访者表示,一篇完全由 AI 撰写的文章(当标签写着“生成”或“由……制作”时,他们会默认是这种来源)和一篇只是借助 AI 完成的文章(由“辅助”或“共同完成”等标签表示)之间存在关键差异。他们担心 AI 产生幻觉和偏见的能力,因此认为人工审核必不可少,并希望标注能够回应这一需求。与那项定性研究不同的是,参与者对视觉内容有特别担忧,认为这类内容尤其需要标注。

但参与者也解释了标签可能如何产生反效果。一位参与者说,看到 AI 标签时,他们很可能会想:“我大概需要核查一下事实,再试着找另一篇文章。”受众也把新闻业视为一种需要专门训练和伦理操守的职业,这让 AI 在一些人看来像是一种“偷懒”。一位参与者谈到 AI 的使用时说:“11 岁小孩也能这么做。如果你要用 AI 生成整篇文章,就不需要那种训练了。”

研究作者在一张建议表中列出了一些实践层面的启示(这是个不错的做法,我们希望以后能更常看到):

综合来看,这些研究有助于建立一幅更清晰的图景:新闻机构需要在何时、如何保留“人类触感”,以及它们应当如何谈论 AI。一个趋势正变得更清楚:人类参与被视为专业责任和问责的标志,而这正是媒体不信任时代中的关键货币。对于涉及主观判断或价值判断的 AI 使用,出版方也最好谨慎行事。它们还应认真思考标签如何呈现,尤其是当这些标签谈到受众如此重视的人类参与和监督时。

研究综述

如果一个人的新闻摄取中新闻很少、视觉社交媒体很多,我们很容易把它轻描淡写地概括为“碰巧在 TikTok 上看到什么就相信什么”。但当然,TikTok 用户也在不断对他们在那里遇到的信息作出可信度判断,一个视频接着一个视频地判断,就像其他新闻消费者阅读传统新闻文章或观看广播电视新闻节目时所做的那样。

TikTok 的速度可能会让许多判断标准变得最低限度化,因为人们会使用启发式,而不是系统处理他们在那里找到的信息。但在 TikTok 上评估可信度的这些快而粗略的策略究竟是什么?它们又如何受到 TikTok 独特特征的塑造——没有链接、没有公开分享,而且视频往往极短?

Anter 和 Kümpel 研究了德国大学生的策略:他们让学生给他们发送与健康或政治相关的 TikTok 视频链接,然后就学生如何评估其中一些视频对他们进行访谈。对这些学生而言,评估发布视频的账号可信度,是判断一个视频可信度的核心策略。Anter 和 Kümpel 表示,这种评估起到了一种“高效捷径”的作用:TikTok 作为平台通常被视为不可靠,而在几乎没有空间展开细致论证或提供支持性证据的情况下,也很难基于视频信息本身来评估可信度。

尽管如此,学生们用来判断来源是否可信的标准,对新闻机构而言可能是令人鼓舞的。传统媒体机构、专业专家、公司和政治行为者都被认为比“随机创作者”更可信。即使缺少能传达可信度的信息特征,例如更正式的审美风格或经过记录的证据,这些对来源的评估本身往往也足以发出可信信号。

由于他们认为 TikTok 整体可信度较低,学生们并不愿意通过搜索同一主题的其他视频来核验视频。但离开 App 去核验需要更有意识的努力,而他们并不倾向于这么做。因此,学生们的主要核验方法之一是看评论区,而评论区似乎比平台上的实际视频享有更高的可信度感知。

视频本身也有一些元素有助于支撑可信度判断:视频是否主要基于事实而不是基于观点,是否具有更正式的审美风格,以及其主题是否被广泛报道,都会影响一个视频被视为可信的程度。正如研究者指出的,这给 TikTok 上的记者提出了一个难题:算法奖励带有“平台典型特征”的视频,比如流行音乐、快速剪辑或参与挑战,但这些特征也正是会引发年轻受众怀疑的特征。他们总结说,解决方案可能在两者之间的“甜蜜点”上。

近年来,困扰政治民调专家的一个更棘手问题是 表达性回应:人们说自己相信某件其实并不相信的事,以表达对自己阵营的亲近,或对他人的敌意。(例如,特朗普选民在民调人员询问特朗普还是巴拉克·奥巴马的就职典礼人群规模更大时,故意给出错误答案。)这让调查回答更像是身份表达,而不是实际信念,也让政治研究者判断公众真实想法的工作变得更加困难。

一些证据表明,这一点同样适用于新闻消费研究:人们可能会_说_自己消费的新闻比实际情况更符合他们的党派信念,以此表达其政治身份,以及他们对与这种身份一致的组织的支持。这使得通过调查确定人们实际新闻习惯变得更困难,但也可能意味着党派化新闻消费并没有我们以为的那么普遍。

Noh 是 UCLA 的学者,她对这个想法进行了迄今最直接的测试。她设计了一项实验,让人们从支持枪支管制和反对枪支管制的不同视角中选择标题。一些人被告知他们只会选择文章,而不会阅读文章;另一些人则被告知他们会阅读自己选择的所有文章。他们还被给予一些假设情境:他们的选择将是公开的或私密的。

表达性回应效应(Noh 称之为“表达性新闻偏好”)确实存在:不需要阅读自己所选新闻的参与者,选择了比需要阅读者多 10% 的、与其党派信念一致的报道。换言之,当他们只是向研究者发出自己会选择什么的信号,而不是真的必须消费这些新闻时,他们更可能挑选与自身观点一致的新闻。公开或私密的情境并未对结果产生影响,也许是因为这些情境只是虚构的。

但 Noh 没有预料到这种效应会在谁身上最强。她曾预测,党派立场最强的人会表现出最多的表达性新闻偏好,这与政治学中关于表达性回应的研究相符。但实际情况是,温和党派支持者在需要阅读与不需要阅读文章时的选择差异最大。回过头看,这也说得通:强党派支持者确实主要想阅读符合自身党派视角的新闻,而不只是向研究者发信号。但当“政治身份存在却尚未牢固扎根”时,较弱党派支持者的表达动机可能会更深地影响他们的回答,Noh 写道。她总结说,我们需要注意身份不仅会影响调查回答,也会以多种方式影响新闻参与,而且这种影响具有强度差异。

自从要求围绕更偏非营利和公共基础的资助模式来重塑美国新闻业的呼声开始变得普遍以来,已经接近 20 年了。此后确实发生了转变,只要看一眼已经涌现出的数百家非营利新闻机构就能明白。但在这段时间里,这种资助转向是否足以抵消商业新闻机构岗位的大量流失?它们是否真正改变了美国新闻业历史上的商业导向?

Powers 的新研究表明,这些问题的答案实际上可能是肯定的。Powers 是华盛顿大学教授,他考察了美国一座城市西雅图新闻编辑部就业的构成。他建立了一个包含 2015 年该市所有全职地方记者的综合数据库,然后在 10 年后对其进行更新。他用两种相互关联的方式对这些记者进行分类。第一种是按所有权分类:公共、非营利、私人(由个人、家庭或小型投资者群体拥有)和市场型(上市公司,或由私募股权或对冲基金拥有)。第二种是按资金来源分类:市场、慈善或政府。

总体就业下降幅度小得令人意外:从 2015 年的 431 名记者降至 2025 年的 411 名,降幅为 4.6%。在减少的 85 个职位中,超过 80% 来自私人或市场所有的机构。而新增的 65 个职位全部来自公共媒体。(如果没有这 65 个新岗位,就业降幅本会达到 20%。)

这种转变意味着,受雇于公共所有制机构的西雅图记者比例增加了一倍多,从 10.2% 上升到 26.5%,超过市场型所有制,成为该市排名第二的所有权形式。占比最大得多的仍是私人所有制,尽管这一比例从 58.7% 降至 52.3%。自 2015 年以来,几家私人所有的新闻机构(《The Post-Intelligencer》、《Seattle Weekly》、《The Stranger》)已经被大幅削弱(或进一步削弱),但私人所有制在就业占比上保持相对稳定的原因,是《Seattle Times》使用慈善资金支付了 30 个员工职位。

事实上,整个城市由慈善资金资助的新闻岗位比例从 2015 年的 17.2% 翻了一番,达到 2025 年的 35.3%。综合来看,Powers 得出结论:公共媒体的扩张和新闻编辑室岗位慈善资助的增加,“显著减少了过去十年中原本会流失的新闻编辑室岗位数量。它们也使新闻就业市场的若干部分越来越依赖非商业支持。”Powers 承认,这些变化并非万灵药,地方记者就业市场仍处于结构性衰退之中。“不过,这些行动确实表明,这种变化的速度和性质并非不可避免,”他指出。“如果政治人物、慈善家和公民希望采取行动进一步应对这一局面,确实存在可行选项。”

ChatGPT 是一种什么样的记者?世界各地的记者体现着一系列价值观,并认为自己承担着多种角色,这些角色彼此不同,有时甚至直接冲突。我们也知道,大型语言模型会吸收其训练数据和工程设计中的偏见,其中会包含这一广泛价值谱系中的一部分。因此,如果记者要求 ChatGPT 为他们扮演新闻角色,他们得到的会是什么样的价值观和角色?

Kang 及其同事用一种相当优雅而简单的方式回答了这个问题:他们选取了广泛使用的 Worlds of Journalism 研究中向记者提出的 39 个调查问题,并把这些问题问给 ChatGPT。他们将问题改写成适合大语言模型的提示,并反复提问,对提示措辞进行轻微调整,同时纳入美国、英国和德国的具体国家语境,以确保 ChatGPT 的回答可靠,且结果不受措辞细节影响。随后,他们把这些结果与来自这三个国家的记者调查结果进行比较。

回答最接近 ChatGPT 的记者类型,是一名中间派、全职合同工,具有电视新闻背景,并拥有学士学位。ChatGPT 最不像右翼倾向记者、兼职记者、供职于通讯社的记者,以及没有正式学位的记者。在男性或女性之间,它并未表现出不同的匹配度。

当问题深入到一些特定领域时,ChatGPT 的匹配情况略有变化。在其认识论信念(关于现实和知识的性质)上,ChatGPT 与自认左翼倾向和女性的记者,以及在原生网络媒体雇主处工作的记者更为一致。但在伦理问题上,ChatGPT 变得更偏中间派。

不同国家之间也有一些差异:在德国样本中,ChatGPT 最偏中间;在英国样本中,它最偏左,并且与电视记者最相似;在美国样本中,它与男性记者最接近。总体而言,ChatGPT 与德国记者价值观的相似程度高于与英国或美国记者价值观的相似程度。

总体而言,这些发现提供了一些经验证据,用来明确 ChatGPT 作为一个系统究竟具有哪些新闻价值观和偏见。具体来说,作者指出,该模型与多数群体保持一致令人担忧,因为这“表明人类记者需要持续警惕:大语言模型输出中可能系统性遗漏少数群体视角。”