极端内容的传播与演变：从YouTube到生成式AI

留学申请微信咨询

微信扫描左侧二维码

或点击下方按钮咨询

近年来，随着社交媒体平台的普及，极端主义内容的传播方式也在不断演变。根据东北大学（2024USNews美国大学排名：53）的研究，尽管YouTube在2019年修改了推荐算法，试图减少极端内容的传播，但这些内容并未完全消失，而是迁移到了其他平台。研究发现，极端主义社区仍然依赖YouTube进行视频托管，但大多数视频是在站外观看的。特别是政治右倾网站嵌入了更多来自“有问题”频道的视频，这些频道被专业事实核查员或其他学者分类为替代或极端频道。本文将深入探讨YouTube的算法变化、右倾政治网站在传播极端内容中的角色、YouTube内容审核政策的有效性以及极端内容向其他平台的迁移。

YouTube的2019年算法变化及其对极端内容的影响

2019年，YouTube对其推荐算法进行了重大修改，旨在减少极端内容的传播。然而，宾夕法尼亚大学、耶鲁大学、卡内基梅隆大学和瑞士洛桑联邦理工学院的研究人员合作进行的一项研究表明，YouTube的推荐算法实际上会引导用户远离极端内容。这项研究发表在《美国国家科学院院刊》上，挑战了关于社交媒体算法导致政治极端化的传统观点。

研究人员使用“反事实机器人”来模拟用户行为，发现遵循算法推荐路径的机器人比根据用户历史观看视频的机器人消费更少的党派内容。研究还发现，真实用户在观看大量党派视频后会继续消费更多此类内容，而算法推荐的内容则相对温和。这表明用户的偏好是其观看体验的主要决定因素，而不是算法的推荐。研究还指出，YouTube的推荐算法在用户从极右翼内容转向更温和内容时，会逐渐忘记其党派偏好，首页推荐也会逐渐转向温和内容。

这一发现与其他研究一致，表明YouTube和其他社交媒体平台的算法并未推动极端化，反而可能引导用户走向更温和的内容。然而，尽管算法的变化在一定程度上减少了极端内容的推荐，但这些内容并未完全消失，而是通过其他渠道继续传播。

右倾政治网站在传播极端内容中的角色

研究发现，极端内容在YouTube平台上的传播减少后，右倾政治网站成为了这些内容的新传播渠道。特别是这些网站嵌入了更多来自“有问题”频道的视频，这些频道被专业事实核查员或其他学者分类为替代或极端频道。底特律新闻报的报道指出，右倾政治网站通过嵌入YouTube视频，继续传播极端内容，尽管这些内容在YouTube平台上已经受到限制。

这些右倾政治网站利用YouTube的视频托管服务，将极端内容嵌入到自己的网站上，从而绕过了YouTube的内容审核机制。这种做法不仅使得极端内容得以继续传播，还使得这些内容更难被追踪和删除。研究还发现，用户在站外接触到有问题频道的视频后，很快会在站内浏览这些频道的视频，这进一步加剧了极端内容的传播。

YouTube内容审核政策的有效性

尽管YouTube在2019年修改了推荐算法，并加强了内容审核政策，但这些措施的有效性仍然存在争议。众议院共和党人最近要求YouTube提供文件，调查是谁施压其更改政策以禁止某些涉及枪支的视频。众议院司法委员会和联邦政府武器化问题特别小组致信谷歌和YouTube的母公司Alphabet的律师，称有信息表明“YouTube更改枪支政策的决定可能受到了政府官员和第三方的影响，这些人有意压制某些与第二修正案相关的内容。”

新政策于周二生效，禁止展示如何移除安全装置的内容，自制枪支、自动枪支和某些枪支配件的使用内容将受到年龄限制。曼哈顿地区检察官Alvin Bragg表示，这一变化是“响应”其办公室的倡导。众议院司法委员会主席Jim Jordan表示，委员会获得的文件显示“联邦政府曾向Alphabet施压，要求其审查某些内容，包括那些未违反YouTube内容审核政策的内容。”

这一事件表明，YouTube的内容审核政策在一定程度上受到了外部压力的影响，这可能导致某些极端内容未能被及时删除。此外，尽管YouTube加强了内容审核，但极端内容仍然能够通过其他渠道传播，这表明现有的内容审核政策仍然存在漏洞。

极端内容向其他平台的迁移

随着YouTube加强内容审核，极端内容开始向其他平台迁移。近年来，人工智能（AI）在公共、学术和政治讨论中占据了中心位置。生成式AI尤其引人注目，它能够根据提示生成新内容，在教育、娱乐、医疗和科学研究等多个领域展现出变革潜力。然而，生成式AI的快速发展也带来了许多不确定性，包括对人权、现有技术（如生物识别系统）和移民等方面的影响。恐怖组织也开始关注并利用这一新技术。

恐怖组织利用技术并不是新话题，但生成式AI的最新发展使得一些恐怖组织看到了这些技术的“好处”。生成式AI在恶意用途上的优势显著，例如互动式招募、开发宣传材料以及通过社交媒体渠道影响人们的行为。新技术的进步为恐怖组织打开了多种可能性的大门。

生成式AI可以生成文本、图像、音频、视频和多功能模拟。与其他形式的AI不同，生成式AI系统能够开发新输出，而不仅仅是预测和分类。生成式AI的应用包括文本聊天机器人、图像或视频生成器和语音生成器等。

恐怖组织利用生成式AI进行宣传和虚假信息传播。生成式AI可以更容易地传播宣传材料，并显著增加其影响力。通过生成虚假图像、视频或音频，恐怖组织可以制造虚假现实，利用社交媒体平台迅速传播虚假信息。

生成式AI还可以用于互动式招募，通过AI聊天机器人与潜在招募对象互动，提供定制信息，增加招募成功率。此外，生成式AI在战争中的应用也引起了关注，如无人机和自驾车炸弹等。

尽管生成式AI带来了许多风险，但它也可以在反恐中发挥重要作用，如监控、反宣传和预测分析等。AI可以分析实时视频，检测可疑行为或物体，帮助当局迅速应对潜在威胁。

综合总结

综上所述，尽管YouTube在2019年修改了推荐算法，并加强了内容审核政策，但极端内容并未完全消失，而是迁移到了其他平台。右倾政治网站在传播极端内容中扮演了重要角色，通过嵌入YouTube视频，继续传播极端内容。尽管YouTube的内容审核政策在一定程度上减少了极端内容的传播，但这些政策的有效性仍然存在争议。此外，随着生成式AI的发展，极端内容的传播方式也在不断演变，给全球安全形势带来了新的挑战。

为了应对这一问题，政策制定者、执法机构和社会各界必须密切合作，制定有效策略应对这一新兴威胁，同时维护基本人权、隐私和言论自由。只有通过多方合作，才能有效遏制极端内容的传播，维护社会的稳定与安全。