联邦政府正在提供新的资金，继续开发一种自动工具，用于查找和标记网上恐怖主义内容。
在周二晚间发布的一份新闻稿中，公共安全部门详细说明了一项为期三年的190万美元投资，用于“打击网上恐怖主义和暴力极端主义内容”。
“我们需要对抗仇恨和暴力极端主义的抬头，”加拿大总理贾斯汀·特鲁多(Justin Trudeau)周二在一条推特上说。
“在克赖斯特彻奇呼吁峰会上，我宣布加拿大将资助一个新工具，帮助中小型在线平台更好地识别和打击与恐怖主义和暴力极端主义有关的内容。”
特鲁多提到的工具是恐怖分子内容分析平台。
该工具是由联合国的“技术对抗恐怖主义”倡议于2020年创建的，它会梳理互联网各个角落的恐怖主义内容，并标记出来供世界各地的科技公司审查，如果它们选择这样做，还会删除。
该工具的创建由加拿大公共安全局通过社区复原基金提供资金。然而，根据政府工具的网站，尽管有资金支持，政府与TCAP所做的工作保持距离。
恐怖组织是如何运作的tent分析平台(TCAP)的工作?
科技反恐组织的执行董事亚当·哈德利(Adam Hadley)表示，通常情况下，恐怖分子会先在“较小的平台”上分享他们的内容。
“不幸的是，较小的平台处理恐怖分子使用其服务的能力也往往有限，”他在一份电子邮件声明中向《环球新闻》解释道。
“有了TCAP，我们能够迅速向较小的平台提醒这些内容，从而防止这些内容在病毒式传播之前在互联网上传播。”
TCAP首先有一个开源情报(OSINT)分析师团队，他们负责找出恐怖主义实体更喜欢使用哪些平台。然后，该团队识别出包含恐怖分子内容的小型恐怖分子运营网站和社交媒体平台的链接，并将这些链接上传到TCAP。
自动刮刀也从OSINT识别的平台中提取数据，并将相关链接上传到TCAP。
一旦这些链接被上传到TCAP，它们就会被核实并归类到相应的恐怖组织。如果经过验证的链接位于在TCAP注册的平台上，那么科技公司将收到自动警告，由他们决定是否对内容进行审查。该平台还监控内容，以了解技术平台决定做什么。
作为最后一步，TCAP将其收集的内容存档，其网站将其描述为“学术和人权目的”。虽然目前还无法使用，但该工具的存档最终将向研究人员和学者开放。
到目前为止它做了什么?
据TCAP网站显示，迄今为止，该工具已向72个不同平台发出了近2万个警告。
这些警报总共涉及34个不同的恐怖主义实体。
Tech Against Terrorism在其涵盖2020年12月至2021年11月期间的最新透明度报告中表示，其TCAP工具提醒科技平台注意的内容中，94%最终都被删除了。
然而，不同的恐怖组织之间的打击并不相同。平均而言，收到伊斯兰恐怖主义内容警报的科技公司删除了94%标记给它们的内容。
然而，在发出警报后，极右翼恐怖主义内容的删除率仅为50%。
此外，极右翼媒体被提交到TCAP的比例要低得多。虽然有18787份关于伊斯兰恐怖主义内容的意见书，导致10959条警告被发送，但只有170份关于极右翼恐怖主义内容的意见书，导致115条警告被发送。
提交率较低的部分原因可能是由于TCAP工具执行了严格的验证程序。要被考虑列入警报，其内容必须与指定的恐怖组织相关联——这是根据加拿大《反恐怖主义法》制定的官方分类。
加拿大在2019年才开始将右翼极端组织列入非法恐怖组织名单，当时增加了“血与荣誉”和“战斗18”的名称。
哈德利说:“我们密切关注进一步指定的暴力极右翼组织，一旦上述民主机构和民族国家合法指定任何新的指定组织，我们将把它们列入TCAP。”
“我们认为，主要的民主国家需要做更多的工作，以确保在指定极右翼暴力极端组织、团体和个人方面做更多的工作。”
关于自动标记有效性的争论
哈德利表示，最新一轮融资的部分目标是帮助TCAP加强对其标记的内容进行归档的努力。
他说，来自加拿大的资金将在一定程度上“确保内容下线后提供对原始内容的访问，从而确保内容下线是可审计和可问责的。”
j·m·伯杰(J.M. Berger)是一位专注于极端主义的作家和研究员，写过四本广受好评的书。他表示，对标记为要删除的内容进行审核是这个过程中的关键步骤之一。
他对《环球新闻》表示:“现在迫切需要某种有组织的努力来归档容易被删除的极端主义内容，这是TCAP的功能之一。”
“这些材料不仅对起诉和研究很重要，而且是任何审查科技公司如何采取行动的努力的必要组成部分。”
伯格说，就目前的情况来看，目前的撤除机制“相当不透明”。
“这些档案可以让我们迈出问责的第一步，但还有很多工作要做。”
然而，并不是所有人都相信自动化是管理网上恐怖主义内容的最佳途径，包括前战略与国际研究中心分析师、现任教于卡尔顿大学的斯蒂芬妮·卡文(Stephanie Carvin)。
“我并不一定反对它，”卡文在谈到TCAP工具时说。
然而，她表示，科技公司应该采取更积极的行动，在不依赖自动化工具的情况下处理其平台上的极右翼内容。
“事实是，极右翼存在问题，必须由(科技)公司自己来解决。”
一些大型科技公司最近已采取措施，打击来自白人至上主义者和极右翼民兵的材料。
据路透社报道，2021年，包括推特、Alphabet在内的一些美国科技公司，以及微软开始向全球互联网论坛反恐数据库(GIFCT)贡献力量。在这项声明发布时，meta仍被称为Facebook。
这使得他们可以在不同的平台上共享数据，以便更好地识别和删除极端主义内容。
不过，尽管科技公司和TCAP做出了努力，但考虑到与达伊沙等伊斯兰恐怖组织的符号和表情包相比，他们的符号和表情包变化得非常快，一些极右翼内容仍有被遗漏的风险。
“当像达伊沙这样的组织使用他们的旗帜和类似的东西时，他们使用某些类型的图像。这要容易得多，”卡文解释道。
“但举个例子，我认为加拿大政府最关心的是极右翼的表情包和内容变化非常快。”
与此同时，根据公共安全部长发言人奥黛丽·尚普斯(Audrey Champoux)发给《环球新闻》(Global News)的一份声明，加拿大政府表示，提供网络保护是保障加拿大人“安全”努力的“核心部分”。
“我们必须应对仇恨、虚假信息和虚假信息的抬头，以及暴力极端主义的抬头，因为它们往往在网上被放大和传播，从而可能在现实世界中造成后果。”
——还有来自路透社的文件
