首页 > Ai资讯 > Ai教程 > Twitter 的审核系统支离破碎!马斯克接手推特以后….

Twitter 的审核系统支离破碎!马斯克接手推特以后….

发布时间:2024年04月23日


在 Elon Musk 裁员后,几乎没有版主可以与之交谈。

 

 

甚至在 11 月 12 日 Twitter 裁掉约4,400 名合同工之前,该平台就已经显示出紧张的迹象。虚假信息研究人员和活动人士称,埃隆·马斯克收购该公司并解雇了 7,500 名全职员工中的一半后,负责删除有毒和虚假内容的团队消失了。现在,经过多年在这些团队中发展关系,研究人员表示没有人对他们在网站上的虚假信息报告做出回应,即使数据表明 Twitter 的毒性越来越大。

这个问题在巴西尤为严重,右翼现任总统雅伊尔·博尔索纳罗和路易斯·伊纳西奥·卢拉·达席尔瓦在马斯克上任几天后举行了总统决选。几个月来,观察家和活动人士一直警告说,如果博尔索纳罗输了,他的支持者可能不会接受选举结果,并可能诉诸暴力。当博尔索纳罗的支持者开始在网上质疑选举结果时,研究人员发现推特显然已经解雇了所有应该监控该平台的人。

 

“此时此刻,我们没有人可以联系,”巴西国家数字民主科学技术研究所研究员 Nina Santos 说。“所有与我们交谈的人都不在了。” 桑托斯表示,在马斯克接管之前,与 Meta 和谷歌相比,Twitter 在删除可能破坏对选举的信任或传播虚假信息的违规内容方面一直“非常敏感”。本月早些时候裁员的 7,500 人包括 Twitter 巴西团队的全部人员。

尽管卢拉被宣布为选举的获胜者,但桑托斯表示,她仍然看到推特质疑结果或呼吁动员起来反对政府。她说,所有这些都是危险的。推特目前的政策规定,该公司将“标记或删除旨在破坏公众对选举或其他公民程序的信心的虚假或误导性信息。” Bot Sentinel 是一个打击 Twitter 上的虚假信息和骚扰的项目,其创始人兼首席执行官克里斯托弗·布齐 (Christopher Bouzy) 也在关注巴西选举和美国中期选举。和桑托斯一样,他注意到推特上仍然存在声称巴西大选被盗的推文。

在美国中期选举期间,虚假信息也在 Twitter 上泛滥,尤其是在亚利桑那州马里科帕县的竞选期间,该州是该州最大的县,也是右翼选举否认者的一贯目标。正在监控数千个右翼账户的布齐说,他“不知道该联系”公司的谁来删除包含虚假信息的推文。“推特是一个狗屎节目,”他说。

11 月 15 日,全球 70 多个民间社会组织致信马斯克,要求他采取行动制止仇恨言论在 Twitter 上变得更加普遍。在美国中期选举前几周,非营利组织 Free Press发布了一份报告,强调所有社交平台如何允许选举虚假信息持续存在。该组织的高级顾问兼数字司法和民权主管诺拉·贝纳维德斯 (Nora Benavidez) 表示,尽管包括 Twitter 在内的许多平台并不总是对研究人员和维权组织做出回应,但大规模裁员让这变得更加困难。

“我和其他试图伸出援手的人都走进了死胡同,”贝纳维德斯说。“当我们联系那些据称仍在使用 Twitter 的人时,我们只是没有得到回应。”

即使研究人员可以访问 Twitter,响应也很慢——有时需要一天以上的时间。非营利组织 Common Cause 的竞选副总裁 Jesse Littlewood 说,他注意到当他的组织报告明显违反 Twitter 政策的推文时,这些帖子现在被删除的可能性降低了。

用户和监管机构可能希望向 Twitter 报告的内容量可能会增加。最近几周被解雇的许多员工和承包商在信任与安全、政策和公民诚信等团队中工作,所有这些团队都致力于将虚假信息和仇恨言论拒之门外。

Melissa Ingle 是 Twitter 公民诚信团队的高级数据科学家,直到 11 月 12 日她与其他 4,400 名承包商一起被解雇。她编写并监控了用于检测和删除 Twitter 上的政治错误信息的算法——最近,这意味着美国的选举和巴西。在她团队的 30 人中,只剩下 10 人了,许多负责审查推文并标记违反 Twitter 政策的内容的人工内容管理员也被解雇了。“机器学习需要不断的投入,不断的关怀,”她说。“我们必须不断更新我们正在寻找的东西,因为政治话语一直在变化。”

虽然 Ingle 的工作不涉及与外部活动家或研究人员互动,但她说 Twitter 的政策团队成员这样做了。有时,来自外部团体的信息有助于告知条款或内容,Ingle 和她的团队会训练算法来识别。她现在担心,由于解雇了如此多的员工和承包商,将没有足够的人手来确保软件保持准确。

“随着算法不再更新,人类主持人消失了,管理这艘船的人就不够了,”Ingle 说。“我担心的是,这些过滤器会变得越来越多孔,随着算法随着时间的推移变得越来越不准确,越来越多的东西会通过。而且没有人能抓住缝隙中的东西。”

Ingle 说,在马斯克接手 Twitter 的一天之内,内部数据显示,用户举报的辱骂性推文数量增加了 50%。她说,最初的峰值略有下降,但滥用内容报告仍比接管前的正常数量高出 40% 左右。

乔治华盛顿大学数据、民主与政治研究所所长丽贝卡·特朗布尔 (Rebekah Tromble) 也希望看到 Twitter 对被禁内容的防御能力减弱。“Twitter 一直在努力解决这个问题,但最近几个月,许多有才华的团队在这些问题上取得了真正的进展。这些团队现在已经被消灭了。”

一位前内容管理员也表达了这种担忧,他在 2020 年之前一直是 Twitter 的承包商。为了避免受到现任雇主的影响,该承包商匿名表示,他接触过的所有从事类似工作的前同事都已被解雇。他希望该平台成为一个不那么美好的地方。“这将是可怕的,”他说。“我积极搜索了推特上最糟糕的部分——平台上最种族主义、最可怕、最堕落的部分。这就是将要被放大的东西。”

如果你想要了解关于智能工具类的内容,可以查看 智汇宝库,这是一个提供智能工具的网站。
在这你可以找到各种智能工具的相关信息,了解智能工具的用法以及最新动态。