行业资讯

返回
联系电话:028-86637122

为超过36个行业提供IT经营解决方案

行业资讯 小程序/App开发 资讯详情

YouTube 用 AI 代替人工审核员后,又决定返聘

YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。所以,今年 4-6 月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。 这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。

AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的 4-6 月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。 但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而 从人工换成 AI 之后,被下架的视频数几乎翻了一番。

小程序/App开发

在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。 YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。

在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点,人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。 这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。 这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。

小程序/App开发

人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。 YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据「被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。」 YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。

YouTube 用 AI 代替人工审核员后,又决定返聘

YouTube 在今年初,将内容人工审核团队大量裁撤,全部替换成为 AI 进行内容审核。所以,今年 4-6 月整个第二季度里,YouTube 线上的所有视频,都是由 AI 进行官方的内容审核。这也是 YouTube 有史以来第一次整一季度,没有人工审核员参与内容初审。 这一大步跨越,带来了不小的后果,YouTube 在近期叫停这项举措,并且大批返聘在年初解雇的人工审核团队。

AI 审核被叫停的重要原因之一,就是 AI 审核的规则相较于人工,更为严格,甚至会导致误伤。根据 Google 在定期的透明度报告中提到:在 2020 年 AI 接管内容审核的 4-6 月中,共有 1100 万个视频被 AI 标记违规并下架,这些视频主要来自于美国、印度和巴西。 但是,在今年的第一季度里,被鉴定违规并下架的视频,仅仅只有 660 万。而 从人工换成 AI 之后,被下架的视频数几乎翻了一番。

小程序/App开发

在被 AI 下架的 1100 万个视频中,多数为色情、虚假、涉恐犯罪类型,但是也有不少是误伤。其中,就有 32 万个被 AI 标记下架的视频提出了申诉,最后近半数都通过二次审核,并重新上线。而在过去,进行申诉的视频,只有 25% 左右可能重新上线。 YouTube 的审核 AI,以一己之力,让 YouTube 的播主们瑟瑟发抖,花更多时间自查内容,一时间怨声载道让 YouTube 头疼不已;大量的申诉,还给 YouTube 团队,增加了不少重新审核的工作量。

在年初 YouTube 裁减人工审核团队前,全职或外包的审核岗位多达 10000 个。这些人工审核员分布在 Google 的全球办公室,或是外包供应商的各个办公点,人工审核员的岗位要求并不低,比如要负责中东地区的内容审核岗位,需要掌握阿拉伯语和阿拉伯方言语系,并对中东地区上传视频进行审核,以便及时标记出涉及恐怖、暴力、煽动内容的视频。 这样的工作,每周需要审核 500 小时以上的视频,初级岗位的薪水可以达到 18.5 美元/小时,年薪可达 37000 美元左右。风光的背后,Google 也同时在承担着不小的成本,这也导致了在今年疫情之际 YouTube 对人工审核岗位的裁撤。 这次返聘 YouTube 也提及:疫情让人工审核成本变高、难度加大。当初迫不得已,必须在人工干预不足和 AI 过度干预两者之中,选择了 AI。

小程序/App开发

人工审核的支出、对人心理的伤害、机器学习的技术进步,这些都推动了近年各平台对自动化内容审核的研究和快速应用。AI 虽然有一定的误伤几率,但是在对违规内容的审查中,的确展现了超过人工审核的高效。 YouTube 首席产品官 Neal Mohan 向英国《金融时报》回应人工审核重回岗位时,提到了一组数据「被 AI 标记删除的 1100 万个视频中,超过 50% 的视频,在没有用户播放前就被下架;超过 80% 的视频,播放 10 次以内就被下架。」 YouTube 作为大规模用 AI 代替人工的先行者,势必会踩坑,但同时也为其他公司甚至全社会,指明了人与 AI 协同关系中更加清晰的发展方向。