对儿童性虐待内容说不！谷歌推出AI鉴黄工具效率提升7倍

　　新智元将于9月20日在国家会议中心举办AI WORLD 2018世界人工智能峰会，南京大学计算机系主任、人工智能学院院长。周志华教授是AI领域会士“大满贯”得主，AAAI 2019程序、IJCAI 2021程序，《机器学习》一书的作者。

　　【新智元导读】谷歌宣布推出免费AI工具软件，辅助人类鉴黄师对儿童性虐待内容（CSAM）的图像进行分类和鉴别。过去的类似工具往往只能已经标记的不良内容的，而谷歌本次推出的AI软件可以自己对图像材料进行标记，经人类工作人员实地测试，鉴黄效率提升了700%。

　　对于大型互联网企业来说，及时儿童性虐待内容（CSAM）的是属于第一优先级的任务。但对于一线工作人员来说，这项工作是异常艰巨而困难的，必须要靠人类来识别并删除这些不良内容。

　　不过今后，这些工作人员可能会稍微松一口气，谷歌今天发布了旨在帮助识别这类内容的免费AI软件。

　　在这一领域，大多数技术解决方案都是通过根据以前识别出的不良内容目录，来检测现有的图像和视频。（比如由微软开发的PhotoDNA图像识别工具，现在Facebook和Twitter等都在使用。）这类软件可以有效人们共享之前已标记的儿童性虐待内容，但无法捕获未标记的非法内容。人类必须介入并亲自对内容进行审查。

　　这正是谷歌本次推出的AI软件大显身手的地方。它能利用机器视觉方面的专业知识，对标记的图像和视频进行排序，并“优先推送最可能的儿童性虐待内容以供审查”，从而协助人类工作人员。这应该会使审查速度变得更快。

　　谷歌表示，在一项试验中，在这款AI工具的帮助下，审查员“在相同时间内对儿童性虐待内容的操作量提高了700％以上。”

　　互联网观察基金会（IWF）副首席执行官Fred Langford表示，该软件将“有助于我们这样的团队更有效地调配有限的资源。目前，我们只使用纯人力来进行内容审核，然后判断能不能通过。这款AI工具将有助于我们对审核内容进行分类。”

　　IWF位于英国，是致力于儿童性虐待内容在线的最大组织之一，由谷歌等大型国际科技公司提供资金。

　　IWF聘请内容鉴别团队来识别这些不良内容的图像，并在十几个国家提供举报渠道，以便互联网用户报告可疑内容。该机构自己也会开展调查行动，锁定会共享儿童性虐待内容的网站，并与执法机构合作来关闭这些网站。

　　Langford表示，由于现在对AI存有一些“异想天开的观点”，IWF将对谷歌的AI工具进行全面测试，以了解其表现如何，如何将其融入人类审查人员的工作流程中。

　　他还表示，这类工具是向迈向全自动内容审核系统的第一步，可以识别以前很难识别的材料，无需人为干预。“这种分类器在我们这个领域的地位有点像“圣杯”一样”

　　不过他还说，应该只在范围明确的案件中信任这类工具，以避免让不良内容漏网。“几年前我认为这种分类器的诞生可能还要等五六年，但现在我认为，在某些情况下，我们距离完全自动化识别工具的诞生可能只有一到两年的时间了。”

　　新智元将于9月20日在国家会议中心举办AI WORLD 2018世界人工智能峰会，邀请机器学习教父、CMU教授 Tom Mitchell，迈克思·泰格马克，周志华，陶大程，陈怡然等AI一起关注机器智能与人类命运。