北京时间9月3日，谷歌发布一款AI赋能的“内容安全API（应用程序界面）”工具包，帮助识别线上“儿童性侵材料”（child sexual abuse material, CSAM），减少这些内容对于互联网用户的曝光。

帮助罪犯在网络上散布CSAM，这一话题引来民众热议，谷歌此举便是为了对此作出回应。上周，英国外交部长Jeremy Hunt发推，谴责谷歌要带着“设限的搜索引擎”重返中国市场，却不愿为世界其他地方移除与儿童性侵相关的内容。

昨日，英国内政大臣Sajid Javid发起了一项新的“行动纲领”，推动如谷歌和Facebook这样的科技公司与线上儿童性侵内容作斗争。这项倡议发生在英国国家犯罪局（National Crime Agency, NCA）统计最新数据，发现在英国，能有8万人通过线上的方式对儿童造成危害之后。

谷歌昨日发布这款工具，并不是机缘巧合。

神经网络

谷歌的这项新工具基于深度神经网络（deep neural network， DNN）之上，通过新发布的“内容安全API”，NGO（非政府组织）和其他“行业伙伴”，包括其他科技公司，都可免费使用。

去年曾有新闻，伦敦的都市警察教这些AI机器如何依据案件严重性，将犯罪的相关图片进行分类。这样做是为了解决两个问题——提高网络CSAM的识别正确率，以及减轻警方在手动搜索这些图像时需经受的心理创伤。

谷歌的这个新工具需肩负这两项使命。以往而言，自动化工具依赖于匹配先前识别过的CSAM图像。但谷歌工程负责人Nikola Todorovic和产品经理Abhi Chaudhuri表示，通过这款“内容安全API”，它可以锁定从未被识别为CSAM的新内容，有效“跟踪罪犯”。

“快速识别新图像，意味着正在遭受性侵的儿童可被识别，防止他们更进一步受到伤害”，他们说，“我们制作’内容安全API’工具包，供NGO和行业伙伴免费使用，最大限度让不法内容暴露到最少的人面前”。

参考依据：

Google releases AI-powered Content Safety API to identify more child abuse images. 来源：venturebeat. 2018.9.3.