騰訊科技訊 6月21日，微信正式上線“珊瑚內(nèi)容安全助手” （以下簡稱“珊瑚”）小程序，公眾號運(yùn)營者和小程序開發(fā)者可以通過小程序一鍵鑒別內(nèi)容和產(chǎn)品的安全風(fēng)險(xiǎn)。作為微信首個(gè)移動(dòng)端安全鑒別工具，“珊瑚”小程序的推出，意味著微信將在內(nèi)容安全方面為運(yùn)營者和開發(fā)者提供更多幫助。

“三管齊下”，幫助運(yùn)營者提高小程序內(nèi)容安全

據(jù)了解，“珊瑚”小程序?qū)檫\(yùn)營者和開發(fā)者提供風(fēng)險(xiǎn)自測、內(nèi)容鑒別、行業(yè)動(dòng)態(tài)等三個(gè)維度的功能，由騰訊云提供技術(shù)支持。

開發(fā)運(yùn)營者可通過勾選自己的產(chǎn)品功能、各功能發(fā)布內(nèi)容的情況，由“珊瑚”小程序自動(dòng)計(jì)算給出產(chǎn)品風(fēng)險(xiǎn)評級、針對性的風(fēng)險(xiǎn)提示及相應(yīng)的風(fēng)險(xiǎn)防控建議等，讓開發(fā)運(yùn)營者對產(chǎn)品的安全風(fēng)險(xiǎn)了然于心。

小程序提供風(fēng)險(xiǎn)自測、圖文安全鑒別、行業(yè)動(dòng)態(tài)等功能

在文字鑒別、圖片鑒別模塊，“珊瑚”小程序還可對用戶上傳內(nèi)容中是否含有違法有害信息給出鑒別結(jié)果，同時(shí)提供能力介紹和接入引導(dǎo)文檔，為開發(fā)運(yùn)營者從“體驗(yàn)”、“理解”到“接入”， 提供一站式安全能力服務(wù)。后續(xù)“珊瑚”小程序還將支持音頻、視頻鑒別能力，為用戶提供更完善的內(nèi)容安全服務(wù)。

此外，“珊瑚”小程序還包含定期更新的互聯(lián)網(wǎng)行業(yè)內(nèi)容安全動(dòng)態(tài)、相關(guān)法律法規(guī)等內(nèi)容，幫助開發(fā)運(yùn)營者及時(shí)掌握行業(yè)情況。

維護(hù)平臺生態(tài)健康，與開發(fā)者運(yùn)營者共生長

隨著小程序生態(tài)的繁榮，小程序內(nèi)容安全成為外界關(guān)注的重點(diǎn)。部分小微開發(fā)運(yùn)營者缺乏搭建體系化內(nèi)容安全策略的能力，導(dǎo)致其開發(fā)運(yùn)營的小程序存在安全隱患。

為解決這些問題，2018年5月，微信團(tuán)隊(duì)就向開發(fā)者開放了文字檢查、圖片檢查兩個(gè)API接口，輔助開發(fā)者及時(shí)發(fā)現(xiàn)不良內(nèi)容信息。而在今年6月6日，微信上線了小程序內(nèi)容安全的異步檢查接口（mediaCheckAsync），基于騰訊“云鸮”技術(shù)支持，向開發(fā)者提供更高級、更強(qiáng)大的內(nèi)容安全能力，包括異步方式檢查圖片、音頻兩種多媒體文件，自動(dòng)識別色情、暴恐等違法有害高危內(nèi)容，文件大小限制也從原來同步接口的1M提升到10M，滿足常見格式和大小的圖片審核需要。

微信團(tuán)隊(duì)表示，將小程序命名為“珊瑚”，是因?yàn)樯汉魇且环N對生活環(huán)境要求較高的生物，寓意小程序、開發(fā)運(yùn)營者、平臺與環(huán)境之間是共生共贏的關(guān)系，只有生態(tài)中各方共同努力，維護(hù)健康生態(tài)，產(chǎn)業(yè)環(huán)境才會(huì)越來越好。

未來，“珊瑚”小程序?qū)⒒隍v訊云圖像分析等AI技術(shù)，為廣大小程序開發(fā)者提供更強(qiáng)、更豐富的內(nèi)容安全能力，并持續(xù)運(yùn)營、定期更新行業(yè)內(nèi)容安全動(dòng)態(tài)信息，幫助開發(fā)運(yùn)營者了解最新的行業(yè)情況，共建健康繁榮的小程序生態(tài)。