9月11日上午，第六屆CSS互聯(lián)網(wǎng)安全領(lǐng)袖峰會(huì)正式開(kāi)幕。來(lái)自中國(guó)信通院、IDC、小紅書(shū)、騰訊等相關(guān)領(lǐng)域的專(zhuān)家，共同圍繞“產(chǎn)業(yè)上云，安全先行”主題展開(kāi)探討，分享產(chǎn)業(yè)安全不同領(lǐng)域的最佳實(shí)踐。

　　小紅書(shū)安全業(yè)務(wù)負(fù)責(zé)人周達(dá)受邀出席大會(huì)并發(fā)表題為《小紅書(shū)與安全》的主題演講。他認(rèn)為，社區(qū)安全治理是一個(gè)長(zhǎng)期不間斷的工作，其安全本質(zhì)就是解決平臺(tái)、發(fā)布者、消費(fèi)者三方訴求，終極解決之道就是加持大數(shù)據(jù)、人工智能等技術(shù)創(chuàng)新手段，才能實(shí)現(xiàn)打擊質(zhì)效的進(jìn)一步提升。

　　以“三方”訴求為導(dǎo)向，構(gòu)建“識(shí)別+處罰+宣導(dǎo)”社區(qū)安全管理機(jī)制

　　周達(dá)指出，對(duì)于社區(qū)平臺(tái)而言，用戶(hù)發(fā)布的內(nèi)容，需要符合相關(guān)的法律法規(guī)，以及平臺(tái)的價(jià)值觀(guān)。這要求平臺(tái)強(qiáng)化內(nèi)容安全審核時(shí)，要以科技創(chuàng)新為基礎(chǔ)，通過(guò)“機(jī)器審核+人工審核+高展復(fù)合”機(jī)制提高對(duì)內(nèi)容安全的監(jiān)管能力，始終圍繞社區(qū)定位做好內(nèi)容安全管理。

　　周達(dá)舉例說(shuō)，在機(jī)器審核環(huán)節(jié)中，通過(guò)與騰訊的合作，我們引入了騰訊安全天御的AI技術(shù)，完善了機(jī)器審核能力，同時(shí)大幅提高了人工審核效率，以及減少了人工審核的數(shù)量，為小紅書(shū)的發(fā)布者提供了一個(gè)更加優(yōu)質(zhì)的體驗(yàn)。

　　關(guān)于發(fā)布者和消費(fèi)者二者之間的關(guān)系和安全訴求，周達(dá)以一個(gè)譬喻來(lái)生動(dòng)形象地說(shuō)解答說(shuō)：小紅書(shū)像是一座城市，內(nèi)容的發(fā)布者參與到社會(huì)的生產(chǎn)活動(dòng)中，我們認(rèn)定其為“商人”，而用戶(hù)付出的是時(shí)間機(jī)會(huì)成本，在經(jīng)濟(jì)學(xué)中被稱(chēng)之為“消費(fèi)者”。那么，“商人”更加畏懼刷粉、刷量、刷贊等破壞市場(chǎng)規(guī)則的不正當(dāng)競(jìng)爭(zhēng)手段，這樣會(huì)導(dǎo)致優(yōu)質(zhì)的發(fā)布者無(wú)法獲得足夠的流量，最終被淘汰。但消費(fèi)者安全訴求本質(zhì)是信息的不對(duì)稱(chēng)，無(wú)論是以什么樣的方式，都是通過(guò)信息不對(duì)稱(chēng)的結(jié)果，導(dǎo)致了我們的消費(fèi)者最終上當(dāng)受騙，或者對(duì)你們的利益產(chǎn)生了損害。

　　針對(duì)以上三方面臨的安全問(wèn)題，小紅書(shū)在實(shí)踐過(guò)程中逐漸摸索一套“識(shí)別+處罰+宣導(dǎo)”專(zhuān)業(yè)化安全治理體系，并且效果日漸凸顯。據(jù)小紅書(shū)2020年第二季度社區(qū)生態(tài)治理報(bào)告數(shù)據(jù)顯示，小紅書(shū)當(dāng)季處理涉嫌刷量筆記 66萬(wàn)篇、實(shí)時(shí)攔截和清理黑產(chǎn)行為超過(guò)1.3億次、巡回?cái)r截和清理黑灰產(chǎn)行為超過(guò)1.3億次，對(duì)網(wǎng)絡(luò)黑灰產(chǎn)形成了巨大的威懾力和殺傷力。

　　創(chuàng)新技術(shù)手段加持，“大數(shù)據(jù)服務(wù)+用戶(hù)隱私保護(hù)”驅(qū)動(dòng)社區(qū)安全建設(shè)發(fā)展

　　流量為王時(shí)代，針對(duì)內(nèi)容安全治理如何破解的問(wèn)題。周達(dá)則表示，創(chuàng)新技術(shù)是內(nèi)容平臺(tái)安全管理的終極解決之道，通過(guò)建立安全新思維，體系化機(jī)制來(lái)解決安全問(wèn)題。

　　他以小紅書(shū)和騰訊安全聯(lián)合打擊真人眾包合作為例，天御系統(tǒng)會(huì)把在站外識(shí)別到的黑灰產(chǎn)打上標(biāo)簽，當(dāng)這些黑灰產(chǎn)用戶(hù)來(lái)到小紅書(shū)的時(shí)候，我們就已經(jīng)提前一步知曉黑灰產(chǎn)的目的動(dòng)機(jī)，可以第一時(shí)間采取防御措施。

　　除了持續(xù)的迭代策略對(duì)抗、加強(qiáng)內(nèi)容模型識(shí)別外，小紅書(shū)還自主開(kāi)發(fā)、升級(jí)清理不良內(nèi)容、打擊虛假數(shù)據(jù)策略模型和治理策略，對(duì)有效提升基于行為特征、內(nèi)容特征等方面的算法模型和策略識(shí)別能力在治理中也起到了關(guān)鍵作用。同時(shí)，小紅書(shū)還將大數(shù)據(jù)分析、人工智能、機(jī)器學(xué)習(xí)等新技術(shù)運(yùn)用于安全體系，對(duì)安全事件事前偵知預(yù)警、事中察知阻斷和事后溯源修復(fù)，全流程有效防范和嚴(yán)厲打擊黑灰產(chǎn)。

　　正如騰訊副總裁丁珂在演講中所說(shuō)：“目前大多數(shù)企業(yè)安全體系的完備程度，相比數(shù)字化的發(fā)展速度，還存在比較大的差距。不能簡(jiǎn)單的把安全寄希望于一筆預(yù)算的投入，而是應(yīng)該系統(tǒng)性地重新思考安全的戰(zhàn)略定位，選擇恰當(dāng)?shù)穆窂胶褪侄�，找到解決安全風(fēng)險(xiǎn)的‘最優(yōu)解’。”

　　在大數(shù)據(jù)及人工智能飛速發(fā)展的今天，周達(dá)也對(duì)大數(shù)據(jù)服務(wù)和用戶(hù)隱私保護(hù)等新技術(shù)趨勢(shì)做出預(yù)測(cè)。在演講最后他表示，小紅書(shū)正逐步將位置保護(hù)技術(shù)、同態(tài)加密技術(shù)、聯(lián)邦計(jì)算技術(shù)、OT傳輸技術(shù)等多方技術(shù)應(yīng)用于用戶(hù)數(shù)據(jù)保護(hù)，從根源上確保用戶(hù)隱私被盜用、竊取，讓用戶(hù)對(duì)自己個(gè)人數(shù)據(jù)享有絕對(duì)的“自主權(quán)”。

搜索更多: