近日，ChatGPT在互聯(lián)網(wǎng)上掀起了一陣熱潮，目前月活用戶(hù)超過(guò) 1 億，注冊(cè)用戶(hù)之多導(dǎo)致服務(wù)器一度爆滿(mǎn)。

人工智能的話(huà)題遍地可見(jiàn)，如“ChatGPT會(huì)取代哪些行業(yè)？”、“ChatGPT的實(shí)現(xiàn)原理”、“ChatGPT的玩轉(zhuǎn)攻略”等等，眾說(shuō)紛紜，那么對(duì)于郵件安全行業(yè)而言，人工智能又帶來(lái)了哪些改變？

3月23日，Coremail郵件安全人工智能實(shí)驗(yàn)室首席架構(gòu)師潘慶峰（下文簡(jiǎn)稱(chēng)“大P”）在直播間進(jìn)行了深度分享，作為中國(guó)電子郵件元老級(jí)技術(shù)專(zhuān)家，20年以來(lái)長(zhǎng)期深耕于智能算法在郵件安全領(lǐng)域的應(yīng)用實(shí)踐，從目前大火的AI熱潮中，他看到了哪些挑戰(zhàn)與機(jī)會(huì)呢？


當(dāng)前AI技術(shù)對(duì)郵件安全對(duì)抗的影響


當(dāng)前 AI技術(shù)當(dāng)前最熱門(mén)的話(huà)題是ChatGPT和GPT-4了，通過(guò)體驗(yàn)ChatGPT, 人們驚嘆于當(dāng)前的深度學(xué)習(xí)模型已經(jīng)能達(dá)到的水平。

大P認(rèn)為，實(shí)際上，ChatGPT完成了兩個(gè)任務(wù)，那就是語(yǔ)義分析和文本生成任務(wù)。

首先，如果把ChatGPT模型比作一個(gè)由大量數(shù)據(jù)訓(xùn)練而成的高維空間迷宮，通過(guò)讀取每一個(gè)字符來(lái)決定下一步走向，最終我們可以抵達(dá)迷宮中的某個(gè)位置。

這個(gè)位置附近就是最可能的答案空間，從這個(gè)位置開(kāi)始，按照最大可能性路徑一個(gè)一個(gè)字地生成出答案，就是我們看到的ChatGPT回復(fù)。

因此，問(wèn)題語(yǔ)義分析部分，就是Coremail反垃圾算法進(jìn)行文本分類(lèi)的基礎(chǔ)。

實(shí)際正常郵件和垃圾郵件，它們都會(huì)集中聚類(lèi)到高維空間的某個(gè)位置，我們會(huì)根據(jù)它們的空間位置來(lái)判斷他們是否垃圾郵件。

大P認(rèn)為，自然語(yǔ)言處理技術(shù)即將進(jìn)入應(yīng)用爆發(fā)期，主要會(huì)在郵件系統(tǒng)產(chǎn)業(yè)上形成三方面的應(yīng)用。

第一，用戶(hù)級(jí)層面上，郵件小助手應(yīng)用AI自動(dòng)生成回復(fù)或自動(dòng)擬稿，甚至可以幫助撰寫(xiě)簡(jiǎn)單邏輯程序，由人工進(jìn)行校驗(yàn)，提升工作效率。


第二，公司業(yè)務(wù)層面上，AI技術(shù)可以再讀取大量公司文檔后生成客服系統(tǒng)，與目前機(jī)械性的回復(fù)相比，后期的答疑質(zhì)量將會(huì)大幅上升。


第三，對(duì)于垃圾郵件發(fā)送方而言，AI技術(shù)可能會(huì)被用來(lái)制作大量垃圾文本，形式內(nèi)容不一但內(nèi)涵一致，垃圾郵件的收發(fā)量有可能快速上升。


AI 既是矛，也是盾

盡管ChatGPT被用作開(kāi)發(fā)勒索軟件和釣魚(yú)郵件開(kāi)發(fā)已是板上釘釘，大P在直播間中也強(qiáng)調(diào)每一項(xiàng)技術(shù)都可以用于進(jìn)攻或防守，不用太過(guò)擔(dān)心深度學(xué)習(xí)技術(shù)會(huì)導(dǎo)致現(xiàn)有的反垃圾識(shí)別系統(tǒng)失效。

大P分析了三點(diǎn)原因：首先，生成大量垃圾文本遠(yuǎn)比文本分類(lèi)需要大得多的運(yùn)算量，普通黑產(chǎn)團(tuán)伙很難提供這種量級(jí)的算力支撐。

其次，考慮到生成文本的可讀性及邏輯性，此類(lèi)文本必然帶有很多有指向性的詞語(yǔ)，詞性相近文本在高維空間的位置都是相似的，這代表著使用文本分類(lèi)進(jìn)行反垃圾不會(huì)有太多的變化。

最后，反垃圾算法也不是單純的文本分類(lèi)問(wèn)題，還可通過(guò)發(fā)信歷史、發(fā)信行為、發(fā)信來(lái)源等多種特征協(xié)助判斷。


AI賦能郵件安全-矛盾結(jié)合

黑產(chǎn)團(tuán)伙樂(lè)于使用AI生成垃圾文本，那么對(duì)于防守方而言，我們同樣可利用深度學(xué)習(xí)技術(shù)動(dòng)態(tài)生成垃圾郵件內(nèi)容，用來(lái)給反垃圾系統(tǒng)做陪練。

面對(duì)日新月異的垃圾內(nèi)容，Coremail作為防守方以攔截垃圾內(nèi)容為目標(biāo)不斷調(diào)整反垃圾模型，整個(gè)過(guò)程是機(jī)器自動(dòng)完成，雙方都能在此對(duì)抗過(guò)程中提高自己的效能。

科技向善，眾行者遠(yuǎn)，是Coremail對(duì)于當(dāng)前AI技術(shù)+郵件安全的樂(lè)觀(guān)期望，我們也期待著在這場(chǎng)劃時(shí)代技術(shù)巨變中，每個(gè)人在尋求商業(yè)機(jī)會(huì)的同時(shí)，也能為社會(huì)的進(jìn)步作出相應(yīng)的貢獻(xiàn)，使得更多人收益。

與Coremail一同，期盼AI新未來(lái)。