大家好，我是王曉婷，在京東零售研究廣告反作弊算法設(shè)計(jì)、實(shí)現(xiàn)與優(yōu)化，結(jié)合LLM、深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)賦能反作弊系統(tǒng)，用算法識(shí)別和打擊數(shù)字廣告領(lǐng)域的欺詐行為。本文與大家分享我從高校實(shí)驗(yàn)室到廣告風(fēng)控戰(zhàn)場的蛻變，一場關(guān)于認(rèn)知覺醒、技術(shù)探索與思維重構(gòu)的旅程。

象牙塔與工業(yè)界的思維碰撞

在清華園求學(xué)期間，我開始接觸數(shù)據(jù)挖掘競賽，那時(shí)常沉浸于算法優(yōu)化的世界里。和許多初學(xué)者一樣，我認(rèn)為模型指標(biāo)就是解決問題的萬能鑰匙，一次一次在異常檢測項(xiàng)目中投入大量精力，當(dāng)在看到95%+準(zhǔn)報(bào)率和低于0.35%的誤報(bào)率時(shí)，那種純粹的喜悅讓我對(duì)技術(shù)產(chǎn)生了近乎理想化的信仰。

圖1. 曾發(fā)表論文中算法取得的高準(zhǔn)異常檢測結(jié)果（誤報(bào)率僅為0.35%以下）

實(shí)驗(yàn)室的環(huán)境確實(shí)為研究提供了理想條件：規(guī)整的數(shù)據(jù)集、清晰的問題邊界、穩(wěn)定的評(píng)估體系。這種純粹的科研訓(xùn)練讓我打下了扎實(shí)的基礎(chǔ)，但也無形中構(gòu)建了某種思維定式。

畢業(yè)后，我加入京東，投身于廣告風(fēng)控的實(shí)戰(zhàn)戰(zhàn)場，一場認(rèn)知的風(fēng)暴悄然來襲，在一次電商大促期間，現(xiàn)實(shí)給我上了深刻的一課。面對(duì)流量洪峰、以及洪峰中涌現(xiàn)的虛假流量，我曾引以為傲且平穩(wěn)調(diào)度的模型出現(xiàn)了資源和作弊識(shí)別之間的掣肘，實(shí)驗(yàn)室里的“完美指標(biāo)”、優(yōu)秀的“AUC、TPR、FPR”，在海量流量面前凸顯蒼白，工業(yè)界需要的是能在混沌中能持續(xù)進(jìn)化的解決方案。面對(duì)這樣的挑戰(zhàn)和日新月異的反作弊需求，迫使我重新審視技術(shù)應(yīng)用的邊界，在技術(shù)可能性、業(yè)務(wù)價(jià)值與實(shí)施成本之間尋找平衡點(diǎn)，這個(gè)過程至今仍在持續(xù)。

京東的“反作弊大腦”就像一位24小時(shí)在線的智能偵探，主要從多維度打擊作弊行為：在用戶端利用大模型識(shí)別假交易，通過智能算法自動(dòng)揪出異常訂單；在流量端分析每個(gè)廣告點(diǎn)擊的數(shù)百項(xiàng)特征，一旦發(fā)現(xiàn)異常行為，立刻攔截，保障廣告主的每一分錢都花在真實(shí)用戶身上。

技術(shù)偵探，用AI破解黑產(chǎn)的加密暗號(hào)

CPS模式本是為激勵(lì)優(yōu)質(zhì)推廣設(shè)計(jì)的共贏機(jī)制，在激勵(lì)眾多聯(lián)盟伙伴積極推廣的同時(shí)，也滋生了黑灰產(chǎn)的關(guān)注。在廣告CPS中，黑灰產(chǎn)為了騙取平臺(tái)傭金，極盡所能地在地址信息中藏匿各種暗號(hào)，這些暗號(hào)仿若隱秘的“密碼”，在看似平常的地址文本中隱匿著其真實(shí)的不軌意圖，損害平臺(tái)利益，致使CPS傭金流失。

一種典型的作弊方式是，在用戶下單時(shí)填寫一個(gè)無法正常派送的“真假參半”地址。黑灰產(chǎn)為了實(shí)現(xiàn)不法目的，精心設(shè)計(jì)出各種暗號(hào)嵌入地址信息，給傳統(tǒng)文本檢測方法帶來了巨大挑戰(zhàn)。

面對(duì)這種新型作弊手段，我們持續(xù)觀測數(shù)據(jù)，發(fā)現(xiàn)即便不斷添加過濾規(guī)則，異常訂單仍像地鼠般此起彼伏，基于正則表達(dá)式的策略方式無法適應(yīng)日新月異的暗號(hào)變種。這讓我意識(shí)到：必須突破文本表面特征，深入語義層面理解地址信息（詳細(xì)細(xì)節(jié)見 文本異常檢測：利用大模型偵測地址暗號(hào) ）。

在團(tuán)隊(duì)技術(shù)討論中，我嘗試將大模型引入檢測系統(tǒng)。在NLP的世界里，大模型如同超級(jí)偵探通過深度的網(wǎng)絡(luò)層和億級(jí)參數(shù)，超前掌握語言的深層次結(jié)構(gòu)和語義。在地址異常檢測問題中，大模型的核心能力也能得到很好發(fā)揮?；陂_源大語言模型并結(jié)合LoRA微調(diào)技術(shù)降低訓(xùn)練成本，讓人工標(biāo)注的數(shù)千條異常地址樣本教會(huì)模型識(shí)別"異常模式"。

其次，在地址的生成式識(shí)別中，我基于人類反饋的強(qiáng)化學(xué)習(xí)框架（RHLF框架），在模型給予錯(cuò)誤答案時(shí)及時(shí)糾偏，并會(huì)及時(shí)收集人類專家的判斷，并將這些反饋納入強(qiáng)化學(xué)習(xí)過程。

通過LLM+RHLF訓(xùn)練，模型逐漸學(xué)會(huì)了根據(jù)上下文來判斷數(shù)字是否屬于暗號(hào)的“生成式識(shí)別能力”。比如在類似”3棟78910單元1023室”、“3棟2單元1023室ATTTT233”這樣的地址中,大模型通過生成式推理識(shí)別出"78910"、“ATTTT233”這類偽裝地址，實(shí)現(xiàn)了異常訂單地址的生成式精準(zhǔn)抓取，這正是傳統(tǒng)正則表達(dá)式無法企及的語義穿透力和識(shí)別能力。

經(jīng)過了三個(gè)版本的迭代優(yōu)化，這套系統(tǒng)實(shí)現(xiàn)了精準(zhǔn)識(shí)別與高效運(yùn)行的平衡，模型的誤判率降至0.3%，實(shí)現(xiàn)準(zhǔn)確識(shí)別出各類顯性暗號(hào)和隱蔽性暗號(hào)。這也是我第一次通過將大模型技術(shù)與CPS業(yè)務(wù)場景深度融合，構(gòu)建了更加精準(zhǔn)和高效的反作弊防護(hù)體系。

不做最炫的技術(shù)，只做最有效的方案

隨著廣告作弊手段的不斷升級(jí)進(jìn)化，反作弊技術(shù)正面臨前所未有的挑戰(zhàn)。從早期的單一IP代理，到如今的分布式攻擊網(wǎng)絡(luò)；從簡單的機(jī)器群控，到精心設(shè)計(jì)的真人騙傭產(chǎn)業(yè)鏈，黑產(chǎn)集團(tuán)正在以驚人的速度迭代他們的作弊手法。這種"道高一尺，魔高一丈"的對(duì)抗態(tài)勢，讓傳統(tǒng)的基于統(tǒng)計(jì)規(guī)則的防御體系逐漸力不從心。就像一位經(jīng)驗(yàn)豐富的老刑警突然面對(duì)一群裝備精良的高智商罪犯，舊有的破案方法開始顯得捉襟見肘。

在這樣的背景下，我們嘗試將大模型的上下文理解能力引入行為序列分析領(lǐng)域?；贚LM技術(shù)，我們構(gòu)建了一套全新的反作弊系統(tǒng)（詳細(xì)細(xì)節(jié)見 AIGC風(fēng)控系統(tǒng)：大模型重塑廣告安全新范式 ）。這套系統(tǒng)就像一位擁有超強(qiáng)洞察力的偵探，通過深度解析用戶行為軌跡中的矛盾點(diǎn)，識(shí)別隱藏在正常交互模式下的異常信號(hào)。

圖2：基于LLM的流量多階段防御

然而，面對(duì)京東主站的巨大流量，LLM雖然具備獲得優(yōu)秀的生成式識(shí)別能力，卻很難在當(dāng)前資源和耗時(shí)要求下實(shí)現(xiàn)實(shí)時(shí)在線推理。為了解決這個(gè)“既要精準(zhǔn)又要快速”的難題，我采用了蒸餾技術(shù)：讓大模型擔(dān)任”資深教授”，小模型作為“尖子生”，通過特征層蒸餾，將大模型的“辦案經(jīng)驗(yàn)”提煉傳授給小模型，經(jīng)過十余個(gè)版本的迭代打磨，最終實(shí)現(xiàn)了精度與速度的完美平衡。

這個(gè)過程中，我深刻體會(huì)到：真正的技術(shù)創(chuàng)新，不是簡單粗暴地把最新技術(shù)塞進(jìn)業(yè)務(wù)場景，而是要在學(xué)術(shù)前沿與工業(yè)實(shí)踐之間找到那個(gè)微妙的平衡點(diǎn)。像一位技藝精湛的工匠，既要知道最先進(jìn)的工具怎么用，更要明白什么時(shí)候該用什么樣的工具。這種平衡不僅需要對(duì)技術(shù)有深刻的理解，還需要對(duì)業(yè)務(wù)有深入的洞察。

在從學(xué)術(shù)研究到工業(yè)實(shí)踐的跨越中，我深刻體會(huì)到廣告風(fēng)控的本質(zhì)是一場多維度的復(fù)雜博弈。有三點(diǎn)核心認(rèn)知與各位分享：

1. 成本意識(shí)驅(qū)動(dòng)技術(shù)選型，技術(shù)人也要會(huì)算賬

在公司海量流量和實(shí)戰(zhàn)場景中，技術(shù)人不僅要關(guān)注技術(shù)本身的先進(jìn)性，還需要從數(shù)據(jù)規(guī)模、計(jì)算成本和產(chǎn)出價(jià)值三個(gè)維度綜合評(píng)估模型的應(yīng)用。數(shù)據(jù)規(guī)模決定了模型的訓(xùn)練深度，而計(jì)算成本則直接影響到模型的實(shí)時(shí)性。最終，產(chǎn)出價(jià)值體現(xiàn)在誤判率的降低和業(yè)務(wù)損失的減少上。

技術(shù)方案不是越fancy越好，現(xiàn)在每次做模型選型，我都會(huì)清晰評(píng)估，每提升1%準(zhǔn)確率需要多少標(biāo)注成本？降低10ms延遲能多攔截多少欺詐訂單？這種量化思維幫助我們找到技術(shù)投入的黃金平衡點(diǎn)。

2. 持續(xù)進(jìn)化知識(shí)體系，充分熟悉業(yè)務(wù)

在閱讀《Attention Is All You Need》等專業(yè)文獻(xiàn)時(shí)，我發(fā)現(xiàn)了Attention機(jī)制在異常檢測中的巨大潛力，并成功將其應(yīng)用于自部署大語言模型的優(yōu)化。這一過程中，我學(xué)會(huì)了如何從大量的研究成果中篩選出對(duì)業(yè)務(wù)有價(jià)值的洞見和創(chuàng)新想法。這不僅需要對(duì)技術(shù)有深刻的理解，還需要具備敏銳的技術(shù)敏感度，能夠快速識(shí)別和應(yīng)用前沿技術(shù)。

此外，知識(shí)體系不僅包括上述的算法前沿，也包括業(yè)務(wù)洞察力的鉆研能力，只有充分熟悉業(yè)務(wù)，才能快速通過算法賦能業(yè)務(wù)，為技術(shù)的迭代和創(chuàng)新制定堅(jiān)實(shí)的基礎(chǔ)。

3. 跨領(lǐng)域思考，擁有主動(dòng)破局的力量

在面對(duì)黑產(chǎn)日新月異的攻擊時(shí)，我們必須比對(duì)手進(jìn)化得更快。在處理CPS傭金欺詐的場景中，我利用博弈論模型預(yù)測黑灰產(chǎn)可能使用的地址暗號(hào)設(shè)計(jì)模式，并提前調(diào)整檢測prompt，以此來阻止他們的欺詐行為。這種方法就像是在一場智力游戲中，通過預(yù)測對(duì)手的下一步行動(dòng)，提前布局，從而保持主動(dòng)。

在面對(duì)黑產(chǎn)帶來的虛假流量時(shí)，我借鑒了復(fù)雜系統(tǒng)理論中的耗散結(jié)構(gòu)理論，應(yīng)對(duì)“作弊熵增”的問題。黑產(chǎn)的攻擊手段越來越復(fù)雜，像是一個(gè)不斷變化的系統(tǒng)，為了應(yīng)對(duì)這種變化，我在防御系統(tǒng)中引入了隨機(jī)性和非線性反饋機(jī)制，使得我們的防御系統(tǒng)能夠像一個(gè)活的有機(jī)體一樣，具備自適應(yīng)和進(jìn)化的能力。

寫在最后

技術(shù)人需要構(gòu)建"T型能力"：既要具備垂直領(lǐng)域的技術(shù)深度，又要擁有橫向拓展的視野廣度。

這種能力結(jié)構(gòu)不僅能有效應(yīng)對(duì)當(dāng)前的業(yè)務(wù)挑戰(zhàn)，更能為未來的技術(shù)革新提供堅(jiān)實(shí)基礎(chǔ)。我也要求自己持續(xù)精進(jìn)技術(shù)深度、敏銳培養(yǎng)商業(yè)敏感度、始終堅(jiān)守人文關(guān)懷。不斷探索大模型的技術(shù)潛力，深入理解業(yè)務(wù)的核心訴求，同時(shí)確保技術(shù)應(yīng)用始終符合倫理規(guī)范和用戶利益。

技術(shù)人的浪漫，或許就在于這種永不停歇的攻防之舞。每當(dāng)看到凌晨的A/B test中降低的后鏈路作弊率，看板中實(shí)現(xiàn)的業(yè)務(wù)目標(biāo)，上線帶來的一次次可觀價(jià)值，都是數(shù)字時(shí)代風(fēng)控守護(hù)者的微小確幸。

審核編輯 黃宇