近日，Soul App正式發(fā)布《2025生態(tài)安全半年報》（以下簡稱“報告”）。報告全面展現(xiàn)Soul App積極響應(yīng)國家“清朗”系列專項(xiàng)行動號召的堅(jiān)定決心，通過大量具體數(shù)據(jù)和創(chuàng)新舉措，詮釋了平臺如何通過技術(shù)創(chuàng)新、警企協(xié)作、社區(qū)共治等多維度策略，持續(xù)升級其生態(tài)安全體系，并取得顯著成效。

當(dāng)前，社交平臺已成為人們?nèi)粘贤?、表達(dá)自我、建立連接的重要場域。然而，在享受其帶來巨大便利的同時，社交平臺也面臨著日益嚴(yán)峻的挑戰(zhàn)，如網(wǎng)絡(luò)詐騙、低俗內(nèi)容泛濫、網(wǎng)絡(luò)暴力侵?jǐn)_等問題層出不窮，對用戶體驗(yàn)和社會秩序構(gòu)成了潛在威脅。在這樣的背景下，平臺治理的深度和廣度顯得尤為關(guān)鍵。

Soul App深刻認(rèn)識到生態(tài)安全對于平臺可持續(xù)發(fā)展和用戶福祉的基石作用，因此始終將其置于戰(zhàn)略發(fā)展的核心位置。通過持續(xù)不斷的技術(shù)模型升級和一系列專項(xiàng)治理行動，Soul App致力于從根本上優(yōu)化平臺環(huán)境，確保每一位用戶都能在清朗、健康的氛圍中安心交流。

AI反詐體系升級 全鏈條守護(hù)用戶安全

在當(dāng)前網(wǎng)絡(luò)詐騙手段日益隱蔽和多樣化的背景下，Soul App持續(xù)加碼AI技術(shù)投入，對反詐防護(hù)體系進(jìn)行了全方位、深層次的升級，成功構(gòu)建了一套高效、智能的“識別-預(yù)警-攔截”全鏈條防御機(jī)制。這一體系旨在從源頭發(fā)現(xiàn)、及時預(yù)警、果斷攔截各類詐騙行為，最大限度地保障用戶的財(cái)產(chǎn)和信息安全。兩大核心技術(shù)模型——“圖片/文本反作弊大模型”和“殺豬盤發(fā)帖文案識別大模型”在安全鏈條中，發(fā)揮巨大作用。

兩大模型的協(xié)同投入使用，極大地提升了Soul App在面對文本變體、圖像偽裝等復(fù)雜多變場景下的識別精度。它們使得黑產(chǎn)分子想要繞過平臺風(fēng)控識別的對抗成本顯著提高，從而有效遏制了詐騙行為的蔓延；同時，反詐官號接入AI反詐助手大模型，部分用戶回復(fù)交由大模型進(jìn)行智能回復(fù)，提示用戶相關(guān)風(fēng)險。

得益于這一系列的反詐舉措，Soul App平臺整體涉詐人群數(shù)量較此前實(shí)現(xiàn)了約20%的顯著下降。除了技術(shù)防線，Soul App還積極構(gòu)建了與公安機(jī)關(guān)的緊密協(xié)作機(jī)制，形成了線上線下聯(lián)動的打擊網(wǎng)絡(luò)犯罪網(wǎng)絡(luò)。報告顯示，在過去半年中，Soul App與警方協(xié)同配合，取得了豐碩的成果：

? 網(wǎng)絡(luò)謠言線索推送： 發(fā)現(xiàn)并推送網(wǎng)絡(luò)謠言線索50個。針對可能誤導(dǎo)公眾或損害他人名譽(yù)的謠言，平臺迅速識別并向警方報告，共同維護(hù)網(wǎng)絡(luò)信息真實(shí)性。

? 黑灰產(chǎn)線索推送： 累計(jì)推送各類黑灰產(chǎn)線索25個，包括但不限于非法刷量、惡意營銷等黑色產(chǎn)業(yè)鏈線索，從源頭上打擊網(wǎng)絡(luò)犯罪。

? 協(xié)助警方查明案件： 協(xié)助警方查明盜用照片、侵犯用戶權(quán)益的案件20余次。通過提供技術(shù)支持，幫助警方迅速鎖定違法分子，維護(hù)用戶合法權(quán)益。

? 處理警方調(diào)證協(xié)作需求： 共計(jì)處理警方調(diào)證協(xié)作需求80余次。建立高效的響應(yīng)機(jī)制，積極配合警方依法調(diào)取證據(jù)，確保案件偵辦的順利進(jìn)行。

這些數(shù)據(jù)充分表明，Soul App不僅在技術(shù)層面筑牢了安全防線，更通過與執(zhí)法機(jī)關(guān)的深度協(xié)作，形成了強(qiáng)大的社會協(xié)同治理合力，共同打擊網(wǎng)絡(luò)違法犯罪，為用戶打造了一個真正安全可靠的社交生態(tài)。

社交治理持續(xù)優(yōu)化，共建清朗網(wǎng)絡(luò)空間

為了給廣大用戶營造一個文明、友善、積極向上的社交環(huán)境，Soul App持續(xù)在社交治理體系上發(fā)力，不斷完善其治理策略和技術(shù)手段。報告顯示，平臺新增了可以識別色情交易變體等違規(guī)行為的反作弊大模型，進(jìn)一步提升了對新型違規(guī)行為的識別能力。同時，Soul App從用戶騷擾管制、群聊治理、低質(zhì)內(nèi)容管控、正能量內(nèi)容推薦等多個方向，全方位、系統(tǒng)性地持續(xù)建設(shè)社交禮儀體系，致力于為廣大用戶提供一個輕松無壓力的社區(qū)場景氛圍。

在違規(guī)行為及低質(zhì)內(nèi)容治理方面，Soul App采取多管齊下的策略，并取得顯著成效：

? 違規(guī)內(nèi)容機(jī)審攔截量級932萬： 平臺通過AI技術(shù)對海量內(nèi)容進(jìn)行實(shí)時監(jiān)測和識別，能夠在違規(guī)內(nèi)容發(fā)布的第一時間進(jìn)行自動化攔截，有效阻止不良信息的傳播；

? 累計(jì)拉黑同設(shè)備下存在多個違規(guī)賬號2.1萬個： 針對“小號”泛濫、惡意注冊等行為，Soul App通過設(shè)備識別技術(shù)，對同一設(shè)備下存在的多個違規(guī)賬號進(jìn)行批量拉黑，從源頭上打擊黑灰產(chǎn)團(tuán)伙的作惡空間。

? 教育用戶文明發(fā)言，累計(jì)觸達(dá)33.7萬用戶： 對于網(wǎng)絡(luò)社交規(guī)范，平臺注重“疏”和“導(dǎo)”——通過系統(tǒng)消息、彈窗提醒、社區(qū)公告等多種形式，積極引導(dǎo)用戶遵守社區(qū)規(guī)范，提升網(wǎng)絡(luò)文明素養(yǎng)。

? 增加違規(guī)貼提示功能，引導(dǎo)用戶行為符合平臺規(guī)范： 平臺不僅告知用戶違規(guī)，還會附帶違規(guī)理由和站內(nèi)用戶行為規(guī)則的解讀，幫助用戶理解并改正。

在群聊治理方面，Soul App針對群聊場景的特點(diǎn)，采取了精細(xì)化管理：

? 日均中斷語音違規(guī)消息條數(shù)4萬+： 語音群聊是社交的重要形式，平臺通過語音識別技術(shù)，對違規(guī)語音消息進(jìn)行實(shí)時中斷，并對發(fā)布此類內(nèi)容的用戶進(jìn)行專項(xiàng)處置。

? 日均攔截違規(guī)文字消息條數(shù)2.7萬+： 文字消息同樣受到嚴(yán)格監(jiān)控，確保群聊內(nèi)容的合規(guī)性。

? 日均梯度處罰違規(guī)用戶數(shù)1.7萬+： 針對群聊中的違規(guī)用戶，平臺會根據(jù)違規(guī)程度進(jìn)行不同梯度的處罰，從輕微警告到永久封禁。

在私聊社交生態(tài)建設(shè)方面，Soul App的舉措旨在提升用戶私密交流的安全性與舒適度：

? 季度上線/迭代策略36+： 平臺在私聊安全方面持續(xù)進(jìn)行策略的更新和優(yōu)化，以應(yīng)對不斷變化的風(fēng)險。

? 騷擾消息自見策略日均保護(hù)2.3萬+用戶： 主動識別并處理騷擾消息，減少用戶被騷擾的困擾。

? 消息盒子輔助用戶日均收納消息5k+： 幫助用戶更好地管理和過濾不重要的消息，提升私聊體驗(yàn)。

重拳整治網(wǎng)絡(luò)暴力，超八成用戶感受環(huán)境改善

網(wǎng)絡(luò)暴力作為數(shù)字時代的一大社會公害，其隱蔽性、擴(kuò)散性和傷害性日益凸顯。Soul App對此高度重視，建立“技術(shù)識別+人工審核+用戶教育”三位一體的全方位治理體系，旨在從源頭預(yù)防、過程中干預(yù)、事后懲戒和引導(dǎo)等多維度，全面遏制網(wǎng)絡(luò)暴力行為。

在技術(shù)識別層面，Soul App部署了AI內(nèi)容識別系統(tǒng)。系統(tǒng)能夠?qū)τ脩舭l(fā)布的文字、圖片、語音等內(nèi)容進(jìn)行實(shí)時、精準(zhǔn)地掃描和分析，自動識別出包含侮辱、誹謗、人身攻擊等網(wǎng)絡(luò)暴力傾向的內(nèi)容。從而實(shí)現(xiàn)對涉網(wǎng)暴內(nèi)容的快速預(yù)警和標(biāo)記。

同時，Soul App完善用戶舉報機(jī)制，建立了便捷高效的舉報通道，鼓勵用戶積極參與到網(wǎng)絡(luò)暴力的監(jiān)督和治理中來。用戶一旦發(fā)現(xiàn)網(wǎng)絡(luò)暴力行為，可以迅速通過舉報功能向平臺反饋；在用戶教育層面，Soul App深知“防患于未然”的重要性。平臺通過多種形式開展網(wǎng)絡(luò)文明宣傳，提升用戶的網(wǎng)絡(luò)素養(yǎng)和對網(wǎng)絡(luò)暴力的認(rèn)知，包括：

? 典型案例公示： 定期公布處理的網(wǎng)絡(luò)暴力典型案例，以案示警，讓用戶清晰了解平臺對此類行為的零容忍態(tài)度。

? 防網(wǎng)暴指南推送： 推送實(shí)用的防網(wǎng)絡(luò)暴力指南，教授用戶如何識別、應(yīng)對和舉報網(wǎng)絡(luò)暴力，及如何保護(hù)個人信息。

? 社區(qū)共識推動： 通過線上活動、話題討論、官方賬號宣導(dǎo)等方式，積極推動形成“人人抵制網(wǎng)暴”的社區(qū)共識，營造互助友愛的社區(qū)氛圍。

綜合性措施的實(shí)施帶來了顯著的治理成效：

? 日均保護(hù)用戶免遭網(wǎng)暴騷擾3956人：平臺的主動防御和干預(yù)機(jī)制，日均有效阻止近4000名用戶免受網(wǎng)絡(luò)暴力和惡意騷擾的侵害。

? 日均處理私聊不文明行為用戶2146人： 私聊是網(wǎng)絡(luò)暴力的隱蔽發(fā)生地，平臺對此類行為的精準(zhǔn)識別和處理，有效凈化了私密交流空間。

? 日均提醒引導(dǎo)私聊文明發(fā)言211710次： 大量的善意提醒和引導(dǎo)，有助于培養(yǎng)用戶在私聊中的文明習(xí)慣，從源頭減少不文明行為的發(fā)生。

? 累計(jì)433199人簽署友善互動聲明： 簽署友善互動聲明是用戶對文明社交的承諾，這一數(shù)據(jù)的持續(xù)增長，體現(xiàn)了用戶對平臺倡導(dǎo)的友善文化的積極響應(yīng)和認(rèn)同。

相關(guān)舉措的有效實(shí)施，不僅顯著凈化了網(wǎng)絡(luò)空間，更重要的是，超過八成的用戶在問卷調(diào)查中表示，他們明顯感受到了平臺環(huán)境的改善，社交體驗(yàn)更加安全和愉悅。這正是Soul App致力于構(gòu)建清朗網(wǎng)絡(luò)空間的最佳反饋。

AI護(hù)航未成年人，筑牢成長防護(hù)網(wǎng)

未成年人是互聯(lián)網(wǎng)的原住民，也是最需要重點(diǎn)保護(hù)的群體。Soul App始終將未成年人網(wǎng)絡(luò)安全保護(hù)視為平臺義不容辭的社會責(zé)任。平臺明確規(guī)定，不允許未成年人在平臺上注冊賬戶，從源頭上杜絕未成年人接觸不適宜內(nèi)容。同時，對于極少數(shù)已經(jīng)注冊的未成年用戶，平臺會自動識別并將其賬戶切換到青少年模式，提供專屬的保護(hù)環(huán)境。

為了更精確、更全面地識別和保護(hù)未成年用戶，Soul App構(gòu)建了一套包括身份認(rèn)證、年齡識別、18歲以下年齡限制、防沉迷系統(tǒng)、正能量內(nèi)容池、隱私保護(hù)等在內(nèi)的全方位未成年保護(hù)體系。本季度，平臺在這一體系中再次實(shí)現(xiàn)了重大突破——首次在識別鏈路中引入了AI大模型，以顯著提升識別精度與覆蓋廣度。

本次新引入的AI大模型，具備高度智能化的判斷能力，能夠有效判斷用戶的人設(shè)是否為未成年人，并進(jìn)一步識別是否存在成年人“開玩笑偽裝”成未成年人的情況，從而極大減少了未成年人“漏放”帶來的風(fēng)險。同時，它也有效避免了對成年用戶的誤封誤判，提升了整體識別準(zhǔn)確率與用戶體驗(yàn)，確保了保護(hù)措施的精準(zhǔn)性和有效性。

報告中列舉的關(guān)鍵數(shù)據(jù)顯示了這一體系的強(qiáng)大效能：

? 未成年識別和未成年保護(hù)策略共51條：體現(xiàn)Soul App在未成年人保護(hù)方面投入的精力和細(xì)致程度，涵蓋了從注冊、內(nèi)容瀏覽、互動交流到時間管理等各個環(huán)節(jié)。

? 策略識別假成年人貢獻(xiàn)率高達(dá)99%： 這一數(shù)據(jù)是新AI大模型在未成年保護(hù)領(lǐng)域取得的里程碑式成就。高達(dá)99%的貢獻(xiàn)率意味著絕大多數(shù)試圖偽裝成未成年人的成年用戶都能被精準(zhǔn)識別，從而有效阻止了他們進(jìn)入未成年人專屬的保護(hù)空間，極大地提升了未成年人模式的純凈度和安全性。

Soul App通過持續(xù)的技術(shù)創(chuàng)新和嚴(yán)格的策略執(zhí)行，為未成年人筑起了一道堅(jiān)實(shí)的網(wǎng)絡(luò)安全防護(hù)網(wǎng)，確保他們在平臺上的每一次互動都安全、健康、積極。

持續(xù)深耕生態(tài)安全，共創(chuàng)美好社交未來

《2025生態(tài)安全半年報》的發(fā)布，不僅是對平臺過去半年努力成果的總結(jié)，更是對未來責(zé)任的再次承諾。Soul App深知，網(wǎng)絡(luò)生態(tài)安全建設(shè)是一項(xiàng)長期而艱巨的任務(wù)，需要平臺持續(xù)投入、不斷創(chuàng)新。未來，Soul App將繼續(xù)秉持“用戶第一”的原則，將用戶安全和體驗(yàn)放在首位。

持續(xù)加大在技術(shù)研發(fā)方面的投入，特別是深化AI、大數(shù)據(jù)等前沿技術(shù)在生態(tài)安全領(lǐng)域的應(yīng)用，不斷提升風(fēng)險識別和治理能力，與廣大用戶攜手，共同努力，不斷完善生態(tài)安全體系，為構(gòu)建清朗、健康、有愛的網(wǎng)絡(luò)社交空間貢獻(xiàn)更多力量。