眼見一定為實(shí)？在信息爆炸的時代，這個觀念正受到挑戰(zhàn)。近日，在微博等公眾平臺中，#Deepfake#多次沖榜，利用Deepfake工具進(jìn)行侵權(quán)的行為引發(fā)公眾關(guān)注。以“AI換臉”為代表的AIGC技術(shù)被應(yīng)用在詐騙的案件屢屢發(fā)生……人工智能時代，如何守護(hù)我們的信息安全？
AI深度偽造，躲不掉的詐騙和侵權(quán)
隨著生成式人工智能技術(shù)的飛速發(fā)展，一張簡單的“肖像照片”、一段視頻或音頻，都可能成為不法分子實(shí)施詐騙的利器。四川攀枝花市民王先生遭遇的“外甥”借錢騙局，以及深圳市民吳先生收到的“換臉”偽造不雅照敲詐勒索事件，都是AI換臉技術(shù)被濫用的典型案例。
AI技術(shù)的發(fā)展，也在不斷降低“實(shí)時換臉”技術(shù)門檻，有數(shù)據(jù)顯示，2023年基于AI的深度偽造欺詐暴增了3000%，全球Deepfake攻防挑戰(zhàn)賽出題人、ZOLOZ技術(shù)總監(jiān)姚偉斌在接受媒體采訪時表示，AIGC的生成偽造，今年的攻擊量比去年大概增加了10倍，整個風(fēng)險其實(shí)是呈指數(shù)級上升的情況，不僅僅是在中國，在韓國，在菲律賓、印尼等等國家都有類似的情況發(fā)生。
以技術(shù)治理技術(shù)，AI+安全縱深發(fā)展
隨著生成式人工智能驅(qū)動AI發(fā)展進(jìn)入新階段，AI治理隨之也變成了一個突出問題。在權(quán)衡AI應(yīng)用與安全，行業(yè)共識日益清晰：既要充分發(fā)揮AI技術(shù)的高效性與精準(zhǔn)度優(yōu)勢，提升安全運(yùn)營的智能化水平，又要強(qiáng)化安全措施，確保技術(shù)應(yīng)用的抗風(fēng)險能力。
行業(yè)已積極將人工智能技術(shù)應(yīng)用到安全領(lǐng)域，例如，電信安全自研的安全垂類大模型“見微安全大模型”有效提升了安全事件的響應(yīng)和處理能力，當(dāng)前已成功賦能五條內(nèi)部產(chǎn)線及十多家省級專業(yè)安全服務(wù)公司；中國移動推出九天泰合安全大模型，融合了啟明星辰安全行業(yè)特有的海量數(shù)據(jù)資源，有效支撐各類安全業(yè)務(wù)場景下的AI技術(shù)應(yīng)用；中國聯(lián)通推出元景網(wǎng)絡(luò)安全大模型，有效針對告警日志降噪、惡意樣本檢測、威脅情報生產(chǎn)等核心安全場景提供智能化解決方案，極大提升了安全防護(hù)的效能和響應(yīng)速度。
工業(yè)和信息化部反詐專班專家李坤表示，正在會同行業(yè)內(nèi)的手機(jī)終端企業(yè)，將推出AI換臉詐騙風(fēng)險提醒功能。這項(xiàng)功能僅在手機(jī)端來本地運(yùn)行，能夠有效保護(hù)用戶數(shù)據(jù)不泄露，經(jīng)過用戶授權(quán)后，可為用戶提供AI換臉詐騙風(fēng)險預(yù)警提醒。
產(chǎn)業(yè)協(xié)同共治安全未來
伴隨著AI技術(shù)的發(fā)展，在積極防范人工智能等新技術(shù)帶來的安全風(fēng)險，持續(xù)提升技術(shù)筑牢安全防線的同時，也要加強(qiáng)人工智能產(chǎn)業(yè)協(xié)同。在第二十三屆中國互聯(lián)網(wǎng)大會數(shù)據(jù)安全論壇上，中國信通院攜手三大運(yùn)營商集團(tuán)公司共同啟動信息通信行業(yè)“人工智能+安全”領(lǐng)航計劃，將從“提升企業(yè)人工智能安全管理能力”“提升企業(yè)人工智能安全技術(shù)保障能力”“深化人工智能安全能力行業(yè)賦能”三方面展開，推動行業(yè)人工智能安全能力整體提升。
如何讓人工智能循著以人為本和技術(shù)向善的方向發(fā)展，監(jiān)管之外離不開法治的保障。目前，我國已頒布實(shí)施《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律。
