DeepSeek橫空出世，彰顯了我國在科技創(chuàng)新上的巨大潛力。針對AI和科技創(chuàng)新等話題，證券時報記者日前對話奇安信董事長齊向東。

他認(rèn)為，在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)；建議繼續(xù)守護(hù)并延續(xù)AI創(chuàng)新的“草根化”趨勢，保持“自下而上”的創(chuàng)新張力。同時，對于人工智能發(fā)展面臨的安全問題，他認(rèn)為要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。

記者：人工智能是新一輪科技革命的核心技術(shù)，也是大國博弈的重要陣地。您認(rèn)為，發(fā)展人工智能將對我國在國際競爭中增加哪些優(yōu)勢和話語權(quán)？人工智能將為傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級帶來哪些影響？

齊向東：人工智能是引領(lǐng)未來發(fā)展的顛覆性技術(shù)和前沿技術(shù)，也是注定要走進(jìn)千家萬戶的關(guān)鍵共性技術(shù)。大力發(fā)展人工智能，能切實增強(qiáng)我國在數(shù)字經(jīng)濟(jì)、高水平人才引育和產(chǎn)業(yè)鏈供應(yīng)鏈完整性等方面的優(yōu)勢，提升我國在國際技術(shù)標(biāo)準(zhǔn)與安全治理等領(lǐng)域的話語權(quán)。

在傳統(tǒng)產(chǎn)業(yè)轉(zhuǎn)型升級的過程中，人工智能發(fā)揮著“領(lǐng)頭雁”效應(yīng)。作為傳統(tǒng)產(chǎn)業(yè)數(shù)字化轉(zhuǎn)型中最重要的變革驅(qū)動力量，人工智能已在研發(fā)、生產(chǎn)、管理全環(huán)節(jié)廣泛應(yīng)用，涌現(xiàn)出上百種場景和模式。但是，人工智能也大幅提升了網(wǎng)絡(luò)攻擊的烈度和廣度，網(wǎng)絡(luò)攻擊窗口不斷擴(kuò)大、網(wǎng)絡(luò)攻擊手段不斷革新、網(wǎng)絡(luò)犯罪門檻持續(xù)降低，給傳統(tǒng)產(chǎn)業(yè)發(fā)展帶來了新風(fēng)險、新挑戰(zhàn)，引發(fā)了社會高度關(guān)注。

記者：DeepSeek的開源策略打破“巨頭壟斷”模式，同時，包括DeepSeek在內(nèi)的“杭州六小龍”也都是“野生”的民營企業(yè)。在您看來，中國AI創(chuàng)新是否有“草根化”的趨勢？

齊向東：我國AI創(chuàng)新的“草根化”趨勢確實很明顯，這跟國家的前瞻性布局、政策扶持以及全方位的資源投入密不可分。AI屬于通用型創(chuàng)新，它的獨(dú)特之處在于并非由權(quán)威主導(dǎo)，而是由廣大創(chuàng)業(yè)者主導(dǎo)的。這次DeepSeek的爆火，以及”杭州六小龍”等科創(chuàng)企業(yè)的成功，都很好地印證了這一點。但我們也必須清楚，沒有國家作為堅實后盾，這些“草根”力量也是難以茁壯成長的。今年年初，國家AI產(chǎn)業(yè)投資基金成立，為技術(shù)創(chuàng)新和應(yīng)用拓展釋放了更多增長空間。

繼續(xù)守護(hù)并延續(xù)AI創(chuàng)新的“草根化”趨勢，保持“自下而上”的創(chuàng)新張力，對我國AI產(chǎn)業(yè)發(fā)展乃至整個科技創(chuàng)新生態(tài)意義重大。建議國家從政策引導(dǎo)、優(yōu)化營商環(huán)境、生態(tài)協(xié)同等維度入手，進(jìn)一步激發(fā)民間創(chuàng)新創(chuàng)業(yè)熱情。比如，出臺專門針對科創(chuàng)民營企業(yè)的創(chuàng)新政策，酌情給予創(chuàng)新保護(hù)期、稅收減免、財政補(bǔ)貼等；用好金融工具，設(shè)立專項風(fēng)險補(bǔ)償基金，以資金支持激發(fā)創(chuàng)新活力；同時優(yōu)化算力調(diào)度、牽頭建設(shè)公共技術(shù)服務(wù)平臺等等。

記者：不久前DeepSeek線上服務(wù)受到大規(guī)模惡意攻擊，這也讓大模型的安全問題受到關(guān)注。據(jù)奇安信XLab實驗室監(jiān)測到的最新情況，近期對DeepSeek的網(wǎng)絡(luò)攻擊是否仍在繼續(xù)？

齊向東：近期針對DeepSeek的網(wǎng)絡(luò)攻擊行為仍未完全停止。2月10日，我們檢測到一個新的僵尸網(wǎng)絡(luò)moobot曾短暫參與過攻擊，但并未造成實質(zhì)影響。2月初，我們通過持續(xù)跟蹤監(jiān)測發(fā)現(xiàn)，針對DeepSeek的仿冒網(wǎng)站、釣魚網(wǎng)站數(shù)量已經(jīng)超過2千個，并且在快速增加，于是再次發(fā)布預(yù)警，提醒用戶保持警惕，DeepSeek官方也對此事作出回應(yīng)。

日前，我們發(fā)現(xiàn)目前活躍地運(yùn)行DeepSeek等大模型的服務(wù)器有九成沒有采取安全措施。這種“裸奔”狀態(tài)會導(dǎo)致任何人不需要任何認(rèn)證即可隨意調(diào)用、在未經(jīng)授權(quán)的情況下訪問這些服務(wù)，極有可能造成數(shù)據(jù)泄露和服務(wù)中斷，甚至可以發(fā)送指令刪除所部署的DeepSeek、Qwen等大模型文件，存在嚴(yán)重的安全隱患。

記者：積極構(gòu)建高可靠人工智能安全體系，著力為用戶提供有效的安全防護(hù)，既要用人工智能去驅(qū)動安全，又要做好人工智能自身安全。您認(rèn)為，目前人工智能的發(fā)展面臨哪些安全問題？

齊向東：人工智能發(fā)展面臨的安全問題大致可以分為三類。第一類是人工智能大模型自身的安全問題。開發(fā)風(fēng)險、數(shù)據(jù)風(fēng)險、應(yīng)用風(fēng)險和基礎(chǔ)環(huán)境風(fēng)險這四大安全風(fēng)險比較突出。

第二類是利用人工智能開展網(wǎng)絡(luò)攻擊的問題。人工智能促進(jìn)了網(wǎng)絡(luò)攻擊手段的更新迭代，“飽和式”攻擊成為可能，攻擊者可以瞬時發(fā)動海量攻擊打垮已有的網(wǎng)絡(luò)安全體系。人工智能還提升了“以假亂真”的能力，深度偽造、認(rèn)知戰(zhàn)、釣魚等威脅加劇。攻擊者可利用人工智能“換臉變聲”輸出虛假信息，開展網(wǎng)絡(luò)詐騙，或輸出背離主流價值觀的內(nèi)容危害認(rèn)知安全。

第三類是通過攻擊人工智能引發(fā)的“網(wǎng)絡(luò)攻擊大爆炸”。未來人工智能會成為社會的基礎(chǔ)設(shè)施，當(dāng)大模型嵌入智慧城市、工控系統(tǒng)、智慧政務(wù)等關(guān)鍵領(lǐng)域時，會放大漏洞等傳統(tǒng)安全威脅，一旦人工智能大模型遭到攻擊可能會牽一發(fā)而動全身，引發(fā)社會服務(wù)中斷、生產(chǎn)停滯、隱私數(shù)據(jù)泄露等安全事件。

針對這些安全問題，要從技術(shù)保障、制度保障、成果應(yīng)用三方面入手，系統(tǒng)提升安全能力，確保人工智能安全發(fā)展。第一，建立適配大模型的縱深防御體系，筑牢人工智能的安全根基。第二，制定大模型安全強(qiáng)制合規(guī)要求，夯實人工智能安全發(fā)展的制度保障。第三，推廣“AI+安全”創(chuàng)新成果落地，走好提升安全能力的必經(jīng)之路。