中國消費者報報道（記者王小月）用眼動輸入，通過眼球的轉(zhuǎn)動和凝視操作電腦，從而實現(xiàn)“意念玩游戲”，這項技術(shù)將為聽障、肢障人士使用電子產(chǎn)品提供便利；5G+算力網(wǎng)絡(luò)打造的比特書房，打通了讀者內(nèi)容和文化場景之間的連接，比特分身可以在元宇宙里與書友互動，實現(xiàn)沉浸式交互式的閱讀體驗；基于數(shù)字文化技術(shù)打造的超時空博物館，可以讓人“穿越”到歷史之中……7月18日—20日，以“促進數(shù)實融合 賦能千行百業(yè)”為主題的中國互聯(lián)網(wǎng)大會在北京召開，《中國消費者報》記者在這里體驗到眾多互聯(lián)網(wǎng)技術(shù)應用的同時，也感受到參會各方對互聯(lián)網(wǎng)技術(shù)安全管理、風險治理的關(guān)注。

AI技術(shù)發(fā)展和安全需并重

近年來，人工智能（AI）技術(shù)已廣泛應用于人們的生活中，智能化產(chǎn)品亦覆蓋文旅、教育、養(yǎng)老助殘等諸多領(lǐng)域。在這場AI浪潮中，一系列顛覆性改變正在發(fā)生，隨之而來的安全問題也在其中。在大會AI安全論壇上，北京市通信管理局黨組成員、副局長王暉表示，AI技術(shù)在賦能產(chǎn)業(yè)應用，提高生產(chǎn)效率和質(zhì)量，降低成本和風險的同時，也給我們帶來了一系列新的安全風險與挑戰(zhàn)，AI技術(shù)的開發(fā)和應用應堅持發(fā)展與安全并重、權(quán)利和義務(wù)并重、自主與協(xié)作并重。

智能產(chǎn)品廣泛應用于文旅、教育等諸多領(lǐng)域。王小月/攝

廣泛賦能發(fā)展

AI技術(shù)在國際競爭和經(jīng)濟增長中都發(fā)揮著重要的作用。我國高度重視AI技術(shù)發(fā)展，早在2017年，國務(wù)院就出臺了《新一代人工智能發(fā)展規(guī)劃》，明確將人工智能列入國家發(fā)展戰(zhàn)略，工信部、科技部等部委緊跟出臺文件落實。具體到技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)融合應用等方面，也取得了積極的進展。

例如，將AI技術(shù)應用到企業(yè)招聘中，可以快速分析候選人的綜合素質(zhì)，大幅提升企業(yè)面試的效率及人才選拔的準確性；智慧養(yǎng)老AI守護產(chǎn)品“隱形護理員”，可以在獨居老人出現(xiàn)在畫面中時，借助視頻AI算法捕捉人體關(guān)鍵點，進行人體姿態(tài)估計，通過對人體動作的識別、姿態(tài)和行為的分析，輔助判斷是否發(fā)生跌倒事件，一旦監(jiān)測到跌倒或呼救等意外事件，會第一時間觸發(fā)告警，發(fā)送給家人或指定看護人員。

中國互聯(lián)網(wǎng)協(xié)會副理事長黃澄清表示，如今的互聯(lián)網(wǎng)發(fā)展已進入到一個“萬物皆可AI”的時代。“我國目前已建成全球規(guī)模最大、技術(shù)領(lǐng)先的網(wǎng)絡(luò)基礎(chǔ)設(shè)施，數(shù)據(jù)資源價值加快釋放，技術(shù)創(chuàng)新能力加速提升，核心技術(shù)不斷突破，安全保障能力也大幅度提升，數(shù)字經(jīng)濟蓬勃發(fā)展，數(shù)字社會服務(wù)更加普惠便捷，網(wǎng)絡(luò)惠民便民紅利充分釋放，數(shù)字治理服務(wù)效能顯著增強，網(wǎng)絡(luò)空間命運共同體的構(gòu)建持續(xù)推進。”

風險日益凸顯

近日，內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一則利用AI技術(shù)實施詐騙的公告。公告顯示，不法分子利用AI技術(shù)，通過聲音合成，偽造成特定人物的聲音，并通過AI技術(shù)換臉偽裝成特定人物，與他人進行視頻通話實施詐騙。據(jù)稱，偽造后的面部表情自然、以假亂真，僅用10分鐘，詐騙金額就達430萬元。

前不久，“AI孫燕姿”“AI王菲”成為短視頻平臺新一輪的流量密碼。同時，能以假亂真、掩人耳目的AI技術(shù)也在頻頻觸及法律紅線。北京市通州區(qū)人民法院調(diào)研發(fā)現(xiàn)，平臺流量背后有人正在利用AI技術(shù)換臉擬聲實施不法行為，如偽造不雅視頻、換臉詐騙等。

此外，AI技術(shù)的應用還面臨諸多安全問題，例如數(shù)據(jù)泄露、虛假內(nèi)容、侵害個人隱私、違規(guī)信息生成等。中國電信集團網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示，隨著AI技術(shù)和大模型的廣泛應用，數(shù)據(jù)泄露等風險日益凸顯，過度采集信息、歧視性算法、濫用深度偽造等問題也需要引起重視。

“AI技術(shù)的發(fā)展和安全需要同等重視，否則人類將面臨巨大風險。”北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍稱，簡單系統(tǒng)控制不了復雜系統(tǒng)，如果人工智能的智能水平超過了人類，人類要完全控制它是不可能的。“今年上半年以來，世界各國出臺了一系列關(guān)于人工智能的管控政策，人工智能的發(fā)展和風險管控需要同時進行，才能讓技術(shù)更好地為人類所用。”黃鐵軍表示。

APP侵權(quán)治理要應時而變

移動互聯(lián)網(wǎng)應用程序（APP）作為數(shù)字化、網(wǎng)絡(luò)化、智能化應用的重要載體，積極賦能賦值賦智千行百業(yè)，便利人民群眾的生產(chǎn)生活。根據(jù)全國APP技術(shù)檢測平臺統(tǒng)計，截至今年5月底，我國國內(nèi)市場上監(jiān)測到活躍的APP數(shù)量為261萬款。

與APP深度融合人們?nèi)粘Ｉ畈⒋娴模€有APP違規(guī)收集使用用戶個人信息、欺騙誤導用戶點擊下載等侵害用戶權(quán)益的現(xiàn)象。中國信息通信研究院泰爾終端實驗室主任馬鑫對《中國消費者報》記者表示，APP終端場景多變復雜，用戶權(quán)益保護問題突出，例如互聯(lián)網(wǎng)電視開機廣告、切屏廣告、關(guān)機廣告等關(guān)不掉的問題；兒童手機獲取孩子的位置、人臉圖像、錄音等隱私信息，無需用戶授權(quán)獲得多種敏感權(quán)限的問題，都對用戶產(chǎn)生了困擾。

《中國消費者報》記者從大會APP治理和用戶權(quán)益保護論壇上了解到，行業(yè)主管部門聚焦用戶關(guān)注的熱點難點痛點問題，持續(xù)開展APP治理工作，強化APP全流程、全鏈條治理，推動行業(yè)生態(tài)不斷改善。但與此同時，APP呈現(xiàn)形態(tài)多樣、業(yè)務(wù)場景豐富，各類新應用新業(yè)態(tài)新模式也不斷涌現(xiàn)，這都使得出現(xiàn)的問題和影響的對象處于動態(tài)變化之中，因此，APP治理工作仍面臨各種挑戰(zhàn)。

中國信息通信研究院技術(shù)與標準研究院副所長湯立波表示，隨著產(chǎn)業(yè)變化、個人信息保護監(jiān)管工作持續(xù)推進，APP侵權(quán)行為逐漸從竊取大量與業(yè)務(wù)無關(guān)的個人信息等惡意違法違規(guī)行為，演變?yōu)榇虿吝吳颉⒂脩舨涣几兄龋饕憩F(xiàn)在收集使用個人信息告知不清晰，使用個人信息必要性不足、范圍較大等。

今年以來，國家互聯(lián)網(wǎng)信息辦公室發(fā)布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，工業(yè)和信息化部發(fā)布了《關(guān)于進一步提升移動互聯(lián)網(wǎng)應用服務(wù)能力的通知》，從規(guī)范安裝卸載、加強個人信息保護等方面，提出改善用戶服務(wù)感知的具體措施。這一系列措施的出臺，也讓APP治理有了更多的抓手。