近年來(lái)，人工智能（AI）技術(shù)已廣泛應(yīng)用于人們的生活中，智能化產(chǎn)品亦覆蓋文旅、教育、養(yǎng)老助殘等諸多領(lǐng)域。
通過(guò)眼球的轉(zhuǎn)動(dòng)和凝視操作電腦，從而實(shí)現(xiàn)“意念玩游戲”，這項(xiàng)技術(shù)將為聽(tīng)障、肢障人士使用電子產(chǎn)品提供便利；5G+算力網(wǎng)絡(luò)打造的比特書(shū)房，打通了讀者內(nèi)容和文化場(chǎng)景之間的連接，比特分身可以在元宇宙里與書(shū)友互動(dòng)，實(shí)現(xiàn)沉浸式交互式的閱讀體驗(yàn)；基于數(shù)字文化技術(shù)打造的超時(shí)空博物館，可以讓人“穿越”到歷史之中……在這場(chǎng)AI浪潮中，一系列顛覆性改變正在發(fā)生，隨之而來(lái)的安全問(wèn)題也在其中。
近日在京舉行的中國(guó)互聯(lián)網(wǎng)大會(huì)AI安全論壇上，北京市通信管理局黨組成員、副局長(zhǎng)王暉表示，AI技術(shù)在賦能產(chǎn)業(yè)應(yīng)用、提高生產(chǎn)效率和質(zhì)量、降低成本和風(fēng)險(xiǎn)的同時(shí)，也帶來(lái)了一系列新的安全風(fēng)險(xiǎn)與挑戰(zhàn)，AI技術(shù)的開(kāi)發(fā)和應(yīng)用應(yīng)堅(jiān)持發(fā)展與安全并重、權(quán)利和義務(wù)并重、自主與協(xié)作并重。
廣泛賦能發(fā)展
AI技術(shù)在國(guó)際競(jìng)爭(zhēng)和經(jīng)濟(jì)增長(zhǎng)中都發(fā)揮著重要的作用。我國(guó)高度重視AI技術(shù)發(fā)展，早在2017年，國(guó)務(wù)院就出臺(tái)了《新一代人工智能發(fā)展規(guī)劃》，明確將人工智能列入國(guó)家發(fā)展戰(zhàn)略，工信部、科技部等部委緊跟出臺(tái)文件落實(shí)。具體到技術(shù)創(chuàng)新、產(chǎn)業(yè)生態(tài)融合應(yīng)用等方面，也取得了積極的進(jìn)展。
例如，將AI技術(shù)應(yīng)用到企業(yè)招聘中，可以快速分析候選人的綜合素質(zhì)，大幅提升企業(yè)面試的效率及人才選拔的準(zhǔn)確性；智慧養(yǎng)老AI守護(hù)產(chǎn)品“隱形護(hù)理員”，可以在老人出現(xiàn)在畫(huà)面中時(shí)，借助視頻AI算法捕捉人體關(guān)鍵點(diǎn)，進(jìn)行人體姿態(tài)估計(jì)，通過(guò)對(duì)人體動(dòng)作的識(shí)別、姿態(tài)和行為的分析，輔助判斷老人是否發(fā)生跌倒事件，一旦監(jiān)測(cè)到跌倒或呼救等意外事件，會(huì)第一時(shí)間觸發(fā)告警，發(fā)送給家人或指定看護(hù)人員。
中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)副理事長(zhǎng)黃澄清表示，如今的互聯(lián)網(wǎng)發(fā)展已進(jìn)入到一個(gè)“萬(wàn)物皆可AI”的時(shí)代。“我國(guó)目前已建成全球規(guī)模最大、技術(shù)領(lǐng)先的網(wǎng)絡(luò)基礎(chǔ)設(shè)施，數(shù)據(jù)資源價(jià)值加快釋放，技術(shù)創(chuàng)新能力加速提升，核心技術(shù)不斷突破，安全保障能力大幅度提升，數(shù)字經(jīng)濟(jì)蓬勃發(fā)展，數(shù)字社會(huì)服務(wù)更加普惠便捷，網(wǎng)絡(luò)惠民便民紅利充分釋放，數(shù)字治理服務(wù)效能顯著增強(qiáng)，網(wǎng)絡(luò)空間命運(yùn)共同體的構(gòu)建持續(xù)推進(jìn)。”
風(fēng)險(xiǎn)日益凸顯
AI明星成為短視頻平臺(tái)新一輪的流量密碼，不法分子利用AI技術(shù)，通過(guò)偽造人物聲音、AI換臉實(shí)施電信網(wǎng)絡(luò)詐騙。
此外，AI技術(shù)的應(yīng)用還面臨諸多安全問(wèn)題，例如數(shù)據(jù)泄露、虛假內(nèi)容、侵害個(gè)人隱私、違規(guī)信息生成等。中國(guó)電信集團(tuán)網(wǎng)絡(luò)和信息安全管理部總經(jīng)理谷紅勛表示，隨著AI技術(shù)和大模型的廣泛應(yīng)用，數(shù)據(jù)泄露等風(fēng)險(xiǎn)日益凸顯，過(guò)度采集信息、歧視性算法、濫用深度偽造等問(wèn)題也需要引起重視。
“AI技術(shù)的發(fā)展和安全需要同等重視，否則人類(lèi)將面臨巨大風(fēng)險(xiǎn)。”北京智源人工智能研究院院長(zhǎng)、北京大學(xué)計(jì)算機(jī)學(xué)院教授黃鐵軍稱(chēng)，簡(jiǎn)單系統(tǒng)控制不了復(fù)雜系統(tǒng)，如果AI的智能水平超過(guò)了人類(lèi)，人類(lèi)要完全控制它是不可能的。“今年上半年以來(lái)，世界各國(guó)出臺(tái)了一系列關(guān)于AI的管控政策，AI的發(fā)展和風(fēng)險(xiǎn)管控需要同時(shí)進(jìn)行，才能讓技術(shù)更好地為人類(lèi)所用。”黃鐵軍表示。
APP侵權(quán)治理要應(yīng)時(shí)而變
移動(dòng)互聯(lián)網(wǎng)應(yīng)用程序（APP）作為數(shù)字化、網(wǎng)絡(luò)化、智能化應(yīng)用的重要載體，積極賦能賦值賦智千行百業(yè)，便利人民群眾的生產(chǎn)生活。根據(jù)全國(guó)APP技術(shù)檢測(cè)平臺(tái)統(tǒng)計(jì)，截至今年5月底，我國(guó)國(guó)內(nèi)市場(chǎng)上監(jiān)測(cè)到活躍的APP數(shù)量達(dá)到261萬(wàn)款。
與APP深度融合人們?nèi)粘Ｉ畈⒋娴模�有APP違規(guī)收集使用用戶(hù)個(gè)人信息、欺騙誤導(dǎo)用戶(hù)點(diǎn)擊下載等侵害用戶(hù)權(quán)益的現(xiàn)象。APP終端場(chǎng)景多變復(fù)雜，用戶(hù)權(quán)益保護(hù)問(wèn)題突出，例如互聯(lián)網(wǎng)電視開(kāi)機(jī)廣告、切屏廣告、關(guān)機(jī)廣告等關(guān)不掉的問(wèn)題；兒童智能手表獲取孩子的位置、人臉圖像、錄音等隱私信息，無(wú)需用戶(hù)授權(quán)獲得多種敏感權(quán)限的問(wèn)題，都對(duì)用戶(hù)產(chǎn)生了困擾。
行業(yè)主管部門(mén)持續(xù)開(kāi)展了APP治理工作，強(qiáng)化全流程、全鏈條治理，推動(dòng)行業(yè)生態(tài)不斷改善。但與此同時(shí)，APP呈現(xiàn)形態(tài)多樣、業(yè)務(wù)場(chǎng)景豐富，各類(lèi)新應(yīng)用新業(yè)態(tài)新模式也不斷涌現(xiàn)，這都使得出現(xiàn)的問(wèn)題和影響的對(duì)象處于動(dòng)態(tài)變化之中，因此，APP治理工作仍面臨各種挑戰(zhàn)。
中國(guó)信息通信研究院技術(shù)與標(biāo)準(zhǔn)研究院副所長(zhǎng)湯立波表示，隨著產(chǎn)業(yè)變化、個(gè)人信息保護(hù)監(jiān)管工作持續(xù)推進(jìn)，APP侵權(quán)行為逐漸從竊取大量與業(yè)務(wù)無(wú)關(guān)的個(gè)人信息等惡意違法違規(guī)行為，演變?yōu)榇虿吝吳颉⒂脩?hù)不良感知等，主要表現(xiàn)在收集使用個(gè)人信息告知不清晰，使用個(gè)人信息必要性不足、范圍較大等。
今年以來(lái)，國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，工業(yè)和信息化部發(fā)布了《關(guān)于進(jìn)一步提升移動(dòng)互聯(lián)網(wǎng)應(yīng)用服務(wù)能力的通知》，從規(guī)范安裝卸載、加強(qiáng)個(gè)人信息保護(hù)等方面，提出改善用戶(hù)服務(wù)感知的具體措施。這一系列措施的出臺(tái)，也讓APP治理有了更多的抓手。 |
您現(xiàn)在的位置： 
