人工智能安全白皮書發(fā)布：這六大風險不可忽略
時間：2025-11-22 23:59:54 來源：骨軟筋酥網 作者：知識 閱讀：303次
導讀：人工智能安全風險包括網絡安全風險、人工數(shù)據(jù)安全風險、安全算法安全風險、白皮布上海嘉定（外圍女上門）找外圍服務vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達信息安全風險、風險社會安全風險和國家安全風險六方面。忽略
Facebook數(shù)據(jù)泄露事件的人工主角劍橋分析公司通過關聯(lián)分析的方式獲得了海量的美國公民用戶信息，包括膚色、安全性取向、白皮布智力水平、風險性格特征、忽略宗教信仰、人工政治觀點以及酒精、安全煙草和毒品的白皮布使用情況，借此實施各種政治宣傳。風險
ForresterResearch預測統(tǒng)計，忽略上海嘉定（外圍女上門）找外圍服務vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達人工智能技術將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統(tǒng)取代。《未來簡史》作者尤瓦爾·赫拉利預言，二三十年內超過50%工作會被人工智能取代。
……
人工智能在服務和賦能人類生產生活同時，也帶來了難以忽視的安全風險。
9月18日，2018世界人工智能大會安全高端對話在上海舉行，會上發(fā)布了《人工智能安全白皮書》（以下簡稱《白皮書》）。
《白皮書》由中國信息通信研究院安全研究所編制，該研究所始建于1957年，是工業(yè)和信息化部直屬科研事業(yè)單位。
《白皮書》稱，技術的進步往往是一把“雙刃劍”，人工智能作為一種通用目的技術，為保障國家網絡空間安全、提升人類經濟社會風險防控能力等方面提供了新手段和途徑。但同時，人工智能在技術轉化和應用場景落地過程中，由于技術的不確定性和應用的廣泛性，帶來沖擊網絡安全、社會就業(yè)、法律倫理等問題并對國家政治、經濟和社會安全帶來諸多風險和挑戰(zhàn)。
《白皮書》項目組認為，人工智能安全風險包括網絡安全風險、數(shù)據(jù)安全風險、算法安全風險、信息安全風險、社會安全風險和國家安全風險六方面。
從網絡安全風險看，人工智能學習框架和組件存在安全漏洞風險，可引發(fā)系統(tǒng)安全問題。《白皮書》指出，目前，國內人工智能產品和應用的研發(fā)主要是基于谷歌、微軟、亞馬遜、臉書、百度等科技巨頭發(fā)布的人工智能學習框架和組件。但是，由于這些開源框架和組件缺乏嚴格的測試管理和安全認證，可能存在漏洞和后門等安全風險，一旦被攻擊者惡意利用，可危及人工智能產品和應用的完整性和可用性，甚至有可能導致重大財產損失和惡劣社會影響。
同時，人工智能技術可提升網絡攻擊能力，對現(xiàn)有網絡安全防護體系構成威脅與挑戰(zhàn)。
從數(shù)據(jù)安全風險看，一方面逆向攻擊可導致算法模型內部的數(shù)據(jù)泄露，另一方面，人工智能技術可加強數(shù)據(jù)挖掘分析能力，加大隱私泄露風險。Facebook數(shù)據(jù)泄露事件即是典型案例。
從算法安全風險看，算法設計或實施有誤可產生與預期不符甚至傷害性結果；算法潛藏偏見和歧視，導致決策結果可能存在不公；算法黑箱導致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境；含有噪聲或偏差的訓練數(shù)據(jù)可影響算法模型準確性；此外，對抗樣本攻擊可誘使算法識別出現(xiàn)誤判漏判，產生錯誤結果。
例如，使用Northpointe公司開發(fā)的犯罪風險評估算法COMPAS時，黑人被錯誤地評估為具有高犯罪風險的概率兩倍于白人。
從信息安全風險看，智能推薦算法可加速不良信息的傳播，人工智能技術可制作虛假信息內容，用以實施詐騙等不法活動。
2017年，我國浙江、湖北等地發(fā)生多起犯罪分子利用語音合成技術假扮受害人親屬實施詐騙的案件，造成惡劣社會影響。
從社會安全風險看，人工智能產業(yè)化推進將使部分現(xiàn)有就業(yè)崗位減少甚至消失，導致結構性失業(yè)；人工智能特別是高度自治系統(tǒng)的安全風險可危及人身安全；人工智能產品和應用會對現(xiàn)有社會倫理道德體系造成沖擊。
項目組對此舉例道，企業(yè)具有天生的資本逐利性，在利用用戶數(shù)據(jù)追求自身利益最大化時，往往忽視道德觀念，從而損害用戶群體的權益。例如：攜程、滴滴等基于用戶行為數(shù)據(jù)分析，實現(xiàn)對客戶的價格歧視；Facebook利用人工智能有針對性地向用戶投放游戲、癮品甚至虛假交友網站的廣告，從中獲取巨大利益。
從國家安全風險看，人工智能可用于影響公眾政治意識形態(tài)，間接威脅國家安全；還可用于構建新型軍事打擊力量，直接威脅國家安全。
“當前，人工智能技術發(fā)展呈現(xiàn)加速趨勢，由于其自身的學科交叉性和垂直應用性，未來必將與傳統(tǒng)行業(yè)進行深度融合。隨著人工智能技術的創(chuàng)新突破和應用場景的日益增多，其安全風險也會動態(tài)演進，將越發(fā)具有泛在化、場景化、融合化等特點，對人類生產生活、國家政治經濟等方方面面產生深遠安全影響。”項目組寫道。
在《白皮書》中，項目組也提出了八條人工智能安全發(fā)展建議。
這些建議包括加強自主創(chuàng)新，突破共性關鍵技術；完善法律法規(guī)，制定倫理道德規(guī)范；健全監(jiān)管體系，引導產業(yè)健康發(fā)展；強化標準引領，構建安全評估體系；促進行業(yè)協(xié)作，推動技術安全應用；加大人才培養(yǎng)，提升人員就業(yè)技能；加強國際交流，應對共有安全風險；加大社會宣傳，科學處理安全問題。
在9月18日的活動上，2018世界人工智能大會安全高端對話與會專家組還發(fā)布了《人工安能安全發(fā)展上海倡議》，共同倡導人工智能安全發(fā)展要面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監(jiān)督、和平利用和開放合作。
Facebook數(shù)據(jù)泄露事件的人工主角劍橋分析公司通過關聯(lián)分析的方式獲得了海量的美國公民用戶信息，包括膚色、安全性取向、白皮布智力水平、風險性格特征、忽略宗教信仰、人工政治觀點以及酒精、安全煙草和毒品的白皮布使用情況，借此實施各種政治宣傳。風險
ForresterResearch預測統(tǒng)計，忽略上海嘉定（外圍女上門）找外圍服務vx《189-4143》提供外圍女上門服務快速選照片快速安排不收定金面到付款30分鐘可到達人工智能技術將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統(tǒng)取代。《未來簡史》作者尤瓦爾·赫拉利預言，二三十年內超過50%工作會被人工智能取代。
……
人工智能在服務和賦能人類生產生活同時，也帶來了難以忽視的安全風險。
9月18日，2018世界人工智能大會安全高端對話在上海舉行，會上發(fā)布了《人工智能安全白皮書》（以下簡稱《白皮書》）。
《白皮書》由中國信息通信研究院安全研究所編制，該研究所始建于1957年，是工業(yè)和信息化部直屬科研事業(yè)單位。
《白皮書》稱，技術的進步往往是一把“雙刃劍”，人工智能作為一種通用目的技術，為保障國家網絡空間安全、提升人類經濟社會風險防控能力等方面提供了新手段和途徑。但同時，人工智能在技術轉化和應用場景落地過程中，由于技術的不確定性和應用的廣泛性，帶來沖擊網絡安全、社會就業(yè)、法律倫理等問題并對國家政治、經濟和社會安全帶來諸多風險和挑戰(zhàn)。
《白皮書》項目組認為，人工智能安全風險包括網絡安全風險、數(shù)據(jù)安全風險、算法安全風險、信息安全風險、社會安全風險和國家安全風險六方面。
從網絡安全風險看，人工智能學習框架和組件存在安全漏洞風險，可引發(fā)系統(tǒng)安全問題。《白皮書》指出，目前，國內人工智能產品和應用的研發(fā)主要是基于谷歌、微軟、亞馬遜、臉書、百度等科技巨頭發(fā)布的人工智能學習框架和組件。但是，由于這些開源框架和組件缺乏嚴格的測試管理和安全認證，可能存在漏洞和后門等安全風險，一旦被攻擊者惡意利用，可危及人工智能產品和應用的完整性和可用性，甚至有可能導致重大財產損失和惡劣社會影響。
同時，人工智能技術可提升網絡攻擊能力，對現(xiàn)有網絡安全防護體系構成威脅與挑戰(zhàn)。
從數(shù)據(jù)安全風險看，一方面逆向攻擊可導致算法模型內部的數(shù)據(jù)泄露，另一方面，人工智能技術可加強數(shù)據(jù)挖掘分析能力，加大隱私泄露風險。Facebook數(shù)據(jù)泄露事件即是典型案例。
從算法安全風險看，算法設計或實施有誤可產生與預期不符甚至傷害性結果；算法潛藏偏見和歧視，導致決策結果可能存在不公；算法黑箱導致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境；含有噪聲或偏差的訓練數(shù)據(jù)可影響算法模型準確性；此外，對抗樣本攻擊可誘使算法識別出現(xiàn)誤判漏判，產生錯誤結果。
例如，使用Northpointe公司開發(fā)的犯罪風險評估算法COMPAS時，黑人被錯誤地評估為具有高犯罪風險的概率兩倍于白人。
從信息安全風險看，智能推薦算法可加速不良信息的傳播，人工智能技術可制作虛假信息內容，用以實施詐騙等不法活動。
2017年，我國浙江、湖北等地發(fā)生多起犯罪分子利用語音合成技術假扮受害人親屬實施詐騙的案件，造成惡劣社會影響。
從社會安全風險看，人工智能產業(yè)化推進將使部分現(xiàn)有就業(yè)崗位減少甚至消失，導致結構性失業(yè)；人工智能特別是高度自治系統(tǒng)的安全風險可危及人身安全；人工智能產品和應用會對現(xiàn)有社會倫理道德體系造成沖擊。
項目組對此舉例道，企業(yè)具有天生的資本逐利性，在利用用戶數(shù)據(jù)追求自身利益最大化時，往往忽視道德觀念，從而損害用戶群體的權益。例如：攜程、滴滴等基于用戶行為數(shù)據(jù)分析，實現(xiàn)對客戶的價格歧視；Facebook利用人工智能有針對性地向用戶投放游戲、癮品甚至虛假交友網站的廣告，從中獲取巨大利益。
從國家安全風險看，人工智能可用于影響公眾政治意識形態(tài)，間接威脅國家安全；還可用于構建新型軍事打擊力量，直接威脅國家安全。
“當前，人工智能技術發(fā)展呈現(xiàn)加速趨勢，由于其自身的學科交叉性和垂直應用性，未來必將與傳統(tǒng)行業(yè)進行深度融合。隨著人工智能技術的創(chuàng)新突破和應用場景的日益增多，其安全風險也會動態(tài)演進，將越發(fā)具有泛在化、場景化、融合化等特點，對人類生產生活、國家政治經濟等方方面面產生深遠安全影響。”項目組寫道。
在《白皮書》中，項目組也提出了八條人工智能安全發(fā)展建議。
這些建議包括加強自主創(chuàng)新，突破共性關鍵技術；完善法律法規(guī)，制定倫理道德規(guī)范；健全監(jiān)管體系，引導產業(yè)健康發(fā)展；強化標準引領，構建安全評估體系；促進行業(yè)協(xié)作，推動技術安全應用；加大人才培養(yǎng)，提升人員就業(yè)技能；加強國際交流，應對共有安全風險；加大社會宣傳，科學處理安全問題。
在9月18日的活動上，2018世界人工智能大會安全高端對話與會專家組還發(fā)布了《人工安能安全發(fā)展上海倡議》，共同倡導人工智能安全發(fā)展要面向未來、以人為本、責任明晰、隱私保護、算法公正、透明監(jiān)督、和平利用和開放合作。
(責任編輯：焦點)
相關內容
- ·上海外圍（高端外圍）外圍模特（電話微信199-7144-9724）一二線城市外圍預約外圍上門外圍女，不收任何定金30分鐘內快速到達
- ·合肥同城上門外圍上門外圍女（電話微信199-7144-9724）提供高端外圍上門真實靠譜快速安排不收定金見人滿意付30分鐘內到達
- ·鎮(zhèn)江外圍（鎮(zhèn)江外圍女）外圍預約（電話微信199-7144-9724）全國一二線熱門城市快速安排30分鐘到達
- ·重慶美女同城上門外圍上門外圍女（電話微信199-7144-9724）提供頂級外圍女上門，可滿足你的一切要求
- ·深圳美女快餐外圍上門外圍女（電話微信199-7144-9724）提供1-2線熱門城市快速安排30分鐘到達
- ·廣州外圍大圈伴游（電話微信199-7144-9724）真實上門外圍上門外圍女快速安排30分鐘到達
- ·長春外圍（外圍經紀）外圍女（電話微信199-7144-9724）真實上門外圍上門外圍女快速安排30分鐘到達
- ·北京同城外圍上門外圍女上門（電話微信199-7144-9724）提供1-2線熱門城市快速安排30分鐘到達
最新內容
推薦內容
