您的當(dāng)前位置:首頁 > 時(shí)尚 > 在發(fā)展中治理完善人工智能大模型 正文
時(shí)間:2025-11-23 00:59:41 來源:網(wǎng)絡(luò)整理 編輯:時(shí)尚
【家電資訊-家電新聞 - 行業(yè)新聞,作者:編輯】 新一輪科技革命和產(chǎn)業(yè)變革迅猛發(fā)展,數(shù)字技術(shù)、智能經(jīng)濟(jì)與數(shù)字化產(chǎn)業(yè)成為催生新產(chǎn)業(yè)、新業(yè)態(tài)、新模式的重點(diǎn)領(lǐng) 佛山順德區(qū)約妹妹約茶約炮服務(wù)電崴信159-8298-6630提供外圍女小姐上門服務(wù)快速安排面到付款
新一輪科技革命和產(chǎn)業(yè)變革迅猛發(fā)展,中治數(shù)字技術(shù)、理完佛山順德區(qū)約妹妹約茶約炮服務(wù)電崴信159-8298-6630提供外圍女小姐上門服務(wù)快速安排面到付款智能經(jīng)濟(jì)與數(shù)字化產(chǎn)業(yè)成為催生新產(chǎn)業(yè)、善人新業(yè)態(tài)、工智新模式的模型重點(diǎn)領(lǐng)域。發(fā)布僅6個(gè)月的發(fā)展ChatGPT,已掀起全球人工智能(AI)產(chǎn)業(yè)的中治大模型熱潮。在日前舉辦的理完中國人工智能產(chǎn)業(yè)年會(huì)中,AI大模型帶來的善人安全挑戰(zhàn)和發(fā)展機(jī)遇成為與會(huì)專家熱議話題。
賦能千行百業(yè)
ChatGPT在與人類對(duì)話、工智寫作文、模型寫代碼等方面令人驚艷的發(fā)展表現(xiàn),是中治AI大模型GPT通過大算力、大規(guī)模訓(xùn)練數(shù)據(jù)突破自然語言處理瓶頸的理完結(jié)果。但大模型本身并不是新鮮事物,AI大模型也不止GPT這一條路線,很多科技巨頭近幾年都在“煉”大模型,且各有積累。這也是佛山順德區(qū)約妹妹約茶約炮服務(wù)電崴信159-8298-6630提供外圍女小姐上門服務(wù)快速安排面到付款ChatGPT走紅之后,各巨頭短短數(shù)月內(nèi)就紛紛推出競(jìng)品的原因。
“以ChatGPT為代表的多模態(tài)通用大模型,將深刻變革各行各業(yè)。”電子科技大學(xué)教授、考拉悠然科技有限公司聯(lián)合創(chuàng)始人沈復(fù)民說,行業(yè)人工智能可有效推動(dòng)技術(shù)與市場(chǎng)供需平衡,將是人工智能產(chǎn)業(yè)化的最大機(jī)遇。人工智能技術(shù)落地行業(yè)時(shí),需要克服開發(fā)效率低、落地成本高、場(chǎng)景復(fù)雜多元等難題。
沈復(fù)民所在的研發(fā)團(tuán)隊(duì)獲得了2022年度吳文俊人工智能科學(xué)技術(shù)獎(jiǎng)自然科學(xué)一等獎(jiǎng)。據(jù)他介紹,團(tuán)隊(duì)開發(fā)了為垂直行業(yè)賦能的多模態(tài)AI操作系統(tǒng),基于行業(yè)多模態(tài)大模型、多模態(tài)融合分析、機(jī)器視覺等核心AI算法支持,可以讓企業(yè)擺脫繁雜的算法、算力、數(shù)據(jù)整合工作,快速孵化行業(yè)大模型,高效率應(yīng)用到工業(yè)制造、城市治理、消費(fèi)、能源、交通、建材等業(yè)務(wù)場(chǎng)景。
“通用對(duì)話技術(shù)是人工智能領(lǐng)域最具挑戰(zhàn)性的方向之一,也被認(rèn)為是通用人工智能的必備能力。如今備受關(guān)注的對(duì)話式人工智能,其背后就有通用對(duì)話技術(shù)。”百度首席技術(shù)官、深度學(xué)習(xí)技術(shù)及應(yīng)用國家工程研究中心主任王海峰說。中國人工智能產(chǎn)業(yè)年會(huì)期間,由他帶領(lǐng)團(tuán)隊(duì)完成的“知識(shí)與深度學(xué)習(xí)融合的通用對(duì)話技術(shù)及應(yīng)用”成果,獲2022年度吳文俊人工智能科技進(jìn)步獎(jiǎng)特等獎(jiǎng)。
公開資料顯示,這一研究項(xiàng)目已獲授權(quán)發(fā)明專利82項(xiàng),發(fā)表高水平論文36篇,在國際權(quán)威評(píng)測(cè)中獲世界冠軍11項(xiàng)。目前項(xiàng)目成果實(shí)現(xiàn)了大規(guī)模產(chǎn)業(yè)應(yīng)用,已支持5億智能設(shè)備,服務(wù)超過10億用戶,覆蓋包括通信、金融、汽車、能源等20多個(gè)行業(yè)。
爭(zhēng)取“主動(dòng)安全”
技術(shù)是把雙刃劍。人工智能大模型能力越大,一旦濫用帶來的危害也就越大。當(dāng)前,ChatGPT等工具被用于生成假新聞、假照片、假視頻,甚至實(shí)施詐騙等犯罪行為,引發(fā)人們對(duì)大模型安全性的擔(dān)憂。
西北工業(yè)大學(xué)教授王震是網(wǎng)絡(luò)空間智能對(duì)抗應(yīng)用研究領(lǐng)域的專家,他認(rèn)為,要用人工智能驅(qū)動(dòng)網(wǎng)絡(luò)空間智能對(duì)抗。比如,用人工智能檢測(cè)、識(shí)別有害信息,搭建“主動(dòng)安全”的智能防御網(wǎng)。
“只有在AI發(fā)展過程中,我們才能面對(duì)問題、解決問題,并找到機(jī)遇。”螞蟻集團(tuán)AI風(fēng)險(xiǎn)管理負(fù)責(zé)人楊舟表示,在AI管理中,安全事件對(duì)日常風(fēng)險(xiǎn)管理至關(guān)重要。“我們需要重視和預(yù)測(cè)相關(guān)事件,分析安全問題,避免發(fā)展帶來的風(fēng)險(xiǎn)。”
了解機(jī)理是安全管理的基礎(chǔ)。不過,大模型的“智能涌現(xiàn)”目前還是個(gè)難以解釋的黑箱,沒有人能理解、預(yù)測(cè)或可靠地控制這些大模型,甚至模型的創(chuàng)造者也不能。開發(fā)出ChatGPT的公司OpenAI,也為大模型做了大量?jī)r(jià)值敏感設(shè)計(jì)和道德嵌入工作,但仍然存在明顯的漏洞和局限。
“雖然大模型的能力在不斷變強(qiáng),但如果不對(duì)其進(jìn)行專門的安全性訓(xùn)練或安全性加固,其脆弱性不會(huì)得到任何改善。”瑞萊智慧公司首席執(zhí)行官田天認(rèn)為,人工智能大模型的安全性面臨很多挑戰(zhàn)。
“大模型是人工智能發(fā)展的轉(zhuǎn)折點(diǎn),研究人員需要進(jìn)一步了解這些大模型為何具備類人思考的能力。”香港科技大學(xué)教授馮雁表示,ChatGPT最初只作為科研項(xiàng)目發(fā)布,但通過加入人機(jī)交互界面,迅速變成網(wǎng)紅產(chǎn)品。其爆紅帶來的倫理問題始料未及,也給生成式人工智能的管理提出了挑戰(zhàn)。“只有真正的開源,才能共同研究,理解大模型存在的問題和產(chǎn)生的根源,更好地進(jìn)行管理。”
“商湯一直是開源開放的貢獻(xiàn)者和支持者,但在開源上我們要謹(jǐn)慎一些,特別是目前對(duì)于大模型而言,安全防護(hù)體系還未健全。”商湯科技人工智能倫理與治理研究主任胡正坤說,在智能時(shí)代把底層模型開源,不見得安全,因?yàn)樵陂_放能力的同時(shí),也在開放薄弱點(diǎn),而薄弱點(diǎn)有可能被不法分子利用。
亟需深度治理
專家們對(duì)未來的人工智能長(zhǎng)遠(yuǎn)治理做出種種設(shè)想。
“不能把價(jià)值設(shè)計(jì)看成治理的唯一路徑。”復(fù)旦大學(xué)應(yīng)用倫理學(xué)研究中心教授王國豫認(rèn)為,針對(duì)現(xiàn)階段人工智能治理的局限性,可從三方面采取措施。一是充分評(píng)估數(shù)據(jù)和模型的倫理影響和風(fēng)險(xiǎn)點(diǎn);二是從流程方面,不僅要考慮通用模型,還要把通用模型納入到社會(huì)生態(tài)系統(tǒng)、社會(huì)政治經(jīng)濟(jì)系統(tǒng)來考慮;三是探索倫理方法,充分探索“價(jià)值敏感設(shè)計(jì)”“負(fù)責(zé)任創(chuàng)新”等倫理方法在通用模型語境下的可行性。
中國社會(huì)科學(xué)院哲學(xué)所科技哲學(xué)研究室主任、研究員段偉文表示,需要警惕機(jī)器對(duì)人類思維的馴化。比如,有的人不擅社交,可能用人工智能生成對(duì)話的方式幫他社交聊天,這樣的對(duì)話機(jī)制會(huì)反過來馴化人類。他建議加強(qiáng)人類和人工智能的交互和溝通,不僅要了解人類怎么去修機(jī)器,也要研究機(jī)器如何影響人類。
中科院自動(dòng)化研究所研究員曾毅期待構(gòu)建人工智能的道德直覺,“為機(jī)器人立心、為人工智能立心”是重要的長(zhǎng)遠(yuǎn)工作目標(biāo)。“強(qiáng)化學(xué)習(xí)的獎(jiǎng)懲只是加加減減,它不是真正對(duì)道德的理解,除非人工智能實(shí)現(xiàn)基于自我的道德直覺。缺乏自我的人工智能無法擁有真正的道德直覺,做真正的道德決策。我們?cè)谧鲆粋€(gè)基于類腦的脈沖神經(jīng)網(wǎng)絡(luò)構(gòu)建創(chuàng)生的人工智能引擎,希望讓它像兒童一樣去學(xué)習(xí),獲得自我感知。”曾毅說。
“從要求人工智能大模型合乎倫理,到真正構(gòu)建有道德的人工智能。”曾毅表示,未來通用人工智能和超級(jí)智能的倫理安全問題,要從現(xiàn)在就開始關(guān)注和準(zhǔn)備。
分享免責(zé)聲明:家電資訊網(wǎng)站對(duì)《在發(fā)展中治理完善人工智能大模型》一文中所陳述、觀點(diǎn)判斷保持中立,不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考,并請(qǐng)自行承擔(dān)全部責(zé)任。
本網(wǎng)站有部分內(nèi)容均轉(zhuǎn)載自其它媒體,轉(zhuǎn)載目的在于傳遞更多信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé),本網(wǎng)站無法鑒別所上傳圖片或文字的知識(shí)版權(quán),本站所轉(zhuǎn)載圖片、文字不涉及任何商業(yè)性質(zhì),如果侵犯,請(qǐng)及時(shí)通知我們,本網(wǎng)站將在第一時(shí)間及時(shí)刪除,不承擔(dān)任何侵權(quán)責(zé)任。聯(lián)系QQ:411954607
本網(wǎng)認(rèn)為,一切網(wǎng)民在進(jìn)入家電資訊網(wǎng)站主頁及各層頁面時(shí)已經(jīng)仔細(xì)看過本條款并完全同意。敬請(qǐng)諒解。
《征服2》正在開發(fā)之中 XboxOne獨(dú)占射擊新作2025-11-23 00:33
齊新消弭游戲《每天掛機(jī)消消樂》本日上線2025-11-22 23:40
美的、TCL的多元化發(fā)展 欲抗擊金融危機(jī)2025-11-22 23:24
《瘟疫傳講:無功》正在開辟時(shí)堅(jiān)苦重重 真正在沒有被看好2025-11-22 23:09
調(diào)酒師模擬《夜弦酒吧員工守則》現(xiàn)已登陸Steam2025-11-22 23:08
新劇情去襲《小花仙》足游故里小屋體系上線2025-11-22 22:52
尋尋愛情小講家!《推理教院》520征文比賽啟動(dòng)2025-11-22 22:43
串門便現(xiàn)在《伊洛納》齊新老友體系上線2025-11-22 22:38
《圣歌》游戲地圖曝光 死亡機(jī)制跟吃雞游戲類似2025-11-22 22:29
《僧我:機(jī)器紀(jì)元》動(dòng)繪版豆瓣8.5分 復(fù)本度很下2025-11-22 22:21
《絕地求生》國服反外掛舉措公布,獨(dú)創(chuàng)追溯處罰抓開掛2025-11-22 23:51
晨報(bào):《專德之門3》尾日熱度超下 《天涯線2》先容視頻釋出2025-11-22 23:41
海信璀璨計(jì)劃正式發(fā)布 開啟全新的品牌提升計(jì)劃2025-11-22 23:40
量子點(diǎn)技術(shù)日臻成熟 高端電視市場(chǎng)加速普及2025-11-22 23:34
《預(yù)兆景象》最新截圖公布 畫面絢麗2025-11-22 23:33
新劇情去襲《小花仙》足游故里小屋體系上線2025-11-22 23:27
《阿凡是達(dá)2》北好票房四連冠 齊球票房已超17億好圓2025-11-22 23:26
曝瓦妮莎·柯比出演新版《奇同四俠》:扮演隱形女2025-11-22 23:18
2024ChinaJoy,TCL華星誠摯邀您加入「星次元登陸計(jì)劃」!2025-11-22 22:51
《魔咒之天》公布“電影級(jí)”預(yù)報(bào) 視聽級(jí)享用2025-11-22 22:29
免責(zé)聲明:本站所有信息均來源于互聯(lián)網(wǎng)搜集,并不代表本站觀點(diǎn),本站不對(duì)其真實(shí)合法性負(fù)責(zé)。如有信息侵犯了您的權(quán)益,請(qǐng)告知,本站將立刻刪除。
Copyright © 2025 Powered by 在發(fā)展中治理完善人工智能大模型,骨軟筋酥網(wǎng) sitemap