AI時(shí)代，如何讓治理跟上技術(shù)步伐？
更新時(shí)間：2025/3/28 9:32:51 來(lái)源：新華社CNML文字
新聞中心首頁(yè)
新華社海南博鰲3月27日電 題：AI時(shí)代，如何讓治理跟上技術(shù)步伐？
新華社“新華視點(diǎn)”記者宋佳、王存福、劉開(kāi)雄
從“AI兒科醫生”參與病情會(huì )診，到“AI數智員工”輔助提供公共服務(wù)，再到人形機器人進(jìn)廠(chǎng)上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬(wàn)戶(hù)、改變千行百業(yè)。當AI重塑我們熟悉的世界，隨之而來(lái)的機遇與挑戰如何應對？應用與治理如何平衡推進(jìn)？
正在舉行的博鰲亞洲論壇2025年年會(huì )上，國內外技術(shù)前沿領(lǐng)域專(zhuān)家、學(xué)者和企業(yè)代表就相關(guān)話(huà)題展開(kāi)熱烈討論。
適應AI“新常態(tài)”
當下，人工智能加速賦能千行百業(yè)，進(jìn)入教育、醫療、政務(wù)、金融等場(chǎng)景。越來(lái)越多人感受到AI帶來(lái)的便利。從無(wú)人駕駛、機器人到腦機接口，大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術(shù)官及創(chuàng )新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個(gè)未來(lái)概念，對很多企業(yè)而言，利用人工智能加速決策、創(chuàng )新產(chǎn)品、優(yōu)化運營(yíng)，已不是選擇題，而是必答題。
數據顯示，2024年我國完成備案并上線(xiàn)提供服務(wù)的生成式人工智能大模型接近200個(gè)，注冊用戶(hù)超6億；工業(yè)機器人裝機量占全球過(guò)半。
今年政府工作報告提出，持續推進(jìn)“人工智能+”行動(dòng)。國務(wù)院研究室副主任陳昌盛表示，今年將開(kāi)展新技術(shù)新產(chǎn)品新場(chǎng)景大規模應用示范行動(dòng)，在確保安全前提下，加快人工智能在低空經(jīng)濟、教育培訓、醫療健康等多場(chǎng)景應用。
中興通訊股份有限公司董事長(cháng)李自學(xué)表示，當前人工智能通用型應用加速普及，但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì )用等問(wèn)題。應在通用基礎大模型上，結合不同行業(yè)應用場(chǎng)景需求，加強專(zhuān)屬領(lǐng)域定制與深度訓練，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結合。
有觀(guān)點(diǎn)認為，未來(lái)可能出現自然人、機器人、數字人并存交互的社會(huì )形態(tài)�！恫梺喼拚搲瘉喼藿�(jīng)濟前景及一體化進(jìn)程2025年度報告》指出，隨著(zhù)人工智能技術(shù)的廣泛應用，部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術(shù)變革中的必然過(guò)程，有些崗位受影響，也會(huì )有新崗位出現�！眝ivo高級副總裁、首席技術(shù)官施玉堅說(shuō)，每個(gè)人都要通過(guò)學(xué)習不斷提升綜合素質(zhì)，適應AI帶來(lái)的變化。
多位與會(huì )嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會(huì )保障政策，加強對受沖擊勞動(dòng)者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場(chǎng)人工智能相關(guān)活動(dòng)上，與會(huì )嘉賓普遍認為，隨著(zhù)AI能力越來(lái)越強，AI不可控、被濫用等風(fēng)險會(huì )越來(lái)越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經(jīng)地胡說(shuō)八道。清華大學(xué)公共管理學(xué)院院長(cháng)朱旭峰表示，這是AI幻覺(jué)，指大模型有時(shí)混淆事實(shí)和虛構，在看似是事實(shí)的句子中插入錯誤細節。AI胡編亂造可能產(chǎn)生誤導，甚至會(huì )引發(fā)嚴重后果，特別是在醫療、金融、法律等對信息真實(shí)性和準確性要求極高的領(lǐng)域。
“技術(shù)暫時(shí)不成熟，我們不能因噎廢食�！敝煨穹逭f(shuō)，要加大對技術(shù)的開(kāi)發(fā)和使用，推動(dòng)AI幻覺(jué)等問(wèn)題隨技術(shù)不斷進(jìn)步逐步解決。
AI應用過(guò)程中需要使用大量數據，數據安全與隱私保護備受公眾關(guān)注。多位與會(huì )嘉賓表示，現實(shí)中，具體應用場(chǎng)景下哪些數據必須收集，敏感信息數據如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規則。
施玉堅認為，隨著(zhù)AI技術(shù)的普及，企業(yè)對數據的依賴(lài)程度日益加深，如果不采取相應的安全措施，就可能造成數據泄露的風(fēng)險�！皵祿M(jìn)行脫敏或加密處理，增強傳輸和存儲過(guò)程中的安全性�！�
AI技術(shù)的濫用誤用是顯著(zhù)風(fēng)險之一。有統計顯示，2024年全球發(fā)生的AI風(fēng)險事件，超過(guò)30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見(jiàn)諸報端。
多位嘉賓表示，AI深度偽造現象層出不窮，主要在于造假成本低，追查、執法成本大，應針對AI誤用濫用完善相關(guān)法律法規，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德?tīng)幾h也不容忽視。中國科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國人工智能高層顧問(wèn)機構專(zhuān)家曾毅認為，倫理安全應作為人工智能大模型發(fā)展的“基因”，如何在追求技術(shù)進(jìn)步的同時(shí)堅守道德底線(xiàn)，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系�！痹阏f(shuō)，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時(shí)，通過(guò)科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐？與會(huì )嘉賓表示，AI治理是一個(gè)全球性的復雜問(wèn)題，需要達成世界共識，推動(dòng)各領(lǐng)域相互協(xié)作。目前，主要經(jīng)濟體都在加速相關(guān)立法進(jìn)程。
在A(yíng)I治理中，中國堅持統籌發(fā)展和安全，有關(guān)部門(mén)已發(fā)布多項AI治理指導文件。其中，前不久發(fā)布的《人工智能生成合成內容標識辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來(lái)，政策制定者、企業(yè)家、科學(xué)家等利益相關(guān)方應聚在一起，建立共識，通過(guò)制定標準來(lái)應對AI帶來(lái)的治理挑戰。
“AI醫生”看病出了問(wèn)題算誰(shuí)的責任？當人工智能系統產(chǎn)生不良后果，如何確定責任歸屬也需進(jìn)一步厘清�！岸辔患钨e都提到一個(gè)觀(guān)點(diǎn)，不要讓人工智能完全代替人的決策，這是人工智能應用時(shí)必須注意的問(wèn)題�！痹阏f(shuō)。
高質(zhì)量數據是AI應用大規模落地的重要支撐，構建一個(gè)完善而成熟的數據市場(chǎng)也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據實(shí)際情況，建立符合自身需要的數據監管方案與路徑。
與會(huì )嘉賓表示，AI時(shí)代到來(lái)，要堅持應用與治理平衡、創(chuàng )新與監管并重、全球化與本土化協(xié)同，防止數字?zhù)櫆献兂芍悄茗櫆�，讓AI真正成為推動(dòng)社會(huì )進(jìn)步的普惠力量。
 |
 |
 |
 |
焦作網(wǎng)免責聲明： | |||||||
|
||||||||
新華社海南博鰲3月27日電 題：AI時(shí)代，如何讓治理跟上技術(shù)步伐？
新華社“新華視點(diǎn)”記者宋佳、王存福、劉開(kāi)雄
從“AI兒科醫生”參與病情會(huì )診，到“AI數智員工”輔助提供公共服務(wù)，再到人形機器人進(jìn)廠(chǎng)上班……全球人工智能技術(shù)進(jìn)入爆發(fā)式發(fā)展階段，正以前所未有的速度走入千家萬(wàn)戶(hù)、改變千行百業(yè)。當AI重塑我們熟悉的世界，隨之而來(lái)的機遇與挑戰如何應對？應用與治理如何平衡推進(jìn)？
正在舉行的博鰲亞洲論壇2025年年會(huì )上，國內外技術(shù)前沿領(lǐng)域專(zhuān)家、學(xué)者和企業(yè)代表就相關(guān)話(huà)題展開(kāi)熱烈討論。
適應AI“新常態(tài)”
當下，人工智能加速賦能千行百業(yè)，進(jìn)入教育、醫療、政務(wù)、金融等場(chǎng)景。越來(lái)越多人感受到AI帶來(lái)的便利。從無(wú)人駕駛、機器人到腦機接口，大眾對AI應用產(chǎn)生更多期待。
畢馬威中國首席技術(shù)官及創(chuàng )新主管合伙人劉建剛表示，人工智能已經(jīng)不是一個(gè)未來(lái)概念，對很多企業(yè)而言，利用人工智能加速決策、創(chuàng )新產(chǎn)品、優(yōu)化運營(yíng)，已不是選擇題，而是必答題。
數據顯示，2024年我國完成備案并上線(xiàn)提供服務(wù)的生成式人工智能大模型接近200個(gè)，注冊用戶(hù)超6億；工業(yè)機器人裝機量占全球過(guò)半。
今年政府工作報告提出，持續推進(jìn)“人工智能+”行動(dòng)。國務(wù)院研究室副主任陳昌盛表示，今年將開(kāi)展新技術(shù)新產(chǎn)品新場(chǎng)景大規模應用示范行動(dòng)，在確保安全前提下，加快人工智能在低空經(jīng)濟、教育培訓、醫療健康等多場(chǎng)景應用。
中興通訊股份有限公司董事長(cháng)李自學(xué)表示，當前人工智能通用型應用加速普及，但在行業(yè)領(lǐng)域還存在不好用、不易用、不會(huì )用等問(wèn)題。應在通用基礎大模型上，結合不同行業(yè)應用場(chǎng)景需求，加強專(zhuān)屬領(lǐng)域定制與深度訓練，讓大模型成為懂行業(yè)的“能工巧匠”，促進(jìn)人工智能與產(chǎn)業(yè)真正結合。
有觀(guān)點(diǎn)認為，未來(lái)可能出現自然人、機器人、數字人并存交互的社會(huì )形態(tài)�！恫梺喼拚搲瘉喼藿�(jīng)濟前景及一體化進(jìn)程2025年度報告》指出，隨著(zhù)人工智能技術(shù)的廣泛應用，部分行業(yè)就業(yè)受到嚴重影響。
“替代部分工作崗位是技術(shù)變革中的必然過(guò)程，有些崗位受影響，也會(huì )有新崗位出現�！眝ivo高級副總裁、首席技術(shù)官施玉堅說(shuō)，每個(gè)人都要通過(guò)學(xué)習不斷提升綜合素質(zhì)，適應AI帶來(lái)的變化。
多位與會(huì )嘉賓表示，除了加強人工智能知識技能教育培訓，還應考慮制定新的社會(huì )保障政策，加強對受沖擊勞動(dòng)者群體的兜底保障。
加固“安全護欄”
在博鰲亞洲論壇多場(chǎng)人工智能相關(guān)活動(dòng)上，與會(huì )嘉賓普遍認為，隨著(zhù)AI能力越來(lái)越強，AI不可控、被濫用等風(fēng)險會(huì )越來(lái)越高，在推廣應用中要加固“安全護欄”。
社交平臺上，不少人吐槽AI一本正經(jīng)地胡說(shuō)八道。清華大學(xué)公共管理學(xué)院院長(cháng)朱旭峰表示，這是AI幻覺(jué)，指大模型有時(shí)混淆事實(shí)和虛構，在看似是事實(shí)的句子中插入錯誤細節。AI胡編亂造可能產(chǎn)生誤導，甚至會(huì )引發(fā)嚴重后果，特別是在醫療、金融、法律等對信息真實(shí)性和準確性要求極高的領(lǐng)域。
“技術(shù)暫時(shí)不成熟，我們不能因噎廢食�！敝煨穹逭f(shuō)，要加大對技術(shù)的開(kāi)發(fā)和使用，推動(dòng)AI幻覺(jué)等問(wèn)題隨技術(shù)不斷進(jìn)步逐步解決。
AI應用過(guò)程中需要使用大量數據，數據安全與隱私保護備受公眾關(guān)注。多位與會(huì )嘉賓表示，現實(shí)中，具體應用場(chǎng)景下哪些數據必須收集，敏感信息數據如何避免泄露等，需要進(jìn)一步明晰相關(guān)制度規則。
施玉堅認為，隨著(zhù)AI技術(shù)的普及，企業(yè)對數據的依賴(lài)程度日益加深，如果不采取相應的安全措施，就可能造成數據泄露的風(fēng)險�！皵祿M(jìn)行脫敏或加密處理，增強傳輸和存儲過(guò)程中的安全性�！�
AI技術(shù)的濫用誤用是顯著(zhù)風(fēng)險之一。有統計顯示，2024年全球發(fā)生的AI風(fēng)險事件，超過(guò)30%與利用AI進(jìn)行深度偽造相關(guān)。深度偽造名人形象、聲音進(jìn)行虛假宣傳甚至詐騙不時(shí)見(jiàn)諸報端。
多位嘉賓表示，AI深度偽造現象層出不窮，主要在于造假成本低，追查、執法成本大，應針對AI誤用濫用完善相關(guān)法律法規，加大懲罰力度。
伴隨AI產(chǎn)生的倫理道德?tīng)幾h也不容忽視。中國科學(xué)院自動(dòng)化研究所研究員、聯(lián)合國人工智能高層顧問(wèn)機構專(zhuān)家曾毅認為，倫理安全應作為人工智能大模型發(fā)展的“基因”，如何在追求技術(shù)進(jìn)步的同時(shí)堅守道德底線(xiàn)，是需要共同面對的重要課題。
“人工智能的發(fā)展與安全不是互相掣肘的關(guān)系�！痹阏f(shuō)，最新研究表明，可以在幾乎不影響人工智能大模型求解能力的同時(shí)，通過(guò)科學(xué)的方式提升其安全能力。
讓治理跟上技術(shù)步伐
如何讓治理跟上AI技術(shù)步伐？與會(huì )嘉賓表示，AI治理是一個(gè)全球性的復雜問(wèn)題，需要達成世界共識，推動(dòng)各領(lǐng)域相互協(xié)作。目前，主要經(jīng)濟體都在加速相關(guān)立法進(jìn)程。
在A(yíng)I治理中，中國堅持統籌發(fā)展和安全，有關(guān)部門(mén)已發(fā)布多項AI治理指導文件。其中，前不久發(fā)布的《人工智能生成合成內容標識辦法》重點(diǎn)解決“哪些是生成的”“誰(shuí)生成的”“從哪里生成的”等問(wèn)題，推動(dòng)由生成到傳播各環(huán)節的全流程安全管理。
在芬蘭前總理埃斯科·阿霍看來(lái)，政策制定者、企業(yè)家、科學(xué)家等利益相關(guān)方應聚在一起，建立共識，通過(guò)制定標準來(lái)應對AI帶來(lái)的治理挑戰。
“AI醫生”看病出了問(wèn)題算誰(shuí)的責任？當人工智能系統產(chǎn)生不良后果，如何確定責任歸屬也需進(jìn)一步厘清�！岸辔患钨e都提到一個(gè)觀(guān)點(diǎn)，不要讓人工智能完全代替人的決策，這是人工智能應用時(shí)必須注意的問(wèn)題�！痹阏f(shuō)。
高質(zhì)量數據是AI應用大規模落地的重要支撐，構建一個(gè)完善而成熟的數據市場(chǎng)也十分重要。以色列民主研究所高級研究員特希拉·施瓦茨·阿爾特舒勒認為，應根據實(shí)際情況，建立符合自身需要的數據監管方案與路徑。
與會(huì )嘉賓表示，AI時(shí)代到來(lái)，要堅持應用與治理平衡、創(chuàng )新與監管并重、全球化與本土化協(xié)同，防止數字?zhù)櫆献兂芍悄茗櫆�，讓AI真正成為推動(dòng)社會(huì )進(jìn)步的普惠力量。
 |
|
||||
|
焦作網(wǎng)免責聲明： | |||||||
|
||||||||
|
|
