記者鄭雪北京報道
生成式人工智能的快速發(fā)展似乎引起行業(yè)和監(jiān)管格局的變化,各國政府都在重新審視最初的人工智能戰(zhàn)略。如何挖掘AI的商業(yè)潛力?如何解決人工智能帶來的信任危機?誰來監(jiān)管人工智能?
(資料圖片僅供參考)
6月28日上午,主題為“與時俱進:擁抱人工智能革命,提高人工智能水平”的圓桌討論在第14屆新領軍者年會(又稱“夏季達沃斯”)上舉行,圍繞人工智能的信任與監(jiān)管問題,與會專家展開討論。信任:理清因果關系建立透明度文化
生成式人工智能飛速發(fā)展的同時,對于這項新技術的討論和擔憂從未停止。如何回應生成式人工智能快速發(fā)展中帶來的歧視、偏見等問題?生成式人工智能是否真的理解人類的真實意圖?人工智能的快速發(fā)展帶來的職業(yè)替代,又該如何解決?這一系列問題的背后,首先需要解決的是信任問題。
來自柏林赫蒂學院倫理與技術教授Joanna Bryson認為,如何讓人們信任AI是一個非常重要的問題。在她看來,讓人們感到安全,才會有信任產生。當前在信息透明度方面做的還不夠。信息時代,人們可以通過各種方式獲得信息,政府機構不僅要關注信息如何幫助經濟發(fā)展,還要以人為中心。AI可以看作一個展現(xiàn)透明度的機會,可以趁此建立透明度文化。
新技術走在正確的方向上才能被人信任?!拔覀儸F(xiàn)在必須要讓人們透明的看到我們在做什么,不是說要讓一切開源,我們還是可以有一定程度的保密,但是我們必須要知道里面有些什么。歐盟的人工智能法案草案提及外部審計,不用害怕,類似于銀行業(yè)的審計環(huán)節(jié)。我們要跟其他行業(yè)一樣,學會最佳實踐。比如使用AI的系統(tǒng),如何測試,如何去做質量保障?!?/p>
causaLens是倫敦一家專注于因果推理的人工智能公司,該公司CEO Darko Matovski介紹了一種可以獲得信任的、因果式的AI。不同于chatGPT通過相關性進行推理得到最終結果,因果AI是在考慮科學事實的前提下來模擬信息傳遞,挖掘事物背后的因果邏輯?!皻W盟的人工智能法草案中提及要理清大模型的因果關系以確保在真實世界中的使用。因果AI可以幫助理解為什么AI會做出這樣的決定以及確保給予可以信任的結果?!?/p>
針對AI信任問題,有人提出:互聯(lián)網早期,人們對互聯(lián)網也并不信任,而到現(xiàn)在會利用互聯(lián)網做很多事情。AI所面臨的信任問題是不是和此類似,是否會隨著時間的推移而變化?
東軟集團(600718)CEO劉積仁認為,關于信任問題,歸根到底還是一個時間問題。AI可以幫助社會進步和工作效率的提升。未來,數(shù)據(jù)的問題、隱私的問題都會得到解決?!翱梢钥吹?,所有的國家包括發(fā)展中國家也都開始搭建自己的數(shù)據(jù)隱私治理框架,技術有發(fā)展,監(jiān)管早晚也會跟上。但我們還需要給技術的開發(fā)者一定的空間,讓他們能夠先走一步,探索一些未知的東西。”監(jiān)管:關注措施落實加強各方合作
不同于其他技術,生成式人工智能帶來的或許是整個生態(tài)的重新建構。
劉積仁認為,如果要考慮AI給社會發(fā)展創(chuàng)造價值,意味著需要轉變技術,給其他人賦能賦權,這不僅是科技問題,還涉及整個體系的設計?!耙葬t(yī)療方面的人工智能實踐經驗為例,技術發(fā)展已經相當迅速,但生產體系的建設嚴重落后于科技發(fā)展的速度。我們搭建的體系還沒準備好去用好AI,而各產業(yè)想要以一種比較垂直的方式來用AI的話,這就離不開政府與企業(yè)的通力合作?!?/p>
生成式人工智能的發(fā)展也為監(jiān)管帶來挑戰(zhàn)。誰來監(jiān)管、如何監(jiān)管、如何平衡技術創(chuàng)新和安全?這些都需要回應。
盧旺達信息通訊技術和創(chuàng)新部長波拉.因加比雷(Paula Ingabire)認為,政府的角色其實是要建立一個監(jiān)管框架,需要有一個友好的、鼓勵創(chuàng)新的監(jiān)管環(huán)境。“當談到監(jiān)管落實的時候,很多人認為政府要牽頭建立新技術、新行業(yè)的生態(tài)系統(tǒng)。但政府無法單打獨斗,需要和企業(yè)合作,需要確定行業(yè)中誰來扮演重要角色。當然剛開始是政府牽頭,但是后來需要私營力量一起加入?!?/p>
Joanna認為,技術并不是難題,比較難的是監(jiān)管。無論是來自政府層面還是社會層面的監(jiān)管還是不夠。一直以來,科技公司,比如社交平臺、郵箱等,他們的運營并不透明?,F(xiàn)在很重要的是需要有更多的監(jiān)管,確保新的技術有很好的監(jiān)管框架,確保AI公司以合規(guī)的方式來使用新技術。而這些離不開各方通力合作。
Darko介紹,在人工智能監(jiān)管方面,歐盟很早就開始關注AI議題并做出提案,歐盟的分級分類是一個正確的方向。一個關鍵的問題在于措施如何落實。一個很好的監(jiān)管技術如果用不正確的方式落實,可能會對新技術帶來影響?!斑@就是為什么我們應該把重點放在規(guī)制上面,這些規(guī)則的落實會決定AI的未來。必須要對強有力的技術進行監(jiān)管,必須要用正確的方式進行監(jiān)管,要以實際的方式進行監(jiān)管,否則就會磨滅創(chuàng)新?!?/p>
在論壇的最后,加利福尼亞大學伯克利分校哈斯商學院教授Olaf Groth作為圓桌論壇的主持人總結道,“我們今天討論政府的角色非常重要,政府可以確保AI帶來經濟發(fā)展的同時讓人們保持尊嚴。但同時我們必須意識到政府不能夠獨自進行眼前這項嚴峻的挑戰(zhàn),必須要與很多不同的各利用方合作,另外也需要有創(chuàng)新實驗的空間。”在他看來,基礎設施、培訓、教育還有數(shù)據(jù)庫,這些都是人工智能發(fā)展中很重要的要素,但是如果沒有整體設計,這些要素無法加成?,F(xiàn)在也必須要整個社會一起來推進眼前的工作。
標簽:
熱門