“當(dāng)基于人工智能的機器人能夠真正感受到自我意識時，人工智能的安全和道德挑戰(zhàn)會更加復(fù)雜。屆時，他們應(yīng)該像人一樣對待嗎？”
9月18日，2018世界人工智能大會安全高端對話在上海舉行，峰橋集團(tuán)公司總裁陳實在發(fā)表對人工智能安全倫理規(guī)范的幾點思考時問道。
陳實曾任通用汽車（中國）有限公司副總裁及通用汽車（中國）北京分部總經(jīng)理、微軟公司副總裁及大中華區(qū)法律及公司事務(wù)部總經(jīng)理，今年年初卸任了在微軟的職務(wù), 從事咨詢工作。會后，他接受了澎湃新聞的專訪。
人工智能距離人的智慧還有很遠(yuǎn)
在演講中，陳實談到，現(xiàn)下流行的人工智能技術(shù)主要基于數(shù)據(jù)驅(qū)動的優(yōu)化方法來解決特定的具體問題，而不是一般問題。
“我們都對AI在國際象棋和圍棋等游戲中擊敗人類印象深刻。然而，游戲只代表一類智力活動，其中游戲的規(guī)則是確定的，獲勝目標(biāo)也是明確定義的。但在現(xiàn)實世界中，規(guī)則并不總是很明確確定，目標(biāo)也可以不斷變化。”
他告訴澎湃新聞，人工智能在游戲領(lǐng)域可以做到很“聰明”，但這是一種狹隘的“聰明”，“如果把這種智慧想象成為能做任何事情的話，我覺得夸大了。”
“機器可以玩游戲，可以玩得比人好，但是目前沒有哪一款受人歡迎的游戲是機器設(shè)計的。機器可以參加高考，并且考得很好，因為不管是數(shù)學(xué)題還是化學(xué)題，都有嚴(yán)格的規(guī)則和正確答案，但是有沒有高考題目是機器出的？”
他認(rèn)為，人之所以聰明，是因為不僅見多識廣，而且能夠融會貫通，不僅能學(xué)習(xí)知識，還能夠進(jìn)行抽象、總結(jié)，應(yīng)用到其他的領(lǐng)域。這種常人具有的智慧在機器上談何容易？
圖靈獎獲得者Raj Reddy在17日在世界人工智能大會主論壇的發(fā)言中表達(dá)了對人工智能的積極看法。面對AI，他看到的是積極和繁榮景象，縱觀過去幾百年的歷史，戰(zhàn)爭來源于每個人都想獲取別人的資源，而當(dāng)人工智能賦予全人類富足的資源，戰(zhàn)爭自然消弭于無形。
陳實對此表示贊同，“有很多人對AI的發(fā)展都有點擔(dān)憂，但我認(rèn)為AI就是一個十分有用的工具，用的好的話可以造福于人類的。”
他指出，人工智能不是萬能的，但它確實讓每個行業(yè)發(fā)生了改變，每個行業(yè)都要數(shù)字轉(zhuǎn)型，都要利用人工智能來提高效率、擴大服務(wù)功能，人工智能已經(jīng)帶來了一場革命。
對人工智能可能產(chǎn)生的安全道德問題還沒有好的答案
由于人工智能存在的局限性，隨之產(chǎn)生的安全和道德問題需要人們關(guān)注。
陳實在演講中談到，機器學(xué)習(xí)的結(jié)果會受到訓(xùn)練數(shù)據(jù)質(zhì)量和算法假設(shè)的影響，許多機器學(xué)習(xí)方法沒有成熟的自我糾錯機制。
譬如，誰應(yīng)對以下錯誤負(fù)責(zé)：基于人工智能的投資損失；基于人工智能的信用評估中出現(xiàn)貸款拒絕；基于AI的醫(yī)療診斷系統(tǒng)發(fā)生了醫(yī)療事故？
此外，算法建模的偏見和數(shù)據(jù)收集中的差錯可能導(dǎo)致決策偏見，不穩(wěn)定和易受操縱。這一點在數(shù)字營銷、政治選舉等事例中已經(jīng)時有發(fā)生。
共2頁 [1] [2] 下一頁
科大訊飛輿危發(fā)酵：AI技術(shù)被深疑 市值蒸發(fā)近500億
文化傳承 海燕夢HAIYAN DREAM古法壓榨花生油
科大訊飛AI遭質(zhì)疑市值蒸發(fā)410億 應(yīng)收賬款達(dá)25.5億
賦能新零售，ImageDT亮相Smart Retail
日媒：中國便利店破10萬 在AI和無人店領(lǐng)域競爭激烈
搜索更多: AI
