|
英國《新科學家》10月31日文章，原題：隨著隱私擔憂加劇，我們能教會人工智能聊天機器人忘記嗎？ 我在互聯(lián)網寫作已有二十多年。十幾歲時，我在博客上寫了一堆帖子，俗套的和尷尬的都有。如今，當ChatGPT告訴我，這些帖子會是它獲取信息的素材時，我想趕緊從它的內存中刪除關于我的數據。然而我很快發(fā)現，沒有刪除按鈕。不過，現在許多科學家正設法教人工智能忘記。
新一代人工智能聊天機器人的大部分學習數據是從互聯(lián)網上抓取的——從社交媒體帖子到大約25萬本書，以及幾乎所有公開的信息。它們可以預測句子中最有可能出現的下一個單詞，對我們的每一個提問給出流利的答案。問題在于，人工智能聊天機器人的工作方式意味著，當它們學到一些東西時，就無法忘記。
澳大利亞聯(lián)邦科學與工業(yè)研究組織研究員大衛(wèi)·張表示，這種語言模型依據匯總的數據生成回答，因此不容易忘記或“刪除”特定的信息，甚至個人也無法準確追蹤人工智能程序對他們的了解。他強調，這將在隱私方面造成一個重大問題，人工智能公司遵守“被遺忘權”將非常困難。歐盟在2014年提出“被遺忘權”。根據歐盟的通用數據保護條例，人們有權要求從網絡記錄中刪除他們的個人信息，比如撤回信息、刪除帖子，或要求網絡公司刪除關于他們的數據。但大衛(wèi)·張表示，這些解決方案與人工智能聊天機器人不兼容，“無法提供從模型記憶中刪除或忘記數據的方法”。
蘇黎世聯(lián)邦理工學院計算機科學家特拉梅爾表示，人工智能公司必須找到方法來處理這個問題，尤其是在大語言模型開始接受更敏感個人信息的培訓之際，比如醫(yī)療數據和電郵等。人工智能也會被黑客植入代碼，以索要用戶賬戶密碼等信息。英國政府通信總部已呼吁關注這一問題。
人工智能公司目前依賴于“機器沉默”等方法阻止訪問某些信息并拒絕回應。例如，當我要求人工智能建立我的個人檔案時，它會說，“很抱歉我不能協(xié)助這個請求。”耶魯大學數字倫理中心主任弗洛里迪說，這種方法在一定程度上可行，但目標數據仍然存在，如果出現故障或惡意干預，它就有可能在回應中出現。
倫敦政治經濟學院人工智能研究學者阿里·博伊爾表示，人類的健忘傾向通常被視為一種認知故障，但有時是有益的，因為我們不需要記住我們學到的每一條信息。我們通過忘記某些事情，使檢索有用記憶的過程更有效。人工智能系統(tǒng)可能也是如此。博伊爾認為，這一原理在2017年得到了證明，當時谷歌人工智能實驗室開發(fā)了一種可以玩多款電子游戲的人工智能。它能夠將游戲玩法的記憶儲存起來，以便以后回憶和學習。研究人員隨后對模型進行了改進，使其優(yōu)先存儲與回憶“令人驚訝”的玩法，忘記其余的數據，結果發(fā)現系統(tǒng)的性能有所提高。如果人工智能研究人員的最終目標是建立像人類一樣學習和思考的系統(tǒng)，我們需要設計它們有選擇性地忘記。博伊爾說，遺忘不是一個設計缺陷，而是一個高效、功能良好的記憶系統(tǒng)的特征。（來源：環(huán)球時報 作者舒巴姆·阿加瓦爾，陳欣譯）
紅商網優(yōu)質內容還將同步分發(fā)到公眾號、視頻號、頭條號、西瓜抖音、網易號、搜狐號、企鵝號、百家號、好看視頻、新浪微博等國內主力流量平臺。
|
