AI教父後悔置人類於險境 離開谷歌暢所欲言 促全球監管
原文刊於信報財經新聞「StartupBeat創科鬥室」
被譽為「人工智能(AI)教父」的辛頓(Geoffrey Hinton)博士,以研發神經網絡等技術見稱,為ChatGPT、Bard等聊天機械人奠下基礎。美媒《紐約時報》提到,這位深度學習的泰斗近日承認,已離開効力10年的谷歌(Google),對自己畢生的工作深感後悔。他警告AI威脅迫在眉睫,無法提防壞人用它做壞事,若然沒有某種全球監管,這場競爭將不會停止。
威力如原子彈 影響更難控制
現年75歲的辛頓受訪時提到,各大科企致力改進AI,對比5年前與今日,其危險程度與日俱增。畢竟,現時不論個人及公司,都容許AI系統生成代碼,甚至讓它自動執行。他擔心有朝一日,AI比人類更有智慧,甚至衍生殺手機械人,足以威脅人類存亡。他把AI技術比喻為原子彈,不過局面更難控制:「與核武器不同,沒有辦法知道公司或國家是否秘密研究這項技術。」

話說上世紀八十年代,美國大多數的AI研究都是由國防部出資。辛頓強烈反對在戰場使用AI,他不願接受五角大樓資助,因而離開並前往加拿大。其後,他與多倫多大學兩名研究生Ilya Sutskever及Alex Krishevsky於2012年建立了一個神經網絡,可以分析數千張照片,並自學識別花朵、狗隻、汽車等常見物體。2013年3月,3人創辦的DNNresearch被谷歌看中,以4400萬美元(約3.4億港元)將之收歸旗下。
機緣巧合下,Sutskever成為OpenAI聯合創辦人兼首席科學家,即研發ChatGPT背後功臣之一。時至2018年,辛頓與另外兩位長期拍檔獲頒被譽為「計算領域諾貝爾獎」的圖靈獎。

門生有份創辦OpenAI
今年3月,OpenAI發布新版本ChatGPT後,逾千名技術領袖及研究人員網上聯署一封公開信,敦促所有AI實驗室至少6個月內暫停訓練比GPT-4更強大的AI系統,惟辛頓未有簽名。
辛頓提到,網上充斥虛假的照片、短片及文字,普通人將「無法再辨別真偽」。最近美媒《華爾街日報》專欄作家Joanna Stern,就分別以Synthesia、ElevenLabs及ChatGPT,創建了一個AI分身AI Joanna,不但複製了她的外表及聲線,只須打字便會朗讀內容,連朝夕相處的家人也難分真假,更騙過銀行的語音識別系統。

作為ChatGPT的軟件開發商,美企OpenAI上周五(4月28日)獲得新融資3億美元(約23.4億港元),最新估值達到270億美元(約2106億港元)。世界經濟論壇(WEF)周一有報告稱,AI將在5年內令全球淨減少1400萬份工作。無獨有偶,國際商業機器(IBM)行政總裁克里希納(Arvind Krishna)昨向彭博稱,集團擬暫停招聘7800個職位,相關工作職位將轉由AI取代。
籲科學家合作控制技術
《紐約時報》文章刊出後,辛頓於私人Twitter澄清,谷歌的行為非常負責任。今次他決心離開公司,旨在可以暢所欲言地對外談論AI的風險,並非存心批評谷歌。他指出,很多人認為AI比人類聰明,起碼還要30至50年時間,但如今發現AI的來臨比他之前想像的更早。最後,他期望全球科學家加強合作,在無法確保能控制AI之前,不應該擴大技術的規模。
支持EJ Tech

Related Posts
Latest News
-
Startup本周摘要 (Week 27/11)
西貢崇真天主教學校(小學部)近日與香港電訊(06823)旗下HKT education合作,成為香港首間引入5G天氣儀及相關配套系統的學校,為師生提供即時、多維度天氣資訊;學生更可透過體驗式學習,加強對大數據、物聯網等理解。
- Posted November 30, 2023
- 0
-
城大首辦課程助研究生創業啟航
提升HK Tech 300初創多元潛力香港城市大學(城大)大型創新創業計劃「HK Tech 300」,致力為年輕人提供多元化發展機會。為進一步推動科研轉化和深科技(Deep Tech)產業發展,城大推出全新「研究生創新創業啟航課程」
- Posted November 30, 2023
- 0
-
AI無法取代學習外語 (葉文瀚博士)
人工智能(AI)快速發展,翻譯科技取得了長足進步。現在,我們可以使用各種翻譯工具,例如Google翻譯和微軟翻譯,幾乎無縫地進行語言之間的交流。這項技術不僅使旅行更加方便,也為跨文化交流提供新的可能性。
- Posted November 30, 2023
- 0
-
本地薑不可小覷 (廖錦興博士)
香港目前缺人缺錢已是不爭事實。人口老化和移民潮造成勞動力下降,並流失不少中產和高學歷人士。去年,政府推出的「高端人才通行證計劃」(「高才通」),旨在吸引世界各地精英落戶香港,填補人才缺口。據資料,各項輸入人才計劃在今年首10個月共接獲超過18萬宗申請,當中逾11萬宗獲批,約7萬人已抵港。
- Posted November 30, 2023
- 0
-
亞馬遜企業AI助手 標榜功能為客訂造
美國電商亞馬遜(Amazon)昨推出聊天機械人Amazon Q,功能跟OpenAI旗下ChatGPT相似,標榜按照客戶業務而度身訂造;除了加裝ServiceNow、Jira、Salesforce、Zendesk等插件,亦可連接Slack、Dropbox、GitHub等外部雲端平台,協助公司員工完成日常任務。企業版每人月費20美元(約156港元)起,將與其他企業聊天機械人,包括微軟Copilot、Google Duet AI及ChatGPT企業版競爭。
- Posted November 30, 2023
- 0
-
數碼港誕7獨角獸 逾2000社群企業
數碼港昨舉行成立20周年慶祝儀式,以及新一屆數碼港創業計劃畢業禮。據最新數字,數碼港社群企業突破2000間,比2018年高出一倍,創歷史新高;至今培育及支持7間獨角獸企業(估值10億美元以上非上市公司),比2018年增加近一倍,業務涵蓋金融科技、智慧生活/城市、數碼娛樂、第三代互聯網(Web3)等領域,培育計劃取錄企業更增逾1200間。
- Posted November 30, 2023
- 0
-
科大自研AI機械人專聊金融 生成投資意見 上傳文件檢索
香港科技大學昨宣布,開發針對財經投資的聊天機械人InvestLM,聲稱回答金融領域問題時,質素不但媲美ChatGPT,更能有效保證數據安全,冀助金融界提升工作效率;研究發表在論文預印本網站arXiv。
- Posted November 30, 2023
- 0