AI救人勝殺人 (高天佑)
今年是港鐵（00066）通車40周年，昨天卻發生歷來首宗兩車相撞意外，初步指原因是新電腦系統「揀錯路」，不幸中之大幸是意外發生於凌晨時段，否則難免有嚴重傷亡。某程度上，今次港鐵撞車跟此前波音737 MAX 8兩度墜機事故相似，均可歸咎於AI系統出錯。在今後人工智能時代，「AI殺人事件」恐將更多；但另方面，透過無人駕駛、智能診斷等技術，AI亦可打救及幫助很多人。無論如何，AI趨勢已不可逆轉；殺人抑或救人，最終還是要電腦背後的人腦來負上責任。
埃塞俄比亞運輸部長莫格斯昨日指出，根據飛機黑盒資料，該國埃塞俄比亞航空737 MAX 8客機本月初墜機導致157人遇難，跟去年10月印尼獅子航空同一機款失事「有明顯相似地方」。
獅航空難因人工智能失靈
獅航空難已查明是AI失靈導致，而早前埃航墜機意外（圖）被指跟獅航失事「有明顯相似地方」。（法新社圖片）
為了防止機師出現人為錯誤，波音於737 MAX 8增設一套AI系統，持續監察平衡情況，每當發現機身前傾便會自動抽起機頭，毋用勞煩機師操作，理論上十分完美。可是，機身上用作監察平衡的儀器若然失靈，便會令AI錯誤感應，以致飛機明明平衡卻仍硬行抽起機頭，反而導致失速而直線下墜，這正是獅航空難的成因。事後，波音為AI系統推出更新版本，容許機師在異常情況下turn off這套系統，臨時改為人手操作；但懷疑因為埃航未有針對更新版本向機師提醒相關問題及教導他們turn off系統，釀成慘劇重演。實際上，莫說是埃航機師，據波音所在國、當今第一強國美國的傳媒報道，當地很多航企機師也表示不知悉AI更新詳情，因此波音恐怕責無旁貸。
同樣道理，港鐵把昨天撞車意外歸咎於新的電腦系統「揀錯路」，容許兩列列車駛進同一路軌導致炒車，然而想深一層，設計電腦系統和為它輸入參數的始終也是人類，不能把責任完全推到AI身上。
是得是失 看人類怎運用
隨着人工智能進一步普及，「AI殺人事件」可能更多。不過整體而言，AI在救人方面的效益相信會超過殺人的禍害。例如根據世界衞生組織（WHO）的《道路安全全球現狀報告》，現今全世界每年有135萬人死於汽車交通意外，據估計多達95%源自人為鹵莽或疏失（human errors），故若全面應用無人駕駛技術，理論上每年可救回逾百萬條性命，即使計及偶爾AI失靈「害死人」，相信仍是「救人」數量多於「殺人」。
講到底，AI時代無可逆轉，但暫時看來，直至電腦系統失控至懂得自我繁衍和迭代之前，AI仍是由人類來設計及控制，這柄雙刃劍利與弊孰重，救的人多抑或殺的人多，始終視乎人類怎麼運用。
(編者按：高天佑最新著作《中產必須死》現已發售)
歡迎訂購：實體書、電子書
更多高天佑文章：
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
 - EJ Tech){kind=link}
){kind=link}