防範AI生化安全風險(車品覺)
本文作者車品覺,為香港科技園有限公司董事、香港大學中國商學院客座副教授、阿里雲資深顧問,為《信報》撰寫專欄「全民大數據」。
今年8月,智庫新美國安全中心(The Center for a New American Security, CNAS)發布了一份引起廣泛關注的報告,標題為〈人工智能與國家生物安全風險的演變:能力、閾值和干預措施〉。該報告詳細探討了人工智能(AI)如何在推動生物科學發展的同時,可能增加生物安全的風險,當中特別提及生化武器的製造和使用。
報告指出,AI技術在醫學和生物科學領域帶來顯著進步,這些包括改進疾病治療、加速病原體研究,以及革新基因編輯技術。然而,相關技術發展亦帶來潛在負面影響,尤其是在安全方面。
AI的驚人分析和模擬能力如果被惡意利用,甚至設計出傳統方法難以生產的致命生物武器,將增加生物恐怖襲擊的威脅。
歷史上的幾次大流行瘟疫和生物恐怖襲擊事件,如西班牙大流感、黑死病及911後的炭疽孢子郵件事件,這些都說明了生物攻擊的災難性威脅,也提醒我們在AI快速發展的背景下,防範生物攻擊的必要性。尤其值得注意的是,隨着實驗室自動化和數據處理能力的提升,即使是缺乏專業知識的個體,也可能獲得製造生化武器的能力。AI降低了製造生化武器的門檻,使得非科學家更容易設計和製造大殺傷力生物武器。因此,AI在生物科學的應用愈來愈廣泛,其濫用的可能性同樣增加。
面對這些挑戰,美國副總統賀錦麗(Kamala Harris)也表示出對AI製造生化武器的擔憂。我們亟需要新的法律和技術解決方案,以預防和應對AI驅動的生化武器危機。此外,鑑於生化武器對全球潛在的威脅,通過國際合作制定和執行政策,防止濫用AI相關生物技術顯得尤為重要。
其實,CNAS的報告不僅梳理了AI在生物科學上的應用,還強調於AI快速發展的當下,加強生化安全的重要性,尤其是在防範個人研發生化武器的可能性方面。政策制定者和科技領導者需要保持警覺,並積極應對這些新興風險,以保護公共安全免受未來潛在的生命威脅。