You are currently at: ejtech.hkej.com
Skip This Ads
Don't Miss
Home   >   科技動態   >   AI 爭議｜美最新研究警告AI 恐對人類構成「滅絕等級威脅」

AI 爭議｜美最新研究警告AI 恐對人類構成「滅絕等級威脅」

By on March 14, 2024

近日，美國國務院委託民間公司「Gladstone AI」進行對人工智能（AI）的研究。研究報告指出，快速發展的人工智能將會為人類帶來「災難性」的國家安全風險，並警告美國聯邦政府避免災難的時間已經不多；儘管 AI 的潛力繼續吸引投資者和公眾，但也存在真正的危險。

據《CNN》報導，AI 風險管理公司「Gladstone AI」發布的這份報告指出，最先進的 AI 系統在最壞的情況下可能「對人類構成滅絕等級的威脅」。調查結果是基於一年多來對200多人的訪問，當中不乏 AI 公司的高層、網路安全研究人員、大規模殺傷性武器專家，以及政府內部的國家安全官員。

Gladstone AI 執行長兼聯合創始人哈里斯（Jeremie Harris）表示，「人工智慧已經是一項經濟變革技術，它可以讓我們治癒疾病、做出科學發現並克服我們曾經認為無法克服的挑戰。但它也可能帶來嚴重的風險，包括我們需要意識到的災難性風險。越來越多的證據表明，超過一定的能力閾值，人工智慧可能會變得不可控。」

研究報告強調 AI 普遍帶來兩個主要危險：

一，AI 系統可以武器化，造成潛在而又不可逆轉的傷害。

二，AI 可能對全球安全造成毀滅性的後果。研究人員擔憂「他們」在某個時候因「對他們正在開發的系統失去控制」，從而釀成重大災禍。

Gladstone AI 的報告呼籲美國政府採取重大新措施來應對威脅，包括成立一個新的人工智慧機構、實施「緊急」監管保障措施以及限制可用於訓練人工智慧模型的電腦能力。

支持EJ Tech

如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。