Don't Miss
AI監管｜13名AI從業員聯署 呼籲保護舉報者
By 信報財經新聞 on June 6, 2024
原文刊於信報財經新聞「EJ Tech 創科鬥室」
人工智能（AI）發展一日千里，惟行業缺乏嚴格監管，即使有人挺身發聲亦沒人願意出面保護。來自美國科企Google、OpenAI及Anthropic的13位人士聯署公開信，呼籲AI科企須遵守4項關鍵原則：承諾不簽訂或執行不貶低協議；為現任及前任員工建立匿名流程，以便向公司董事會、監管機構及其他人士反映擔憂；支持公開批評的文化；如內部報告流程失敗，不得對公開爆料加以報復。
大部分具OpenAI背景
聯署公開信的13名從業員，絕大部分具備OpenAI背景，其中6位不願透露身份，內容獲辛頓（Geoffrey Hinton）、本吉奧（Yoshua Bengio）及羅素（Stuart Russell）等權威AI專家認可。信中強調AI有潛力造福人類，但這些技術存在「嚴重風險」，例如加劇現時的不公現象、操控及散播不實訊息，甚至將導致人類滅絕。公開信又提到，AI科企擁有大量非公開資訊，卻無義務向民間開誠布公，旗下員工就是少數「吹哨人」，敦促這些公司對公眾負責。
有份簽署的科科塔伊洛（Daniel Kokotajlo）在社交平台X表態，表示對OpenAI負責地建立通用AI失去信心，並於今年4月辭職，直言發聲的自由重要得多。他遞信後，被OpenAI要求簽署文件，阻止他批評公司，一旦拒絕，將於60天內失去既得權益。
科科塔伊洛強調，AI系統並非普通軟件，其人工神經網絡從大量數據學習，其智力水平隨時超越人類，長遠或帶來災難性後果。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
