鞭牛士報道，9月17日消息，據(jù)外電報道，OpenAI 首席執(zhí)行官 Sam Altman 將離開 OpenAI 于 5 月成立的內(nèi)部委員會，該委員會負責監(jiān)督與公司項目和運營相關的關鍵安全決策。
OpenAI在今天的一篇博文中表示，安全與保障委員會將成為由卡內(nèi)基梅隆大學教授Zico Kolter擔任主席的獨立董事會監(jiān)督小組，成員包括 Quora 首席執(zhí)行官 Adam D'Angelo、美國退役陸軍將軍 Paul Nakasone 和前索尼執(zhí)行副總裁 Nicole Seligman。
他們都是 OpenAI 董事會的現(xiàn)任成員。
OpenAI 在帖子中指出，委員會對OpenAI 的最新 AI 模型o1進行了安全審查盡管 Altman 仍參與其中。該公司表示，該小組將繼續(xù)定期接受 OpenAI 安全團隊的簡報，并保留推遲發(fā)布的權利，直到安全問題得到解決。
OpenAI 在帖子中寫道：作為其工作的一部分，安全委員會將繼續(xù)定期收到有關當前和未來模型的技術評估報告，以及持續(xù)發(fā)布后監(jiān)測報告。我們正在基于我們的模型發(fā)布流程和實踐，建立一個綜合的安全框架，明確定義模型發(fā)布的成功標準。
Altman 離開安全與保障委員會之前，五名美國參議員在今年夏天致 Altman 的一封信中對 OpenAI 的政策提出了質(zhì)疑。
OpenAI 曾經(jīng)專注于人工智能長期風險的員工中，近一半已經(jīng)離職，前 OpenAI 研究人員指責Altman 反對真正的人工智能監(jiān)管，而傾向于推進 OpenAI 企業(yè)目標的政策。
正如他們所說，OpenAI 大幅 增加了 在聯(lián)邦游說方面的支出，2024 年前六個月的預算為 80 萬美元，而去年全年的預算為 26 萬美元。
今年春天早些時候，Altman 還加入了美國國土安全部的人工智能安全與安保委員會，該委員會為美國關鍵基礎設施中人工智能的開發(fā)和部署提供建議。
即使 Altman 被撤職，也幾乎沒有跡象表明安全委員會會做出嚴重影響 OpenAI 商業(yè)路線圖的艱難決定。
值得注意的是，OpenAI 在 5 月份表示，它將尋求通過委員會解決對其工作的有效批評當然，有效批評取決于旁觀者的看法。
5 月份，OpenAI 前董事會成員海倫托納 (Helen Toner) 和塔莎麥考利 (Tasha McCauley)在《經(jīng)濟學人》的 一篇專欄文章中表示，他們認為目前的 OpenAI 不值得信任，無法承擔責任。
他們寫道：根據(jù)我們的經(jīng)驗，我們認為自治無法可靠地承受利潤激勵的壓力。
而OpenAI的盈利激勵還在不斷增長。
據(jù)傳，該公司正在籌集65 億美元以上的資金，這將使 OpenAI 的估值超過 1500 億美元。為了達成這筆交易，OpenAI 可能會放棄其混合非營利性公司結構，該結構旨在限制投資者的回報，部分原因是確保 OpenAI 與其創(chuàng)始使命保持一致：開發(fā)造福全人類的通用人工智能。
