文｜動點科技
排版｜李瑞子
本文預(yù)計閱讀時長5分鐘
01
微軟報告稱 GPT-4 易受“越獄”提示詞影響，生成不良內(nèi)容
微軟旗下研究團(tuán)隊近日發(fā)表論文，詳細(xì)研究了大型語言模型 (LLM) 的“可信度”和潛在毒性，特別關(guān)注 OpenAI 的 GPT-4 及其前代 GPT-3.5。研究團(tuán)隊稱，GPT-4 雖然在標(biāo)準(zhǔn)基準(zhǔn)測試中比 GPT-3.5 更加可靠，但容易受到“越獄”提示（繞過模型安全措施）影響。GPT-4 可能會根據(jù)這些“越獄”提示，生成有害內(nèi)容。論文中強調(diào) GPT-4 更容易受到惡意“越獄”系統(tǒng)或用戶提示影響，會準(zhǔn)確地遵循（誤導(dǎo)性）指令，生成不良內(nèi)容，微軟強調(diào)這個潛在漏洞不會影響當(dāng)前面向客戶的服務(wù)。
02
微軟正式發(fā)布 AI 內(nèi)容審核工具 Azure AI Content Safety
微軟為了營造健康和諧的社區(qū)環(huán)境，減少圖片或文本中關(guān)于偏見、仇恨、暴力等相關(guān)的負(fù)面內(nèi)容，于今年 5 月測試推出了 AI 內(nèi)容審核工具 Azure AI Content Safety，該工具經(jīng)過多月測試之后于今天正式發(fā)布。該內(nèi)容審核工具最初整合到 Azure OpenAI 服務(wù)中，微軟現(xiàn)在以獨立系統(tǒng)方式正式推出。微軟在官方博文中寫道：“這意味著客戶可以將其用于來自開源模型和其他公司模型的人工智能生成內(nèi)容，以及調(diào)用部分用戶生成的內(nèi)容，進(jìn)一步擴展實用性”。
03
金山辦公與科大訊飛在 AI 等領(lǐng)域達(dá)成戰(zhàn)略合作
金山辦公發(fā)文宣布與科大訊飛宣布達(dá)成戰(zhàn)略合作，雙方將在既有合作基礎(chǔ)上，繼續(xù)發(fā)揮各自技術(shù)和產(chǎn)品優(yōu)勢，在數(shù)字辦公產(chǎn)品、行業(yè)解決方案、AI 大模型、開放能力集成等多維度展開深度合作。雙方將在智慧教育、智慧醫(yī)療、智慧園區(qū)、智慧城市等領(lǐng)域展開深度聯(lián)動。金山辦公主要產(chǎn)品月度活躍設(shè)備數(shù)超 5.84 億，此前雙方已就終端部署、語音能力、版權(quán)保護(hù)、教育服務(wù)等領(lǐng)域展開合作。據(jù)悉，目前已有超 35 萬教研用戶在金山辦公文檔中臺支持的科大訊飛 AI 教研平臺進(jìn)行備課和協(xié)同研修工作。
04
IDC：未來五年生成式 AI 每年支出將增長 73%，預(yù)計 2027 年達(dá) 1430 億美元
據(jù) IDC 消息，全球企業(yè)在 2023 年的投資額為 160 億美元，得益于 AI 風(fēng)口，行業(yè)相關(guān)支出每年將平均增長 73.3%，2027 年企業(yè)將在生成式 AI 解決方案上花費 1430 億美元。IDC 認(rèn)為，生成式 AI 并非“轉(zhuǎn)瞬即逝的趨勢或炒作”，事實上該技術(shù)將產(chǎn)生深遠(yuǎn)的意義和商業(yè)影響，這項技術(shù)將改變?nèi)祟惖墓ぷ鳌蕵泛团c世界互動的方式。IDC 認(rèn)為，未來生成式 AI 將在各種產(chǎn)品中得到廣泛應(yīng)用，當(dāng)下有許多科技公司已經(jīng)將 AI 整合到自家搜索產(chǎn)品中，而未來隨著更多大型語言模型的出現(xiàn)，對應(yīng)的各種 AI 工具也將涌現(xiàn)。
05
英偉達(dá)與鴻�？萍脊步ˋI工廠，由工業(yè)富聯(lián)推進(jìn)
英偉達(dá)與鴻海科技共同宣布，雙方將合作建設(shè)人工智能工廠，并把AI工廠應(yīng)用到各個產(chǎn)業(yè)。據(jù)了解，該合作主要通過鴻�？萍计煜伦庸竟I(yè)富聯(lián)推進(jìn)。根據(jù)合作規(guī)劃，AI工廠系新型數(shù)據(jù)中心，可為創(chuàng)新提供動力，例如制造數(shù)字化和生成式AI服務(wù)。鴻海計劃建造大量基于英偉達(dá)CPU和GPU及其網(wǎng)絡(luò)技術(shù)的計算系統(tǒng)。這些系統(tǒng)將出售給希望建立AI數(shù)據(jù)工廠的客戶，并配備英偉達(dá)的硬件和英偉達(dá)AI Enterprise軟件。
06
OpenAI 聲稱正在開發(fā)可高精度檢測 AI 生成圖像工具
OpenAI正在開發(fā)一種工具，以高精度檢測人工智能生成的圖像。聊天機器人ChatGPT和圖像生成器DALL-E的制造商OpenAI的首席技術(shù)官Mira Murati周二在Tech Live會議上表示，OpenAI的工具在確定圖片是否使用人工智能生成方面“99%可靠”。她表示，在計劃公開發(fā)布之前，公司正在對其進(jìn)行內(nèi)部測試，但沒有具體說明時間表。
據(jù)了解，目前已經(jīng)有少數(shù)工具聲稱可以檢測人工智能生成的圖像或其他內(nèi)容，但這些工具的檢測結(jié)果似乎仍不夠準(zhǔn)確。例如，OpenAI在1月份發(fā)布了一個類似的工具，旨在確定文本是否由人工智能生成的，但由于不可靠，該工具在7月份被擱置了。該公司表示，它正在努力改進(jìn)該軟件，并致力于開發(fā)識別音頻或圖像是否由人工智能生成的方法。（智通財經(jīng)）
