10 秒 1080P：OpenAI 視頻生成 AI 模型 Sora 遭泄露

事件經(jīng)過(guò)

• 當(dāng)?shù)貢r(shí)間 11 月 26 日，一個(gè)名為 “Sora PR Puppets” 的組織在 Hugging Face 平臺(tái)上發(fā)布了一個(gè)連接到 OpenAI 尚未公開(kāi)發(fā)布的 Sora API 的項(xiàng)目，利用其獲得的認(rèn)證 tokens，創(chuàng)建了一個(gè)前端界面，邀請(qǐng)任意用戶通過(guò)輸入簡(jiǎn)短的文本描述，生成最高 1080P 分辨率、時(shí)長(zhǎng) 10 秒的視頻.
• 部分用戶迅速在 X 平臺(tái)分享并上傳了生成的視頻，這些視頻都帶有 OpenAI 的標(biāo)志性水印，在網(wǎng)絡(luò)上引起了熱議.
• 美國(guó)東部時(shí)間 11 月 26 日 12 點(diǎn) 01 分（北京時(shí)間 11 月 27 日凌晨 1 點(diǎn) 01 分），該前端網(wǎng)站停止工作，預(yù)估是 OpenAI 或 Hugging Face 撤銷了訪問(wèn)權(quán)限.

泄露原因

• 報(bào)酬與付出不對(duì)等：據(jù)泄露者稱，數(shù)百名獲得早期 Sora 訪問(wèn)權(quán)限的影視藝術(shù)家、技術(shù)人員等為 OpenAI 無(wú)償提供了大量勞動(dòng)，包括漏洞測(cè)試、反饋和實(shí)驗(yàn)性工作，但收到的報(bào)酬極少，與 OpenAI 1500 億美元的估值形成鮮明對(duì)比.
• 內(nèi)容審核限制：OpenAI 要求每個(gè)生成的內(nèi)容在分享之前都需要得到其團(tuán)隊(duì)的批準(zhǔn)，且只有少數(shù)通過(guò)比賽獲勝的藝術(shù)家能夠發(fā)布用 Sora 創(chuàng)作的影片，這讓測(cè)試者們認(rèn)為早期訪問(wèn)計(jì)劃更像是一場(chǎng)公關(guān)宣傳活動(dòng)，而非真正的創(chuàng)意表達(dá)，且不接受任何負(fù)面評(píng)價(jià).
• 感覺(jué)被誘導(dǎo) “藝術(shù)洗白”：該組織表示，他們?cè)�本被承諾作為 Sora 的早期測(cè)試者、紅隊(duì)成員以及創(chuàng)意合作伙伴，但實(shí)際卻感覺(jué)被引誘參與了所謂的 “藝術(shù)洗白”，即向世人傳遞 Sora 是藝術(shù)家有用工具的信息，而并非真正重視藝術(shù)家的創(chuàng)作和意見(jiàn).

OpenAI 的回應(yīng)

• OpenAI 發(fā)言人證實(shí)公司已 “暫時(shí)暫停用戶訪問(wèn)”，并強(qiáng)調(diào) Sora 仍處于 “研究預(yù)覽” 階段.
• 發(fā)言人提到數(shù)百名藝術(shù)家參與了 Sora 的 alpha 測(cè)試，幫助確定新功能和安全措施的優(yōu)先級(jí)，公司將繼續(xù)通過(guò)贈(zèng)款、活動(dòng)和其他項(xiàng)目支持這些藝術(shù)家.

事件影響

• 技術(shù)潛力展示：盡管此次泄露屬于意外事件，但也讓人們提前見(jiàn)識(shí)到了 Sora 在視頻生成領(lǐng)域的強(qiáng)大潛力和高質(zhì)量效果，如物理效果、光照、對(duì)比度、陰影效果、構(gòu)圖、文本語(yǔ)義還原等都表現(xiàn)出色，預(yù)示著未來(lái)正式開(kāi)放時(shí)可能帶來(lái)的技術(shù)革新.
• 引發(fā)對(duì) AI 倫理和勞動(dòng)價(jià)值的討論：這一事件引發(fā)了人們對(duì)于 AI 開(kāi)發(fā)過(guò)程中測(cè)試者權(quán)益、勞動(dòng)價(jià)值以及公司與測(cè)試者之間合作模式的深入思考，強(qiáng)調(diào)了在 AI 發(fā)展中平衡技術(shù)創(chuàng)新與人文關(guān)懷的重要性.
• 隱私擔(dān)憂：意大利數(shù)據(jù)保護(hù)機(jī)構(gòu)曾于 2024 年 3 月 10 日宣布對(duì) Sora 展開(kāi)調(diào)查，要求 OpenAI 澄清其向用戶和非用戶告知產(chǎn)品使用數(shù)據(jù)的方式是否符合歐盟法規(guī)，此次泄露事件可能會(huì)進(jìn)一步加劇人們對(duì) Sora 以及 AI 技術(shù)隱私問(wèn)題的擔(dān)憂.