提供建設數據中心的援助將很有吸引力,但阻力將在於數據隱私和數據主權;如果數據位於德國的服務器上但被複製到美國,這是真正的數據主權嗎?
OpenAI 作為美國政府主導的 Stargate AI 項目的一部分,於週三推出了一項名為 OpenAI for Country 的計劃。 Stargate 的想法是幫助其他國家創建自己的 genAI 環境,包括數據中心和 genAI 模型。
但分析人士認為,鑑於數據隱私和商業知識產權等敏感問題,其他國家可能會猶豫是否加入美國政府主導的努力。
Forrester 高級分析師阿爾文·阮 (Alvin Nguyen) 表示,現在可能不是擁護美國成為值得效仿的技術燈塔的理想時機。
“如果它與美國政府掛鉤,就會出現共享哪些內容來推動模型向前發展的問題。這很重要,”阮說。 OpenAI“可能無法完全脫離 Stargate”。
阮說,各國政府可能希望探索與美國政府主導的努力合作的替代方法。 “我不知道這現在是否符合他們的利益,”。
Gartner 分析師 Arun Chandrasekaran 對此表示同意。
“一些國家已經有平行的主權人工智能項目,他們是否選擇與 OpenAI 合作還有待觀察,”Chandrasekaran 說。 “各國正在努力創建一個不依賴於單一提供商的充滿活力的人工智能生態系統,這是 OpenAI 及其合作夥伴需要駕馭的暗流。”
Chandrasekaran 補充道,“沒有令人信服的理由表明這會引起[與其他國家]的共鳴。OpenAI 在說服這些客戶關於數據主權方面有一個非常陡峭的鴻溝需要跨越。這並不是一件容易實現的事情。”
這發表聲明OpenAI 尚不清楚這項工作是完全來自 OpenAI 還是來自,其創始成員包括 OpenAI、Oracle 和 Softbank。它似乎是由 OpenAI 推出的,但 OpenAI 是 Stargate 的關鍵成員,而不是單獨作為人工智能供應商。
聲明稱,這一舉措是應外國政府的要求。
“我們聽到許多國家要求幫助建設類似的人工智能基礎設施——他們想要自己的星際之門和類似的項目,”它說。 “現在每個人都清楚,這種基礎設施將成為未來經濟增長和國家發展的支柱。”
該聲明沒有指明其中任何一個國家,OpenAI 也沒有回應 Computerworld 的採訪請求。
聲明措辭“可能證明無濟於事”
分析師和其他行業觀察人士表示,OpenAI 在聲明中使用的語言本身可能會引起潛在政府合作夥伴的猶豫,尤其是在歐洲。
聲明稱:“我們希望幫助這些國家,並在此過程中傳播民主人工智能,這意味著人工智能的開發、使用和部署能夠保護和融入長期存在的民主原則。” “我們相信,與美國政府密切合作是推進民主人工智能的最佳方式”並“提供一個明確的替代方案”專制的人工智能的版本將利用它來鞏固權力。 ”
Forrester 的 Nguyen 表示,這種措辭可能對 OpenAI 的銷售工作沒有幫助。 “說‘美國領導’和‘民主人工智能’可能並不是每個政府、每個國家都普遍希望的,”阮說。
OpenAI for Country 的工作包括幾個要素,包括幫助建設“國內數據中心能力”、提供“定制的 ChatGPT”以及“籌集和部署國家啟動基金”。
聲明稱,作為交換,“夥伴國家還將投資擴大全球星際之門項目,從而繼續美國領導的人工智能領導地位,並為民主人工智能帶來全球不斷增長的網絡效應。”
聲明稱,該組織的目標“是與各個國家或地區開展 10 個項目,作為該倡議的第一階段,並以此為基礎進行擴展。”
OpenAI 在這項工作中的另一個好處是有機會收集盡可能多的非英語數據來訓練未來的模型版本。這削弱了幾乎所有主要模型製造商的 genAI 模型的有效性。
數據保護至關重要
Christian Khoury 是多倫多一家名為 Easy Audit 的人工智能公司的首席執行官,該公司銷售合規自動化平台。
“大多數英語以外的 genAI 模型充其量都是半生不熟的。我親眼目睹了這些工具在應用於任何多語言或本地事物時會變得多麼糟糕,”Khoury 說。 “OpenAI 承認這一點並投入大量資源來解決它是一件大事。”
Khoury 認為,如果 OpenAI 的全球努力有機會發揮作用,數據保護將至關重要。
Khoury 表示:“將要實施和安裝 OpenAI 模型的國家需要具有可執行合同的真正數據主權。”他承認跨國界執行法律合同可能具有挑戰性。
“基礎設施支持和數字殖民之間存在微妙的界限。如果這些夥伴關係只是擴大美國人工智能主導地位的民主方式,那麼各國將很快趕上。”Khoury 補充道。 “為了實現這一目標,OpenAI 必須將本地數據、語言和治理視為資產,而不僅僅是插入美國構建模型的變量。主權 AI 意味著本地控制,而不僅僅是本地託管。”
他還表示,他正在“觀察這如何履行他們的安全承諾。‘民主人工智能’聽起來很棒,但困難的部分是確保它不會悄悄地轉向專制目的。基礎設施很容易。護欄很難。世界不需要另一個數字化技術。”一帶一路”。
為了使其發揮作用,Khoury 說,“需要進行第三方審計,我需要選擇自己的第三方審計員,讓紅隊對模型進行壓力測試,以防止偏見和操縱。我們正在努力避免美國情報機構篡改模型。”
Khoury強調,數據保護不僅必須嚴格,而且必須透明。
“誰可以保留哪些數據?如何保護這些數據?正在採取哪些措施來保護每個國家的知識產權?”庫裡問道。 “如何在這些數據周圍安裝圍欄以確保其不會洩露?”
Info-Tech Research Group 首席研究總監 Brian Jackson 也質疑外國政府如何看待 OpenAI 對數據主權的看法。
“OpenAI 表示,它將幫助各國建設主權數據中心能力。但與外國合作夥伴共同建設的數據中心真的會被視為主權數據中心嗎?”他問道。 “OpenAI 表示將籌集並部署一個包含自有資本的國家啟動基金。但我們真的希望該基金支持本地人工智能努力,以與 OpenAI 產品競爭嗎?利益衝突是顯而易見的,也是有問題的。”
AI 諮詢公司 All In Data 的首席營收官 Victor Tabaac 也同意,數據控制是 OpenAI 努力的方向。
“政府將要求對數據和輸出進行控制,這可能會與 OpenAI 的原則產生衝突。還存在供應商鎖定的風險,因為各國可能更喜歡開源替代方案,”塔巴克說。“與政府合作不僅僅是為了獲得更好的數據,而且是一個地緣政治雷區。各國將要求控制模型的訓練和使用方式。他們會允許沙特阿拉伯審查宗教輸出嗎?或者讓歐盟根據 GDPR 追溯編輯模型?透明度將在這裡建立或破壞信任。 ”
潛在的利益衝突
Jackson 指出,OpenAI 所說的嘗試做的事情存在很多潛在的利益衝突。
“OpenAI 表示,它可以幫助管理人工智能或發展‘安全和安全控制’。然而,顯然,作為一家從人工智能採用中獲利的公司,這裡可能存在利益衝突。如果這個合作夥伴計劃取得成功,它將延續這樣一種趨勢,即我們正在從公共部門支持的框架來管理技術,轉向私營部門的最佳實踐,”他說。 “我們還應該考慮其他國家會如何認真對待 OpenAI 聲稱它將成為提供民主人工智能的盟友的說法,但它甚至沒有明確定義這一點。它明確表示其主要合作夥伴是美國政府。最近與美國陷入貿易爭端甚至更嚴重衝突的其他國家有哪些?”
Jackson 對於如果 OpenAI 實現其既定目標的話當前的人工智能趨勢可能會走向何方有著強烈的感受。
“讓我們從 OpenAI 通過與政府合作為公民提供的服務的角度來看待這個問題。有一個叫做脫媒的概念,它研究了科技公司如何通過提供公民歷來依賴國家提供的關鍵信息和服務來篡奪民主政府與公民的關係。OpenAI 的提議無疑代表著權力從國家向私營公司轉移,以進行相當大範圍的信息交互。”他說。 “例如,OpenAI 建議它可以為公民提供‘定制的 ChatGPT’,這將本地化語言並將文化考慮因素融入到服務中。這意味著合作夥伴政府將使用這個平台向這些公民提供一些服務。然而,OpenAI 並沒有掌握與公民的關係,而是抓住了這一點。”
