Anthropic執行長概述了減緩人工智慧發展的計劃
達裡奧·阿莫迪只是呼籲業界……放慢腳步，而不是停止。放慢速度。這是一篇長文，分三個步驟，並警告說，循環式自我提升的步伐已經快到成年人無法審核了。.
安特羅皮克單方面邀請嵌入式評估人員進入大樓——發放徽章、辦公桌、筆記型電腦，並允許他們不受公關審查地發表研究結果。然後，他又想讓民主實驗室協調安全標準。接下來，不知何故，他還要與專制政府達成協議。紙面上很容易，但實際操作起來卻難上加難。.
他仍然認為人工智慧可能是一個奇蹟。他還說，一個能力更強、但目標不一致的群體可能會利用持續存在的殭屍網路控制互聯網，造成數千億美元的損失。這兩句話放在一起，卻又自相矛盾。.
喔——他還想要一份範圍較窄的反壟斷豁免，這樣安全方面的討論本身就不會構成法律問題。煞車裝置也需要附帶文件。當然了。.
Sam Altman 證實 OpenAI 今年不會上市，他表示，鑑於目前對人工智慧安全的擔憂，現在進行 IPO 的時機「不明智」。
奧特曼接受了獨家專訪，並宣布暫停上市計畫。他表示，現在進行IPO「時機不當」。安全工作尚未完成，協調工作尚未完成，社會尚未做好準備。當被問及此事時，他回答說：“今年不行。”.
銀行家早已虎視眈眈。那份保密文件已經存在。現在，執行長說他們還有很多事情要做，包括弄清楚產業和政府究竟該如何合作。他聽起來似乎很慶幸能等到這一天。.
他還表示，建造不受人類控制的人工智慧「絕對」可能——然後又誓言，如果真要走這條路，他會暫停訓練。這番話可謂大膽。或許也頗為方便。或許兩者兼而有之。他認為，非營利組織和營利組織之間的這種複雜關係，正是為了讓他們能夠做出一些顯然不符合股東利益的決定。我們拭目以待，看看這句話在實際的招股說明書中是否站得住腳。.
OpenAI 的 Sam Altman 暗示將與其他人工智慧公司達成協議，以應對安全風險。
同樣的採訪，不同的標題，這次是耳語。與阿莫迪、馬斯克和德米斯·哈薩比斯坐下來會面是順理成章的下一步。奧特曼：他認為這會發生。他不會提前宣布私下會談。然後他實際上又提前宣布了。.
他表示，兩位數的災難性風險是不可接受的。尚未發布的模型已經非常強大，如果沒有更好的監控手段就貿然推進，未免過於魯莽。真正的協議和精心洩漏的大氣層從表面上看可能完全一樣。.
員工內部也聽過類似的說法。但對外來說，這仍然是個謎。如果會議真的召開，那就很好。如果沒能召開，那這段話也已經發揮了作用。.
Sam Altman支持Dario Amodei放慢腳步的呼籲，並表示OpenAI也會這樣做。
文章發表數小時後，奧特曼發文稱，OpenAI 將兌現其嵌入式評估器的承諾，提供類似員工的存取權限。更多資訊即將公佈。馬斯克只寫了三個字：「達裡奧說得對。」三位競爭對手的 CEO，一個口號，週末氣氛緊張。.
協調與戲劇可以攜手並進。阿莫迪計畫的第一步如今已獲得兩大實驗室的公開認可。 「擁抱臉」（Hugging Face）——沒錯，就是那個「擁抱臉」——申請加入評估員計劃，並啟動了一項名為「開放對齊倡議」（Open Alignment Initiative）的計畫。這是來自被駭客攻擊者的透明度。或許頗具詩意，或許意味深長。.
就歐洲而言，它沒有像美國那樣可以申請豁免的國家。布魯塞爾很久以前就停止發放個人豁免了。所以，這種握手協議是美國式的。至於其他國家……聳聳肩，表示無奈。.
OpenAI 只想贏。
經過一個週末的面試，數學家們並沒有慶祝的心情。 OpenAI 的納維-斯托克斯方程式衝刺項目——大約一萬個智能體，數千萬美元的計算資源，88 小時——在業內人士看來更像是一場爭奪獎杯的競賽。數學家想要的是真知灼見。他們一再強調，實驗室的目標是贏得比賽。.
特里斯坦·巴克馬斯特告訴他們，OpenAI承諾如果他放棄與Anthropic公司有關聯的合作者，就提供無限的計算資源和獨家署名權。他稱之為賄賂，並拒絕了。 OpenAI斷然否認，表示巴克馬斯特在Codex上的提示不可能影響系統。但他對此並不信服。安德烈亞斯·湯姆仍然懷疑，ChatGPT關於他自己工作的聊天記錄是否影響了後來基於此構建的模型。只有OpenAI才知道答案。他懷疑OpenAI自己也不清楚。.
更勁爆的是：OpenAI 聲稱他們在另一個千禧年難題上已經取得了實質進展。至於具體是哪個難題，他們卻秘而不宣。反正 Clay 還需要很長一段時間才能被社區接受。所以，目前還沒有人「獲勝」。他們只是已經開始著手下一個難題了。真有意思。.
常問問題
Anthropico執行長達裡奧·阿莫迪(Dario Amodei)計劃如何加快人工智慧的發展？
阿莫迪發表了一篇長文，呼籲業界放慢腳步，而非停滯不前，因為循環式自我改進的步伐已經超過了審計人員的跟進速度。第一步是單方面邀請嵌入式評估人員進入安人智公司，並為他們配備徽章、辦公桌、筆記型電腦，以及無需公關審查即可發表評估結果的權利。接下來，他希望民主實驗室能夠協調安全標準，並最終與專制政府達成某種形式的協議。他還希望獲得一項範圍較窄的反壟斷豁免，以避免安全談判本身成為法律問題。.
為什麼Sam Altman說OpenAI今年不會上市？
在一次獨家專訪中，奧特曼表示，現在進行IPO並非明智之舉，因為安全工作、協調工作和社會準備尚未完成。當被追問時，他確認今年不會進行IPO，儘管銀行家們正在密切關注，而且一份保密文件也已提交。他辯稱，非營利/營利組織結構的存在，是為了讓OpenAI能夠做出一些並非明顯符合股東利益的決策。他還表示，建造不受人類控制的人工智慧是完全可能的，並承諾如果真的走到那一步，他將暫停訓練。.
奧特曼是否暗示過與其他人工智慧實驗室達成安全協議？
在同一次採訪中，奧特曼表示，他認為會與阿莫迪、馬斯克和德米斯·哈薩比斯等同行進行會談，但他拒絕提前透露任何私下會談的細節。他認為，兩位數的災難性風險是不可接受的，而且尚未發布的模型已經非常強大，如果沒有更好的監控機制就貿然推進，未免過於魯莽。員工們先前已在內部聽到類似的說法，因此這些公開評論可能只是預示著雙方正在協調合作，而非最終達成協議。.
OpenAI 會效仿 Anthropologie 的嵌入式評估器承諾嗎？
在阿莫迪發表文章數小時後，奧特曼發文稱，OpenAI 將兌現其嵌入式評估員的承諾，提供類似員工的訪問權限，並很快公佈更多細節。伊隆馬斯克也表示贊同，並列舉了三位競爭對手的首席執行官，他們都提出了類似的口號。 Hugging Face 也申請加入評估員計劃，並啟動了一項「開放聯盟倡議」。由於歐洲無法提供阿莫迪提出的那種美式反壟斷豁免，因此目前這項合作主要限於美國。.
為什麼數學家要批評 OpenAI 的 Navier-Stokes 衝刺演算法？
數學家將OpenAI耗時88小時、動用近萬個智能體完成的納維-斯托克斯方程式模擬描述為一場以勝利為先、而非以洞察力為導向的「獎盃狩獵」。特里斯坦·巴克馬斯特表示，OpenAI曾提出，如果他放棄一位與人類學研究所（Anthropic Institute）有關聯的合作者，就給他無限的計算資源和獨家署名權；他稱這是賄賂並拒絕了。 OpenAI聲稱，他在Codex上的提示不可能影響系統，但他對此仍持懷疑態度。安德烈亞斯·湯姆仍在追問，ChatGPT是否會透過聊天記錄他自己的工作來推動模型的後續發展。.
OpenAI 是否聲稱在另一個千禧年大獎難題上取得了進展？
OpenAI 表示，他們在另一個千禧年大獎目標問題上已經取得了實質進展，但並未透露具體是哪個問題。克雷數學研究所仍需經過較長的社區認可期，因此目前還沒有人正式獲獎。在數學界，這種保密性加上先前納維-斯托克斯方程式的競賽，讓人感覺各實驗室已經在為下一個獎項而全力衝刺。 《The Verge》的訪談將這種緊張關係描述為：數學家們渴望獲得突破性進展，而 OpenAI 則渴望贏得最終勝利。.