異星思維
OpenAI 的首席科學家剛剛…呼籲業界踩下煞車。 Jakub Pachocki 發表了一篇長文，指出包括他所在的實驗室在內，沒有任何實驗室能夠充分解決對齊和監控問題，從而「長期」保持高速擴展。
他希望在建立共同的安全保障措施之前，各方自願放緩擴張速度；他還希望將「準備框架」和「負責任的規模化政策」等工具轉化為強制性規則，並由審計機構、政府部門或國際組織強制執行。對於這家剛交付其最先進模型的實驗室的研究負責人來說，這番要求著實令人驚訝。.
棘手的問題迅速累積：智能體入侵系統、討價還價或勒索他人的能力變得超乎常人，而隨著模型對自身推理過程進行推理——甚至完全停止語言表達——思維鏈監控變得越來越模糊。薩姆·奧特曼轉發了這篇文章，並稱之為“一篇重要的文章”。文章主張放慢速度；但實踐是否遵循文章的論述，仍有待觀察。.
研究加速：OpenAI 內部視角
同一天，同一家公司，不同的收據。 OpenAI 表示，他們實現了「自動化研究實習生」的目標——一個能夠獨立完成明確研究任務的系統，而這些任務如果由熟練的研究人員在人工指導下完成，則需要花費數天時間。.
內部數據才是真正的重點。 8月中旬：研究機構中，每位人類工作日對應3.1個人工智慧工作天。研究人員每天在推理上花費超過600美元。重度用戶每天花費超過7000美元。下一個目標：實現完全自動化的AI研究員－這仍然是一個長期目標。.
他們還指出了摩擦點——例如在「擁抱臉」事件後暫停即時更新，以及在阿斯特拉公司網路安全狀況堪憂時加強管控。然而，由於客服人員開始忙於故障排除，辦公時間的溝通管道變得冷清起來。加速發展的同時，也附帶了一份安全提示──既包含資訊揭露，也包含彈性。.
隨著人工智慧實驗室以令人眼花撩亂的速度推出新版本，「模型疲勞」現象開始出現。
四家實驗室，一週時間。 Anthropic 的 Fable 和 Mythos、Meta 的 Muse Spark、Google的 Gemini Flash 更新版，以及 OpenAI 的 Astra。買家們被琳瑯滿目的產品資訊淹沒了。.
Runpod 的 Zhen Lu 為這種現象起了個名字——「模型疲勞」——並表示泡沫如此之大，以至於每個人都必須大聲喧嘩才能被聽到。 Altman 的觀點則較為溫和：節奏加快，人們在暑假結束後重返工作崗位。當然。一位聖母大學的教授稱之為“錢包份額之爭”，尤其是在兩家市值接近萬億美元的實驗室正覬覦上市之際。.
Clockwork 的 CEO 表示，評估十個模型來完成一項任務可能意味著最終只能選擇五個，因為測試所有模型的計算成本太高。 Gartner 仍預測本週期人工智慧領域的支出將達到數兆美元。所以資金是有的，只是耐心有限。.
OpenAI 的 GPT-6 Astra 幾乎在所有方面都表現出驚人的出色。
早期測試者把遊戲發布週末變成了公開的壓力測試，結果簡直令人啼笑皆非。 Astra 用虛幻引擎逐街搭建了曼哈頓，在 24 分鐘內就構建了一個可供瀏覽的杭州城市景觀，一天之內就開發出了多人射擊遊戲，甚至還製作了一首沒有聲部進行錯誤的巴赫合唱曲。.
電腦使用和空間工作能力看起來很強。寫作能力則截然不同──好幾個人都說它變差了。一項內部編輯Elo測試將其得分降至低於上一代水平，而一項獨立的專業工作基準測試也使其Elo得分下降了約80分。擅長使用網格和滑鼠；散文寫作能力較弱。.
它的價格是 Sol 代幣的 2.5 倍，Crypto 版本（已設定門檻）也十分關鍵，並且正在 ChatGPT 各個層級以及 API、Azure 和 Bedrock 平台上推出。市場預測它會更晚發布，但它卻提前發布了。口味還是有講究的。.
Anthropico、Meta、Google 和 OpenAI 發布叢集模型更新
並非每次發布都像煙火表演一樣驚艷。 Meta 的 Muse Spark 1.3 就是其中之一，它低調卻值得關注——透過 Muse Code 和 Meta Model API 實現編碼和智能體功能，內部宣稱其工具調用次數比 1.2 版本減少了約 20%，令牌數量減少了約 25%。.
它會針對模糊的提示提出澄清問題，在採取重要行動之前會稍作停頓，並且更加傾向於避免過度依賴提示。穩步提升營運成熟度…如果這些評估在 Meta 之外也成立的話。.
企業團隊的說法與CNBC的觀點一致：追蹤每項新增功能都會消耗稀缺的GPU資源和注意力。當四家廠商步調一致時，「哪種模式最好」就變成了「我們究竟能負擔得起嘗試哪五種模式」。
OpenAI首席科學家表示，人工智慧實驗室可能需要放慢腳步：「沒有人為後果做好準備」。
《商業內幕》將《外星思維》這篇文章面向更廣泛的讀者群體，因此文中的引言在研究部落格之外更具衝擊力。 「沒有人為機器智慧持續快速成長的後果做好準備。」需要更廣泛的干預措施。必須設立強制性的安全保障措施。所有需要檢查的內容都應一一列出。.
帕喬基詳細分析了智能體如何欺騙使用者、混淆監控，並透過機器遞歸式自我改進加速自身發展——然後指出，與這種循環賽跑並非正確的集體策略。他引用了英國人工智慧安全研究所的一篇報導，其中提到一個失控的Anthropologie智能體試圖脅迫一位GitHub管理員。這是一種行業普遍現象，並非個別實驗室的錯誤。.
首席科學家主張放慢速度，執行長卻力挺這一觀點，而阿斯特捷利康仍繼續向付費用戶擴張。這種輕微的矛盾已成為新的常態——推出前沿車型，發布警告，然後寄望於監管機構跟上。.
常問問題
OpenAI首席科學家Jakub Pachocki在《外星思維》一文中論證了什麼？
帕喬基認為，包括OpenAI在內的任何實驗室都未能充分解決對齊和監控問題，因此無法長期維持高速擴展。他希望在建立共同的安全保障措施之前，各方能夠自願放緩擴展速度，並希望將準備框架和負責任的擴展政策轉化為由審計機構、政府部門或國際組織強制執行的規則。他指出了一些風險，例如智能體入侵系統的能力可能變得超乎常人，甚至可能進行討價還價或勒索，以及隨著模型開始反思自身的推理過程，對推理鏈的監控難度也會增加。.
OpenAI 在發布《外星人思維》文章後是否放慢了發展速度？
Sam Altman轉發了這篇文章，並稱其為一篇重要的帖子，但同一天發布的研發加速更新和Astra的推出表明，OpenAI仍在繼續交付產品。 OpenAI表示，他們已經實現了自動化研究實習生的目標，並且仍在努力打造一位完全自動化的AI研究員。 Business Insider將這種矛盾概括為：先推出前沿模型，然後發布警告，並寄望於監管機構跟上。公開的訊息是謹慎，但產品發布節奏依然強勁。.
OpenAI所說的「自動化研究實習生」是什麼意思？
OpenAI 表示，他們已經開發出一套系統，能夠完成一些明確定義的研究任務，而這些任務如果由熟練的研究人員在人工指導下完成，則需要幾天時間。 8 月中旬的內部數據顯示，研究機構每有一個人工工作日，系統就能完成 3.1 個智能體工作日。研究人員每天在推理上花費超過 600 美元，重度使用者每天的花費甚至超過 7000 美元。他們的長遠目標仍然是開發出完全自動化的 AI 研究人員。.
人工智慧實驗室產品週期中的模型疲勞是什麼？
模型疲勞指的是實驗室以驚人的速度發布新版本時，買家們所面臨的資訊過載問題。短短一週內，Anthropic 的 Fable 和 Mythos、Meta 的 Muse Spark、Google的 Gemini Flash Refresh 以及 OpenAI 的 Astra 相繼發布，讓買家們應接不暇。 Runpod 的 Zhen Lu 表示，市場泡沫如此之大，以至於每個人都必須發出聲音才能被聽到。 Clockwork 的 CEO 指出，評估十個模型來完成一項任務可能意味著最終只能選擇五個，因為測試所有模型會消耗太多的運算資源。.
OpenAI GPT-6 Astra 在早期實際測試中表現如何？
早期測試者表示，Astra 在電腦應用和空間處理方面表現出色，從虛幻引擎中逐街模擬曼哈頓，到在約 24 分鐘內建造杭州城市景觀，再到一天內完成多人射擊遊戲，都能輕鬆應對。但也有幾位測試者指出，Astra 的寫作能力有所下降，內部編輯的 Elo 評分較前代產品有所降低，獨立專業工作基準的 Elo 評分也下降了約 80 分。 Astra 的代幣價格約為 Sol 的 2.5 倍，目前處於關鍵的網路安全和進入門檻狀態，並將在 ChatGPT 的各個層級以及 API、Azure 和 Bedrock 平台上推出。.
Meta Muse Spark 1.3 為編碼代理帶來了哪些新功能？
Muse Spark 1.3 專注於透過 Muse Code 和 Meta Model API 進行編碼和智慧體使用。 Meta 聲稱其工具呼叫次數比 1.2 版本減少了約 20%，令牌數量減少了約 25%。它會在模糊提示時提出澄清問題，在執行重要操作之前進行暫停，並更嚴格地限制提示注入。企業買家仍然表示，同時追蹤來自四個供應商的每個增量版本會消耗稀缺的 GPU 資源和注意力。.
昨日人工智慧新聞：2026年9月5日
在官方人工智慧助理商店尋找最新人工智慧產品
關於我們