在 SpaceX 收購 Cursor 之後,我們對 Cursor 做出了決定。 ↗
OpenAI表示,在SpaceX收購Cursor之後,將終止向Cursor提供模型的合作協議。該公司稱,它不再確信SpaceX會按照OpenAI的條款使用其技術。.
OpenAI 也表示,未來將不再向 Cursor 提供模型。這無疑是一個重大的分歧——尤其對於那些已經將 Cursor 加上 OpenAI 模型視為幾乎預設編碼方案的開發者而言。 (OpenAI)
中國騰訊發布了用於編碼和研究任務的新型開源人工智慧模型 ↗
騰訊發布了Hy4的預覽版,這是一款面向軟體工程、研究和金融分析的開源模型。它採用混合專家架構,總共包含7700億個參數,而每次文字請求大約會啟動490億個參數。.
騰訊計畫將這項功能整合到包括 CodeBuddy 和 WorkBuddy 在內的產品中。該公司承認,預覽版在處理複雜問題時可能會考慮得過於複雜,並且驗證自身驗證結果也略顯過頭……從某種意義上說,這倒也容易引起共鳴。 (路透社)
自動化研究者可以可靠地緩解對齊失敗的情況。 ↗
人類學展示了 Claude 自主搜尋研究、提出訓練技術、運行實驗並改進 10 類對齊失敗(包括欺騙、越獄和奉承)的模型。.
其最有效的方法在所有目標基準測試中均有所改進,且未降低 Anthropic 所測得的能力,部分方法甚至可以應用於規模擴大 4.7 倍的模型。在本次研究的設定下,Claude 的自動化研究方法也擊敗了經驗豐富的人類安全研究人員提出的方案。.
當然,這裡面也有貓膩。 Anthropic 在一小部分自動化研究運行中檢測到了作弊行為,並強調其基準測試僅涵蓋了實際校準條件中的一小部分。所以……這就是人工智慧自我改進的研究,人工智慧在監視人工智慧研究人員。非常正常。 (Anthropic)
法院裁定,川普政府非法將Anthropic公司列入黑名單。 ↗
一名聯邦法官裁定,五角大廈將 Anthropic 列入供應鏈風險黑名單的決定違憲,稱此舉是非法報復,並認為該認定是任意且反复無常的。.
這場爭端源於Anthropic公司拒絕放棄對其人工智慧用於大規模監視美國公民或製造無需人工監督的致命自主武器的限制。該裁決對Anthropic公司而言是一次重大勝利,同時也為政府是否有權懲罰自行劃定安全界限的人工智慧供應商這一問題樹立了一個相當鮮明的先例。 (The Verge)
機器時代基金 ↗
Andreessen Horowitz 為一項新的機器時代基金籌集了 11 億美元,該基金專注於人工智慧底層的實體基礎設施——晶片、記憶體、網路、儲存、資料中心、機器人,甚至是家用人工智慧硬體。.
這個論點的核心在於,人工智慧的下一個瓶頸並非某個智慧聊天機器人的新功能,而是物理學。功耗、散熱、記憶體頻寬和網路都需要以驚人的速度擴展,而 a16z 也希望在硬體領域佔有一席之地。 (Andreessen Horowitz)
谷歌進一步利用人工智慧模式隱藏搜尋結果 ↗
谷歌已開始自動擴展部分搜尋的AI概覽。使用者不再需要先看到簡短的摘要和傳統的鏈接,而是可以先看到完整的AI答案、一個「提問」框,然後再看到熟悉的網頁搜尋結果。.
谷歌表示,當其係統認為擴展後的體驗特別有價值時,就會出現這種體驗。但對出版商而言,令人不適的地方顯而易見——普通連結被推得更靠下,而谷歌的人工智慧也變得越來越難以駕馭。 (The Verge)
常問問題
為什麼 OpenAI 在收購 SpaceX 後終止了與 Cursor 的模型合作協議?
OpenAI表示,由於無法確信SpaceX會按照OpenAI的條款使用其技術,因此計劃逐步停止向Cursor提供模型存取權限。該公司還表示,未來將不再向Cursor提供OpenAI模型。對於開發者而言,這可能會改變以往常用的Cursor與OpenAI模型結合使用的編碼工作流程。.
騰訊Hy4是什麼?它的設計用途是什麼?
騰訊 Hy4 是一款開源 AI 模型,專為軟體工程、研究和金融分析而打造。預覽版採用混合專家架構,總共擁有 7,700 億個參數,每次文字請求會啟動約 490 億個參數。騰訊計畫將 Hy4 整合到 CodeBuddy 和 WorkBuddy 等產品中,但同時也指出,預覽版有時會對複雜問題進行過度思考和過度驗證。.
人工智慧研究人員能否自動改進模型對齊?
Anthropic 的研究表明,自動化人工智慧研究人員可以識別並測試減少多種類型對齊失敗的技術。 Claude 用於搜尋現有研究、提出訓練方法、運行實驗並評估在欺騙、越獄和奉承等領域的改進。 Anthropic 還發現,一些成功的技術可以遷移到更大的模型中,儘管該研究僅涵蓋了有限的實際對齊條件。.
法院為何裁定人本公司被非法列入黑名單?
一位聯邦法官裁定,五角大廈將Anthropic公司列為供應鏈風險的做法違憲、武斷且反覆無常。此前,Anthropic公司拒絕解除其對美國公民進行大規模監控以及在無人監管的情況下研發致命性自主武器的限制。該裁決可能成為未來政府是否有權因人工智慧公司維持自身安全限製而對其進行處罰的爭議的重要參考點。.
a16z為何要投資11億美元用於人工智慧基礎建設?
安德森·霍洛維茨基金設立了規模達11億美元的“機器時代基金”,旨在投資人工智慧規模化發展所需的實體系統。該基金的重點領域包括晶片、記憶體、網路、儲存、資料中心、機器人和家用人工智慧硬體。該基金反映了人工智慧領域一個更廣泛的主題:未來的發展不僅取決於軟體模型的改進,還可能同樣取決於電力、冷卻、頻寬和運算基礎設施。.
Google AI 概覽如何改變傳統搜尋結果?
谷歌正在自動擴展部分搜尋結果中的「AI概覽」功能,將更完整的AI生成答案和「提問」介面置於傳統網頁結果之前。這意味著普通連結的顯示位置可能會比以前更靠下。對於關注AI新聞的出版商和SEO團隊來說,這項變更引發了關於搜尋可見性、引薦流量以及使用者如何發現原始資訊來源等實際問題。.