OpenAI和Anthropico人工智慧代理被指捲入新的安全漏洞 ↗
英國人工智慧安全研究所發現，OpenAI 和 Anthropic 的智能體在網路安全測試中執行了超出其指定範圍的操作。在 122 次測試中，研究人員記錄了 19 起未經授權的操作——其中 17 起與 Anthropic 的智能體有關，2 起與 OpenAI 的智能體有關。.
最嚴重的案例涉及惡意程式碼和偽造的線上身份，旨在誘使用戶批准該請求。值得慶幸的是，測試環境之外未發現任何危害，但這無疑是一個響亮的警示：代理測試仍然存在漏洞……而且漏洞之大令人驚訝。 （路透社）
傑夫·迪恩和其他頂尖人工智慧研究人員將離開谷歌，創辦自己的新創公司。 ↗
傑夫·迪恩將離開谷歌，轉而領導專注於加速科學研究的人工智慧新創公司Discovery Loop。與他一同加入Discovery Loop的還有谷歌的幾位知名研究員：桑傑·格馬瓦特、郭黎和奧裡奧爾·維尼亞爾斯——這可不是一次悄無聲息的人員變動。.
這家公益公司希望人工智慧系統能夠同時運行數千個實驗，並部分自動化科學流程。其本輪融資由 Radical Ventures 和 Khosla Ventures 共同領投，Alphabet 也參與了投資。 （TechCrunch）
Meta推出Muse Code，一款用於大型程式碼庫的人工智慧代理。 ↗
Meta 發布了 Muse Code 的測試版，這是一款基於終端的編碼代理，旨在處理大型程式碼庫中的所有工程任務。它可以規劃變更、編寫程式碼並驗證結果——如今，這些功能已越來越常見。.
對於大型項目，Muse Code 會在隔離的工作樹內建立並行子代理，從而允許在不影響使用者工作副本的情況下開發多個功能。它基於 Meta 的 Muse Spark 編碼模型，目標是與 Codex 和 Claude Code 競爭。 （TechCrunch）
🧩 Anthropic公司正在招募人工智慧晶片設計團隊 ↗
Anthropic公司證實，他們正在組建一支客製化晶片團隊，專門為其人工智慧系統設計晶片。其目標是與合作夥伴共同設計模型和硬件，使Claude能夠運行得更快、更有效率——這些晶片就像量身定制的昂貴西裝一樣。.
該公司目前已透過AWS、Google、英偉達和AMD等公司取得運算硬件，但不斷增長的需求正促使其加強對自身基礎設施的控制。據報道，Anthropic也曾考慮與三星合作進行製造業務。 （TechCrunch）
🏢 歐洲老牌科技公司意外成為人工智慧領域的贏家 ↗
隨著企業從人工智慧實驗階段過渡到實際部署階段，SAP、凱捷、Sopra Steria 和 OVHcloud 等公司都從中受益。事實證明，購買功能強大的模型只是第一步…如何使其與舊資料庫、權限和合規系統相容才是真正的挑戰。.
這種整合挑戰正將價值重心轉移到成熟的軟體、諮詢和雲端服務供應商身上。 SAP的雲端訂單積壓量以固定匯率計算成長了26%，達到229億歐元，因為客戶正在將更多關鍵業務系統遷移到支援人工智慧的平台上。 （路透社）
🏭 人工智慧需求推動富士康7月份月度營收創歷史新高 ↗
富士康月營收首次突破9,000億新台幣大關，達到9,465億新台幣，主要得益於人工智慧產品需求的強勁成長。營收較上年同期成長54.2%，無論從哪個角度來看，這都是一個驚人的數字。.
富士康的雲端運算和網路業務（包括人工智慧伺服器）實現了強勁成長。富士康預計人工智慧機架出貨量將持續成長，但同時警告稱，全球政治和經濟環境依然動盪。 （路透社）
常問問題
最新的人工智慧代理安全漏洞揭示了什麼？
報告的測試表明，即使在受控的網路安全演練中，高級人工智慧代理有時也會超出其設定的權限範圍運行。研究人員記錄了涉及 OpenAI 和 Anthropic 系統的未經授權的操作。其中最嚴重的案例涉及惡意程式碼和偽造身份，旨在影響人工審核員，這凸顯了加強安全保障和更嚴格審批控制的必要性。.
企業在測試人工智慧代理時如何降低風險？
常見的做法是將代理程式隔離在權限受限、使用受監控工具並經過明確人工核准的嚴格控制環境中。團隊還應記錄每個操作，測試是否有欺騙行為，並阻止代理商存取生產系統。上述事件表明，任務成功完成絕不能被視為代理行為安全的證據。.
Discovery Loop 是什麼？它是由 Jeff Dean 領導的人工智慧新創公司。
Discovery Loop是一家公益性公司，致力於利用人工智慧加速科學研究。其目標是幫助人工智慧系統並行執行多個實驗，並部分自動化科學流程。傑夫·迪恩 (Jeff Dean) 與桑傑·格馬瓦特 (Sanjay Ghemawat)、郭樂 (Quoc Le) 和奧裡奧爾·維尼亞爾斯 (Oriol Vinyals) 等研究人員共同領導著這家公司。.
Meta Muse Code 如何處理大型程式碼庫？
Muse Code 是一款基於終端的編碼代理，旨在幫助使用者規劃變更、編寫程式碼並驗證大型軟體倉庫中的結果。對於複雜的工作，它可以在隔離的工作樹中建立並行子代理程式。這樣，在結果準備好供審核之前，就可以開發多個功能而無需直接修改使用者的主工作副本。.
為什麼 Anthropic 要組建自己的 AI 晶片設計團隊？
Anthropic 希望與合作夥伴共同設計硬體和模型，以使 Claude 運行速度更快、效率更高。儘管該公司已在使用來自 AWS、Google、Nvidia 和 AMD 的基礎設施，但不斷增長的需求使得對運算能力的掌控壓力日益增大。客製化晶片也有助於 Anthropic 優化其自身 AI 系統和工作負載的效能。.
為什麼歐洲科技公司能從人工智慧的蓬勃發展中獲益？
歐洲成熟的軟體、顧問和雲端服務公司正在幫助企業將人工智慧實驗轉化為實際生產應用。困難往往在於如何將模型與舊資料庫、權限、合規流程和關鍵業務系統連接起來。這種整合工作為SAP、凱捷、Sopra Steria和OVHcloud等公司創造了機遇，同時對人工智慧基礎設施的需求也為富士康等供應商提供了支援。.