CMU 教授創辦 Safeworld,為生成式 AI 機器人做安全驗證
Safeworld 結束隱身,宣布超 1200 萬美元種子輪,由 Shine Capital 與 a16z Speedrun 領投,Box Group、CMU Endowment、Innovation Endeavors、SV Angel 參投。
依意思最接近的 9 筆
Safeworld 結束隱身,宣布超 1200 萬美元種子輪,由 Shine Capital 與 a16z Speedrun 領投,Box Group、CMU Endowment、Innovation Endeavors、SV Angel 參投。
據 The Information 報導,OpenAI 正與一家新成立的 AI 影片初創公司談判,計劃讓已關停的 Sora 重新投入商業化,OpenAI 將獲得該公司部分股權。這家公司由夢工廠動畫聯合創始人 Jeffrey Katzenberg、Sora 前研究負責人 Bill Peebles 和 Dropbox 前 CFO Sujay Jaswa 共同創辦,面向電影製作人開發 AI 影片軟體與服務,可能獲得對 Sora 深度定製的權限,但模型權重是否開放尚未確定。
Shrivu Shankar 在 8 月 24 日的文章中提出,每家 SaaS 公司最終都會變成圍繞模型搭建的 harness,即包裹無狀態 LLM 的基礎設施、介面、上下文與狀態。他給出五階段演進路徑:傳統 SaaS、工程師與 agent 結對、個人執行 harness、個人編排 harness、harness 編排個人,屆時核心任務由 agent 完成,人類只負責提供品味與判斷。
舊金山初創公司 Industrial Next 在 TechCrunch Disrupt 2026 上宣布與 BMW 集團技術辦公室合作,評估其 AI 靈巧操作技術用於製造。該公司由兩位前特斯拉工程師於 2021 年創立,做的是基於自研基礎模型的機器人工作站,把視覺、任務上下文與運動控制打通,用高保真模擬訓練,產線換型從數週縮短到數分鐘,無需傳統程式設計。其工作站已在某款熱門手機的生產中使用,負責柔性排線穿線、聯結器扣合等此前難以自動化的工序;
Anthropic 於 10 月 14 日在新加坡開設亞太區第五個辦公室,並與新加坡數碼發展及新聞部簽署諒解備忘錄,合作涵蓋 AI 安全、安保與模型評估、AI 採用影響研究以及公私部門的負責任採用。備忘錄在 Singapore International Cyber Week 期間簽署,雙方將就模型評估、測試標準與事件回應開展技術交流,並共享 Anthropic Economic Index 等研究資料。
OpenAI CEO Sam Altman 在 2026 年 10 月 1 日發帖表示,使用者應當能夠在任何需要的地方使用自己的 AI 訂閱。該表態未說明具體產品、實施方式或時間表,也未提及是否涉及跨平台或第三方應用。
微軟總裁 Brad Smith 在 BBC 播客上呼籲儘快制定全球 AI 安全規則,並稱英國比美國和歐盟更適合主導這件事。他希望落地的規則包括:系統被失控 AI agent 攻破須依法通報、AI 產品發布前需經外部評估者批准,以及可暫停或減速的 kill switch。他批評上月白宮與 OpenAI、Anthropic、Nvidia 等簽署的自願性檔案只能約束負責任的公司。
Anthropic 宣布在新加坡開設辦公室,這是其在亞太地區的第五個辦事處。同時,Anthropic 與新加坡政府簽署諒解備忘錄,合作方向為 AI 安全與負責任採用。公告未披露辦公室規模、人員編制及備忘錄的具體條款,僅給出詳情連結。
前 Google Cloud、SpaceX 工程師 Rama Afullo 創辦的 Satlyt 完成 800 萬美元種子輪,其衛星端 AI 軟體將於本週隨 SpaceX 火箭發射,與 Google 軌道資料中心原型 Project Suncatcher 同船。Satlyt 不造衛星硬體,只做讓衛星在軌執行 AI 模型的軟體層,定位類似衛星界的 VMware。