SensorFM:面向可穿戴健康數據的通用智能與接口
谷歌研究院推出 SensorFM,這是一個基於超過一萬億分鐘傳感器數據和五百萬人訓練的可穿戴健康基礎模型。它通過自監督學習掌握人類生理的通用表示,可遷移至35項健康任務,支持標籤高效適配,並能作為個人健康代理的基石。
谷歌研究院近日發佈了 SensorFM,一個面向可穿戴健康數據的通用基礎模型。該模型在超過一萬億分鐘的多模態傳感器數據上進行了預訓練,這些數據來自五百萬名同意參與健康研究的志願者。SensorFM 通過自監督學習掌握了人類生理的通用表示,能夠遷移至心血管、代謝、睡眠和心理健康等35項健康預測任務,同時支持高效的數據填充和標籤高效適配。
為了構建預訓練數據集,研究人員從2024年9月至2025年9月間收集了來自100多個國家、涵蓋20多種Fitbit和Pixel Watch設備型號的去標識化數據。每位參與者貢獻了數週的數據,總計超過20億小時(即超過一萬億分鐘)的分鐘級信號。SensorFM 輸入34個一分鐘聚合特徵,來自五種傳感器模態:光電容積描記法、加速度計、皮膚電活動、皮膚温度和高度計。這些特徵共同捕捉了24小時窗口內的心率、心率變異性、血氧飽和度、睡眠階段、運動步數、皮膚電導和温度等信息。
SensorFM 採用缺失感知掩蔽的自監督學習方法,基於LSM-2架構和自適應繼承掩蔽框架。這一設計至關重要,因為可穿戴設備數據通常存在大量缺失,如傳感器斷電、設備取下或省電模式等。傳統方法要麼插補缺失值引入偏差,要麼丟棄不完整窗口。而AIM將真實缺失視作自然偽影,與人工掩蔽的標記同等對待,從而讓模型天然具備處理缺失數據的能力。實驗表明,SensorFM不僅容忍碎片化數據,還能有效利用它進行生成任務。
研究團隊通過系統的縮放實驗,將預訓練數據量從約200萬傳感器小時擴展到20億小時,模型參數從10萬增加到1億。結果顯示,預訓練損失隨數據和容量增長呈規律性下降,且下游任務性能同步提升。最大模型SensorFM-B在35項任務中的33項上表現最佳,相比最小變體,重建損失降低31%,分類任務AUC平均提升9%,迴歸任務皮爾遜係數平均提升21%。值得注意,同時擴展數據和容量帶來近乎線性的增益,且曲線未見飽和跡象。
為評估表示泛化性,團隊在三個獨立前瞻性研究的13985名參與者上測試了35項健康任務,涵蓋心血管、代謝、心理健康、睡眠、人口統計和生活方式六大類別。使用凍結的SensorFM編碼器僅訓練線性分類頭,結果在34項任務上超越基於工程特徵的監督基線。加入人口統計特徵(年齡、性別等)帶來的提升隨模型規模增大而減小,表明大模型在預訓練中已隱含捕獲生理相關特徵。尤其對於抑鬱症和焦慮症等難以測量的疾病,SensorFM能有效學習個體差異並提取跨人羣的模式。標籤效率實驗顯示,僅使用少量標註樣本,模型即可快速超越基線。
為自動化預測頭設計,研究團隊構建了“智能體教室”:一組協作和競爭的LLM智能體迭代生成、測試和優化代碼。該系統探索了超過30000個候選方案,智能體設計的頭在16項分類和12項迴歸任務上優於簡單線性探針,且解決方案質量隨搜索單調提升,並隨底層LLM能力增強而提高。
最終,團隊將SensorFM集成至個人健康代理,比較了僅使用人口統計+每日指標、加入SensorFM預測、加入真實測量三種條件下的健康摘要生成。臨牀醫生盲評顯示,加入SensorFM預測在上下文、相關性、可證明性、個性化和潛在危害等維度均顯著優於基線,且與使用真實測量無統計差異。這表明SensorFM的推斷足以作為個人健康代理的可靠基礎。
SensorFM標誌着可穿戴健康研究從眾多單一任務模型向通用生理表示的轉變,為個性化醫療提供了強大工具。