Show HN:自託管AI,能看、能玩《我的世界》、能做出反應
Wallie是一款開源AI主播,不僅能觀看屏幕,還能獨立玩《我的世界》。它具備長期記憶、自然節奏和豐富個性,解決了其他AI主播常見的重複、短記憶、機器人視覺等問題。
Wallie是一款革命性的開源AI流媒體主播,它不僅僅是一個屏幕閲讀器,而是一個真正會思考和反應的AI。不同於其他AI主播只能進行短促的對話和機械地描述屏幕內容,Wallie能夠持續思考數分鐘、對屏幕內容做出自然反應,並且擁有長時記憶,能記住一小時前討論過的話題。Wallie的核心特點是其高度可定製的個性系統。用户可以為Wallie設定身份、聲音、語言模型、平台等所有要素,一切都可以在瀏覽器中配置,並且完全在本地運行。其獨特的“滾動摘要”技術每隔約14個片段就會壓縮歷史對話,確保長時間直播時不會遺忘上下文。此外,Wallie還配備了“去重引擎”和“有機節奏”引擎,避免重複和生硬過渡。在視覺方面,Wallie採用第一人稱視角,將屏幕內容視為自己的行為,例如遊戲時會説“我剛剛被那個BOSS打趴了”,而不是“角色正在打BOSS”。它具備“注意力引擎”,並非對所有屏幕變化都做出反應,而是有選擇性地進行深度反應、快速一瞥或忽略。本次發佈的v2.0帶來了重磅更新——Wallie現在可以自己玩《我的世界》了!它會自主規劃目標、採集資源、合成工具、建造建築,並實時解説自己的行動。解説內容基於真實的遊戲狀態(如背包、血量),而非猜測,因此非常準確。結合Baritone尋路系統和自定義Fabric模組,Wallie的操作流暢自然,就像真人在玩。除了視覺和遊戲,Wallie還具備聽覺功能——它能捕獲系統音頻並實時反應,包括語音和音樂。通過本地的語音識別和純NumPy音頻分析,它可以判斷音樂的情感和風格,甚至能區分不同的樂器質感。視覺和聽覺融合成單一反應,不會出現兩個“解説員”互相干擾的情況。Wallie的Live2D虛擬形象也非常生動,支持唇形同步、眨眼、情緒表達等多種動畫層,讓形象看起來更真實。整體而言,Wallie是一個功能全面、高度可定製、真正能陪伴觀眾的主播AI。它還支持六種LLM提供商、三種TTS引擎和三種聊天平台,用户可以自由組合。無論是完全離線運行還是使用雲端服務,Wallie都能適應。它的個性系統不僅包括名字和系統提示,還可以設置能量水平、幽默風格、口頭禪、禁忌話題等,甚至可以讓它擁有堅定的觀點。在長時間直播中,Wallie通過滾動摘要、會話筆記和跨會話記憶來保持上下文一致性,避免內容衰減。注意力引擎和情緒引擎確保了自然流暢的節奏,不會出現生硬的停頓或重複。對於屏幕內容,Wallie能夠識別滾動、打字、應用切換等活動,並做出相應的反應。總之,Wallie試圖解決現有AI主播的所有痛點,成為一個真正有生命力的虛擬主播。