Show HN:自托管AI,能看、能玩《我的世界》、能做出反应
Wallie是一款开源AI主播,不仅能观看屏幕,还能独立玩《我的世界》。它具备长期记忆、自然节奏和丰富个性,解决了其他AI主播常见的重复、短记忆、机器人视觉等问题。
Wallie是一款革命性的开源AI流媒体主播,它不仅仅是一个屏幕阅读器,而是一个真正会思考和反应的AI。不同于其他AI主播只能进行短促的对话和机械地描述屏幕内容,Wallie能够持续思考数分钟、对屏幕内容做出自然反应,并且拥有长时记忆,能记住一小时前讨论过的话题。Wallie的核心特点是其高度可定制的个性系统。用户可以为Wallie设定身份、声音、语言模型、平台等所有要素,一切都可以在浏览器中配置,并且完全在本地运行。其独特的“滚动摘要”技术每隔约14个片段就会压缩历史对话,确保长时间直播时不会遗忘上下文。此外,Wallie还配备了“去重引擎”和“有机节奏”引擎,避免重复和生硬过渡。在视觉方面,Wallie采用第一人称视角,将屏幕内容视为自己的行为,例如游戏时会说“我刚刚被那个BOSS打趴了”,而不是“角色正在打BOSS”。它具备“注意力引擎”,并非对所有屏幕变化都做出反应,而是有选择性地进行深度反应、快速一瞥或忽略。本次发布的v2.0带来了重磅更新——Wallie现在可以自己玩《我的世界》了!它会自主规划目标、采集资源、合成工具、建造建筑,并实时解说自己的行动。解说内容基于真实的游戏状态(如背包、血量),而非猜测,因此非常准确。结合Baritone寻路系统和自定义Fabric模组,Wallie的操作流畅自然,就像真人在玩。除了视觉和游戏,Wallie还具备听觉功能——它能捕获系统音频并实时反应,包括语音和音乐。通过本地的语音识别和纯NumPy音频分析,它可以判断音乐的情感和风格,甚至能区分不同的乐器质感。视觉和听觉融合成单一反应,不会出现两个“解说员”互相干扰的情况。Wallie的Live2D虚拟形象也非常生动,支持唇形同步、眨眼、情绪表达等多种动画层,让形象看起来更真实。整体而言,Wallie是一个功能全面、高度可定制、真正能陪伴观众的主播AI。它还支持六种LLM提供商、三种TTS引擎和三种聊天平台,用户可以自由组合。无论是完全离线运行还是使用云端服务,Wallie都能适应。它的个性系统不仅包括名字和系统提示,还可以设置能量水平、幽默风格、口头禅、禁忌话题等,甚至可以让它拥有坚定的观点。在长时间直播中,Wallie通过滚动摘要、会话笔记和跨会话记忆来保持上下文一致性,避免内容衰减。注意力引擎和情绪引擎确保了自然流畅的节奏,不会出现生硬的停顿或重复。对于屏幕内容,Wallie能够识别滚动、打字、应用切换等活动,并做出相应的反应。总之,Wallie试图解决现有AI主播的所有痛点,成为一个真正有生命力的虚拟主播。