AI News HubLIVE
站内改写2 分钟阅读

每个亚马逊SaaS都声称使用AI,但真正的训练少之又少

亚马逊SaaS生态中几乎所有工具都标榜使用AI,但绝大多数并不是真正训练了模型。文章区分为规则系统、传统机器学习和LLM API调用三个层级,指出大多数“基于亚马逊数据训练”的声明实际上是提示工程加检索。这种区别对买家评估产品的可靠性、可比较性和持久性至关重要。

来源Hacker News AI作者: claudiuclement

在亚马逊SaaS生态系统中,几乎每个工具都声称使用了人工智能:列表优化器、广告平台、分析仪表盘、评论管理器……“AI”这个词出现在每一个登录页面上,原因很简单:它有助于转化。然而,几乎没有任何工具真正做到了他们声称的事。这并非恶意指控,而是一个已经蔓延成行业性混乱的词汇问题。

作者是一位统计学博士,研究方向是机器学习。他并不批评这些工具使用的具体技术——以下描述的三个层级都可以产出优秀的产品。他批评的是,许多工具用与其实际运作不符的语言来描述自己。

关键词是“我们的AI在亚马逊数据上训练过”或“我们的模型会随着时间学习你的业务”。在技术诚实的使用中,“训练”意味着SaaS公司在自己的数据集上对基础模型(如Llama或Mistral)进行了额外的训练,改变了模型的权重。这昂贵、需要真正专业知识,且在中端市场中罕见。但在营销用语中,“训练”通常指以下之一:编写描述亚马逊的系统提示(基础模型未修改)、构建检索系统在查询时获取历史数据(即RAG),或拥有用户反馈机制以影响未来提示。这些都不是技术意义上的训练。真正的训练产生持久的改进,而基于提示的系统则不然。如果竞争对手明天写一个稍好的提示,他们就能立即匹敌“在亚马逊数据上训练”的工具。

这种词汇问题给买家带来三个实际问题:无法比较产品、无法预测工具在演示之外的行为、无法评估持久性。一个围绕LLM API的包装器没有防御性,任何人都可以构建。如果工具的整个价值是“我们对GPT进行了提示工程以谈论亚马逊”,那么这个价值是脆弱的。

诚实的版本应该是:“我们使用大型语言模型(特别是Claude和GPT)来回答有关您亚马逊业务的问题。我们不训练这些模型。我们建立了一个精心设计的提示系统和检索层,将相关数据拉入每个查询。模型的能力取决于其基础架构,我们通过改进问题结构和发送的上下文来提高结果。”这虽然平淡,但真实。而营销版本“我们的专有AI在数十亿亚马逊数据点上训练,提供无与伦比的见解”虽然卖得更好,但导致买家信任的缓慢消亡。

作者认为,AI一词在SaaS营销中已变得毫无用处。几乎没有任何中小型SaaS训练自己的基础模型,这没问题。三个层级对买家很重要:规则系统、真正的机器学习和LLM API包装器是具有不同特性、故障模式和长期防御性的不同产品。买家应该知道他们得到的是哪一个。

对于评估亚马逊SaaS的买家,有用的问题是:智能是基于规则、机器学习还是LLM?工具是自己训练模型还是调用API?工具出错时会发生什么?对于构建者,有用的问题是:你实际在做什么?能否准确描述?提示工程加RAG是诚实的劳动,就按它来卖。如果有真正的机器学习,就卖那个。如果有规则引擎,就卖规则。所有这些都可以是有价值的产品,但借别人的词汇来推销对谁都没好处。