
Taxbit Assist将来源引用、权限控制与在线评估结合起来
Taxbit Assist是嵌入Taxbit仪表板的人工智能助手。按照Taxbit的说明,它能够在回答中提供来源链接,并在使用能力时考虑权限,其底层建立在Amazon Bedrock AgentCore之上。更具体地说,它是一套使用Strands Agents SDK构建、运行于AgentCore runtime的应用。这个定位意味着,系统并不只是把聊天界面连接到模型,而是把输入检查、知识检索、对话记忆、身份上下文、工具调用和线上质量评估组织成相互区分的环节。理解这些环节及其边界,才能准确理解Taxbit所说的“带引用且感知权限”的含义。
模型生成之前先处理输入风险
用户消息进入系统后,首先接受Amazon Bedrock Guardrails筛查。消息中能够识别个人身份的信息会在原位置被遮蔽;如果消息被规则阻止,系统不会调用模型。这里的先后顺序十分重要:安全判断发生在模型生成答案以前,而不是等模型处理完内容后再补做检查。因而,在这道边界被拒绝的消息不会继续进入模型阶段。这项描述既说明了筛查的位置,也明确了被阻止输入的处理结果。
身份的处理同样被放在模型控制范围之外。一个受到信任的调用服务负责提供用户电子邮件地址、组织标识符和角色,并在模型看到这些信息之前,把它们绑定到相关工具中。模型不负责处理或选择用户身份,也不能在对话中自行决定调用者属于哪个组织或拥有哪种角色。涉及权限的工具行为依靠可信调用服务给出的上下文,而不是依靠模型在对话中生成的身份声明。由此,身份来源与模型生成被明确分离,权限判断也有一个预先确定的上下文基础。
检索和重排为回答提供依据
对于通过检查的请求,代理会从Amazon Bedrock Knowledge Bases知识库中检索相关段落,该知识库由Amazon S3 Vectors提供支持。初步取回的段落还会经过重新排序,以便按照相关程度组织结果。之后,系统以流式方式输出答案,并同时提供来源链接。这个过程把回答与检索所得材料连接起来,使来源链接成为答案交付的一部分,而不是与回答无关的附加说明。
AgentCore memory负责让对话跨越多个轮次。后续问题因此可以延续已经开始的交流,而不必总被视为完全孤立的新提示。这里的记忆功能与知识检索承担不同任务:记忆维持会话轮次之间的连续性,知识库则提供可供检索和重排的内容。两者在同一回答流程中协作,但不能混为同一种能力。
知识库摄取三类材料:已经发布的内容、从代码衍生的内容以及经过策划整理的内容。它使用Cohere Embed English v3生成一千零二十四维的float32向量,并通过余弦距离进行比较。这些参数具体描述了Taxbit Assist所采用的知识表示与比较方式。它们只适用于这里陈述的实现,不能据此推断其他代理、其他知识库或其他部署会采用相同配置,也不能把Taxbit报告的结果推广为普遍表现。
让每个文本块保留文档范围
Taxbit采用了语义分块,并在分块之后执行Lambda转换。该转换会在每个文本块前面加入原文档的标题和开头段落。这样一来,当文本块进入向量索引时,它携带的不只是局部段落本身,还包括说明原文档范围的基本上下文。这个处理针对的是分块后的表示:即便检索单位只是文档中的一部分,它仍然保留来自同一文档的标题和导语。
这一设计可以从信息组织的角度理解。语义分块决定内容如何被划分,分块后的转换则为每个划分结果补入文档级线索,向量索引保存经过处理的单元。检索发生时,代理面对的不是完全失去出处范围的孤立片段,而是带有标题和开头段落的片段。不过,事实材料只说明了Taxbit采用这种方式,不能进一步声称它在所有问题上必然产生某种幅度的质量提升。
当前访问能力有清晰限制
在所描述的版本中,代理没有读取客户税务数据的权限。它能够执行的写入操作只涉及调用者本人的支持工单。这两项限制共同界定了系统当前能够接触的数据和能够改变的对象:一方面,它不能读取客户税务数据;另一方面,它的写入范围不是任意客户记录,而是调用者自己的支持工单。
因此,不能把这套架构描述成已经能够查询客户报告数据的产品能力。权限感知并不等于拥有所有数据访问权;恰恰相反,权限感知也体现在系统明确没有哪些权限。对读写边界的准确表述很重要,因为来源引用、身份绑定和工具控制并不会自动扩大代理的数据范围。当前版本的能力必须依照已说明的读写权限来理解。
区域推理与客户密钥加密
系统使用带地理区域前缀的推理配置文件,使面向欧盟的推理保留在欧盟范围内,使面向美国的推理保留在美国范围内。这项安排描述的是推理发生的地域边界。它与身份绑定属于不同控制面:前者约束推理区域,后者规定用户身份、组织和角色如何进入工具环境。
对于自带密钥的账户,对话历史以及其他存放客户数据的存储区使用客户自己的AWS KMS密钥进行加密。这里涉及两个明确要素:适用对象是自带密钥账户,保护对象包括对话历史和其他客户数据存储区。区域化推理、客户密钥加密与可信服务提供身份并非同一机制,但它们共同构成Taxbit所描述的架构约束。准确介绍时,应分别说明每项控制解决的范围,而不把其中一项夸大为对全部环节的替代。
从真实会话中抽样评估
AgentCore在线评估会抽取百分之十的真实线上会话。评分维度包括有用性、有害性、连贯性、指令遵循情况、工具选择准确性以及工具参数准确性。前四类指标主要观察回答内容及其行为特征,后两类指标则直接检查代理如何选择工具以及如何填写工具参数。因此,评估范围不仅覆盖最终呈现的文字,也覆盖产生结果过程中与工具使用有关的决策。
百分之十描述的是线上会话的抽样比例,并不意味着所有会话都以同样方式进入这套在线评分。列出的六个维度也展示了评估对象的不同层面:回答是否有帮助、是否有害、是否连贯、是否遵循指令,以及工具和参数是否选得准确。文章能够确认的是Taxbit所述的抽样方式和评分项目,不能从中额外推导未经提供的分数、改进幅度或与其他系统的比较结果。
Taxbit报告的生产使用情况
Taxbit表示,Taxbit Assist自二零二六年五月起已在美国和欧盟投入生产。根据Taxbit内部的生产分析,在向助手提出一个问题的用户中,超过百分之五十五会在二十四小时内回来提出另一个问题。这个数字反映的是Taxbit对其自身生产环境的内部统计,不能被解释为独立确认的行业结论,也不能推广成其他人工智能助手的用户行为规律。
Taxbit还报告称,每次对话的平均模型成本低于二十美分,大约四分之三的输入令牌由缓存提供。这两项数据同样属于公司针对该部署给出的数字。缓存比例描述输入令牌的服务方式,平均模型成本描述该系统报告的每次对话模型支出;二者可以共同帮助理解Taxbit所陈述的运行情况,但不能转化为其他架构、地区或工作负载的成本承诺。
用户回访比例、模型成本和缓存比例需要与其来源一起阅读。它们来自Taxbit内部生产分析或Taxbit的报告,而不是对多个系统进行的外部比较。谨慎的表达方式是把这些数字归于Taxbit,并限定在Taxbit Assist这一具体部署中。相同原则也适用于生产地区和上线时间:可以陈述公司所说的美国、欧盟和二零二六年五月,但不应在事实材料之外增加覆盖范围或效果判断。
一条由多个控制点组成的处理链
综合来看,Taxbit描述的是一条具有明确控制点的处理链。消息先经过Guardrails筛查,个人身份信息在原处被遮蔽,被阻止的消息不会调用模型。可信调用服务提供电子邮件地址、组织标识符和角色,并把这些身份值预先绑定到工具。通过检查的请求进入知识检索,相关段落被取回并重新排序,答案随后以流式方式连同来源链接交付,而AgentCore memory维持多轮对话的连续性。
知识侧也有自己的处理链:发布内容、代码衍生内容和策划内容进入知识库;Cohere Embed English v3生成一千零二十四维float32向量;余弦距离用于比较;语义分块确定检索单元;分块后的Lambda转换再为每个单元加入文档标题和开头段落。线上运行之后,百分之十的真实会话被抽样,并按照回答质量、指令遵循以及工具选择和参数准确性等维度接受评估。
这套说明的重点不仅是代理能够生成什么,也包括它不能访问什么以及控制信息来自哪里。当前代理不能读取客户税务数据,写入只涉及调用者本人的支持工单;模型不选择身份,身份来自可信调用服务;欧盟和美国推理各自保持在对应区域;自带密钥账户使用客户AWS KMS密钥保护对话历史和其他客户数据存储区。把这些限制与检索、引用、记忆和评估一起观察,才能完整呈现Taxbit Assist在所述版本中的架构,而不会把计划外或尚未陈述的能力误写成现有功能。