这类语音不该触发即时答复：当系统无法把农药问题可靠匹配到经专家审查的答案时，最安全的结果是明确表示无法确认，并转交指定的农业推广人员。几秒钟的等待会打断对话，未经核实的剂量、复耕间隔或采收前间隔却可能伤害农户、家人和作物。
1983年9月26日，莫斯科附近的谢尔普霍夫十五号预警中心显示，美国发射了一枚洲际弹道导弹，随后又显示四枚。值班军官斯坦尼斯拉夫·彼得罗夫面对的系统不是模糊提醒，而是最高等级的警报。
他没有立刻把警报按真实袭击上报。卫星信号与其他信息并不吻合，而且五枚导弹也不像他预期中的全面核打击。彼得罗夫将其判断为误报。后来确认，卫星把云层上的阳光反射误判成了导弹发射。BBC在彼得罗夫去世后的报道中回顾了这次事件，以及他在信息不足时没有把机器输出当成事实的决定。
AgriVoice面对的风险小得多，判断原则却相同：高风险系统收到一个看似明确的信号时，不能因为用户正在等待，就把置信不足包装成确定答案。
一条可可农药语音会经过什么
设想一位阿散蒂地区的可可农户在田边按住手机，用阿散蒂契维语录下一段语音。他提到叶片症状、某种药剂，也可能夹杂一个英文商品名，然后问：“现在该喷多少？喷完多久能再进田？离采收这么近还能用吗？”
语音首先要被识别成文字。这里已经可能出错。风声会遮住音节，商品名可能不在模型熟悉的词表里，契维语和加纳英语的混用也可能改变意思。
接下来，系统不会临时撰写农艺建议。AgriVoice只能从已经审查的内容块中选择答案。这一限制很重要，因为机器翻译曾把契维语中的“可可”变成“鸡”。一句话可以语法流畅、声音自然，同时把问题带到完全错误的领域。
如果转写结果能清楚对应某个经审查的病害或田间管理内容，系统可以朗读该内容。如果问题涉及农药，门槛更高。剂量、再次进入田间的间隔、采收前间隔以及必要的防护提示都必须有依据。缺少任何一项，那个内容块就不能被当作完整答案使用。
安全的非匹配不是失败
真正危险的瞬间，往往不是系统完全听不懂，而是它听懂了一部分。
假如模型识别出了农药名称，却没有识别出作物阶段；或者找到了一个治疗相似症状的内容块，却无法确认是不是同一种病害。此时返回“最接近”的答案，看起来比沉默更聪明，也更快。对农户而言，清晰的声音很容易被理解为确定的指导。
AgriVoice应当在这里停下来。它可以说明当前无法从已审查内容中确认答案，保留原始问题和转写结果，再交给试点伙伴指定的农业推广人员处理。对于农药问题，这比补全一个听起来合理的剂量更有价值。
这也是为什么试点的“成功回答率”把正确转交人工计算在内。目标不是让机器回答每一个问题，而是让每个问题得到安全处理。任何未经审查的农药指示传到农户耳中，都足以触发停止或重新设计。
另一篇文章从六道安全关口拆解了同类问题，可参阅[Kofi的农药问题：六道关口决定一家人的安全](/blog/zh-CN/kofi-s-pesticide-question-six-gates-decide-his-family-s-safety-ec4a30ca/)。
速度必须排在确认之后
语音产品很容易把响应时间当成最直观的成绩。AgriVoice的试点确实会测量端到端延迟，并以中位响应时间低于八秒为目标，但人工升级不计入这个即时指标。这个区分承认了一件朴素的事：低风险、已匹配的问题值得快速回答，高风险、无法确认的问题需要换一条路径。
实际评估也不能只看选中了多少正确内容块。还要检查系统是否多选了不安全内容，能否识别超出范围的问题，是否在该转交人工时及时转交，以及真实农户语音经过识别后，结论是否仍然成立。
彼得罗夫面对警报时，没有因为系统先给出了结论，就跳过不一致的证据。农户发来的农药语音也应得到同样严谨的处理：匹配不到经过审查的完整答案，就不要让合成语音替不确定性披上一层权威。
给高风险语音流程设一条硬边界
设计这类系统时，可以先写下一条无法被速度指标覆盖的规则：没有可靠匹配，就没有即时建议。
然后让产品明确区分三种结果。第一种是匹配到经审查内容并正常朗读。第二种是信息不足，要求用户补充关键事实。第三种是涉及农药或其他高风险内容，系统无法确认，于是转交有姓名、有职责、有响应要求的人。
这条边界会让部分对话变慢，也会让演示少一些“无所不答”的效果。换来的却是可以检查的责任链：农户听到的每一句具体指导，都能追溯到经翻译人员和农业专家审查的内容；系统不知道时，也有清楚的下一步。
评论
暂无评论。