审计总长严厉批评CRA：引入AI前必须先修复...
人工智能领域专家表示，当加拿大税务局(CRA)的人工呼叫中心员工仍难以提供准确答复时，就依赖人工智能来帮助纳税人解决税务问题是存在风险的。
周二，联邦审计总长Karen Hogan发表了一份措辞严厉的报告，指出CRA不仅接听的来电数量极少，而且即便接通，关于个人所得税的电话咨询中，仅有不到五分之一的来电者能从真人客服处获得准确答案。
Hogan发现，基于规则的人工智能聊天机器人“Charlie”提供正确信息的比例约为三分之一。
CRA目前正在试行生成式AI版本，并通过延长服务时间和扩大可解答问题范围来扩大聊天机器人的使用。
加拿大隐私保护数字技术研究主席Anatoliy Gruzd表示，CRA在依赖人工智能之前，必须先确保人工服务环节的正确性。
他说：“如果你是一个政府机构，在推出聊天机器人前，你必须确保人工客服的流程已经完善。”
Gruzd解释说，聊天机器人的表现取决于人工客服提供的准确信息。
他说：“我认为回到基础问题，先弄清楚为什么人工客服会答错一些问题，是在开展任何重大AI项目之前的关键步骤。”
卡尔顿大学人工智能治理专家教授Adegboyega Ojo表示，如果经过谨慎开发，AI技术可以得到更好的利用。
Ojo研究如何在政府中安全、有效地使用人工智能的技术机制，他建议CRA采用“人机结合”的模式——让机器处理常见问题，而将复杂或需要判断的问题交由人工专家解决。
Ojo说：“无论是否谈到人工智能，作为公务员，你都必须接受良好的培训。但当任务复杂、需要大量记忆与规则知识的认知负担时，这正是机器的用武之地。”
Ojo指出，AI可以减轻CRA员工在高通话量下的负担，但强调人工员工依然是不可替代的。
他说：“再先进的聊天机器人，也可能因为缺乏上下文而出错。我认为部署AI系统的理想方式是始终保持人工监督，这正是确保问责的关键所在。”
渥太华大学Telfer管理学院副教授Jasmin Manseau表示，当前的人工智能在预测型任务上表现优于判断型任务，但仍可能出现机器错误。
他说：“这取决于任务类型。对于例行性任务，确实可以自动化，但可以说，并非所有任务都能如此。”
他认为，政府使用AI对科技进步至关重要，但公众信任是成功的前提。
Manseau说：“如果系统准确，人们信任它，他们就会使用它，也会提供更好的反馈。我们必须让准确率达到70%、80%、甚至90%的水平。”
