葡京真人真钱棋牌:为智能情感客户服务提供了良好的支持

用户的表达往往复杂、丰富、多样，这使得客户风险识别中的深度数据分析能力成为一个技术难点。以往采用基于BERT的多层变压器模型，其性能难以满足在线服务低延迟、高吞吐量的要求。

为了解决这个问题，智能情感客服在风险识别模块中引入了经京东AI硅谷研究院优化的更快的变压器模型。这是一种基于BERT变压器单层正演计算的有效的通用模型。通过简单的改造，它可以支持多种变压器结构。

快速变压器模式具有高灵活性，与现有BERT任务高度兼容，易于扩展和维护，部署简单，改进效果明显。

黄Qizhou,京东AI硅谷一个算法工程师研究所负责优化程序,说:“伯特模型在NLP领域有广泛的应用,但其计算复杂度高,参数的数量很大,有困难问题模型和在线应用程序部署和长的响应时间。为了优化推理效果,该行业一直在探索许多不同的解决方案,但是我们发现解决方案并不足以满足实际业务需求的快速计划,还要充分考虑的计算资源,实现成本,和出色的可伸缩性和灵活性和系统维护的复杂性,考虑资源分配的特点,算法积累,针对京东智能对话中心现有的模型裁剪压缩、cuBERT优化、知识蒸馏等推理优化方案
优化后的模型比未优化的伯特模型快5-6倍。该解决方案解决了实际的痛点，产生了良好的业务成果，为智能情感客户服务提供了良好的支持。