2024 高通边缘智能创新应用大赛聚焦不同细分领域的边缘智能创新应用落地,共设立三大热门领域赛道——工业智能质检赛道、智能边缘计算赛道和智能机器人赛道。本文为智能边缘计算赛道冠军项目《端侧大模型智能翻译机》的开发思路与成果分享。
赛题要求
聚焦边缘智能、边缘推理、边缘数据处理等关键技术,参赛者可选择智能摄像头、智慧零售、智慧城市、辅助驾驶、智慧座舱、边端大模型应用等行业进行项目落地。
作品简介
端侧大模型翻译机基于搭载阿加犀边缘智能工具链的高通开发板,实现了支持多语种的离线语音识别和翻译,提升用户体验和隐私保护水平。
凭借大模型积累的行业翻译数据与专家知识,能更好地将专业术语和复杂名词准确表达,提升了翻译效率,更好地满足不同语言用户的需求,进一步扩大了应用场景。
项目驱动力
⚪技术推动:深度学习和神经网络等先进技术的应用不断演进,为语音识别和翻译等功能的性能提升提供了巨大空间,加之端侧模型部署与优化技术的不断发展,使得离线语音识别应用能够实现更高的准确率和响应速度。
⚪平台支持:芯片的运算能力也在不断提升,特别是类似高通QCS6490平台这样的高性能、低功耗芯片,为离线语音识别技术的发展提供了强大支持,为离线翻译领域带来了新的发展机遇。
⚪市场需求:目前行业的不管是耳机还是手持形态产品,识别和翻译的服务应用依然是云端为主,这天然就受到网络等其他因素的影响,参赛团队希望利用内部掌握的技术将模型和推断进行优化,实现纯离线应用,不仅可以避免网络的影响,也能保护用户的隐私,为用户提供更加安全、高效的语音交互体验。
项目优势
⚪平台优化:基于阿加犀边缘智能工具链,在高通QCS6490平台上进行端侧模型的部署与优化,使得系统在低功耗、高性能的环境下运行更加稳定。
⚪隐私保护:所有语音数据均在本地处理,避免了数据上传至云端的隐私风险。
⚪高效交互:由于无需网络连接,系统响应速度更快,用户体验更佳。
⚪高性能体验:领先的RNNVAD 人声识别自动断句算法,经过智能训练后只识人声,在噪音环境下断句更精准,离线语音识别率平均大于90%,个别语种可以达到在线引擎的性能,翻译更高效准确。
⚪多语种支持:支持数十种语言与地区口音的识别和翻译,满足不同行业、垂直专业领域等不同场景中的用户需求。
⚪多场景应用:适用于跨国家庭、旅行旅居、教育、跨国商务应用、大型国际活动等多种场景中。