智能客服软硬一体解决方案
在本次与新华三联合推出的智能客服软硬一体解决方案中,适配DeepSeek系列模型,基于其“长思维链”,能够在多轮对话和复杂任务中保持连贯的思维过程,逐步推理和解决问题。例如在银行客服场景中,当用户需要完成一个复杂的贷款申请流程,DeepSeek模型可以将这一流程分解为多个步骤(如身份验证、收入证明、信用评估等),并逐步引导用户完成每个步骤。在用户咨询多个相关问题时,得益于超长上下文及思维链能力,该模型能够记住之前的对话内容,并根据上下文提供连贯的回答。此外,中科金财通过特定领域微调,进一步提升用户意图识别、用户画像定位等能力,提升用户体验和办事效率。通过引入多Agent架构,结合自研的智能路由与优先级排序模型,实现对客服业务的智能化管理。在遇到需要人工干预的客服问题时,AI Agent可根据客户问题的复杂性和历史数据,将问题分配给最合适的客服人员或部门,通过分析客户情绪和问题紧急程度,AI Agent能优先处理高优先级问题,确保重要问题得到及时解决。且该解决方案支持知识库实时更新,减少人工维护成本,实现效果与性能的双重领先。
在硬件方面,该解决方案基于新华三全国产大模型训推旗舰H3C UniServer R5300/R5500系列打造而成,支持业界领先的国产AI加速卡,提供多种灵活的GPU拓扑架构,拥有广泛的模型兼容性,兼容超过200个主流AI模型,涵盖计算机视觉、自然语言处理等领域,提供从训练、微调到推理的全流程算力支撑。
?
中科金财的技术优势与模型能力
中科金财拥有完善的模型“选、评、用”体系,定期对国内外前沿大模型进行评测,并根据业务场景需求,更新适配最新、最优的模型接入解决方案,目前已接入包括DeepSeek系列、阿里Qwen2.5系列、Meta Llama 3、谷歌Gemini-2.0系列、OpenAI GPT系列、生数科技Vidu、字节豆包、腾讯Hunyuan-Large、百川Baichuan3-Turbo、智谱清影及GLM-4系列、MiniMax-01、Mistral Large、上海人工智能实验室书生20B、面壁智能CPM系列等在内的30余款国内外模型。
中科金财结合过往在金融、电商、微短剧等行业的数据积累,采用多专家模型(MoE)框架,并利用剪枝、量化、蒸馏等技术优化适合不同业务场景的垂类模型。例如,针对智能客服场景的高响应时间问题,通过量化分析发现问题根源,如模型参数量过大,采用模型剪枝或量化技术进行优化;针对多轮对话问题,通过增加任务相关的训练数据或改进微调模块,优化LoRA微调模块的权重分配。再通过基础设施优化、底层算子优化等进行调优及适配,以保证为客户提供低成本、高性能解决方案。
智能客服软硬一体解决方案能够提升客户服务效率,降低运营成本,解决业务场景中的痛点,降低客户运维复杂程度。除智能客服场景外,中科金财部分其他金融AI解决方案也已接入DeepSeek模型,目前在授信报告生成、文档审核等场景正在进行POC测试。在多模态AI方面,中科金财的多场景多基座大模型引擎也已接入DeepSeek模型,探索应用于微短剧、金融等领域。未来,中科金财将与更多生态伙伴携手,共同推动技术的进步与落地,助力客户实现智能化转型。