在举办的Baichuan2 Turbo系列API发布会上,百川智能宣布开放了基于搜索增强的Baichuan2 Turbo系列API。通过新增的两款模型“Baichuan2-Turbo-192K”和“Baichuan2-Turbo”,在“支持192K上下文窗口”的基础上,引入了“搜索增强知识库”的能力。
突破性技术:搜索增强知识库
王小川在发布会上宣称,百川智能通过采用长窗口+搜索增强的方式,将大模型获取文本规模提升至“相当于1亿汉字”的5000万tokens,基于192K长上下文窗口的模型能够更为高效地处理文本。模型首先根据用户的提示词,在庞大的文档库中检索出最相关的内容,然后将这些文档与提示词一同放入长窗口,从而在保证推理质量的同时节省推理费用与时间成本。
创新服务:专属知识库功能上线
百川智能宣布,API用户即日起可以上传文本资料,创建“专属知识库”。目前,官网大模型已经支持PDF、Word等多种文本上传以及URL网址输入,用户可通过官网入口体验到经过改进的模型。
百川2 Turbo系列API的这一创新意味着更为灵活和高效的文本处理方式,为用户提供了更为便捷的知识库搭建和搜索增强服务。这一突破性技术的应用将进一步推动文本处理领域的发展。