360公司创始人周鸿祎最近透露,即将开源360智脑7B,这是一个参数达到70亿的大型模型,支持长达360k(50万字)的文本输入。这一举动标志着大型模型领域的又一次重大进展。
支持长文本能力的重要性
周鸿祎表示,随着大型模型对文本长度的要求不断提高,100万字很快将成为标配。他强调了开源的重要性,认为开源能够避免重复造轮子,同时也是对开源理念的信仰。
智脑7B的应用场景
360智脑长文本能力已经应用于360AI浏览器等产品中。周鸿祎还特别提到了小型模型的优势,认为它们在速度、用户体验和性价比方面更具优势。
360AI浏览器的功能
目前,360AI浏览器已经向用户免费开放了支持100万字长文本处理的功能。它支持处理网页、中英文论文等各种常见文档,以及音频和视频,可以帮助用户自动生成摘要、思维导图等。
行业竞争与发展趋势
此前,支持20万汉字输入的模型Kimi备受关注,国产大型模型也相继加入了长文本处理的竞争。百度文心一言计划在下个月升级版本,开放200万至500万字长文本能力;360智脑开始内测500万字长文本,即将在360AI浏览器中上线;而阿里通义千问也宣布免费开放1000万字长文档处理功能。
360智脑7B的开源将为人工智能领域带来更多的创新和进步,助力大型模型在长文本处理方面取得新的突破。