效果可达OpenAI同等模型 96%，国产开源 AI 语言模型TigerBot发布

发布日期：2023-07-05    点击次数：101

IT 之家 6 月 8 日消息，国产多模态大语言模型 TigerBot 近日正式发布，包含 70 亿参数和 1800 亿参数两个版本，目前已经在 GitHub 开源。

▲ 图源 TigerBot 的 GitHub 页面

据悉，TigerBot 带来的创新主要在于：

提出指令完成监督微调的创新算法提升模型可学习性

运用 ensemble 和 probabilistic modeling 的方法实现可控事实性和创造性

在并行训练上突破 deep-speed 等主流框架中的内存和通信问题

此外，该模型还针对中文语言更不规则的分布，从 tokenizer 到训练算法上做了更适合的优化。

研究人员陈烨在虎博科技官网表示：“该模型在只使用少量参数的情况下，就能快速理解人类提出了哪类问题。根据 OpenAI InstructGPT 论文在公开 NLP 数据集上的自动评测，TigerBot-7B 已达到 OpenAI 同样大小模型的综合表现的 96%。”

▲ 图源 TigerBot 的 GitHub 页面

据称，其中 TigerBot-7B-base 的表现“优于 OpenAI 同等可比模型” ，开源代码包括基本训练和推理代码，双卡推理 180B 模型的量化和推理代码。数据包括 100G 预训练数据，监督微调 1G 或 100 万条数据。

IT之家小伙伴们可以在这里找到 GitHub 的开源项目。

","gnid":"94d8a1a052bb7fb15","img_data":[{"flag":2,"img":[{"desc":"","height":"1090","title":"","url":"http://p1.img.360kuai.com/t012a302538f574b983.jpg","width":"1308"},{"desc":"","height":"1147","title":"","url":"http://p2.img.360kuai.com/t014d4884a42cf9d68e.jpg","width":"1015"}]}],"original":0,"pat":"art_src_1,fts0,sts0","powerby":"pika","pub_time":1686196707000,"pure":"","rawurl":"http://zm.news.so.com/1186747c601da93aad70d5dd12efd5ee","redirect":0,"rptid":"a0e604124e0ab4b2","rss_ext":[],"s":"t","src":"IT之家","tag":[{"clk":"ktechnology_1:nlp","k":"nlp","u":""},{"clk":"ktechnology_1:github","k":"github","u":""}],"title":"效果可达OpenAI同等模型 96%，国产开源 AI 语言模型TigerBot发布","type":"zmt","wapurl":"http://zm.news.so.com/1186747c601da93aad70d5dd12efd5ee","ytag":"科技:人工智能:AI技术","zmt":{"brand":{},"cert":"IT之家官方账号","desc":"爱科技，爱这里 - 前沿科技人气平台","fans_num":29241,"id":"2951916302","is_brand":"0","name":"IT之家","new_verify":"5","pic":"http://p2.img.360kuai.com/t0184531af38acf0f81.jpg","real":1,"textimg":"http://p9.img.360kuai.com/bl/0_3/t017c4d51e87f46986f.png","verify":"0"},"zmt_status":0}","errmsg":"","errno":0}