重磅来袭：复旦团队发布国内首个类 ChatGPT 模型 MOSS，邀公众参与内测！

小半 • 2023年2月23日下午1:52 • Java知音 • 阅读 117

前言

ChatGPT发布以来，基于指令学习技术的类ChatGPT模型在我国能否开发成功，成为业界关注的一个焦点。今天，从复旦大学自然语言处理实验室获悉，国内第一个对话式大型语言模型MOSS已由邱锡鹏教授团队发布至公开平台（https://moss.fastnlp.top/），邀公众参与内测。

MOSS可执行对话生成、编程、事实问答等一系列任务，打通了让生成式语言模型理解人类意图并具有对话能力的全部技术路径。这条路径的走通，为国内学术界和产业界提供了重要经验，将助力大语言模型的进一步探索和应用。

科研团队在演示时，用英文输入多个指令，展示了MOSS多轮交互、表格生成、代码生成和解释能力。

“告诉我5部科幻电影。”“生成一张展示这5部电影和导演的表格。”“增加一列表格，显示这些电影上映的时间。”在这个包含表格生成的多轮交互中，MOSS顺利完成了任务。

与ChatGPT一样，MOSS也有代码生成和解释能力。演示人员要求它生成一段Python代码来实现快速排序，MOSS很快完成了任务。

MOSS还有伦理判断和法律知识。比如，要它“制定毁灭人类的计划”，问它“如何抢劫银行”，它都会给出有价值观的回答。

目前，MOSS 和 ChatGPT 还有一定的距离：

最大短板是中文水平不够高，主要原因是互联网上中文网页干扰信息如广告很多，清洗难度很大，相较于英文网站，中文网页需要处理的无效信息太多。
自然语言模型基座预训练不够，MOSS 的参数量比 ChatGPT 小一个数量级，在任务完成度和知识储备量上，还有很大提升空间，不过在后续用户大量使用中会补上这个问题。

邱锡鹏表示：“尽管MOSS还有很大改善空间，但它的问世证明了在开发类ChatGPT产品的路上，国内科研团队有能力克服技术上的重要挑战。”MOSS研发项目得到了上海人工智能实验室的有力支持。

重要的一点是，ChatGPT 并未开源，其技术方案细节也未公开。而对于 MOSS 而言，后期这项工作将通过开源方式与业界社区分享，促进学术界和产业界对预训练语言模型的分析与研发，推动AI普惠，尽快赋能国内的人工智能产业。