科技 > 复旦MOSS大模型拟4月中旬开源 邱锡鹏详解如何构建的细节

复旦MOSS大模型拟4月中旬开源 邱锡鹏详解如何构建的细节

2023-04-09 16:12阅读(106)

由复旦大学管理学院举办的大型语言模型引发的时代变革为主题的复旦科创先锋论坛近日开启,在论坛上复旦大学计算机科学技术学院教授、MOSS系统负责人邱锡鹏详细的

1
由复旦大学管理学院举办的大型语言模型引发的时代变革为主题的复旦科创先锋论坛近日开启,在论坛上复旦大学计算机科学技术学院教授、MOSS系统负责人邱锡鹏详细的讲解大型语言模拟的构造细节,表示现在正在加紧的来研发MOSS系统,将在今年4月份中旬预计开源,还宣称将MOSS系统中文与英文的数据训练公开,截止目前超过200亿的参数,可以具备与人类对话的能力水平,完全能实现与人类相互沟通,并且MOSS系统的语言能力与之前推出的ChatGPT水瓶已经非常的相似,但是就是MOSS系统完整性并不高,主要是在于训练和部署方面的投资受到限制。
一大难题
自从美国OpenAI公司在2022年推出人工智能ChatGPT,仅仅60天内直接使用的用户突破上亿,也是目前为止用户增长最快的应用程序,其主要的功能就是可以与人来进行对话,这是在人工智能技术上最新的一次突破,对此邱锡鹏表示现在我们人工智能的发展遇到一个难题,就是要获取大量的文本数据,这个空间非常的大,解决的方案就是将其概念全部的拆解成每一个词,每一个词的条件概念又需要连乘,才可以降低建立模型的难度。并且如果想要创建一个优质的语言模型,预测的非常的准确,也就是要十分的理解人类世界的语言和常规的知识内容。
建立大型语言模型
邱锡鹏表示在充分的了解ChatGPT之后就可以完全的建立大型语言模型,尝试实现语言的基本,然后不断的强化其功能关键的步骤目前已经十分的明确,每一个步骤的细节需要自己来仔细的探索,在未来充满着很大的挑战性。

相关问答推荐