急缺GPU 拟开源GPT-3 明年开放多模态 严重受限于GPU

近日HumanLoop首席执行官拉扎·哈比比和OpenAI首席执行官山姆·奥特曼等20多位开发者进行一场闭门讨论会，主要是围绕着OpenAI的API相关问题以及产品计划，在讨论当中奥特曼非常肯定的承认目前OpenAI受到GPU的限制，针对于GPT-3 开源计划、当前首要的任务和人工智能对社会影响的问题详细的探讨，奥特曼虽然呼吁大家对AI未来进行监管，但是并不认为现在的模式属于危险的，还表示根据内部数据模型性能和规模成比例的规律仍然存在，也就是说膜性越大性能越强，会继续将模型做得更大，每年的规模增加到1~2倍左右，不是数量级的增加。

严重受限于GPU
讨论会当中主要是反复的强调OpenAI现在非常的受限于GPU，导致很多的短期计划都已经延迟无法进行。近期还收到部分用户的投诉关于API的速度以及可靠性。对此奥特曼非常理解用户的担忧，作出问题的解释，主要是由于GPU资源的短缺。

暂定短期路线图
山姆将API暂定短期路线图分享，明确表示2023年首要的任务是实现更多的便宜，更快的GPT-4，然而在不久的将来很可能达到100万个tokens的上下文窗口，因此就是微调API扩大到最新的模型，但是目前具体的形式需要由开发者来进行决定。总之有状态的API在聊天时使用，需要反复的将相同的对话历史传递，支持相同的tokens，在将来是可以记住有对话历史的API版本。此外奥特曼还指出希望更多的人认为应用程序是在ChatGPT之内，想要的是真正的应用程序，不会发布除ChatGPT以外的产品。

缩放法则有效
奥特曼虽然呼吁大家对AI进行未来的监管，但本身并不认为模式存在危险，认为禁止或监管现在的模式属于一项错误的决定，重生对于开源重要性，表示现在正在考虑对GPT-3到开源，之前没有开源的原因就是公司能力以及没有多少人可以对大型的大语言模型妥善管理。还表示缩放法则仍然有效，对于人工智能的开发时间有着重要的影响。