天天视点!OpenAI CEO MIT访谈实录:卷模型规模很难,但垂直微调不是下个风口

2023-05-10 13:13:20| 来源: Web3天空之城|


【资料图】

《AI未来指北》栏目由腾讯新闻推出,邀约全球业内专家、创业者、投资人,探讨AI领域的技术发展、商业模式、应用场景、伦理及版权争议。

编者导语:

在四月中旬,OpenAI CEO 山姆奥特曼在参加MIT的一场名为“想象行动“的活动中曾经提到“我们现在已经接近巨大模型时代的尾声”,引发了AI产业的一系列讨论和怀疑。这家在大模型训练上最成功的公司对模型规模再进一步的否定对于目前摩拳擦掌,要靠卷参数量级卷出一片天的大公司来说都是当头一棒。

但奥特曼说这句话到底是意思?它的上下文和语境是什么?因为没有第一现场的实录,而且在这之后长达一个月的时间里,奥特曼都在专注监管相关的讨论未再发言。这个疑问一直都未解开。

直到5月8日,主办方终于姗姗来迟的放出了这场讨论的全程视频。在这里我们看到的是一个更完整的思维链路,一个正在纠结的奥特曼:他一方面觉得模型规模因为成本,因为基建很难再快速扩张了;另一方面又相信基础模型能力增长带来的效果优于人工微调带来的改变。所以他对于垂直微调的发展基本上没有什么明确的想法和预期。

他不认为模型规模一定能带来最佳的效果。他相信模型能力才是最重要的结果。但目前的能力涌现主要来自于模型规模的现实沉重的摆在这里,下一步应该怎么做,是他,也是所有有志于AI创业的创业者所需要思考的难题。

划重点

1参数规模不成比例地增长,已经接近这些巨大模型时代的尾声。我们需要通过通过其他方式改进基础模型的能力,但基础模型的创建投资金额,可能比1亿美元这样的规模要多得多。2人工微调规模相较于模型参数规模而言提升的较慢,但随着模型越来越好,对微调的需求也越来越小,你可以在上下文中做越来越多的事情。对于LLM模型的进化,他更寄望于范式性的转化。3如何制定商业策略?Sam认为需要一次又一次地进行非常长期的、资本密集型的、困难技术相关的投资。但如何利用像OpenAI这样的平台,构建一个新的、快速增长、有防御能力的消费者企业公司,他还没有想好。4关于“暂停AI发展6个月”的公开信,Sam表示随着AI能力变得越来越强大,安全标准必须提高,但遗憾的是,这封信对于在哪里需要暂停的技术细节是缺失的。此外,OpenAI在距离训练GPT-5还有一段时间。

标签:

猜你喜欢
  • 支付宝能查个人征信吗?支付宝借呗贷款征信可以查到吗?

    支付宝能查个人征信吗?支付宝借呗贷款征信可以查到吗?
    支付宝能查个人征信吗?支付宝可以查个人征信,但不能查中国人民银行...
    2023-04-26 08:21:33
  • 期货模拟交易软件有哪些?股指期货交易方法是什么?

    期货模拟交易软件有哪些?股指期货交易方法是什么?
    期货模拟交易软件有哪些?1、金荣中国APP金荣中国(upwaytrack com ...
    2023-04-07 15:06:57
  • 余额宝收益什么时候到账?余额宝存入几天后有收益?

    余额宝收益什么时候到账?余额宝存入几天后有收益?
    余额宝收益什么时候到账?【1】转入时间为周一15:00(含15:00)~周二15...
    2023-03-23 09:18:51
  • 房贷还满一年退税是什么意思?住房公积金满一年可以贷款吗?

    房贷还满一年退税是什么意思?住房公积金满一年可以贷款吗?
    房贷还满一年退税是什么意思?房贷还满一年可以退税。房贷退税是指进...
    2023-03-09 13:18:16
  • 超龄打工有工伤保险吗?超龄怎么认定工伤?

    超龄打工有工伤保险吗?超龄怎么认定工伤?
    超龄打工有工伤保险吗?根据相关法律法规及司法实践,对于超过法定退...
    2023-02-28 15:30:49
  • 有花呗借呗可以贷款买房吗?花呗会影响征信吗?

    有花呗借呗可以贷款买房吗?花呗会影响征信吗?
    有花呗借呗可以贷款买房吗?有花呗借呗的贷款记录,只要没有逾期情况...
    2023-02-20 10:55:41
  • 七天通知存款是什么意思?七天通知存款可以手机银行支取吗?

    七天通知存款是什么意思?七天通知存款可以手机银行支取吗?
    七天通知存款是什么意思?七天通知存款是通知存款的一种,通知存款是...
    2023-02-17 15:55:01
  • 银行贷款一般几天下来?银行办理信贷多久到账?

    银行贷款一般几天下来?银行办理信贷多久到账?
    银行贷款一般几天下来?正常银行的贷款放款时间,都在7-30个工作日时...
    2023-02-16 09:28:07
  • 公积金提取条件是什么?公积金网上提取流程是怎样的?

    公积金提取条件是什么?公积金网上提取流程是怎样的?
    公积金提取条件是什么?1、购买、建造、翻建、大修自住住房的;2、达...
    2023-02-13 08:55:20
  • 公积金贷款利率和公积金缴纳多少有关吗?公积金贷款利率高吗?

    公积金贷款利率和公积金缴纳多少有关吗?公积金贷款利率高吗?
    公积金贷款利率和公积金缴纳多少有关吗?无关。公积金贷款利率是跟着...
    2023-02-10 11:18:25
  • 最近更新

    |关于我们 |联系我们 |网站地图 |广告服务

    Powered by    www.zbce.cn    中部财经网

    © 2013-2017   联系我们:55 16 53 8 @qq.com

    备案号:京ICP备2021034106号-59