工作原理严格保密!OpenAI“草莓”项目曝光,推理能力接近人类?内部人士曾警告:可能威胁全人类

追风

  炒股就看金麒麟分析师研报,权威,专业,及时,全面,助您挖掘潜力主题机会!

  每经编辑 孙志成 杜宇    

  新近消息显示,OpenAI正在让人工智能(AI)大模型的能力更加接近类人的推理水平。

  据知情人士和媒体查阅的内部文件,ChatGPT开发商OpenAI正在一个代号为“草莓”的项目中开发一种新的人工智能模型。该项目的细节此前从未被报道过,目前该公司正在努力展示其提供的模型类型能够提供高级推理能力。这位知情人士说,即使在OpenAI内部,“草莓”的工作原理也是一个严格保密的秘密。

  知情人士还透露,该内部文件描述了一个使用Strawberry模型的项目,目的是使该公司的人工智能不仅能够生成查询的答案,而且能够提前做好足够的计划,自主、可靠地在互联网上导航,以执行OpenAI所说的“深度研究”。

工作原理严格保密!OpenAI“草莓”项目曝光,推理能力接近人类?内部人士曾警告:可能威胁全人类 第1张

  OpenAI被问及上述所说的草莓技术时,OpenAI的发言人在一份声明中表示:“我们希望自身AI 模型能够像我们(人类)一样看待和理解世界。持续研究新的AI能力是业界的常见做法,大家都相信这些系统的推理能力会随着时间的推移而提高。”

  虽然该发言人未直接回答有关草莓的问题,但媒体称,草莓项目此前名为Q*。而Q*正是去年被爆出OpenAI CEO突然被解雇宫斗大戏的导火索。

  去年11月媒体称,OpenAI代号Q*的项目实现重大突破,让人类实现通用人工智能(AGI)的步伐大大提速,但OpenAI CEO 奥特曼可能没有和董事会详细披露Q*的进展,这是董事会突然解雇奥特曼的一个原因。OpenAI的内部人士向董事会致信警告,Q*的重大发现可能威胁全人类。

  媒体称,Q*可能具备GPT-4所不具备的基础数学能力,或许意味着与人类智能相媲美的推理能力,网友推测,这可能代表OpenAI朝着其设定的AGI目标迈出了一大步。

  今年3月曝光的一份文件显示,OpenAI计划,在2027年以前,开发出人类水平的AGI。OpenAI 2022年就开始训练一个125万亿参数的多模态模型,该模型名为Arrakis或Q*,原本计划在2025年作为GPT-5发布,但因推理成本高而取消。OpenAI此后计划,2027年发布的Q 2025(GPT-8)将实现完全的AGI。

  人工智能(AI)研究者早就在争论用什么标准判断人类实现了通用人工智能(AGI)。OpenAI最近开发了一套系统,“自定义”AI进化等级,以此追踪开发人类级别AI的进展。

  美东时间7月11日周四,OpenAI的发言人称,OpenAI在本周二的公司全体会议上与员工分享了新的分类系统,计划与投资者和公司外部人士分享这些等级的信息。

  OpenAI的系统划分了五个AI水平,按一到五的数字由低到高排列等级。OpenAI的高管告诉员工,公司认为目前自身产品处于第一级,但即将达到第二级,也就是,可以完成基本问题解决任务的系统,类似于拥有博士学位但无法使用任何工具的人。

  7月11日OpenAI的发言人表示,OpenAI一直在内部测试新功能,这是业内的常见做法。

  对于OpenAI开发AI分级系统的消息,有网友表示,担心AI超越人类可能带来的风险,不知道那对经济和就业有何影响。

工作原理严格保密!OpenAI“草莓”项目曝光,推理能力接近人类?内部人士曾警告:可能威胁全人类 第2张

  今年5月,OpenAI发布新旗舰AI模型GPT-4o。它面向所有用户、包括免费用户,最快232毫秒响应音频输入,平均响应时间和人类相似;相比GPT-4 Turbo速度快两倍,成本降低50%,API速率限制提高五倍。

  上月传出GPT-5可能大幅推迟上线的消息。OpenAI首席技术官Mira Murati称,GPT-5有望在2025年底或2026年初推出。这一发布时间与早期传闻有较大出入,市场曾预测GPT-5可能在2023年底或2024年夏季发布,

  不过,Murati透露GPT-5的性能将迎来重大飞跃,在特定任务中达到博士级智能水平。据悉,GPT-5内部代号为“Gobi”和“Arrakis”,是一个具有52万亿参数的多模态模型,上一代GPT-4参数约为2万亿。这一庞大的参数规模暗示了其潜在的强大能力。

  Murati将GPT-4到GPT-5的进步比作从高中水平到大学水平的跨越,表明新模型在复杂性和能力上将有显著提升。

  美东时间6月27日,OpenAI公布,其研究人员训练了一个基于GPT-4的模型,它被称为CriticGPT,用于捕捉ChatGPT代码输出中的错误。简单来说就是,CriticGPT让人能用GPT-4查找GPT-4的错误。它可以写出使用者对ChatGPT响应结果的批评评论,从而帮助人类训练者在RLHF期间发现错误。

  OpenAI发现,如果通过CriticGPT获得帮助审查ChatGPT编写的代码,人类训练师的审查效果比没有获得帮助的人强60%。OpenAI称,正着手将类似CriticGPT的模型集成到旗下RLHF标记管道中,为自己的训练师提供明确的AI帮助。

  OpenAI称,因为没有更好的工具,所以人们目前难以评估高级的AI系统的表现。而CriticGPT意味着,OpenAI向能够评估高级AI系统输出的目标迈进了一步。

  (文章内容、数据仅供参考,不构成投资建议。投资者据此操作,风险自担。)

  编辑|孙志成 杜宇 杜恒峰

取消
微信二维码
微信二维码
支付宝二维码