logo

  • WhatsAPP
  • APP
  • 首页
  • 要闻
  • 快讯
  • 分析
  • 交易商
  • 股市
  • 商品
  • 外汇
  • 日历
  • 行情
  • 视频
  • 百科
  • 活动
qr code
打开APP,看你感兴趣的资讯
请选择下载方式
empty
Hawk Insight Google Play
empty
Hawk Insight APK
取消
确定

阿尔特曼遭流放真相曝光 神秘算法Q*为何被视为人类威胁?

在ASI的能力完全实现的前提下,AGI模型理论上可以执行人类所能够完成的任何智力任务,这也是许多人工智能专家所警告的潜在威胁。

OpenAI的宫斗大戏以山姆·阿尔特曼(Sam Altman)的回归告终,但在OpenAI内部,围绕阿尔特曼被解雇的真相也逐渐浮出水面。

OpenAI曾召开秘密会议讨论阿尔特曼去留

11月22日,消息人士指出,在OpenAI董事会决定流放阿尔特曼的四天之前,有几位公司的资深研究人员曾致信董事会,警告了一项强大的人工智能发现。他们称,这一发现可能会威胁人类。

阿尔特曼

于是,董事会组织了一场秘密谈话,在谈话中,研究人员们表达了对人工智能取得潜在突破的担忧。他们认为,OpenAI的首席执行官阿尔特曼在不仅这项研究中故意隐瞒了项目推进的速度,不仅如此,阿尔特曼的其他行为也严重违背了OpenAI的初衷,包括将人工智能新技术过早商业化、在公司的重大战略问题上固执己见等。

事后多方猜测,正是在这次秘密会议上,董事会下定决心解雇阿尔特曼,原因是以上种种指控正好和董事会在解雇阿尔特曼时所说的“在与董事会沟通时没有始终保持坦诚”相对应。

Q*在特定方面已经优于人类

根据OpenAI的内部人士透露,这项曾直接导致阿尔特曼离任的人工智能的技术代号为Q*。

关于Q*是什么,目前总共有三种解释。第一种解释认为Q*可能为Q-Learning(Q学习)的同义词;第二种解释认为Q*是OpenAI借助Q学习算法打造的新模型的代号;第三种解释则认为Q*仅仅是一个OpenAI内部的项目名称。

Q*

内部人士还称,Q*的最大特点是,在大多数需要考量经济意义的任务中,Q*的表现要优于人类。例如,Q*很可能善于解决复杂的多阶段问题,即动态规划方程。通常在该方程中,运行算法的人(或计算机)可以输入一个目标函数,例如“旅行时间最短、成本最低、利润最大、效用最大”等。然后,算法将决定采取何种最佳行动来实现预期结果。

目前,Q*凭借OpenAI所掌握的海量计算资源,已经能通过内置模型解决某些数学问题,并且在特定方面已经表现出能够优于人类自主系统的特性。消息人士称,在阿尔特曼被解雇之前,OpenAI在内部对Q*进行了演示,显示Q*已经能够解决小学程度的数学问题。即使在目前阶段,似乎Q*能解出小学题并没有什么特别之处,但是研究人员对Q*在现阶段取得的进展已经十分满意,并对其未来的成功表示十分乐观。

Q*或将在未来进入人工超级智能

Q*的出现可能标志着OpenAI的研究水平已经触及了下一个层级。

一般来说,在生成式人工智能的领域,对于同一个问题可能有多种答案——大模型会通过各式各样的统计和预测来为用户进行写作和语言翻译。然而,在Q*的数学推理模式下,一个问题只会有一个答案,这大大压低了人工智能交互发散的概率。评论称,Q*“掌握唯一的答案”这件事表明,人工智能将更有可能像人类一样进行推理,并且推理的产出将更加严格。

目前,已经有媒体在讨论Q*是否能在未来步入ASI (人工超级智能)的范畴。ASI的概念暗示着人工智能已经拥有接近人类智能的推理能力,能够像人类一样理解、学习和应用自己的知识,甚至可以在各种情况下代替人类。并且,在ASI的能力完全实现的前提下,AGI模型理论上可以执行人类所能够完成的任何智力任务,这也是许多人工智能专家所警告的潜在威胁。

阿尔特曼

就在被解雇之前,阿尔特曼曾在公开活动中表示:“在OpenAI的历史上,我们已经取得了4次突破,最近一次是在过去的几周里。”

目前看来,这所谓的“第4次突破”,很可能指的就是Q*的出现。

免责声明:本文观点来自原作者,不代表Hawk Insight的观点和立场。文章内容仅供参考、交流、学习,不构成投资建议。如涉及版权问题,请联系我们删除。