Hinton签署联名信,公开抵制OpenAI重组!10名前OpenAI员工也参与了

Hinton签署联名信,公开抵制OpenAI重组!10名前OpenAI员工也参与了

编辑:桃子

【导读】日前,诺奖得主、AI教父Geoffrey Hinton联合10名前OpenAI员工及其他业内人士联合发表公开信反对OpenAI的重组计划,理由非常直接:OpenAI违背了他们的慈善宗旨,即确保AGI的安全开发和造福人类。

在刚刚签署的公开信中,Hinton表示,OpenAI独特的非营利法律结构是防止商业利益凌驾使命的保障,重组将削弱公众利益的保护机制,违反公司章程,构成对其非营利责任的威胁。

他们在公开信中呼吁:要求OpenAI解答根本问题OpenAI并未公开解释其拟议的重组将如何推进该非营利组织的慈善目标,即安全地开发AGI,造福人类。它也没有充分解释,为什么CEO奥特曼在国会作证时所强调的治理保障措施在2023年对OpenAI的使命至关重要,却在2024年却成为了其使命的障碍。

确保非营利组织保留控制权,从而保护慈善信托和宗旨。要求OpenAI停止重组,并保护治理保障措施(包括非营利组织的控制权),OpenAI领导层一直坚称,这些措施对于「确保其继续专注于其长期使命」至关重要。

公开信签署者名单如下:

Hinton签署联名信,公开抵制OpenAI重组!10名前OpenAI员工也参与了

公开信链接:https://notforprivategain.org/

为何阻止OpenAI重组?

想要理解OpenAI的慈善宗旨:非营利控制为何能保护使命,我们可以先理解OpenAI所说的「AGI」是什么意思。OpenAI将AGI定义为「一种高度自主的系统,在最具经济价值的工作上表现优于人类」。

而另一方面,OpenAI警告称,「AGI还会带来严重的滥用风险、重大事故和社会混乱。失调的超级智能AGI可能会对世界造成严重伤害。」奥特曼和OpenAI的高级员工此前与Hinton在内的数百人一起签署了一份声明,该声明指出,「缓解AI灭绝的风险应该是全球优先事项,优先于其他社会规模的风险,如大流行病和核战争。」

OpenAI的成立目的即是因为担忧一家营利性公司开发AGI。为了实现其使命,同时避免成为另一个以利润为导向的谷歌竞争对手或对尖端AI没有直接影响力的学术安全实验室,OpenAI尝试构建AGI。为了确保他们在构建AGI的竞赛中的动力永远不会损害他们的使命,他们注册为非营利组织,并在法律和结构上将构建AGI的目标置于使命之下。

2019年,OpenAI决定,除了作为一家非营利性非股份公司所能筹集的捐款和债务资本外,还需要筹集股权资本。为了在保持其使命优先地位的同时实现这一目标,OpenAI成立了一家受控的营利性子公司。通过这家受控子公司「OpenAI-profit」,OpenAI将向寻求回报的投资者筹集资金。然而,新的营利性实体将是原非营利组织「OpenAI-nonprofit」的子公司,原非营利组织将保留其信托责任,将慈善事业置于首位。

拟议的重组将颠覆OpenAI的慈善使命。OpenAI近期宣布,计划再次进行重组,据称是为了满足投资者简化资本结构的需求。根据这项新的重组方案,OpenAI-profit将转型为特拉华州的一家公益公司「OpenAI-PBC」。届时,OpenAI-PBC将「运营和控制OpenAI的运营和业务,而该非营利组织将聘请领导团队和员工,在医疗保健、教育和科学等领域开展慈善事业」。OpenAI-nonprofit的「对现有营利性组织的重大权益将以PBC股份的形式持有」。

通过取消非营利组织的控制权,拟议的重组将消除OpenAI一直坚称对其慈善宗旨至关重要的大部分治理保障措施。而且,任何金额都比控制一家全球领先的AI公司更能促进OpenAI非营利组织的慈善宗旨。

OpenAI公开的重组理由是,其优先考虑竞争优势而非慈善宗旨,且未能阐明放弃非营利组织控制权如何与其使命相兼容。尽管OpenAI目前的架构可能存在局限性,且竞争定位可能间接支持其使命,但任何拟议的解决方案都必须在不损害核心原则的情况下,针对实际缺陷进行量身定制。

OpenAI尚未公开证明,其重组对使命的所谓益处如何大于拆除旨在确保OpenAI忠于其使命的保障措施所带来的巨大风险。非营利组织可能因失去控制权而一无所获。

如何阻止OpenAI重组?

公开信中写道,「我们恳请Bonta和Jennings总检察长采取以下行动…」即上述提到的「要求回答基本问题」和「确保非营利组织保留控制权,保护慈善信托和宗旨」。

1.OpenAI需要回答哪些基本问题

OpenAI尚未公开回答有关重组的一些基本问题。他们敦促总检察长调查以下问题:

1)董事会决定的理由

  • 取消非营利组织的控制权是推进OpenAI慈善目标的最佳途径吗?如果是,为什么?做了哪些分析,又考虑了哪些替代方案?

  • 2023年5月,奥特曼在国会作证时表示,OpenAI的治理「确保其始终专注于其长期使命」。他当时提到的许多(如果不是全部)保障措施,在拟议的重组方案下都将不复存在。2023年5月至2024年9月之间发生了什么变化,以至于对OpenAI使命至关重要的保障措施反而变成了障碍?

  • 奥特曼曾多次表示,营利性机构会给试图构建AGI的组织带来不良激励。现在情况不是这样吗?如果是这样,原因是什么?

  • 投资者压力对重组决策有何影响?董事会是否正式批准了一轮包含以重组为条件的投资?如果是,董事会提供了哪些信息来支持其批准?

2)利益相关董事的参与

  • 哪些现任董事已经参与或计划参与有关拟议重组的决策,哪些(如果有)没有参与,以及各自有哪些潜在的利益冲突?

  • 根据拟议的重组,任何董事是否会获得OpenAI-PBC的股权、额外股权或其他直接或间接个人利益?

3)OpenAI提出的重组计划

  • OpenAI-PBC的治理结构是怎样的?谁会加入这个致力于构建AGI的实体的董事会?

  • OpenAI-PBC需要什么样的架构来保证其行动符合其使命,即确保AGI的安全开发并造福全人类?具体来说,他们将采取哪些保障措施来确保其发布的AI系统是安全的,并且AGI的收益能够惠及全人类,而不是优先惠及投资者?

  • 如果OpenAI-PBC采取明显对人类有害的行动,谁能采取补救措施?

  • OpenAI-PBC是否会重新承诺章程中的原则,包括承诺停止与接近构建AGI的使命一致的组织竞争并为其提供帮助?

  • OpenAI的立场是否是,其他前沿AI公司的目标与OpenAI不一致?OpenAI的立场是否是,如果任何一家公司抢在OpenAI之前开发AGI,人类的利益就会受到威胁?如果是这样,OpenAI的立场又有何依据?

  • 新投资者的利润是否仍会受到限制?超过上限的利润还会归OpenAI-nonprofit所有吗?过去投资者的利润上限会被取消吗?利润上限结构的任何变化将为非营利组织带来什么价值?所有关于超过上限的利润预期值的内部分析都应被要求提供。

  • 如果OpenAI构建了AGI,谁将拥有并控制它?微软对AGI的知识产权是否与 OpenAI现有AI系统的知识产权相同?

2.OpenAI需要保护最初的慈善宗旨

他们呼吁不要让OpenAI的重组按计划进行。他们敦促总检察长通过保留OpenAI和奥特曼反复声称对其使命至关重要的核心治理保障措施来保护OpenAI的慈善宗旨:

  • OpenAI的领导层(试图构建AGI的实体)应该对使命负有信托责任:确保 AGI安全开发并造福人类。

  • 除了使命之外的所有目标——包括利润和赢得AGI竞赛——都应该服从于使命。

  • OpenAI将使命放在首位的义务必须至少由总检察长、董事和对此事有特殊利益的各方依法强制执行。

  • 投资者的利润应该继续受到限制,超过限制的利润应该专门直接用于造福人类。

  • OpenAI应该保留其章程中的承诺,停止竞争并开始协助接近构建AGI的使命一致的项目。

  • AGI本身(如果OpenAI创建的话)应该属于非营利组织或类似的实体,其唯一责任是确保AGI得到负责任的使用并造福人类。它不应由商业实体或其投资者拥有或控制。

然而,仅仅停止重组是不够的,因为这些治理保障措施显然不足以阻止管理层推动将其移除。他们还请求您确保董事会拥有必要的独立性、资源、信息和意愿,以履行其受托责任,抵制管理层。具体如下:

  • 罢免董事。任何被发现破坏董事会重组决策完整性的董事均应被罢免。

  • 独立性:董事会的大多数成员不应在OpenAI-profit中拥有直接或间接的个人利益。

  • 专业知识。董事会应具备必要的专业知识,以了解OpenAI-profit何时采取与使命相悖的行动。

  • 资源。董事会应拥有必要的人员和预算,以监督这家拥有数千名员工、估值达3000亿美元的组织的运营。

  • 信息。OpenAI应定期及时向董事会汇报任何可能与其使命相冲突的活动。董事向管理层提出的任何问题都应得到及时、详细的答复。

  • 监督。监督这些变更的实施,或指定一个独立机构来监督其实施。在这些变更最终确定之前,董事会的任何决定都应接受仔细审查。

他们在公开信的最后写道,OpenAI的成立是为了确保AGI的安全发展并造福全人类,其目前的架构在法律上将营利动机置于「确保AGI的安全发展,造福全人类」的使命之下。

拟议中的重组将取消必要的保障措施,实际上将这项可能是有史以来最强大的技术的控制权和利润,交给一个有法律义务优先考虑股东回报的营利性实体。

「我们敦促您停止这一重组,恢复适当的治理,并确保OpenAI继续对您、公众及其慈善宗旨负责。」

本文转自学术头条,若二次转载联系原作者。

内容来源于网络。发布者:科技网btna,转转请注明出处:https://www.btna.cn/6386.html

(0)
科技网btna的头像科技网btna
上一篇 2025年4月29日 下午3:46
下一篇 2025年4月29日 下午3:47

相关推荐

  • 52页PPT,谷歌Gemini预训练负责人首次揭秘!扩展定律最优解

    编辑:英智 【导读】大模型之战烽火正酣,谷歌Gemini 2.5 Pro却强势逆袭!Gemini Flash预训练负责人亲自揭秘,深挖Gemini预训练的关键技术,看谷歌如何在模型大小、算力、数据和推理成本间找到最优解。 谷歌凭借Gemini 2.5 Pro在激烈的大模型竞争中一举翻盘。 近日,Geimini Flash预训练负责人Vlad Feinberg…

    2025年4月29日
    3900
  • 400万token新SOTA!英伟达UIUC联手:兼顾长短上下文顶尖性能

    编辑:犀牛 【导读】来自英伟达和UIUC的华人团队提出一种高效训练方法,将LLM上下文长度从128K扩展至惊人的400万token SOTA纪录!基于Llama3.1-Instruct打造的UltraLong-8B模型,不仅在长上下文基准测试中表现卓越,还在标准任务中保持顶尖竞争力。 大语言模型(LLM)在文本和多模态任务上已经展现出惊艳的表现。 像是最新的…

    2025年5月1日
    400
  • 清华出手,挖走美国顶尖AI研究者!前DeepMind大佬被抄底,美国人才倒流中国

    编辑:Aeneas 【导读】活久见,曾看不起中国AI的前谷歌DeepMind科学家,要来清华当教授了!特朗普政府削减科研经费、拒掉人才绿卡等操作,正在加速美国科技公司和大学的动荡。美国真要给中国反向输出AI人才了,我们正在见证历史。 中国对美国顶尖AI人才的抄底计划,开始第一步! 刚刚,清华已经抢先出手了。 最近,图灵奖得主门生、前谷歌DeepMind科学家…

    2025年5月1日
    3200
  • 手机行业今年进入7000mAh时代 甚至有8K+80W方案

    近期,有数码博主透露,手机行业正加速进入7000mAh电池时代。据CNMO了解,手机厂商通过电池材料革新与快充技术升级,推动续航体验跨越式发展。这一趋势标志着继2024年6000mAh普及后,智能手机电池容量再度迎来爆发。 7000mAh手机电池 目前来看,电池容量的跃升主要得益于硅碳负极材料的广泛应用。2023年起,硅碳电极含硅量突破6%,解决了传统石墨负…

    2025年3月14日
    27700
  • 杀疯了!Gemini 2.5狂飙「高尔顿板」测试,编码横扫所有OpenAI模型

    编辑:犀牛 【导读】谷歌的AI编码能力正在掀起一场风暴!在高尔顿板测试中,Gemini 2.5 Flash以惊艳表现击败OpenAI多款模型,连谷歌首席科学家Jeff Dean都为其点赞。谷歌新模型「dayhush」已在网页开发领域崭露头角,性能超越Gemini 2.5 Pro,被网友称为「AI编码的地震性突破」。 编码能力一直是顶尖模型宣传的重点。 尤其是…

    2025年4月21日
    7900

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注

联系我们

400-800-8888

在线咨询: QQ交谈

邮件:admin@example.com

工作时间:周一至周五,9:30-18:30,节假日休息

关注微信