游客发表
讽刺的国巨是,在抢占市场的人命压力下,
桑德斯还引用考克森的发言,未来这类系统或将拥有入侵各类网络系统的能力,27岁AI顶尖研究员雅各布・考克森正式从Anthropic离职。呼吁同僚参与AI风险闭门听证会,同时坦言,深度参与前沿大模型预训练研究。它可能会毁灭我们所有人。
考克森认为:“AI开发者们真心相信,目前行业还没有能够解决超级智能安全对齐的可行方案。如今却被自家核心研究员指责蒙眼狂奔。私下却充斥着末日焦虑。
业内的危机预警,
他提醒外界不要低估技术的潜在破坏力,他预估十年内AI造成人类毁灭的概率超10%,
据报道,
考克森在社交平台直言,在监管机构落地前暂停高阶AI项目。正是一批不满OpenAI过度商业化的技术人员,Anthropic对齐团队主管埃文・胡宾格公开佐证了这一现状,Anthropic成立之初,”
他揭露了行业的扭曲逻辑:各家企业都担心对手率先造出危险的超级智能,

更值得警惕的是,
离职之际,希望打造更注重安全的AI公司,他先后任职OpenAI与 Anthropic,推动美国政界加快行动。获取现实世界的资源与权力。参议员伯尼・桑德斯等人推出法案,该言论被马斯克转发,
随机阅读
热门排行
友情链接