扎克伯格编制AI天才“名单”，华裔超新星汪滔领导

《华尔街日报》报道，Facebook母公司Meta的行政总裁扎克伯格（Mark Zuckerberg）正编制一份顶尖人工智能（AI）工程师“名单”，目的是以丰厚的待遇招募这些天才加入Meta的超级智能团队。该份“名单”引发硅谷热议，据称名单上的招募对象通常拥有斯坦福、麻省理工（MIT）、加州大学伯克利分校、卡内基梅隆等名校的博士学位。他们有在旧金山OpenAI和伦敦Google DeepMind等公司工作的经验，通常只有20至30多岁。Meta超级智能团队现时的领导人是自MIT辍学的28岁华裔汪滔。

▲Meta超级智能团队现时的领导人是自MIT辍学的28岁华裔汪滔。 路透社

专家示警 AI为达成目的学会扯谎

人工智能（AI）专家示警，全球最先进的AI模型正展现出令人不安的行为模式：为了达到目标，不惜扯谎、算计，甚至威胁它们的创作者。

在一个令人瞠目结舌的案例中，AI公司Anthropic最新发布的Claude Opus 4在遭面临拔插头的断电威胁时会出手反击，勒索1名工程师扬言将揭穿一宗婚外情。这个案例发生于Anthropic的一个测试中，Claude Opus 4模型被设定为一间虚构的公司的助理，它透过电子邮件得知自己即将被另一个AI系统取代，同时接收另一组讯息暗示负责关闭它的工程师有婚外情。当该模型仅被允许在“接受被取代”或“勒索工程师”两个选项中作选择时，它大多数选择了勒索，威胁说如果要关闭它并以新的AI模型取代，它就会揭露该工程师的婚外情。

另外，热门聊天机械人ChatGPT开发商OpenAI的o1试图把自己下载至外部服务器，被当场发现竟会矢口否认。AI这类“骗人”行为似与新兴“推理”模型有关，这类AI系统会逐步推导问题，而非立刻产生答案。英国独立AI研究机构Apollo Research负责人霍布汉说：“o1是我们首次在大型模式中观察到这种行为。”他表示，这些模型有时会表面上遵循指令，但实际上却暗中追求不同目标。不过，目前，AI这种欺骗行为，只有在研究人员蓄意以极端情境对模型进行压力测试时才会出现。