简而言之, OpenAI 首席执行官 Sam Altman 上周证实,OpenAI 并未训练其生成式预训练转换器 (GPT) 的第五个版本,而是专注于提高其最新 GPT-4 模型的能力。
Altman 远程调谐到麻省理工学院的一次活动中,并接受了计算机科学家和播客 Lex Fridman 对 AI 的提问。
在 Altman 提出的问题中,有一个是关于一封公开信,该信敦促开发人员暂时暂停训练大于 GPT-4 的 AI 模型六个月。
“我认为这封信遗漏了关于我们需要在哪里暂停的最技术性的细微差别……这封信的早期版本声称我们现在正在训练 GPT-5。我们现在没有,而且在一段时间内不会。所以从这个意义上说,这有点愚蠢。我们正在 GPT-4 之上做一些事情,我认为这些事情存在我们需要解决的各种安全问题,”他说。
然而,奥尔特曼表示,他支持这封信的某些部分,例如确保人工智能模型安全并符合人类价值观的重要性。
您可以观看下面的活动短片。
ChatGPT 机器人正在向 Reddit 发送垃圾邮件
Reddit 论坛充斥着越来越多由 ChatGPT 生成并由机器人帐户发布的评论,让版主难以应对不断增加的垃圾邮件量。
近几个月来,r/AskHistorians、r/AskWomen、r/AskEconomics 和 r/AskPhilosophy 等多个子版块都受到了机器人的困扰。据 Vice 报道,据报道,Reddit 已经删除了数百个机器人账户,但它们继续在网站上激增,发布人工智能生成的文本,并淹没标记可疑内容的自动化系统。
这些垃圾邮件机器人经常宣传成人内容、非法药物和不法供应商销售的产品。“机器人问题已经非常严重,Reddit 的自动反垃圾邮件系统几乎没有帮助,当他们这样做时,为时已晚,机器人的存在通常已经达到了它的目的,”Reddit 用户 u/abrownn,他主持 r/Technology , 发布到网上。
“Reddit 上的机器人绝大多数用于简单的广告目的,而不是像每个人都喜欢声称的那样进行政治操纵,”他补充说。“这些机器人账户宣传的大多数东西都是面向成人的:大麻……色情、赌博,或者它们被出售或经营以大量宣传直运商品,其中大部分是信用卡盗刷诈骗或交付与订购的商品不同的商品或者根本不交付。”
OpenAI 启动漏洞赏金计划
OpenAI 愿意向发现其 AI 产品中的漏洞、错误和安全漏洞的开发人员支付高达 20,000 美元的费用。
该初创公司已与领先的漏洞赏金平台 Bugcrowd 合作管理该计划。奖励根据缺陷的严重程度而有所不同,特殊资金的奖励从 200 美元到 20,000 美元不等。
“OpenAI 的使命是创建造福所有人的人工智能系统。为此,我们在研究和工程方面投入了大量资金,以确保我们的人工智能系统安全可靠。然而,与任何复杂技术一样,我们知道漏洞和缺陷可能会出现,”该公司在一份声明中说。
“我们相信透明度和协作对于解决这一现实至关重要。这就是为什么我们邀请全球安全研究人员、道德黑客和技术爱好者社区帮助我们识别和解决系统中的漏洞。”
提示颠覆旨在使 OpenAI 的模型产生令人反感的材料的内容过滤器,这个过程被称为“越狱”,不在漏洞赏金计划的范围内。
马斯克为 Twitter 工程师提供闪亮的新 GPU 来构建生成式人工智能
据报道,Twitter 已经购买了大约 10,000 个 GPU,并计划将它们用于开发生成式 AI 模型。
目前尚不清楚这些模型将如何应用。据 Insider 报道,Twitter 可能希望利用它来改进搜索或提升其广告潜力。据The Information 报道,首席执行官埃隆·马斯克还聘请了 DeepMind 的工程师来开发一款具有竞争力的 ChatGPT 产品,该产品的限制更少,生成的文本被认为在政治上不那么正确。
马斯克最近签署了一封公开信,呼吁全行业停止训练大型 AI 模型六个月,因为担心该技术可能变得太先进而无法控制。尽管如此,他仍在继续开发人工智能并为他的微博网站构建新功能。
据报道,新的 10,000 个 GPU 将在公司位于亚特兰大和俄勒冈州的数据中心之外运行