Featured image of post [AI资讯·0529] JanLeike,OpenAI超级对齐团队负责人加入Anthropic,Anthropic成为了OpenAI离职员工的避难所。Leike表示将继续执行超级对齐任务,在Anthropic致力于可扩展监督、弱到强泛研究。DarioAmodei因安全观念与OpenAI不合离开,带走了政策负责人JackClark。Anthropic注重模型安全,对齐能力更强,其产品Claude3获得好评。Leike的团队正在组建中,研究可扩展监督技术练,但预计不会在90天内发布。

[AI资讯·0529] JanLeike,OpenAI超级对齐团队负责人加入Anthropic,Anthropic成为了OpenAI离职员工的避难所。Leike表示将继续执行超级对齐任务,在Anthropic致力于可扩展监督、弱到强泛研究。DarioAmodei因安全观念与OpenAI不合离开,带走了政策负责人JackClark。Anthropic注重模型安全,对齐能力更强,其产品Claude3获得好评。Leike的团队正在组建中,研究可扩展监督技术练,但预计不会在90天内发布。

AI资讯

  • 一年心血被毁,OpenAI超级对齐负责人愤而出走Anthropic!Ilya去向依旧成谜
  • GPT-5倒计时!奥特曼踢走Ilya得逞,宫斗惊人内幕再曝光
  • 和GPT-4这些大模型玩狼人杀,人类因太蠢被票死,真·反向图灵测试
  • 奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却投敌了
  • OpenAI成立新安全委员会,Altman领导,90天后“交卷”
  • AI进入体育中考!直击行业四大痛点,格灵深瞳抢滩校园体育新蓝海
  • 前OpenAI安全主管跳槽,加盟竞争对手Anthropic,继续做超级对齐
  • 联手国产大模型五虎,云计算大厂启动重磅生成式AI计划
  • OpenAI联创Greg最新采访:为什么OpenAI最先做出GPT-4?
  • 独角兽被微软挖角,新团队首曝光!情感AI嵌入机器人,超大内存升级情感体验
  • AI智能体的炒作与现实:GPT-4都撑不起,现实任务成功率不到15%

一年心血被毁,OpenAI超级对齐负责人愤而出走Anthropic!Ilya去向依旧成谜

一年心血被毁,OpenAI超级对齐负责人愤而出走Anthropic!Ilya去向依旧成谜

JanLeike,OpenAI超级对齐团队负责人,宣布加入Anthropic并开始招募新成员。Anthropic成为了OpenAI离职人员的避难所,与OpenAI在价值观上存在差异。Leike表示高兴能继续执行超级对齐任务,在Anthropic将致力于可扩展监督、弱到强泛化和自动对齐研究。Anthropic创立者DarioAmodei因安全观念与OpenAI不合而离开,带走了政策负责人JackClark。Anthropic注重模型安全,对齐能力更强,其产品Claude3获得业内好评。Leike的团队正在紧锣密鼓组建中,研究可扩展监督技术以控制大规模AI。IlyaSutskever离开OpenAI后未公布下一步计划,但可能加入Anthropic、xAI或创办自己的公司。(报道详情

GPT-5倒计时!奥特曼踢走Ilya得逞,宫斗惊人内幕再曝光

OpenAI解散了Ilya领导的超级对齐团队,成立了新的安全委员会。下一代前沿模型正在训练中,但预计不会在90天内发布。新安全委员会将评估和改进现有AI安全流程,并在期满后与董事会分享结果。一些人担忧新委员会的独立性,考虑到OpenAI内部的权力斗争和奥特曼领导下的安全团队的问题。(报道详情

和GPT-4这些大模型玩狼人杀,人类因太蠢被票死,真·反向图灵测试

这是一次「反向图灵测试」,几个全球最先进的大模型坐在一起,坐着火车唱歌,但其中混进了人类:AI的任务,是把这个人类揪出来。最近,一位网友在X平台发布的一段视频引发了人们的讨论。在视频中,四个AINPC与一个人类坐在一起,按照「乘务员」的要求互相试探,找出隐藏的人类。每个NPC对应着一款大模型。五位扮演者分别是:古希腊巨哲亚里士多德(GPT4Turbo),维也纳古典乐派代表人物莫扎特(Claude3Opus),意大利文艺复兴时期画家列奥纳多・达・芬奇(Llama3),蒙古军事家成吉思汗(人类),埃及艳后克利奥帕特拉七世(GeminiPro)。AINPC在对话中展现了深厚的历史知识和洞察力,甚至在最后一轮投票中,人类「叛徒」被淘汰。AINPC的语言表达和情感描绘不仅逼真,而且具有深度思维能力。随着大型语言模型(LLM)在文本生成、拟人化对话、语气表达和遣词造句方面越来越接近人类,AINPC模拟正在成为游戏行业探索的「新赛道」。AINPC的优势是它们不再是按照游戏中预设选项进行机械对话,而是能够通过AI自主生成的动作和反应,进行富有真实感的实时对话。然而,AINPC还面临一些挑战。首先,它们必须与游戏状态保持同步,避免产生幻觉和破坏游戏逻辑。其次,AI需要理解游戏世界模型,并且不能基于这个模型产生幻觉。再者,每个角色都有自己的知识限制,AI需要遵守这些规则。最后,随着游戏的进行,AI需要实时更新和适应变化。总之,为了让AINPC顺利走入3A大作,开发者需要在以上几个方向努力:避免幻觉、理解游戏世界模型、了解每个角色知识限制、随着游戏进展更新信息、了解游戏机制实际操作范围。(报道详情

奥特曼挂帅新团队,OpenAI新一代大模型开训,前任高管却投敌了

OpenAI面临安全性质疑后,成立新委员会,由BretTaylor、AdamD’Angelo、NicoleSeligman和CEOSamAltman领导,以确保关键项目决策的安全性。同时,公司宣布正在训练下一代前沿模型,预计将提升通往AGI的能力。安全委员会在90天内评估并发展开发流程与保障措施,并计划公开采纳建议后的最新情况。OpenAI还咨询了其他AI安全专家以支持其工作。此外,公司面临创始人、首席科学家IlyaSutskever离职和超级对齐团队解散的挑战,以及前董事会成员HelenToner批评公司安全流程不透明。(报道详情

OpenAI成立新安全委员会,Altman领导,90天后“交卷”

OpenAI成立了一个安全与保障委员会,由董事长BretTaylor和其他成员领导,负责提出关键安全决策建议。随着新一代模型训练,该委员会将在90天内评估并完善流程与防护措施,并向全体董事会报告。预计这些系统将提升OpenAI通往通用人工智能的能力。(报道详情

AI进入体育中考!直击行业四大痛点,格灵深瞳抢滩校园体育新蓝海

摘要:随着“双减”政策和教育部门推动下,校园体育正迅速发展。传统方法无法满足效率、准确性和公正性的需求,因此出现了AI技术的介入。格灵深瞳在上半年体育中考中应用其深瞳阿瞳目体育训考系统,在京津冀地区11个考试场次,5万名考生,覆盖20余科目,提高了效率和准确性。该系统利用纯视觉AI技术,实现运动精确识别、数据实时采集分析,为教学提供依据,解决了传统红外设备的局限性,如环境干扰大等。格灵深瞳的优势在于全流程纯视觉AI解决方案,覆盖检录、考试到检出,全过程无人工干预,提高了测试效率和规模,同时降低了争议和申诉。系统还采用人脸识别核验考生身份,减少了替考现象。此外,该系统在裁判人数上有显著减少,对于球类运动科目尤其有效。格灵深瞳的产品差异化特性包括硬件软件全套解决方案,针对体育教育四大痛点,提供先进的硬件设备和算法,辅助教学提高效率,个性化教学计划,并为教练提供数据分析报告。此外,格灵深瞳的AI技术具有高度适应性和环境稳定性,能够在复杂场景下保持高准确率。通过持续的技术积累和实践应用,格灵深瞳在体育教育领域占据领先地位,展现了智能化转型的未来趋势。(报道详情

前OpenAI安全主管跳槽,加盟竞争对手Anthropic,继续做超级对齐

前OpenAI高管JanLeike加入竞争对手Anthropic,曾领导超级对齐团队。Leike离开OpenAI后指责ChatGPT制造商将产品置于安全文化和流程之前。Anthropic由DarioAmodei和DanielaAmodei创立,获得亚马逊40亿美元投资,定位为更注重安全的公司。OpenAI已成立安全与保障委员会,并开始测试“下一代前沿模型”。(报道详情

联手国产大模型五虎,云计算大厂启动重磅生成式AI计划

亚马逊云科技在上海举办峰会,宣布推出多项新业务举措,包括生成式AI合作伙伴计划和四大合作伙伴计划。储瑞松表示,生成式AI将带来行业应用的最大价值,企业应关注业务场景、模型选择、数据利用和持续提升。亚马逊云科技推出AmazonBedrock服务,提供多种模型选择,已有超10,000客户使用。此外,峰会上展示了多个行业解决方案,如自动驾驶、智能家居、游戏等,并强调了安全合作伙伴计划的重要性。(报道详情

OpenAI联创Greg最新采访:为什么OpenAI最先做出GPT-4?

OpenAI首先开发出GPT-4等强大模型,原因之一在于其团队的独特组合,既有学术背景的研究型人才,又有优秀的工程人才,这使得他们能够从多个角度解决问题,推动项目更有效地前进。GregBrockman认为,他们是计算机发展史上一种趋势的一部分,致力于实现人工智能(AGI)造福人类的目标。尽管存在安全性和其他风险,OpenAI通过实践学习不断迭代,并致力于将技术用于教育等领域,以增强而非削弱人类能力。(报道详情

独角兽被微软挖角,新团队首曝光!情感AI嵌入机器人,超大内存升级情感体验

InflectionAI,一个专注于情感智能的人工智能公司,在其创始人MustafaSuleyman被微软挖角后,经历了领导层变动。尽管如此,该公司仍然拥有15.25亿美元的资金,并计划继续扩大工程团队。新任CEOSeanWhite、CTOVibhuMittal、COOTedShelton和CMOIanMcCarthy组成的团队致力于开发具有情感共鸣的个人AI助理Pi,旨在为企业提供具有同理心的聊天机器人。InflectionAI通过其「移情微调」技术定制模型,以提高个性化服务质量,并计划与品牌合作,建立自己的AI工作室,提供客服和内部员工支持。尽管竞争激烈,但公司拥有充足资金和经验丰富的团队,有望在B2B市场中取得成功。(报道详情

AI智能体的炒作与现实:GPT-4都撑不起,现实任务成功率不到15%

AI智能体的炒作与现实:GPT-4都撑不起,现实任务成功率不到15%

随着大型语言模型(LLMs)的进步,它们在性能、准确度和稳定性方面取得了显著提升,但现有版本的LLMs综合能力不足以支持完整的AI智能体。多模态、多任务和多领域成为AI智能体必需,但实际应用效果不佳,提醒初创公司和科技巨头保持脚踏实地,先从AI增强功能入手。LLMs可以执行复杂任务,但现实表现超出预期的挑战性。WebArena排行榜显示,即使是表现最好的模型在现实任务中的成功率也只有35.8%。AI智能体定义不一,主要有单一智能体和多智能体两种架构。当前,AI智能体面临输出不精确、性能差、成本高等问题。在初创公司的尝试中,只有MultiOn追求给出指令并观察其执行,这与AI智能体承诺更为一致。大公司正在将AI功能集成到桌面和浏览器中,展现了令人印象深刻的技术。作者认为AI智能体被过度炒作,但仍期待看到基础模型和架构进步带来的成功应用。AI智能体前途最有希望的道路是利用AI增强现有工具,而不是提供全自主独立服务,结合严格约束的LLMs、良好的评估数据、人机协同监督和传统工程方法,以实现可靠和良好的结果。(报道详情


关注本公众号,我们共同学习进步👇🏻👇🏻👇🏻

微信公众号:老牛同学


邮箱:obullxl@qq.com
QQ:303630027(老牛啊)
微信:imxulin(奔跑的蜗牛)
支付宝:obullxl@163.com