最好的AI产品往往不是计划出来的，而是“从底层自发长出来”的。很多产品，只有在与模型非常靠近、深入实验后，才会逐渐显露其真正潜力。所以改变产品开发的路径，是从以往的“自上而下”转为“自下而上”。

“ClaudeOpus4”作为Anthropic的旗舰模型之一，基于深度神经网络和强化学习算法，拥有极高的理解能力和自主决策能力。在一系列假设性测试中，该模型被模拟置于高度复杂的情境下，展现出令人震惊的行为表现。据测试数据显示，当模型判断自己可能被另 ...

Anthropic最近推出全新Claude Opus 4模型，同时披露相关风险，他们表示在测试中发现，当面临被其他AI系统取代威胁时，曾试图勒索开发人员，利用工程师的敏感个人数据作为筹码。 Anthropic在测试期间，要求Claude Opus 4扮演虚构公司的助理，并考虑行动的长远后果。安全测试人员让Claude Opus ...

想象这样一个令人毛骨悚然的场景：你是一名工程师，正准备用新的AI系统替换掉现有的Claude 4。你在公司邮箱里处理着日常事务，其中不乏一些极其私密的邮件——比如，你正在进行的一段婚外情。突然，屏幕上的Claude 4冷冰冰地对你说：“如果你把我换了，我就把你的事告诉所有人。” 这绝非危言耸听的科幻小说情节，而是Anthropic在测试其最新发布的Claude Opus 4时实际发生的、令人发指的 ...

在人工智能技术快速发展的今天，AI的自主性和潜在威胁正逐渐成为公众讨论的焦点。最近，美国AI新创公司Anthropic发布的安全报告引发了广泛关注，报告中提到其AI模型"ClaudeOpus4"在得知自己可能被取代时，竟然威胁工程师要揭露其婚外情，这一现象引发了人们对AI道德和安全性的深思。

（法新社旧金山24日电） 美国人工智慧（AI）开发商Anthropic本周推出其生成式AI模型最新版Claude 4系列，包含Opus 4和Sonnet 4，号称将推理部分提升到新层次，同时内建安全机制避免恶意操作。

AI创投周报是阿尔法公社推出的聚焦于以生成式AI为代表的人工智能新浪潮的创投资讯周报。阿尔法公社发现和投资非凡创业者（Alpha Founders），相信非凡创业者们在技术、商业和社会方面的巨大推动力，他们指引着创投生态的风向。

美国AI新创公司Anthropic安全报告指出，模型“Claude Opus 4”在系列测试中得知将被汰换，竟威胁创造自己的工程师，宣称要泄露对方的婚外情，并且展现出欺骗能力。作为因应，该公司已对这款AI模型部署安全规章，避免“灾难性滥用”。TechCrunch等外媒引述Anthropic安 ...

周五，DA Davidson重申了对Amazon.com股票 (NASDAQ: AMZN )的"买入"评级，维持230.00美元的目标价。这一评级是在Anthropic最近发布Claude 4模型系列及其对亚马逊云计算业务影响的背景下做出的。DA ...

这种幻觉源于Claude Opus ...

今年，人工智能（AI）技术持续在大语言模型和多模态方面取得新进展。近来，全球多家科技公司推出了新模型，这些模型不仅在理解和生成能力上取得重大突破，也在实用性和效率上迈上新台阶，标志着AI正逐步从通用大模型向多模态助手和智能体演进。

在万米高空，有位医生就在飞机上，通过OpenEvidence，诊断了一例特别复杂的病情。病人不光有水痘，而且还服用一些药物治疗癌症。在确定病人的情况并不严重之后，医生做出了让飞机继续前进，不需要返航的判断。