Anthropic

Anthropic

26,531个推特粉丝

关注

Anthropic is an AI safety and research company that’s working to build reliable, interpretable, and steerable AI systems.

动态

人类学新研究：大型语言模型中的情感概念及其功能。所有语言模型有时都会表现出类似情感的行为。但这是为什么呢？我们发现了情感概念的内部表征，这些表征可以驱动克劳德的行为，有时甚至会以令人惊讶的方式发挥作用。

开源生态系统支撑著世界上几乎所有的软体系统。随著人工智慧能力的不断提升，开源安全变得日益重要。我们正在向 Linux 基金会捐款，以继续帮助保护人工智慧运作的基础架构。 twitter.com/AnthropicAI/status...

Anthropic 正在拓展澳洲和纽西兰市场。我们即将在雪梨开设办公室——继东京、班加罗尔和首尔之后，这将是我们在亚太地区的第四家办事处。了解更多：

人类组织首席执行官达里奥·阿莫迪就我们与战争部的讨论发表声明。

我们发现 DeepSeek、Moonshot AI 和 MiniMax 对我们的模型发起了大规模的数据提取攻击。这些实验室创建了超过 24,000 个欺诈账户，并与 Claude 进行了超过 1600 万次的交易，提取了 Claude 的功能来训练和改进他们自己的模型。

人类学研究员最新研究：模型智能和任务复杂性如何加剧目标偏差？当高级人工智能失败时，是因为追求了错误的目标吗？还是会像“一团糟”一样，以不可预测且混乱的方式失败？阅读更多：alignment.anthropic.com/2026/h...…

我们正与英国科学、创新与技术部合作，为英国政府开发一款人工智能助手。它将提供量身定制的建议，帮助英国民众更好地使用政府服务。了解更多关于我们合作的信息：

最新研究表明：当开源模型利用前沿模型生成的看似无害的化学合成信息进行微调时，它们在化学武器任务中的表现会显著提升。我们称之为诱导攻击。

我们正在为克劳德制定一份新的章程。这份章程详细描述了我们对克劳德行为和价值观的期望。它主要是为克劳德编写的，并将直接用于我们的训练过程中。

人工智能在大学校园里无处不在。我们与学生们进行了交流，了解哪些方面进展顺利，哪些方面存在不足，以及学生、教授和大学是如何实时应对人工智能的。 0:00 引言 0:22 嘉宾介绍 1:06 校园氛围 6:28 学生们正在开发什么？ 11:27 人工智能是工具还是拐杖？ 16:44 教授们是否跟得上？ 20:15 缺点 25:55 人工智能与就业市场 34:23 快问快答

Loading..