今日
情报
市场
赚取
设置
账户
主题选择
普通主题
深色主题
语言
English
简体中文
繁體中文
Tiếng Việt
한국어
Followin APP
发掘 Web3 新机会
App Store
Google Play
登录
Sakana AI
19,138个推特粉丝
关注
We are a Tokyo-based R&D company on a quest to create a new kind of foundational AI model based on nature-inspired intelligence. https://sakana.ai/careers
动态
Sakana AI
02-25
我们很高兴地宣布花旗集团对我们进行策略性投资! sakana.ai/citi 这一里程碑标志著花旗集团首次投资日本公司。 此次投资体现了花旗集团对我们先进技术能力以及在金融领域应用人工智慧的卓越表现的高度认可。 我们致力于开发基于自然启发式智慧的企业级人工智慧解决方案。 我们始终致力于弥合前沿研究与实际商业应用之间的鸿沟。 基于我们为金融领域开发高度专业化的人工智慧代理的经验,我们已准备好迈出下一步。 透过此次合作,我们旨在加速国际扩张,并推动源自日本的全球金融服务创新。
CITI
0%
Sakana AI
01-19
主题贴
#主题贴#
RePo简介:具有上下文重定位功能的语言模型 网址:pub.sakana.ai/repo 论文:arxiv.org/abs/2512.14391 标准语言模型将资讯处理为僵化的线性序列,其中结构的唯一讯号是固定的词元索引,这迫使它们将物理上的接近性视为语义相关性。认知负荷理论表明,这种方法效率低。正如人类在关键资讯被杂讯淹没时难以理解一样,模型也会浪费有限的认知能力来处理杂乱无章的输入,而不是专注于深度推理。 RePo透过允许模型主动重组其上下文来打破这一瓶颈。我们的模组不使用固定的索引,而是学习基于内容相关性来分配位置。这使得模型能够动态地将相关的远距离资讯拉近,并将杂讯推开,从而有效地重塑注意力结构以匹配问题结构。 这种灵活性显著提高了模型的稳健性。 RePo 在处理噪音环境、结构化资料和长程依赖关系时优于标准编码,同时保持了具有竞争力的整体效能。它标志著模型朝著智慧管理自身工作记忆而非被动接受输入顺序的方向迈出了重要一步。
-- 到底啦 --