AI 的奥本海默时刻,io.net 如何革新去中心化人工智能计算市场

rounded

撰文:Raghav Agarwal、Roy Lu,LongHash Ventures

编译:Elvin,ChainCatcher

AI

人类正处于一个 AI 奥本海默时刻。

埃隆·马斯克指出:「随着我们技术的进步,确保 AI 服务于人民的利益,而不仅仅是权力者的利益,这是至关重要的。人民拥有的 AI 提供了一条前进的道路。」

在与加密货币的交汇处,AI 可以实现自身的民主化。从开源模型开始,然后是人民的 AI,由人民,为人民服务。虽然 Web3 x AI 的目标是高尚的,但其实际采用取决于其可用性和与现有 AI 软件栈的兼容性。这就是 IO.NET 独特方法和技术栈发挥作用的地方。

IO.NET 的去中心化 Ray 框架是向 web3 及更广范围推出无需许可的 AI 计算市场的特洛伊木马。

IO.NET 在带来 GPU 丰富性方面处于领先地位。与其他通用计算聚合器不同,IO.NET 通过重写 Ray 框架,将去中心化计算与行业领先的 AI 栈桥接起来。这种方法为在 web3 内外的更广泛采用铺平了道路。

AI 民族主义背景下的计算能力竞赛

在人工智能栈中,对资源的竞争愈演愈烈。过去几年,人工智能模型大量涌现。在 Llama 3 发布后的几小时内,Mistral 和 OpenAI 发布了他们前沿人工智能模型的新版本。

人工智能栈中正在进行资源竞争的三个层次是:1) 训练数据,2) 先进算法,3) 计算单元。算力允许人工智能模型通过扩展训练数据和模型大小来提高性能。根据 OpenAI 对基于变换器的语言模型的经验性研究,随着我们增加用于训练的计算量,性能会平稳提高。

在过去 20 年中,计算使用量激增。Epoch.ai 对 140 个模型的分析显示,自 2010 年以来,具有里程碑意义的系统的培训计算每年增加了 4.2 倍。最新的 OpenAI 模型,GPT-4,需要的计算量是 GPT-3 的 66 倍,大约是 GPT 的 120 万倍。

AI 民族主义明显

美国、中国和其他国家的巨额投资,总计约 400 亿美元。大部分资金将专注于生产 GPU 和人工智能芯片工厂。OpenAI 的 CEO Sam Altman 计划筹集高达 7 万亿美元的资金,以增强全球人工智能芯片制造,强调「计算将成为未来的货币」。

聚合长尾计算资源可能会显著扰乱市场。中心化云服务提供商如 AWS、Azure 和 GCP 面临的挑战包括长时间的等待、有限的 GPU 灵活性和繁琐的长期合同,特别是对于较小的实体和初创公司而言困难更大。

数据中心、加密货币矿工和消费级 GPU 的未充分利用的硬件可以满足需求。2022 年 DeepMind 的一项研究发现,在更多数据上训练较小的模型通常比使用最新、最强大的 GPU 更有效,这表明朝着使用可访问的 GPU 进行更有效的人工智能训练的转变。

IO.NET 结构性地颠覆了人工智能计算市场

IO.NET 结构性地颠覆了全球人工智能计算市场。IO.NET 的全球分布式人工智能训练、推理和微调的端到端平台,聚合了长尾 GPU,以解锁廉价的高性能训练。

GPU 市场:

IO.NET 从全球的数据中心、矿工和消费者那里聚合 GPU。人工智能初创公司可以在几分钟内部署去中心化的 GPU 集群,只需指定集群位置、硬件类型、机器学习栈(Tensorflow、PyTorch、Kubernetes),并立即在 Solana 上支付。

集群:

没有适配的并行基础设施的 GPU 就好比没有电源线的反应堆,虽然存在但无法使用。正如 OpenAI 博客所强调的,硬件和算法并行性的限制显著影响了每个模型的计算效率,限制了模型的大小和训练期间的有用性。

IO.NET 利用 Ray 框架将数千个 GPU 集群转换为一个统一整体。这一创新使 IO.NET 能够组建 GPU 集群,而不受地理位置分散的影响,进而解决了计算市场上的一大难题。

Ray 框架脱颖而出

作为一个开源的统一计算框架,Ray 简化了人工智能和 Python 工作负载的扩展。Ray 被 Uber、Spotify、LinkedIn 和 Netflix 等行业领导者所采用,促进了人工智能集成到他们的产品和服务中。微软为客户提供在 Azure 上部署 Ray 的机会,而 Google Kubernetes Engine (GKE) 通过支持 Kubeflow 和 Ray,简化了开源机器学习软件的部署。

Ahmad 在 2023 年 Ray 峰会上展示他关于去中心化 Ray 框架的工作

去中心化 Ray - 扩展 Ray 以进行全球推理(视频链接:https://youtu.be/ie-EAlGfTHA?)

我们最初是在 Tory 担任金融科技高增长初创公司的 COO 时遇见他的,我们知道他是一个具有数十年经验的高级运营者,能够将初创公司扩展到卓有成效的程度。与 Ahmad 和 Tory 交谈后,我们立即意识到这是将去中心化人工智能计算带到 web3 及更广范围的梦想团队。

Ahmad 的创意结晶,IO.NET,是在实际应用中的一个顿悟时刻诞生的。开发 Dark Tick,一种用于超低延迟高频交易的算法,需要大量的 GPU 资源。为了应对成本问题,Ahmad 开发了一个去中心化的 Ray 框架版本,从加密货币矿工那里集群 GPU,无意中打造了一个解决更广泛人工智能计算挑战的弹性基础设施。

发展势头:

通过利用代币激励,截至 2024 年中期,IO.NET 已经上线了超过 10 万个 GPU 和 2 万个集群就绪的 GPU,包括大量的 NVIDIA H100 和 A100。Krea.ai 已经在利用 io.net 的去中心化云服务,IO Cloud,来驱动他们的人工智能模型推理。IO.NET 最近宣布与 NavyAI、Synesis One、RapidNode、Ultiverse、Aethir、Flock.io、LeonardoAI、Synthetic AI 等多个项目合作。

通过依赖全球分布式的 GPU 网络,IO.NET 可以:

  • 与中心化云服务提供商相比,通过允许推理更接近其终端用户,从而降低客户的推理时间
  • 通过高度集成的网络骨干连接多个数据中心,将资源组织成区域,从而提高弹性
  • 降低计算资源的成本和访问时间
  • 允许公司动态扩展和缩小杠杆资源的规模
  • 使 GPU 提供者能够从他们的硬件投资中获得更好的收益

IO.NET 通过去中心化 Ray 框架站在了创新的前沿。利用 Ray Core 和 Ray Serve,他们的分布式 GPU 集群在去中心化 GPU 上高效地编排任务。

结论

推动开源人工智能模型是对原始互联网协作精神的认可,人们可以无需许可地接入 HTTP 和 SMTP。

众包 GPU 网络的出现是无需许可精神的自然演变。通过众包长尾 GPU,IO.NET 正在打开通往宝贵计算资源的闸门,创造一个公平透明的市场,防止权力集中在少数人手中。

我们相信 IO.NET 通过去中心化的 Ray 集群技术实现人工智能计算即货币的愿景。在这个日益由「富人」和「穷人」组成的世界里,IO.NET 最终将「让互联网再次开放」。

来源
免责声明:以上内容仅为作者观点,不代表Followin的任何立场,不构成与Followin相关的任何投资建议。
喜欢
7
收藏
2
评论
1