Anthropic Eyes UK Startup's Fusion Tech Promising 100x Faster AI Inference at...
Anthropic, creators of Claude AI, are in early talks with a UK startup whose SRAM tech can boost AI inference by 100x & reduce costs by 10x.
Est. reading time: 3 minutes
[!quote]+
根据 The Information 最近的报道,Anthropic 据说正在与英国一家名为 Fractile 的初创公司进行早期谈判。Fractile 的新技术被称为 “内存计算融合架构”(Memory Compute Fusion Architecture),它正在成为人工智能领域的一个亮点。该架构的工作原理是减少向 DRAM 传输的数据,降低对芯片外存储器的依赖,并在芯片内完成所有数据传输。为此,该公司设计了自己的 SRAM 技术,类似于英伟达公司的 Groq LPU 或 Groq 3 LPX。
Fractile 的解决方案与之类似,不过该公司声称,其架构的目标是将人工智能推理的速度提高 100 倍,同时将成本降低到英伟达 Groq 的 10 倍。参与该项目的 Fractile 团队来自英伟达(NVIDIA)、Graphcore 和 Imagination Technologies 等大公司。
这些数字很大,但该公司尚未设计任何测试芯片,因此这些早期谈判可以启动 Anthropic 的内部芯片开发进程。Anthropic 仍然严重依赖外部芯片制造商,因为它与博通公司(Broadcom)签署了一份千兆瓦级协议,而且有报道称,它很快就会在其计算产品组合中增加第四个品牌,即 AMD。
2 个帖子 - 2 位参与者