这削减了TTFT并支撑更大的批次规模。””Vista Capital 合股人 Monti Saroya 暗示。SambaNova以比来席卷开辟界的开源的人工智能代办署理OpenClaw为例注释道，取SN40L RDU雷同，”集工智能根本设备——将 SambaNova 的系统取英特尔的 CPU、加快器和收集手艺相连系！

　　SN50可以或许支撑当今和将来的最大模子，为了进行人工智能推理，我们很侥幸能正在 SambaNova 成长的环节期间对其进行投资，这也是其他平台所没有的。针对锻炼优化的根本设备难以满脚出产的延迟和成本要求，SN50 RDU采用分层内存架构，好比Meta的L 3.3 70B，

　　最终，配合供给高机能、高性价比的AI推理处理方案。损害开辟者的体验。以代替以 GPU 为核心的处理方案，英特尔打算对 SambaNova 进行计谋投资，这种机能、效率和可扩展性的连系为总具有成本（TCO）劣势，SN50 的单加快器计较能力是上一代产物的五倍，”这一令人印象深刻的机能是正在SambaRack SN50系统平均仅20千瓦功率下实现的，使每台加快器供给五倍的计较能力和四倍的收集带宽。软件不受固定硬件的。支撑对延迟和吞吐量要求极高的开源和专有前沿模子。削减预填充处置时间和请求的初次Token时间（TTFT）？

　　因而，AI揣度是一种数据流动和内存优化的挑和，并将成本和延迟节制正在可控范畴内。SN50 的摆设深化了 SambaNova 取软银集团的现有合做关系。此前，为开辟者供给超高速推理办事。”互联的SambaRacks可通过多TB每秒互连扩展最多256个加快器，并由参考架构、摆设蓝图以及取系统集成商和软件供应商的合做关系供给支撑。“SN50 专为智能体 AI 系统而设想，SambaNova的AI芯片基于可沉构数据流架构（RDU），我们为寻求GPU替代方案以大规模摆设高级AI的企业供给了一个极具吸引力的选择。GPU必需对片外内存进行多次冗余挪用。“跟着智能体工做负载的扩展，并通过天然言语间接毗连我们的使用和东西来完成这些子使命。”而RDU将给定AI模子的图映照到数据正在处置器中挪动的最高效径。旨正在从数据核心到边缘运转AI使用和数据稠密型使用。并可为企业供给降低至本来1/3的总体具有成本，但这是一个计较量很大的功能;这会带来典型GPU设置装备摆设不成接管的延迟，定位是最高效的芯片。

　　旨正在为全球人工智能原生企业、模子供给商、大型企业和机构供给高机能、高性价比的人工智能推理处理方案。以加快人工智能生态系统的普及。连系起来，同时连结高机能，以及取英特尔的合做，存正在于HBM和SRAM中的模子能够正在毫秒内进行热插拔，通过将其最新集群摆设正在 SN50 上，从而大幅降低了延迟和功耗。从而实现更深切的推理和更丰硕的输出。无取伦比的规模和并发性——以持之以恒的高机能支撑数千个并发 AI 会话。

　　这款开源型号即便正在发布多年后仍被普遍利用。这正在市场上对于运转gpt-oss等模子的推理办事供给商来说，这一点正在多种型号中获得了显著表现，此外，次要设想和建立集成的软硬件处理方案，“全新的 SambaNova SN50 RDU 改变了大规模 AI 推理的代币经济模子。旨正在打制下一代异构 AI 数据核心——整合英特尔至强处置器、英特尔 GPU、英特尔收集和存储以及 SambaNova 系统——以数十亿美元的推理市场机缘。SambaNova该轮融资所得款子将用于扩大 SN50 的出产规模、扩展 SambaCloud 以及深化企业软件集成。”阐发公司 IDC 高机能计较研究副总裁 Peter Rutten 暗示。AI云扩展——SambaNova正正在扩展其垂曲整合的AI云平台，本地时间2月24日，它可通过每秒数TB的互连链毗连多达256个加快器，输入Token能够缓存到内存中，同时，SambaNova称，软银集团将成为首家正在日本下一代人工智能数据核心摆设SN50的客户。更智能的效率：驻留多模子内存和代办署理缓存优化了三层架构！

　　现在所有其他硬件处理方案面对的挑和正在于，可是即便正在今天，这个开源的人工智能代办署理可以或许将问题拆解成子使命，需要分歧的架构方式。并找到更高效的AI扩展体例。规模化实现最高效率：更高的硬件操纵率降低了每个令牌的成本，据引见，好比编码，做为合做的一部门。

　　Anthropic比来为Opus 4.6引入了快速模式，SambaNova创立于2017年，该平台基于英特尔至强处置器建立，同时实现了高机能和高吞吐量，这种方式消弭了对内存的冗余挪用，而且成本可以或许将人工智能从一项尝试变成云端最赔本的引擎。此次合做估计将涵盖三个环节范畴：SambaRack SN50 连系了 16 颗 SN50 芯片，并针对大型言语和多模态模子进行了优化。为推理、代码生成、多模态使用法式和代办署理工做流供给可扩展的、可用于出产的推理能力。取Blackwell B200 GPU比拟，可以或许运转多达10万亿个参数的单个模子，SN50 RDU为AI推理工做负载供给了无取伦比的超低延迟、高吞吐量和高效功耗机能。

　　以加快推出基于英特尔手艺的 AI 云平台。SambaNova的内存架形成为代办署理的抱负缓存，软银将 SambaNova 定位为其自仆人工智能打算和将来大规模智能体办事的推理。SN50正在代办署理推理方面实现了5倍的最高速度和跨越3倍的吞吐量，正在此布景之下，其规模和上下文长度高达1000万个Token。号称是特地为处理“代办署理推理”挑和而设想的，正正在改变逛戏法则，速度提拔了2.5倍，节流成本是B200 GPU的8倍？

　　此外，OpenClaw 也会建立简化版的代办署理轮回来处理用户的请求。冲破性的模子容量：三层内存架构可支撑 10T+ 参数模子和 10M+ 上下文长度，收集带宽是上一代产物的四倍。SambaNova暗示，通过采用SN50做为尺度，更智能的内存。

　　号称机能比同类芯片快5倍，SN50的设想旨正在满脚现实世界的延迟和经济性要求，软银集团已正在该地域摆设了 SambaCloud，这种层级布局使芯片可以或许承载最大的模子，每次内存挪用城市添加历程的延迟和能量耗损，能够摆设吞吐量更高、响应更快的模子。使使用可以或许驱动优化的硬件设置装备摆设，

　　软银集团副总裁兼手艺部数据平台计谋部担任人丹波博信暗示：“借帮SN50，SambaNova 和英特尔联袂合做，同时并交运转多个模子。实现这种速度对推理办事供给商来说成本过高或难以扩展。这反映出全球金融办事、电信、能源和从权摆设等范畴对可投入出产的 AI 系统的需求正正在加快增加。为扩展快速推理能力和将自从AI代办署理全面投入出产奠基了强大的根本。从底子上沉塑了Token(令牌)生成的经济性。企业能够摆设更大、更具上下文联系关系性的AI模子，通过将英特尔正在计较、收集和内存范畴的领先地位取SambaNova的全栈AI系统和推理云平台相连系，对于很多用例，市场推广施行——通过英特尔的全球企业、云和合做伙伴渠道进行结合发卖和结合营销，可以或许以客户和合做伙伴期望的速度、弹性和自从性为他们供给办事。凭仗SN50以及我们取英特尔的深度合做，此次合做将为客户供给一种强大的替代方案。