在2023年11月6日下午,CSDN联合AMD及创通新科集团在第九届中国国际进口博览会上发布了CSDN AMD CTONE开发者一体机。该产品基于AMD锐龙AI Max+ PRO 495处理器,使用创通新科的阿迈奇F9A智能体主机作为整机底座。此一体机集成了AMD高性能计算平台、CSDN开发者生态系统与AI专用操作系统LingOS,并结合创通新科领先的硬件研发制造能力,为开发者提供了即插即用的本地AI开发与应用环境。
首先,CSDN AMD CTONE开发者一体机不仅是简单的硬件设备,而是将智能体开发套件、主流大模型的预装及统一管理功能整合到一个平台之中。该平台采用ROCm软件生态链,支持模型部署、可视化管理、应用接入和智能体开发,为开发者提供直接调用本地算力的能力,从而有效地将硬件性能转化为实际的开发生产力。
其次,针对AI开发者而言,进行大模型的本地部署不仅需要强大的计算能力,内存的容量与带宽同样重要。此次发布的一体机配备了AMD锐龙AI Max+ PRO 495处理器,其设计架构结合了CPU、GPU和NPU三种异构计算单元,保证了在智能体任务和传统生产力应用之间的高效协同。具体来说,该处理器采用32线程的AMD“Zen 5”架构,能够兼容Windows与Linux x86-64应用,降低转译和适配成本。此外,GPU则基于AMD RDNA 3.5架构,拥有40组计算单元,主要负责大模型推理等高强度计算任务,而NPU则针对高频、低负载的实时AI运算与中小模型推理。相较于前一代395平台,495在CPU、GPU和NPU性能上有显著提升,统一内存容量也从128GB扩展至最高192GB,从而提高了设备在大模型承载能力方面的上限。 谈球吧
此外,这一平台的统一内存架构使得不同计算单元能够共享内存资源,最大限度地提升了GPU可用的显存至160GB。在相应量化和配置条件下,该系统最高支持300B参数模型的本地部署,有效缓解了独立GPU显存容量对大模型部署的限制,同时减少了传统CPU内存与独立显存之间通过PCIe搬运数据产生的开销。这一设计为模型权重、上下文缓存及运行缓冲提供了充足的空间。内存带宽方面,平台采用等效四通道、256bit位宽、8533MT/s高速内存,其带宽最高可达273GB/s,充分满足更大模型、更长上下文与更复杂的本地AI应用场景的硬件需求。
在AI开发的实际应用中,CSDN还开发了AI原生操作系统LingOS,以解决开发者在模型部署、工具接入及智能体应用构建中面临的问题。LingOS整合了模型服务、智能体工作台及设备管理,使得开发者的工作流程更为高效。该平台内置200多款主流开源大模型,支持快速部署、选择切换、运行管理及可视化体验,助力开发者通过统一模型网关将本地模型无缝接入编程工具和智能体应用,加快从模型验证到应用落地的进程。
最后,CSDN致力于通过持续的模型与系统在线升级,促进产品能力与开发者需求的同步演进。依托广泛的开发者社区、丰富的技术积累及平台性能调优,CSDN旨在将硬件算力转化为可用、可管理且可持续升级的AI服务,从而帮助开发者、IT技术人员及FDE更快地构建行业应用场景的智能体。 谈球吧
该产品在结构设计上也具有极高的紧凑性。创通新科集团负责产品的整体定义、结构散热设计、主板研发及生产制造,最终形成一台尺寸仅为158.5×158.5×81.5毫米的桌面设备。为了保证平台最高131 TOPS的AI算力发挥,整机采用了由五条复合热管、纯铜散热基座和涡轮风扇构成的高效风冷系统。此外,CNC一体成型金属机身兼顾了结构强度与产品质感,适合企业和家庭桌面环境的部署。交互与扩展能力方面,该设备配备了四单元远场麦克风阵列,支持约3米范围的拾音,并通过内置扬声器实现语音交互,同时提供双USB4、OCuLink、双2.5GbE及Wi-Fi 7等多种连接方式。
综上所述,CSDN AMD CTONE开发者一体机的发布标志着本地AI开发平台在硬件性能、软件生态和用户体验方面的显著进步,其对AI应用的开发及部署提供了强有力的支持。研究表明,随着AI技术的迅速发展,此类设备将成为推动行业应用的重要力量。