云端推出NVIDIA驱动的AI推理服务,用于大规模的AI模型部署.

云台已经启动了AI的推理服务,由NVIDIA的NDIA微型服务提供动力,以加强大规模AI模型的部署和管理。 这项服务的目的是促进 " 产生性人工智能 " 从试点过渡到全面生产,提供更好的性能、稳健的安全和可扩展性。 它支持包括LLMS在内的各种AI应用程序,并为混合云的布局、实时监测和企业级安全提供特点。

October 08, 2024
21 文章