边缘计算将给医疗AI应用带来一场深刻的变革。它不仅能够提升医疗AI应用的实时性和安全性，还能够为医疗领域提供更为灵活和高效的数据处理能力。随着技术的不断发展和完善，相信边缘计算将在医疗AI应用中发挥越来越重要的作用，为医疗行业带来更多的创新和发展机遇。

——引言

COMPUTEX—2024年6月2日—NVIDIA今日宣布，集成NVIDIA Holoscan的NVIDIA AI Enterprise-IGX软件现已在NVIDIA IGX平台上正式可用，以满足工业边缘对实时AI计算日益增长的需求。它们将共同帮助医疗、工业和科学计算领域的解决方案提供商利用企业级软件和支持来加快开发和部署边缘AI解决方案。

NVIDIA AI Enterprise-IGX是一款全新产品，其为企业的边缘计算软件堆栈提供前所未有的性能、安全性和支持，简化了AI驱动的运营和AI应用的大规模部署。NVIDIA Holoscan是一个传感器处理平台，可以简化AI和高性能计算应用程序的开发和部署，以提供实时洞察。

通过在IGX平台上整合NVIDIA AI Enterprise-IGX和Holoscan，NVIDIA提供了一个企业级平台，可为工业边缘带来强大的AI计算能力、灵活的传感器集成、实时性能和功能安全，从而降低各行各业开发先进AI解决方案所需的时间和成本。

NVIDIA机器人与边缘计算副总裁Deepu Talla表示：“随着软件定义功能不断赋能各行各业的业务，企业正在寻求强大的边缘AI解决方案，以满足其独特的性能和监管要求。NVIDIA IGX平台的新功能提供从云到工业边缘的强大企业级软件，为客户带来更高的性能、安全性和可扩展性。”

NVIDIA IGX平台不断扩展

除了引入集成NVIDIA Holoscan的NVIDIA AI Enterprise-IGX之外，NVIDIA IGX平台还进行了一次重大更新。

NVIDIA IGX Orin™700（此前名为IGX Boardkit）现在支持NVIDIA RTX™6000 Ada GPU作为一个全新配置选项，性能高达每秒1705万亿次运算——与使用板上集成iGPU相比，AI性能提高了7倍。这为生成式AI和高性能计算工作负载提供了更强大的边缘计算能力。

NVIDIA IGX现已支持新产品——IGX Orin 500系统模块（SOM），其能够在保证企业软件支持的前提下创建灵活的载板设计和定制配置。

NVIDIA认证系统（NVIDIA-Certified Systems™）计划已扩展至包含IGX平台，以确保采用IGX构建的系统经过验证，能够以优化的性能运行加速的AI工作负载。研华科技（Advantech）、凌华科技（ADLINK）、Aetina、Ahead、Cosmo Intelligent Medical Devices（Cosmo Pharmaceuticals旗下子公司）、Dedicated Computing、丽台科技、Onyx和YUAN等公司正在打造NVIDIA认证IGX系统。

将AI引入医疗边缘

领先的医疗技术公司Barco、Karl Storz、美敦力和Moon Surgical正在采用集成Holoscan的NVIDIA IGX，以加快开发用于医疗诊断、手术助手、手术机器人、病人护理智能体等方面的AI驱动的解决方案。此外，强生医疗科技正在研究如何利用集成Holoscan的NVIDIA IGX来加速其医疗数字手术生态系统Polyphonic中的AI开发。

医疗技术提供商美敦力正在利用集成NVIDIA Holoscan的NVIDIA IGX，为其GI Genius™智能内窥镜检查模块提供支持，该模块由Cosmo Intelligent Medical Devices设计、开发和生产。这是首款通过FDA认证的AI辅助结肠镜检查工具，可帮助医生检测可能导致结肠直肠癌的息肉。

美敦力公司内窥镜业务总裁Raj Thomas表示：“NVIDIA IGX和Holoscan平台显著加速了我们在内窥镜领域的AI创新。通过利用NVIDIA的先进技术，我们可以专注于开发突破性的软件应用，提高患者的治疗效果，并为医生提供更大的支持。此次合作体现了我们‘致力于引领医疗技术进步，造福所有人’的承诺。”

机器人手术公司Moon Surgical正在利用集成Holoscan的IGX，为其Maestro系统提供动力支持。该系统是一个先进的手术机器人系统，旨在协助外科医生在微创手术中实现精准控制。

Moon Surgical首席执行官Anne Osdoit表示：“集成Holoscan的NVIDIA IGX平台加快了Maestro系统的开发进程，同时增强了Maestro的功能。通过与NVIDIA合作，我们的智能机器人助手能够更快地交付到外科医生手中，并具备更多功能，这使我们能够在商业化的道路上获得宝贵的反馈意见。”

应用案例：

1. 中国台湾地区领先的医疗中心采用NVIDIA加速计算推动生物医学研究

中国台湾地区的顶尖医疗研究与服务机构——卫生研究院（NHRI）与长庚纪念医院（CGMH）正携手NVIDIA推动医疗健康的革新。通过集成NVIDIA的加速计算技术与生成式AI，这些机构在医学影像分析、个性化医疗、临床流程优化及药物研发等方面实现了跨越。NHRI的邱弘毅博士强调AI对定制化治疗与疾病预防的变革力量，而CGMH的程文俊博士则展望AI如何引领更精准诊断、前瞻治疗规划与加速康复的未来。NVIDIA Blackwell平台的引入，标志着两家机构在利用先进AI改进患者护理和临床效率上的重大进展。

NHRI与NVIDIA的合作深化，还包括针对本土需求定制大型语言模型，以应对中国台湾地区特有语言与基因组数据挑战，保持科研前沿。长庚纪念医院，作为中国台湾地区最大医疗系统之一，计划借助Blackwell的计算力将此语言模型部署至全院系网络，强化专业支持，优化患者体验并简化工作流程，惠及广大医患群体，实现治疗效果的显著提升。

2. 生成式AI医疗加速发展：数十家公司采用Meta Llama 3 NIM

Meta Llama 3是Meta公开提供的最先进的大语言模型，使用NVIDIA加速计算进行训练和优化。该模型为医疗健康和生命科学工作流带来了显著改进，帮助交付旨在改善患者生活的应用。

Llama 3现已作为NVIDIA NIM推理微服务在ai.nvidia.com上提供下载。它使医疗健康开发者、研究人员和公司能够在各种各样的应用中进行负责任的创新。该NIM带有一个标准应用程序编程接口，可以在任何地方部署。对于手术规划、数字助理、药物研发和临床试验优化等广泛的用例，开发者可以使用Llama 3为copilot、聊天机器人等轻松部署经过优化的生成式AI模型。

NVIDIA于6月2日在COMPUTEX（全球顶级技术盛会之一）上宣布，数百个AI生态系统合作伙伴正在将NIM嵌入他们的解决方案中。中有超过40个合作伙伴是医疗健康和生命科学初创公司和企业，他们使用Llama 3 NIM来构建和运行可加速数字生物学、数字手术和数字健康的各种应用。

边缘工业AI

NVIDIA IGX平台大幅提高了功能安全性和高带宽传感器处理能力，通过AI推动工厂自动化和机器人协作的持续创新。

凌华科技正在利用NVIDIA IGX平台为其制造流程打造工业级边缘AI解决方案。

凌华科技总裁兼首席运营官Stephen Huang表示：“凌华科技利用NVIDIA IGX和Holoscan来实现主动安全功能，确保更高效、无缝的人机协作。通过与NVIDIA合作，我们持续改进精度、安全性和延迟，以优化机器运动路线、机械臂操作和充电站监控等生产运营。”

利用边缘AI探索地外世界

NVIDIA IGX正在帮助科研人员利用AI探索新世界，通过实时边缘计算能力来革新雷达处理和射电天文学。

非营利研究组织SETI正在利用NVIDIA IGX Orin为其Hat Creek射电天文台的射电天文能力提供动力，该天文台的目标是探测技术先进的地外生命。

SETI协会Bernard M.Oliver主席Andrew Siemion表示：“SETI正在使用IGX Orin平台的先进功能和Holoscan传感器处理平台，在射电天文学领域实现革命性的功能。我们现在能够以最小的开销和卓越的计算性能，将每秒数TB的射电望远镜数据直接传输到AI分类器中，这使我们能够处理来自更多天线的更大带宽，从而探测到更弱、更罕见的天体物理现象。”