![]()
英偉達(dá)公司不僅為下一代人工智能智能體提供基礎(chǔ)設(shè)施,還為開發(fā)者提供構(gòu)建工具。
在與Computex大會(huì)同期舉行的英偉達(dá)GTC臺(tái)北2026大會(huì)上,該公司發(fā)布了其Agent Toolkit的最新版本。這是一套綜合性軟件套件,包含開源模型和藍(lán)圖,用于構(gòu)建強(qiáng)大的、可長(zhǎng)時(shí)間運(yùn)行的數(shù)字協(xié)作者,能夠執(zhí)行跨業(yè)務(wù)運(yùn)營(yíng)、工程和網(wǎng)絡(luò)安全任務(wù)的復(fù)雜工作流程。
英偉達(dá)Agent Toolkit旨在成為一個(gè)開放且易于訪問的基礎(chǔ)技術(shù)棧,為開發(fā)者提供將強(qiáng)大的前沿模型轉(zhuǎn)化為功能完整的AI智能體所需的一切。該套件包括一系列高度優(yōu)化的模型和安全運(yùn)行時(shí)環(huán)境,試圖減少導(dǎo)致許多公司推遲大規(guī)模部署AI智能體的障礙。
盡管大語(yǔ)言模型已被證明是出色的編碼助手和圖形設(shè)計(jì)師,但在嘗試承擔(dān)更復(fù)雜的業(yè)務(wù)和運(yùn)營(yíng)任務(wù)時(shí)往往表現(xiàn)不佳。開發(fā)者面臨的主要挑戰(zhàn)之一是創(chuàng)建一種編排層,通常稱為"線束",用于管理模型的內(nèi)存以在多日會(huì)話中保持上下文,使智能體能夠使用第三方工具并與其他智能體協(xié)作。
AI智能體還帶來(lái)了安全隱患。當(dāng)組織賦予自主智能體訪問敏感文件、修改應(yīng)用程序代碼以及創(chuàng)建自己的子智能體來(lái)分擔(dān)任務(wù)的自由時(shí),這會(huì)帶來(lái)傳統(tǒng)軟件企業(yè)策略無(wú)法遏制的巨大安全風(fēng)險(xiǎn)。
這些正是英偉達(dá)希望解決的挑戰(zhàn),為開發(fā)者提供一系列開源構(gòu)建模塊,使他們能夠創(chuàng)建所需的智能體線束。借助Agent Toolkit,開發(fā)者將能夠安全地大規(guī)模編排和保護(hù)數(shù)字協(xié)作者。
英偉達(dá)首席執(zhí)行官黃仁勛表示,如果人們想象的AI革命要實(shí)現(xiàn),AI智能體必須有辦法在完成業(yè)務(wù)工作的系統(tǒng)中運(yùn)行。
Agent Toolkit的核心是英偉達(dá)NemoClaw,這是一個(gè)新框架,作為構(gòu)建智能體編排層的主要藍(lán)圖。通過NemoClaw,開發(fā)者可以訪問現(xiàn)成的模板,這些模板構(gòu)建了智能體規(guī)劃、推理、執(zhí)行和委派任務(wù)的方式。
黃仁勛解釋說(shuō):"NemoClaw為企業(yè)軟件開發(fā)者提供了開放的構(gòu)建模塊,以創(chuàng)建更安全、可長(zhǎng)時(shí)間運(yùn)行的AI協(xié)作者,在重塑工作方式的同時(shí)放大人類專業(yè)知識(shí)。"
另一個(gè)關(guān)鍵組件是英偉達(dá)的Nemotron 3 Ultra,這是一個(gè)專為長(zhǎng)時(shí)間運(yùn)行的自主智能體構(gòu)建的大規(guī)模新型5500億參數(shù)混合專家模型。據(jù)英偉達(dá)稱,它能夠在編碼和研究工作流程中實(shí)現(xiàn)前沿級(jí)別的推理,推理速度比同類前沿模型快五倍,運(yùn)行成本降低30%。
英偉達(dá)希望開發(fā)者在OpenShell安全運(yùn)行時(shí)中運(yùn)行這些智能體,這是一個(gè)支持自定義安全和隱私控制的安全容器環(huán)境。OpenShell運(yùn)行時(shí)是與微軟公司、Canonical公司和IBM公司的紅帽合作開發(fā)的,與原生Windows安全原語(yǔ)集成,以確保AI智能體始終處于用戶的完全控制之下并避免危險(xiǎn)行為。使用該運(yùn)行時(shí),開發(fā)者可以在將查詢發(fā)送到基于云的模型之前智能地屏蔽敏感數(shù)據(jù),并確保最敏感的工作負(fù)載僅路由到本地硬件。
最后,英偉達(dá)推出了多個(gè)CUDA-X庫(kù)作為可重用的"智能體技能",使智能體無(wú)需首先進(jìn)行大量訓(xùn)練即可訪問一系列專業(yè)能力。這些即插即用的技能包括cuDF,使智能體能夠快速處理大規(guī)模結(jié)構(gòu)化數(shù)據(jù)集并對(duì)其發(fā)現(xiàn)進(jìn)行推理;cuOpt,賦予智能體實(shí)時(shí)解決與路由、調(diào)度、供應(yīng)鏈、資源分配和決策優(yōu)化相關(guān)的復(fù)雜問題的能力。
其他技能包括AI-Q,它將智能路由與持久上下文和內(nèi)置評(píng)估集成用于企業(yè)研究工作流程;NeMo,用于加速智能體優(yōu)化、評(píng)估和治理;PhysicsNeMo,供智能體進(jìn)行復(fù)雜的科學(xué)和工程模擬;以及CUDA-Q,可以為智能體提供生成、測(cè)試和安裝量子程序、模擬量子計(jì)算系統(tǒng)和編排量子應(yīng)用所需的知識(shí)。
英偉達(dá)分享了一些早期采用者使用改進(jìn)后的Agent Toolkit所做的工作。例如,半導(dǎo)體設(shè)計(jì)軟件公司Cadence Design Systems使用OpenShell部署了ChipStack AI超級(jí)智能體,可以自動(dòng)驗(yàn)證新芯片設(shè)計(jì),英偉達(dá)是使用該智能體的第一個(gè)客戶。西門子公司使用該工具包開發(fā)了Fuse EDA智能體,可以在印刷電路板設(shè)計(jì)中編排多工具工作流程。
除了工程領(lǐng)域,其他公司正在使用AI智能體自動(dòng)化網(wǎng)絡(luò)安全工作負(fù)載。例如,CrowdStrike Holdings基于英偉達(dá)的NemoTron 3 Ultra模型開發(fā)了多個(gè)智能體,以持續(xù)識(shí)別和修復(fù)安全漏洞。另一個(gè)客戶是Palantir Technologies,該公司已將多個(gè)AI模型集成到其Forward Deployed Engineer平臺(tái)中,以創(chuàng)建能夠從先前交互中持續(xù)學(xué)習(xí)的自主、氣隙系統(tǒng)。
英偉達(dá)表示,NemoClaw框架現(xiàn)已向開發(fā)者開放,而OpenShell運(yùn)行時(shí)目前可作為早期預(yù)覽版訪問。Nemotron 3 Ultra將于6月4日推出,并將作為英偉達(dá)NIM微服務(wù)通過Hugging Face、ModelScope和OpenRouter以及英偉達(dá)自己的Build平臺(tái)提供。CUDA-X智能體技能現(xiàn)在也可通過Claude Code市場(chǎng)和Hermes Skills Hub獲得。
Q&A
Q1:英偉達(dá)Agent Toolkit是什么?它能做什么?
A:英偉達(dá)Agent Toolkit是一套綜合性軟件套件,包含開源模型和藍(lán)圖,用于構(gòu)建強(qiáng)大的、可長(zhǎng)時(shí)間運(yùn)行的數(shù)字協(xié)作者。它為開發(fā)者提供將強(qiáng)大的前沿模型轉(zhuǎn)化為功能完整的AI智能體所需的一切,包括高度優(yōu)化的模型和安全運(yùn)行時(shí)環(huán)境,能夠執(zhí)行跨業(yè)務(wù)運(yùn)營(yíng)、工程和網(wǎng)絡(luò)安全任務(wù)的復(fù)雜工作流程。
Q2:NemoClaw框架在Agent Toolkit中起什么作用?
A:NemoClaw是Agent Toolkit的核心,是一個(gè)新框架,作為構(gòu)建智能體編排層的主要藍(lán)圖。通過NemoClaw,開發(fā)者可以訪問現(xiàn)成的模板,這些模板構(gòu)建了智能體規(guī)劃、推理、執(zhí)行和委派任務(wù)的方式,為企業(yè)軟件開發(fā)者提供了開放的構(gòu)建模塊,以創(chuàng)建更安全、可長(zhǎng)時(shí)間運(yùn)行的AI協(xié)作者。
Q3:Nemotron 3 Ultra模型有什么特點(diǎn)?
A:Nemotron 3 Ultra是一個(gè)專為長(zhǎng)時(shí)間運(yùn)行的自主智能體構(gòu)建的大規(guī)模新型5500億參數(shù)混合專家模型。它能夠在編碼和研究工作流程中實(shí)現(xiàn)前沿級(jí)別的推理,推理速度比同類前沿模型快五倍,運(yùn)行成本降低30%,專門為自主智能體的長(zhǎng)期運(yùn)行而優(yōu)化。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.