Nexa.ai本地AI代理工具「Hyperlink」支援NVIDIA RTX AI PC RAG索引速度提升3倍、推論快2倍

AI新創Nexa.ai宣佈,旗下開發的本地端AI代理 (AI Agent) 工具「Hyperlink」,正式針對NVIDIA RTX AI PC進行最佳化。透過運用GeForce RTX GPU的強大算力,新版應用程式在檢索增強生成 (RAG) 的索引速度上提升了3倍,LLM推論速度也提升了2倍,可解決傳統大型語言模型缺乏使用者在地端資料上下文的難題。

解決「AI 不懂你的電腦」痛點,採語意理解而非關鍵字

雖然目前的AI聊天機器人功能強大,但往往因爲無法存取使用者電腦中深藏於PDF、PPT、筆記或圖片內的資訊,導致回答缺乏針對性。而Hyperlink的設計初衷則是透過建立本地文件索引,讓AI能理解使用者查詢的意圖與上下文,而非僅依賴傳統的關鍵字比對。

舉例來說,當使用者請求協助撰寫「一篇比較兩部科幻小說主題的讀書報告」時,Hyperlink便能透過語意分析找到相關資料,即便該內容的檔案名稱是完全不相關的「Lit_Homework_Final.docx」,也能精準定位。

RTX 5090加持,1GB資料索引僅需5分鐘

在效能提升方面,Nexa.ai表示,在NVIDIA RTX 5090顯示卡上進行的基準測試顯示,過去處理一個1GB的高密度資料夾索引約需15分鐘,而在經過RTX AI PC最佳化後,Hyperlink僅需4-5分鐘即可完成索引。

意味使用者能更快速地將本地資料轉化爲可被AI檢索的即時智慧,而在LLM的推論速度倍增情況下,更可讓問答迴應更爲即時。

資料全在地端處理,鎖定商務、學術與開發場景

隱私安全是Hyperlink的另一大賣點。官方強調所有使用者資料皆保留於地端設備,無需將個人文件上傳至雲端,確保敏感資訊不外泄。

Hyperlink目前鎖定的應用場景相當廣泛,包含:

•會議準備:彙整筆記與逐字稿重點。

•報告分析:引用產業報告數據提供有依據的答案。

•高效學習:一鍵搜尋講義與教材重點。

•加速除錯:跨檔案與程式碼註解搜尋,定位版本衝突。

Hyperlink應用程式即日起已開放下載,持有NVIDIA RTX顯示卡的用戶將能獲得最佳化的AI搜尋體驗。

《原文刊登於合作媒體mashdigi,聯合新聞網獲授權轉載。》