邊緣計算專家SolidRun和ASIC解決方案公司Gyrfalcon Technology本周宣布了一款基于Arm的AI推理邊緣服務器,兩家公司表示,它們在降低成本和功耗方面優(yōu)于GPU性能。
該服務器稱為Janux GS31,可以配置多達128個Gyrfalcon Lightspeeur SPR2803S神經加速器芯片,每瓦最大可提供24 TOPS,比“基于SoC和GPU的系統(tǒng)”好幾個數量級,而使用功率卻要低得多。兩家公司在聯合聲明中說:“具有等效計算能力的系統(tǒng)所需的能量。”該硬件支持低延遲解碼和多達128個1080p / 60Hz視頻通道的視頻分析,這些邊緣通道用于邊緣AI用例,例如監(jiān)視智能城市和基礎設施,智能企業(yè)/工業(yè)視頻監(jiān)視應用程序以及標記照片和視頻以進行基于文本的搜索。
Tirias Research的創(chuàng)始人兼首席分析師Jim McGregor表示:“ AI正在迅速向網絡邊緣轉移,以滿足許多應用程序的性能和安全需求。結果,新的網絡將推動對處理性能和效率。SolidRun平臺將利用GTI AI加速技術,提供強大而有效的方式來構建新的智能網絡,從而彌合設備與云之間的鴻溝。”
總部位于加利福尼亞州米爾皮塔斯的Gyrfalcon宣稱自己是使用低功耗小型芯片的高性能AI加速器的開發(fā)商。SolidRun是一家以色列Arm和x86計算和網絡技術公司,致力于AI邊緣部署和5G。
SolidRun首席執(zhí)行官Atai Ziv博士說:“功能強大的新AI模型每分鐘都會推向市場,并且對用于部署這些AI模型的AI推理解決方案的需求正在迅速增長。”“盡管基于GPU的推理服務器已在基于云的應用程序中獲得廣泛關注,但對邊緣優(yōu)化的解決方案的需求不斷增長,這些解決方案提供了比基于云的解決方案更少延遲的強大AI推理。與Gyrfalcon合作并利用其業(yè)已驗證的ASIC使我們能夠創(chuàng)建一種功能強大且經濟高效的解決方案,以便在Edge上部署AI,從而提供無縫的可擴展性。”