|
12月11日消息,吉尼美國初創(chuàng)公司Tiiny Lab推出了其最新產(chǎn)品Pocket Lab,證全這是球最一款專為個(gè)人LLM設(shè)計(jì)、主打完全離線運(yùn)行的小迷“口袋AI超級(jí)計(jì)算機(jī)”。 這款設(shè)備憑借其極其緊湊的超算尺寸和強(qiáng)大的硬件配置,在“最小迷你PC(本地運(yùn)行100B參數(shù)LLM)”類別下獲得了吉尼斯世界紀(jì)錄的發(fā)布官方認(rèn)證。 Pocket Lab尺寸僅為14.2 x 8 x 2.5厘米,搭載重量約300克,內(nèi)存內(nèi)部配置也很強(qiáng)大: 處理器:基于ARM v9.2架構(gòu)的吉尼12核ARM CPU。 AI算力:定制異構(gòu)模塊(SoC + dNPU),證全提供約190 TOPS的球最總AI算力。 內(nèi)存與存儲(chǔ):配備了高達(dá)80GB的小迷LPDDR5X內(nèi)存(其中48GB專用于NPU)和1TB SSD。 功耗:典型系統(tǒng)功耗為65W。超算 Pocket Lab最大的發(fā)布亮點(diǎn)在于,其能夠完全在本地離線狀態(tài)下運(yùn)行高達(dá)1200億參數(shù)的搭載大模型,打破了以往對(duì)云端、服務(wù)器或高端GPU的依賴。 該公司通過TurboSparse(神經(jīng)元級(jí)稀疏激活技術(shù))和PowerInfer(開源異構(gòu)推理引擎)等技術(shù),實(shí)現(xiàn)了在低功耗下達(dá)到近似服務(wù)器級(jí)的性能,尤其針對(duì)10B至100B參數(shù)的個(gè)人AI “黃金區(qū)間”進(jìn)行了優(yōu)化。 Pocket Lab支持一鍵安裝包括Llama、Qwen、DeepSeek、Mistral、Phi和OpenAI GPT-OSS在內(nèi)的多種主流開源模型,并支持OpenManus、ComfyUI等AI Agent框架。 Tiiny AI確認(rèn),這些軟件功能和OTA硬件升級(jí)將在2026年1月的CES展會(huì)上正式發(fā)布,該產(chǎn)品的定價(jià)細(xì)節(jié)目前仍未公布。 |