一、「AI Pin」初代發售:
上週有一場由前Apple團隊組成的新創Humane,所舉辦的「AI Pin」硬體發表會,話題度竟然不輸OpenAI的GPT-4。原來,「AI Pin」是一款以大語言模型為基底的AI裝置,重量不到100克,沒有螢幕,可直接別胸上,以投影顯示結果,還可用語音與手勢與它互動。許多人驚呼宛如科幻片裡的個人助理,將顛覆iPhone時代。這是否暗示,從此我們再也不需要手機?
新創公司Humane上週(11/9)正式發表人工智慧硬體「AI Pin」,它宛若ChatGPT化身為裝置,直接走向世界
「AI Pin」具備手機應該有的功能,上網、語音通話,同時也配備麥克風與相機,因此可以在動態中攝影,或者是邊走邊對話,但它強調比手機更好,不用螢幕、可以用投影呈現內容,人們則能夠透過聲音、手勢、手部接觸等方式與Pin互動。
對比手機內建智慧助理,與Pin的對話顯得更為自然,不用特別喚醒(wake)裝置,也不用非得以下命令的方式才能互動;對比其他企圖替人類創造新體驗的VR/MR頭盔,Pin的尺寸輕薄,可以配戴在衣服上,不會干擾工作與生活。
![]() | ||
小巧到可以佩戴於衣領處
|
「AI Pin」的官方售價為699美元,以及包含通話與網路流量在內的24美元月費,使用者購買時會拿到一組電話號碼;預計將在2024年出貨。它配備高通驍龍處理器,裝置本身加上電池大約54克左右,相機解析度為1300萬畫素。
根據Crunchbase資料,Humane目前募得2300萬美元資金,其中投資人包括OpenAI的執行長奧特曼(Sam Altman)個人、微軟、Salesforce旗下的基金、Volvo旗下的基金等。Humane的共同創辦人查得利(Imran Chaudhri)與班吉歐茉(Bethany Bongiorno)和都曾在蘋果工作,前者在蘋果服務8年曾任軟體工程總監(Director of Software Engineering),接觸過iPhone、iPad和iOS等,後者則在蘋果工作超過21年,參與過VR、手錶、電視、手機與電腦等專案,專業領域以用戶體驗為主,最高當過設計總監(Director of Design)。
二、NVIDIA推出新款GPU NVIDIA HGX™ H200
NVIDIA 於11月13日宣佈推出 NVIDIA HGX™ H200,為 Hopper 這一全球領先的 AI 計算平臺再添新動力。NVIDIA HGX H200 平臺基於 NVIDIA Hopper™ 架構,搭載 NVIDIA H200 Tensor Core GPU 和領先的顯存配置,可處理生成式 AI 與高性能計算工作負載的海量數據。
NVIDIA H200 是首款採用 HBM3e 的 GPU,全新的H200提供了總共高達141GB 的 HBM3e 內存,有效運行速度約為 6.25 Gbps,六個 HBM3e 堆棧中每個 GPU 的總帶寬為 4.8 TB/s。與上一代的H100(具有 80GB HBM3 和 3.35 TB/s 帶寬)相比,這是一個巨大的改進,HBM容量提升了超過76%。官方提供的數據顯示,在運行大模型時,H200相比H100將帶來60%(GPT3 175B)到90%(Llama 2 70B)的提升。
全球領先的服務器製造商和雲服務提供商預計於 2024 年第二季度開始提供搭載 H200 的系統。
NVIDIA H200 將提供四路和八路 NVIDIA HGX H200 服務器主板可選,其與HGX H100 系統的硬件和軟件都兼容。同時還可用於今年 8 月發佈的採用 HBM3e 的 NVIDIA GH200 Grace Hopper™ 超級芯片。這些配置使 H200 可以部署在各類數據中心,包括本地、雲、混合雲和邊緣。
在 NVIDIA NVLink™ 和 NVSwitch™ 高速互連技術的加持下,HGX H200 可為各種應用工作負載提供最高的性能,包括針對 1750 億參數以上超大模型的 LLM 訓練和推理。
八路 HGX H200 可提供超過 32 PetaFLOPS的 FP8 深度學習計算能力和 1.1TB 的聚合高帶寬內存容量,能夠為生成式 AI 和 HPC 應用帶來強勁性能。
當H200 與採用超高速 NVLink-C2C 互連技術的 NVIDIA Grace™ CPU 搭配使用時,就組成了帶有 HBM3e 的 GH200 Grace Hopper 超級芯片——專為大型 HPC 和 AI 應用而設計的計算模塊。

