NEC 宣布為日本市場提供生成式 AI 服務:可根據客戶需求定制化
站長之家(ChinaZ.com) 7月7日消息:日本電氣,又稱日電或 NEC,是一家總部位于東京都港區的跨國信息技術公司,英文全稱為「Nippon Electric Company, Limited」,1983 年改為簡稱 NEC。作為住友集團的成員,NEC 專注于為商業企業和通信服務提供信息技術和網絡產品。
日本NEC公司社長森田隆之在今年六月表示,正在探討獨自開發能自動制作精巧文章及圖像的生成式人工智能(AI),以新服務的形式提供給用戶。
7 月 6 日,NEC 宣布本月開始將為日本市場提供生成 AI 服務,該服務可根據客戶需求定制化。生成 AI 包括日本語言優化的大規模語言模型(LLM)。提供的服務包括針對生成 AI 所需的硬件、軟件和咨詢服務,命名為「NEC Generative AI Service」。
為了支持客戶,NEC Generative AI Hub 團隊提供了多種人才,包括提示工程師、咨詢顧問和數據科學家等,旨在支持 NEC 的增長并為客戶提供有價值的生成 AI 服務。
為了幫助客戶更好地使用生成 AI,NEC 提供了名為「NEC Generative AI Framework」的軟件解決方案,其中包括提示模板、問答強化和模型切換等功能。LLM 可以根據客戶需求提供「微軟 Azure OpenAI Service」或 NEC 開發的 LLM。
通過與微軟的全球聯盟,NEC 將在以 NEC 印西數據中心為核心的「Microsoft Azure ExpressRoute」上提供服務。結合 NEC 的 LLM、NEC Generative AI Framework 和可以在本地使用的硬件基礎設施「NEC Generative AI Appliance Server」,可以創建低延遲且安全的 LLM 環境。
此外,NEC 推出了名為「NEC Generative AI Advanced Customer Program」的綜合支持計劃,旨在結合 NEC 的專業知識和客戶的專業知識,為客戶提供模型創建、生成 AI 軟件開發和組織搭建等全方位支持。目前,已經有一些企業參與了該計劃,計劃通過企業間的交流創造新的商業模式。
NEC 開發了專門針對日本市場的日語優化的 LLM。根據使用日本語言理解基準測試(JGLUE)對 LLM 進行評估,它在知識問答方面達到 81.1%,在文檔閱讀理解方面達到 84.3%,性能在全球范圍內屬于較高水平。
相比海外頂級 LLM 的模型大小(參數大小)為 1750 億,NEC 開發的 LLM 經過輕量化處理,模型大小僅為 130 億,極具緊湊性。過去,性能出色的 LLM 需要 8 塊 GPU,而 NEC 的 LLM 可以在僅搭載 1 塊 GPU 的標準服務器上運行。
這使得基于 LLM 的業務應用可以具有良好的響應性能,并有助于減少業務運營中的電力消耗和服務器成本。此外,可以實現本地部署,將 LLM 應用于對機密性要求較高的業務,或者快速創建針對客戶定制的 LLM 模型。
NEC 已經在內部業務中廣泛應用 LLM,如文檔創作、內部系統開發和源代碼生成等,以提高各種業務的效率。NEC 將繼續推進基于基礎模型開發針對客戶特定數據和行業的 LLM 模型,并進一步提升基礎模型的性能。
NEC 數據科學實驗室的主要研究員 Masafumi Oyamada 進行了演示,展示了基于 LLM 的聊天工具原型「NEC Generative AI Framework Chat」。用戶可以通過該工具輸入問題并獲得回答,還可以進行追問。此外,LLM 還可用于編程、文檔生成和摘要等用途。
NEC 計劃在未來三年內,在生成 AI 相關業務上實現 500 億日元的銷售額。