>>>>>大模型動態<<<<<

開源大模型訓練框架Megatron-LLaMA來了32卡訓練可加速176%

9月12日，淘天集團聯合愛橙科技正式對外開源大模型訓練框架Megatron-LLaMA，以提高大語言模型訓練性能，降低訓練成本。

要點:

1. Megatron-LLaMA是一個基于Megatron-LM的分布式深度學習訓練框架，專門用于大規模語言模型LLaMA的訓練。

2. 測試顯示，相比HuggingFace代碼，Megatron-LLaMA在32卡訓練上獲得176%的加速效果。

3. Megatron-LLaMA已在GitHub開源，將持續關注社區發展，與開發者共同推進相關方向。

螞蟻集團發布“蟻天鑒”大模型安全一體化解決方案

螞蟻集團在2023國家網絡安全宣傳周上發布了名為“蟻天鑒”的大模型安全一體化解決方案，包括“蟻鑒2.0”大模型安全檢測平臺和“天鑒”大模型風險防御平臺，可以從多角度保障大模型的安全性。

要點:

1. “蟻天鑒”解決方案包含兩大核心產品“蟻鑒2.0”和“天鑒”平臺。

2. “蟻天鑒”從數據安全、內容安全、科技倫理等角度保障大模型安全。

3. “天鑒”平臺可以防止大模型受到外部攻擊，并對生成內容進行風險過濾。

>>>>>聚焦開發者<<<<<

WebAI開源:允許開發者直接在瀏覽器中運行現代深度學習模型

web-ai是一個開源的TypeScript庫，使開發者可以直接在瀏覽器或Node.js中運行現代深度學習模型。它提供了一種無需復雜服務器端基礎設施或依賴第三方API的方式，將AI能力集成到Web應用程序中。

項目地址:https://github.com/visheratin/web-ai

要點:

1） WebAI使用ONNX Runtime在瀏覽器和Node.js運行深度學習模型，支持高性能推理和緩存。

2） 提供簡單的API和配置選項，開發者可以輕松集成AI能力到Web應用中。

3） 采用MIT許可證，可以自由修改和商業部署，是集成深度學習到Web的開源首選。

開源AI搜索平臺Swirl 支持Microsoft365集成

開源AI搜索平臺Swirl支持Microsoft365集成，可以搜索自己的數據，與大型語言模型GPT進行知識問答，在不移動和重新索引數據的情況下解決多源數據搜索問題。

項目地址:https://github.com/swirlai/swirl-search

要點:

1. Swirl是一個開源的元搜索平臺，可以連接多種數據源進行聯合搜索。

2. Swirl可以搜索自己的數據，與GPT大模型進行知識問答，實現檢索增強生成。

3. Swirl使用Python和Django棧構建，可以在不移動和重新索引數據的情況下解決多源搜索問題。

通用Web應用程序服務器NGINX Unit開源

通用Web應用程序服務器NGINX Unit開源，可在七種語言中運行應用程序代碼。它將Web服務器、應用程序服務器和進程管理器功能集成到一個軟件包，通過在多語言中本地執行代碼簡化Web應用棧，是一個開源、高性能、易擴展的Web服務器。

項目地址:https://github.com/nginx/unit

要點:

1. NGINX Unit將Web服務器、應用程序服務器和進程管理器功能集成一個軟件包。

2. 支持在多種語言如Python、PHP等中本地執行應用程序代碼。

3. 它是一個開源、高性能、易擴展的Web服務器。

組合式AI驅動生態系統XenonJs 像搭積木一樣構建Web應用

XenonJs是一款模塊化的Web開發框架，開發者可以像搭積木一樣組合不同的組件和服務構建Web應用，它集成了AI技術，支持多終端部署，開源免費，使用JavaScript語言編寫，易學易用。

項目地址:https://github.com/NeonFlan/xenonjs

要點:

1. XenonJs采用組件化和圖狀態模式，組件間采用標準化接口實現松耦合和高內聚。

2. XenonJs深度集成AI技術，開發者可以利用AI服務快速添加智能功能。

3. XenonJs支持多終端部署，開發一次可以部署到多設備，還支持同構應用。

Numenta發布基于大腦的NuPIC，將AI效率提高100倍

Numenta公司推出基于17年大腦研究的人工智能產品NuPIC，可將AI處理效率提高約100倍。與大多數依賴圖形處理單元（GPU）的AI解決方案不同，NuPIC利用Intel CPU，充分利用其靈活的編程模型。這一創新意味著在不需要昂貴GPU基礎設施的情況下，能夠降低AI的成本，將AI運行效率提高數倍。

要點:

1. NuPIC是一款基于神經科學研究的AI解決方案，由杰夫·霍金斯等人創立，無需深度學習知識即可使用。

2. NuPIC利用Intel CPU實現高性能運行，相比依賴GPU的AI可降低成本，提升多倍效率。

3. NuPIC確保企業數據安全隱私，提供完全控制，是AI領域重要進展，可提高AI效率。

生成式AI開發平臺Hiber3D 用ChatGPT方式開發游戲

3D游戲開發平臺Hiber3D通過谷歌的PaLM大語言模型，結合自身500多個模板庫，以及數百萬個成品3D場景進行微調，推出了一個全新游戲開發平臺。該平臺在生成式AI加持下，用戶可以像使用ChatGPT那樣，通過文本問答方式快速創建3D游戲場景和功能。

申請試用地址:https://www.hiber3d.com/genai

要點:

1. Hiber3D利用谷歌PaLM模型，推出文本交互式3D游戲開發平臺，用戶可像使用ChatGPT那樣通過問答開發游戲。

2. Hiber3D提供500+模板庫及數百萬成品場景，用戶發出文本指令可快速生成游戲場景。

3. Hiber3D平臺未來將開放給用戶，實現無編程背景的普通人也可開發3D游戲。

>>>>>AI新鮮事<<<<<

英偉達GH200在MLPerf3.1中驚艷亮相，性能相比H100躍升17%

MLPerf作為業界公認的AI系統性能基準測試，最近發布了3.1版本。此版本中，英偉達最新發布的GH200Grace Hopper超級芯片首次在公開基準中亮相。測試結果顯示，GH200的性能比單個H100GPU提升了17%，在服務器場景的各個測試項目上均具有明顯優勢。

要點:

1. 英偉達最新GH200芯片在MLPerf3.1基準測試中首次亮相。

2. GH200的性能比單個H100提升了17%，各測試項目表現均超過H100。

3. MLPerf Inference3.1新增GPT-J推理測試，更新DLRM推理測試。

微軟攜手Project Gutenberg利用AI語音技術制作5000本免費有聲書

美國 IT 巨頭微軟公司近日與古Project Gutenberg合作，利用人工智能技術為該計劃的電子書庫制作了超過5000本高質量的有聲書。通過機器學習、自動文本選擇和自然語音合成等AI技術，實現了電子書自動轉化為語音的全流程。

圖源備注:圖片由AI生成，圖片授權服務商Midjourney

要點:

1. 微軟與Project Gutenberg合作，使用AI語音技術為該計劃的電子書庫制作了超過5000本有聲書。

2. 項目團隊開發算法自動分析電子書結構，使用多項前沿的AI語音合成技術生成語音。

3. 制作的有聲書語音數據達35000小時，涵蓋各類經典作品，免費開源提供。

OpenAI又被告了!作家集體起訴OpenAI侵犯版權

最近，一群作家，包括邁克爾·查伯恩、大衛·亨利·黃在內，針對OpenAI提起了集體訴訟。訴訟稱，OpenAI通過讓ChatGPT學習他們的受版權保護作品來進行模型訓練，不僅侵犯了版權，還通過ChatGPT產生的內容分析和總結構成了衍生侵權作品。

要點:

1. 邁克爾·沙伯恩、大衛·亨利·黃等作家起訴OpenAI，稱其訓練ChatGPT時侵犯版權。

2. 訴訟稱ChatGPT只能通過學習他們的作品才能產生內容，屬非法商業行為。

3. 這是繼Paul Tremblay等人后，又一群作家針對OpenAI提集體訴訟。

人工智能應用 Character.ai 月活躍用戶數正在趕超 ChatGPT

Character.ai的月活躍用戶數正在快速增長，有望趕超ChatGPT成為人工智能應用的新寵。根據市場情報公司 Similarweb 最近的分析，得到 a16z 支持的 Character.ai 的 iOS 和 Android 應用程序在美國現在每月有420萬活躍用戶，而 ChatGPT 的移動應用程序在美國的月活躍用戶數接近600萬。

要點:

1. 根據Similarweb數據，Character.ai iOS和Android應用的月活躍用戶達到420萬，接近ChatGPT移動端的600萬月活躍用戶。

2. Character.ai吸引了更多18-24歲的年輕用戶，這一人群在其他AI應用中的占比較低。

3. 盡管ChatGPT在網頁訪問量上領先，但Character.ai憑借移動應用成功保留了更多用戶，有望繼續增長。

小紅書博主用AI為“秀才”去油獲贊1.2萬 網友:還是AI懂我的審美

近日，小紅書博主“萬金油ai”利用AI技術生成了AI版的“秀才”，這條筆記在小紅書上獲得了1.2萬點贊和近3500條評論。不少用戶都被AI生成的“秀才”驚艷了一下，直呼“這哪是AI，這是去油神器”。

要點:

1、小紅書博主使用AI技術為中年大叔“秀才”逐步生成了古風美男形象。

2、生成的內容在小紅書上獲得超過1.2萬的點贊數，引發網友熱議。

3、這種創意應用展示了AI在藝術創作等領域的應用前景。

B站UP主用1300條B站熱門標題訓練AI 自制“賽博主編”

B站UP主“差評君”用1300條B站熱門視頻標題訓練AI“賽博主編”，能根據過往熱門視頻內容和觀眾口味自動生成符合B站觀眾喜好的視頻標題。截至目前，該視頻播放量達72.4萬，獲贊2.1萬。

要點:

1. “差評君”收集1300條B站熱門視頻標題作為訓練數據。

2. 通過千帆AI平臺訓練生成自動創作標題的AI“賽博主編”。

3. 訓練后的AI可以根據過往熱門視頻內容和觀眾口味生成標題。

抖音博主利用AI繪畫工具打造葡萄時裝秀獲贊5.4萬

抖音博主利用AI繪畫工具制作創意果蔬時裝秀視頻獲得高人氣，展示了AI在藝術創作領域中的應用潛力。

要點:

1.抖音博主“知伊”制作的“田園葡萄時裝秀”視頻獲得5.4萬點贊。

2.其他平臺博主也嘗試AI繪畫工具創作果蔬時裝，獲得了較高贊同。

3.這些視頻以獨特視覺效果吸引網友目光，展現了AI在藝術創作中的可能性。

馬斯克禁止第三方抓取X數據訓練AI模型

X公司更新服務條款，從9月29日起禁止第三方未經許可在平臺上獲取數據用于訓練AI模型，馬斯克一直反對第三方利用X平臺數據訓練AI，但表示X自己可以使用公開信息訓練AI。

要點:

1、X公司服務條款更新，從9月29日起禁止第三方未經許可獲取數據訓練AI。

2、馬斯克反對第三方使用X數據訓練AI，曾威脅提告微軟。

3、馬斯克稱X只會用公開信息訓練AI，不涉及私密內容。

谷歌推出2000萬美元基金支持負責任的人工智能開發

谷歌宣布設立2000萬美元基金，支持負責任的人工智能開發，并宣布啟動數字未來項目，匯聚AI發展中的多樣化聲音。

要點:

1. 谷歌推出2000萬美元基金，支持負責任的人工智能開發。

2. 谷歌啟動數字未來項目，旨在匯聚AI發展中的多樣化聲音。

3. 首批基金接受者包括阿斯彭研究所、布魯金斯學會等機構。

人工智能女友熱銷!羅馬尼亞AI初創公司每月獲利12萬美元

羅馬尼亞AI初創公司DreamGF通過讓用戶自定義虛擬女友，目前已有5萬注冊用戶和1萬付費用戶，每月收入約12萬美元。

要點:

1、DreamGF讓用戶選擇不同的服裝和“角色”來定制虛擬女友。

2、DreamGF的訂閱價格從每月10歐元到97歐元不等，級別越高福利越多。

3、DreamGF面臨行業潛在的倫理問題，有人擔心會加劇對女性的物化。

>>>>>AI應用<<<<<

美團大眾點評開始測試“智能小助手”AI功能

近日，美團大眾點評開始悄然測試“智能小助手”功能，用戶在搜索部分問題時，搜索結果頁面的頭部將出現“小助手”測試版，智能回答用戶提問。該功能可以智能回答用戶在美團 App 中的某些搜索問題。搜索結果由用戶評價自動綜合生成。該功能目前還處于內測階段。

要點:

1、 美團大眾點評正在測試“智能小助手”AI功能

2、 智能小助手可以智能回答App內某些搜索問題

3、搜索結果由用戶評價自動綜合生成

sdxl-emoji:一個生成emoji風格圖片的AI繪畫模型

sdxl-emoji是一個基于Stable Diffusion框架進行fine-tune的對抗生成模型，用戶只需輸入提示詞即可生成富有個性和趣味的表情包。

https://replicate.com/fofr/sdxl-emoji

要點:

1、sdxl-emoji模型可生成Apple風格emoji圖像。

2、用戶通過語言描述實現表情包的即時個性化生成。

3、模型在Replicate平臺上以API服務形式開放使用。