微新創(chuàng)想(idea2003.com) 7月25日消息:微軟的一個(gè)團(tuán)隊(duì)，包括 TypeScript 創(chuàng)始人 Anders Heljsberg 在內(nèi)，推出了 TypeChat，旨在為對(duì)話式 AI 添加結(jié)構(gòu)。

發(fā)布新庫(kù)的文章中表示：「當(dāng)前的大型語(yǔ)言模型（LLM）默認(rèn)為對(duì)話式自然語(yǔ)言，即人類用英語(yǔ)等語(yǔ)言進(jìn)行交流。解析自然語(yǔ)言是一項(xiàng)非常困難的任務(wù)。」TypeChat 基于 TypeScript 類型。開發(fā)人員定義表示應(yīng)用程序處理的問題或「意圖」的類型。TypeChat 庫(kù)將構(gòu)建用于向 LLM（大型語(yǔ)言模型）AI（如 OpenAI 的 ChatGPT）發(fā)出的提示，要求以符合這些類型的方式返回?cái)?shù)據(jù)。如果響應(yīng)未通過驗(yàn)證，它將嘗試通過進(jìn)一步的交互來修復(fù)。最后，TypeChat 將對(duì)交互進(jìn)行總結(jié)，以便在執(zhí)行任何操作之前進(jìn)行確認(rèn)。數(shù)據(jù)以 JSON 格式傳輸，因?yàn)槲臋n中指出，「許多語(yǔ)言模型在生成 JSON 方面表現(xiàn)出色」。

團(tuán)隊(duì)提供的示例包括用戶輸入的情感分析、咖啡館或餐廳的食品訂購(gòu)、日歷安排、數(shù)學(xué)計(jì)算和在 Spotify 上播放音樂等。

該項(xiàng)目宣稱的優(yōu)勢(shì)包括更高的準(zhǔn)確性、更易接近的編程和更大的安全性，因?yàn)檫@些類型限制了 AI 的響應(yīng)。

TypeChat 的推出是在 OpenAI 推出「Chat Completions API 中的新函數(shù)調(diào)用功能」幾周后。這允許開發(fā)人員通過 JSON Schema 描述函數(shù)，并且 LLM 輸出帶有參數(shù)的 JSON 來調(diào)用這些函數(shù)。這個(gè)想法有些類似，因?yàn)樗馕吨?LLM 的輸出與開發(fā)人員的代碼集成。

這是否使 TypeChat 變得多余？在 TypeChat 的 GitHub 存儲(chǔ)庫(kù)上已經(jīng)問過這個(gè)問題；但毫無(wú)疑問，部分答案是 TypeChat 設(shè)計(jì)為與任何 LLM 一起使用，而不僅僅是 OpenAI——盡管目前團(tuán)隊(duì)提供的所有示例都在 OpenAI 或 Azure OpenAI 端點(diǎn)上運(yùn)行，這并不奇怪，考慮到微軟與 OpenAI 的密切關(guān)聯(lián)。

開發(fā)人員對(duì)此反應(yīng)褒貶不一，從「迫不及待地想試一試」到「為什么我們要試圖從專門設(shè)計(jì)用于生成自然語(yǔ)言輸出的東西中獲取結(jié)構(gòu)化輸出？」還有許多其他項(xiàng)目解決了相同的問題，尤其是微軟自己的 Guidance 項(xiàng)目。

然而，TypeChat 的吸引力在于 TypeScript 已經(jīng)為數(shù)百萬(wàn)開發(fā)人員所熟悉，并且背后的團(tuán)隊(duì)包括 Hejlsberg，TypeScript 高級(jí)項(xiàng)目經(jīng)理 Daniel Rosenwasser，技術(shù)高級(jí)項(xiàng)目經(jīng)理 Steve Lucco 等人。

問題可能在于，到目前為止，該項(xiàng)目的微軟和 OpenAI 的濃厚風(fēng)格可能會(huì)阻礙該團(tuán)隊(duì)表示希望看到的那種供應(yīng)商中立的采用。