微新創想(idea2003.com) 7月25日消息:微軟的一個團隊，包括 TypeScript 創始人 Anders Heljsberg 在內，推出了 TypeChat，旨在為對話式 AI 添加結構。

發布新庫的文章中表示：「當前的大型語言模型（LLM）默認為對話式自然語言，即人類用英語等語言進行交流。解析自然語言是一項非常困難的任務。」TypeChat 基于 TypeScript 類型。開發人員定義表示應用程序處理的問題或「意圖」的類型。TypeChat 庫將構建用于向 LLM（大型語言模型）AI（如 OpenAI 的 ChatGPT）發出的提示，要求以符合這些類型的方式返回數據。如果響應未通過驗證，它將嘗試通過進一步的交互來修復。最后，TypeChat 將對交互進行總結，以便在執行任何操作之前進行確認。數據以 JSON 格式傳輸，因為文檔中指出，「許多語言模型在生成 JSON 方面表現出色」。

團隊提供的示例包括用戶輸入的情感分析、咖啡館或餐廳的食品訂購、日歷安排、數學計算和在 Spotify 上播放音樂等。

該項目宣稱的優勢包括更高的準確性、更易接近的編程和更大的安全性，因為這些類型限制了 AI 的響應。

TypeChat 的推出是在 OpenAI 推出「Chat Completions API 中的新函數調用功能」幾周后。這允許開發人員通過 JSON Schema 描述函數，并且 LLM 輸出帶有參數的 JSON 來調用這些函數。這個想法有些類似，因為它意味著 LLM 的輸出與開發人員的代碼集成。

這是否使 TypeChat 變得多余？在 TypeChat 的 GitHub 存儲庫上已經問過這個問題；但毫無疑問，部分答案是 TypeChat 設計為與任何 LLM 一起使用，而不僅僅是 OpenAI——盡管目前團隊提供的所有示例都在 OpenAI 或 Azure OpenAI 端點上運行，這并不奇怪，考慮到微軟與 OpenAI 的密切關聯。

開發人員對此反應褒貶不一，從「迫不及待地想試一試」到「為什么我們要試圖從專門設計用于生成自然語言輸出的東西中獲取結構化輸出？」還有許多其他項目解決了相同的問題，尤其是微軟自己的 Guidance 項目。

然而，TypeChat 的吸引力在于 TypeScript 已經為數百萬開發人員所熟悉，并且背后的團隊包括 Hejlsberg，TypeScript 高級項目經理 Daniel Rosenwasser，技術高級項目經理 Steve Lucco 等人。

問題可能在于，到目前為止，該項目的微軟和 OpenAI 的濃厚風格可能會阻礙該團隊表示希望看到的那種供應商中立的采用。