本文概要:

1. 研究人員通過(guò)添加兩個(gè)詞來(lái)減少大型語(yǔ)言模型中的幻覺。

2. 這種簡(jiǎn)單的技術(shù)可以提高答案的準(zhǔn)確性。

3. 該技術(shù)對(duì)于較大的指令調(diào)整模型最為有效。

微新創(chuàng)想（idea2003.com）8月4日 消息:約翰·霍普金斯大學(xué)的研究人員發(fā)現(xiàn)了一種簡(jiǎn)單的技術(shù)，可以減少大型語(yǔ)言模型（LLM） 中的幻覺并提高答案的準(zhǔn)確性。通過(guò)在查詢中添加“根據(jù)”，LLM更有可能引用觀察到的文本并提供事實(shí)信息，而不是捏造答案。

他們使用 QUIP 分?jǐn)?shù)指標(biāo)對(duì)語(yǔ)言模型的回答進(jìn)行審查，發(fā)現(xiàn)當(dāng)在查詢中加入“根據(jù)維基百科……”等基礎(chǔ)提示時(shí)，引用信息的準(zhǔn)確性可以提高5-15%。這種技術(shù)尤其在較大的指令調(diào)整模型中表現(xiàn)出色。

研究人員指出，通過(guò)使用基礎(chǔ)提示詞，大型語(yǔ)言模型更有可能引用觀察到的文本并提供真實(shí)的事實(shí)信息，而不是虛構(gòu)的答案。

這一發(fā)現(xiàn)有助于提高人工智能系統(tǒng)的可信度和準(zhǔn)確性，并減少系統(tǒng)產(chǎn)生虛假信息的情況。然而，研究人員也指出，這種技術(shù)在不同的語(yǔ)言模型和應(yīng)用場(chǎng)景中可能會(huì)有所不同，需要進(jìn)一步的研究和優(yōu)化。

總體而言，這項(xiàng)研究為改進(jìn)語(yǔ)言模型的質(zhì)量和可靠性提供了一個(gè)簡(jiǎn)單有效的方法。