微軟崔宏禹:GPT-4以后,不建議再用微調(diào)進(jìn)行特定領(lǐng)域的模型適配_全球今亮點(diǎn)

來(lái)源:DoNews快訊


(資料圖片僅供參考)

5月26日,微軟(中國(guó))有限公司創(chuàng)新技術(shù)總經(jīng)理崔宏禹在上海舉行的向星力·未來(lái)數(shù)據(jù)技術(shù)峰會(huì)(FDTC)上回應(yīng)了當(dāng)下一個(gè)廣泛被提及的問(wèn)題,即如何用自己的數(shù)據(jù)訓(xùn)練自己的模型,將私域數(shù)據(jù)與GPT的能力相融合。崔宏禹解答道,“一般來(lái)說(shuō),我們推薦兩種方式。一種是微調(diào)(在不改動(dòng)預(yù)訓(xùn)練模型的基礎(chǔ)上,在模型頂層增加分類(lèi)器或一些特征映射,使微調(diào)后的模型能夠更貼合實(shí)際使用場(chǎng)景),但在GPT-4以后,我們已經(jīng)不建議或者已經(jīng)不讓大家使用微調(diào)的方式了。我們更推薦的是嵌入(將一個(gè)內(nèi)容實(shí)體映射為低維向量,從而可以獲得內(nèi)容之間的相似度)的方式。”

標(biāo)簽:

推薦

財(cái)富更多》

動(dòng)態(tài)更多》

熱點(diǎn)