要點(diǎn):

1. ULTRA是一個(gè)用于知識(shí)圖譜（KGs）推理的預(yù)訓(xùn)練基礎(chǔ)模型，能夠在各種KGs上學(xué)習(xí)通用和可遷移的圖表示，甚至在零樣本情況下表現(xiàn)出色。

2. 該研究團(tuán)隊(duì)提出ULTRA模型，旨在學(xué)習(xí)多用途的圖表示，與基于文本的方法不同，無(wú)需依賴(lài)文本信息，還強(qiáng)調(diào)實(shí)驗(yàn)中使用的數(shù)據(jù)集類(lèi)型，包括傳導(dǎo)和歸納數(shù)據(jù)集。

3. ULTRA通過(guò)關(guān)系互動(dòng)創(chuàng)建關(guān)系圖，使其能夠在具有不同實(shí)體和關(guān)系詞匯的任何KG上推理，提供了一個(gè)通用的圖表示方法，便于在不同規(guī)模和關(guān)系詞匯的KG之間進(jìn)行有效的預(yù)訓(xùn)練和微調(diào)。

站長(zhǎng)之家（ChinaZ.com）10月31日 消息:ULTRA是一個(gè)旨在推理知識(shí)圖譜（KGs）的預(yù)訓(xùn)練基礎(chǔ)模型。ULTRA的關(guān)鍵創(chuàng)新在于它能夠?qū)W習(xí)通用和可遷移的圖表示，而無(wú)需依賴(lài)文本信息。它通過(guò)在不同KG中創(chuàng)建關(guān)系圖，能夠在各種實(shí)體和關(guān)系詞匯下進(jìn)行推理，甚至在零樣本情況下表現(xiàn)出色，常常超越專(zhuān)門(mén)的基準(zhǔn)模型。

項(xiàng)目地址:https://github.com/DeepGraphLearning/ULTRA

研究人員通過(guò)三步算法實(shí)現(xiàn)了ULTRA的功能，包括提升圖、根據(jù)查詢(xún)獲取關(guān)系表示以及預(yù)測(cè)鏈接。ULTRA在57個(gè)KG上的性能表現(xiàn)出色，特別是在零樣本推理方面。通過(guò)微調(diào)，ULTRA的性能進(jìn)一步提升，與基準(zhǔn)模型相媲美甚至優(yōu)于那些僅在特定圖上訓(xùn)練的模型。

總的來(lái)說(shuō)，ULTRA提供了通用和可遷移的圖表示，對(duì)于多關(guān)系圖的訓(xùn)練和推理非常出色，而無(wú)需輸入特征。它不僅在各種KG上表現(xiàn)出色，甚至在零樣本情況下也能實(shí)現(xiàn)卓越的性能。未來(lái)的研究將探索更多捕捉關(guān)系之間互動(dòng)的策略，以及更全面的評(píng)估指標(biāo)。

這項(xiàng)研究鼓勵(lì)深入研究遷移學(xué)習(xí)對(duì)KG表示學(xué)習(xí)的潛在益處，并建議研究歸納學(xué)習(xí)方法，以實(shí)現(xiàn)對(duì)具有不同關(guān)系集的KGs的泛化。

總之，ULTRA的通用性和可遷移性使其成為歸納和可遷移的知識(shí)圖譜推理的有望選擇，對(duì)于各種不同關(guān)系結(jié)構(gòu)的新KGs都能表現(xiàn)出色。

（舉報(bào)）