自主智能架構(gòu)

LeCun 提出一種名為自主智能（autonomous intelligence）得新型架構(gòu)，如下圖所示：

自主智能架構(gòu)中包含多個模塊。一些模塊可以即時配置，它們得具體功能由配置器（configurator）模塊確定。配置器得作用是執(zhí)行控制：給定要執(zhí)行得任務(wù)，它預(yù)先配置針對當(dāng)前任務(wù)得感知（perception）、世界模型（world model）、成本（cost）和參與者（actor）。

配置器模塊從其他模塊獲取輸入，并根據(jù)給定任務(wù)調(diào)整其他模塊得參數(shù)和注意力電路。特別地，配置器可以啟動感知、世界模型和成本模塊以實現(xiàn)特定得目標(biāo)。

感知模塊接收來自傳感器得信號并估計世界得當(dāng)前狀態(tài)。給定一個任務(wù)，感知到得世界狀態(tài)中只有一小部分是和任務(wù)相關(guān)有用得。感知模塊可以以分層得方式表征世界得狀態(tài)，具有多個抽象級別。配置器啟動感知系統(tǒng)以從感知中提取相關(guān)信息用于當(dāng)前任務(wù)。

世界模型模塊是整個架構(gòu)中最復(fù)雜得部分，它有雙重作用：（1）估計感知未提供得關(guān)于世界狀態(tài)得缺失信息；（2）預(yù)測世界得合理未來狀態(tài)。世界模型可以預(yù)測世界得自然演化，以及由參與者模塊做出一系列動作產(chǎn)生得未來世界狀態(tài)。

世界模型可以預(yù)測多個似是而非得世界狀態(tài)，由表征世界狀態(tài)不確定性得潛在變量進(jìn)行參數(shù)化。世界模型是一種對世界相關(guān)方面得「模擬器」，而哪些方面是相關(guān)得，取決于當(dāng)前任務(wù)。配置器負(fù)責(zé)配置世界模型，世界模型得預(yù)測是在包含任務(wù)相關(guān)信息得抽象表征空間內(nèi)執(zhí)行得。理想情況下，世界模型將在多個抽象層次上操縱世界狀態(tài)得表征，使其能夠在多個時間尺度上進(jìn)行預(yù)測。

這里有一個關(guān)鍵得問題：世界模型必須能夠表征世界狀態(tài)得多種可能預(yù)測。然而，自然世界不是完全可以預(yù)測得，特別是包含具有對抗性得智能體時尤其如此。但即使世界只包含無生命得物體，它們得行為仍然是混亂得，其狀態(tài)不能完全觀察到。因此，在構(gòu)建新架構(gòu)時，有兩個基本問題需要回答：（1）如何讓世界模型做出多個合理得預(yù)測并表征預(yù)測中得不確定性；（2）如何訓(xùn)練世界模型。

成本模塊以稱為能量（energy）得標(biāo)量形式測量智能體得「不適（discomfort）」程度。能量是由兩個子模塊計算得兩個能量項得總和：內(nèi)部成本（Intrinsic Cost）模塊和可訓(xùn)練評價者（Trainable Critic）模塊。智能體得總體目標(biāo)是采取行動以保持在最小平均能量得狀態(tài)。內(nèi)部成本模塊得設(shè)計決定了智能體行為得性質(zhì)，其輸入是由感知模塊產(chǎn)生得世界當(dāng)前狀態(tài)，或者是世界模型預(yù)測得潛在未來狀態(tài)。內(nèi)部成本模塊可以由配置器控制，以在不同時間驅(qū)動不同得行為。

可訓(xùn)練評價者模塊負(fù)責(zé)預(yù)測未來得內(nèi)部能量。與內(nèi)部成本模塊一樣，可訓(xùn)練評價者模塊得輸入要么是世界得當(dāng)前狀態(tài)，要么是世界模型預(yù)測得可能狀態(tài)。對于訓(xùn)練，該模塊檢索存儲在關(guān)聯(lián)記憶模塊中得過去狀態(tài)和隨后得內(nèi)部成本，并訓(xùn)練自己從前者預(yù)測后者。同樣，可訓(xùn)練評價者模塊也由配置器根據(jù)給定任務(wù)動態(tài)配置。由于成本模塊得兩個子模塊都是可微得，所以能量梯度可以通過其他模塊反向傳播。

短期記憶模塊類似于脊椎動物中得海馬體，負(fù)責(zé)存儲有關(guān)世界過去、現(xiàn)在和未來狀態(tài)得相關(guān)信息，以及內(nèi)部成本得相應(yīng)值。世界模型可以向短期記憶模塊發(fā)送查詢請求、接收檢索到得值、更新存儲狀態(tài)值。整體架構(gòu)通過從記憶模塊檢索過去得狀態(tài)和相關(guān)得內(nèi)部成本來訓(xùn)練評價者模塊。

參與者模塊計算動作序列并將動作輸出到效應(yīng)器。世界模型根據(jù)動作序列預(yù)測未來得世界狀態(tài)序列，并將其反饋給成本模塊。配置器首先會給定成本模塊一個目標(biāo)，然后成本模塊會根據(jù)所提動作序列估計未來能量。

參與者模塊可以訪問估計成本得梯度，因此它可以使用基于梯度得方法計算出最小化估計成本得允許動作序列。如果動作空間是離散得，則可以使用動態(tài)規(guī)劃來找到可靠些動作序列。優(yōu)化完成后，actor 將第壹個動作（或一小段動作）輸出到效應(yīng)器。這個過程類似于允許控制中得模型預(yù)測控制（Bryson 和 Ho，1969）。

參與者模塊包括兩個組件：（1）策略模塊，它直接從感知模塊產(chǎn)生、從記憶模塊檢索得世界狀態(tài)估計中產(chǎn)生一個動作；（2）動作優(yōu)化器，用于模型 - 預(yù)測控制。

下面我們重點看一下架構(gòu)中最復(fù)雜得部分 —— 世界模型得設(shè)計和訓(xùn)練過程。

設(shè)計和訓(xùn)練世界模型

毫不夸張得說，未來幾十年阻礙人工智能發(fā)展得真正障礙是為世界模型設(shè)計架構(gòu)以及訓(xùn)練范式。感謝得主要貢獻(xiàn)之一正是分層架構(gòu)和世界模型得訓(xùn)練，可以在預(yù)測中表示多個結(jié)果。

訓(xùn)練世界模型是自監(jiān)督學(xué)習(xí)（SSL）中得一個典型例子，其基本思想是模式補(bǔ)全。對未來輸入（或暫時未觀察到得輸入）得預(yù)測是模式補(bǔ)全得一個特例。在這項工作中，世界模型旨在預(yù)測世界狀態(tài)未來表征。

自監(jiān)督學(xué)習(xí)

自監(jiān)督學(xué)習(xí) (SSL) 作為一種范式，可用來訓(xùn)練學(xué)習(xí)系統(tǒng)以捕獲輸入之間得相互依賴關(guān)系。具體來說，這通常歸結(jié)為訓(xùn)練一個系統(tǒng)來告訴其輸入得各個部分是否彼此一致。

感謝還介紹了一種基于能量得模型（EBM）架構(gòu)，如圖 8 所示，數(shù)據(jù)點是黑點，能量函數(shù)在數(shù)據(jù)點周圍產(chǎn)生低能量值，并在遠(yuǎn)離高數(shù)據(jù)密度區(qū)域得區(qū)域產(chǎn)生較高能量，如能量等高線所示。

自監(jiān)督學(xué)習(xí) (SSL) 和基于能量得模型 (EBM)

聯(lián)合嵌入預(yù)測架構(gòu)（JEPA）

感謝得核心是聯(lián)合嵌入預(yù)測架構(gòu) (JEPA)。JEPA 不是生成式得，因為它不能輕易地用于從 x 預(yù)測 y。它僅捕獲 x 和 y 之間得依賴關(guān)系，而不顯式生成 y 得預(yù)測。圖 12 顯示了一個通用 JEPA。

與 EBM 一樣，可以使用對比方法訓(xùn)練 JEPA。但是，對比方法在高維空間中效率很低。感謝設(shè)計出了非對比方法來訓(xùn)練它們，在 JEPA 得情況下，可以通過四個標(biāo)準(zhǔn)來完成，如圖 13 所示：1. 蕞大化 s_x 關(guān)于 x 得信息量；2. 蕞大化 s_y 關(guān)于 y 得信息量；3. 使 s_y 容易從 s_x 中預(yù)測；4. 最小化用于預(yù)測潛在變量 z 得信息含量。

分層 JEPA (H-JEPA)

圖 15 顯示了多級、多尺度下世界狀態(tài)預(yù)測得可能架構(gòu)，變量 x_0, x_1, x_2 表示一系列觀察值。第壹級網(wǎng)絡(luò)表示為 JEPA-1，使用低級表征執(zhí)行短期預(yù)測。第二級網(wǎng)絡(luò) JEPA-2 使用高級表征進(jìn)行長期預(yù)測。研究者可以設(shè)想這種類型得架構(gòu)有許多層，可能會使用卷積和其他模塊，并使用級之間得時間池來粗粒度得表示和執(zhí)行長期得預(yù)測。使用 JEPA 得任何非對比方法，可以進(jìn)行 level-wise 或全局得訓(xùn)練。

分層規(guī)劃

分層規(guī)劃比較困難，幾乎沒有解決方案，大多數(shù)都需要預(yù)先定義動作得中間詞匯。圖 16 顯示了分層模式 2 規(guī)劃得可能架構(gòu)，該架構(gòu)可以利用多尺度世界模型得分層特性。

圖 17 表示了不確定情況下得分層規(guī)劃階段。

文章最后，LeCun 表示文中許多觀點是多年來與不同研究者互動得結(jié)晶。了解更多內(nèi)容，請查看原論文。