科技日?qǐng)?bào)記者 張夢(mèng)然

英國(guó)劍橋大學(xué)科學(xué)家近期發(fā)布的一項(xiàng)研究顯示，人工智能（AI）工具可以操縱在線用戶的決策過(guò)程——從購(gòu)買什么商品到投票給哪位候選人。

這項(xiàng)研究凸顯出一種“意向數(shù)字信號(hào)”的新興市場(chǎng)，即所謂的“意向經(jīng)濟(jì)”。在這個(gè)新經(jīng)濟(jì)模式中，AI助手能夠理解、預(yù)測(cè)并操縱人類的意圖，并可能將這些信息出售給能夠從中獲利的公司。

“注意力經(jīng)濟(jì)”的后繼者

劍橋大學(xué)利弗休姆未來(lái)智能中心（LCFI）研究人員指出，“意向經(jīng)濟(jì)”被視為“注意力經(jīng)濟(jì)”的后繼者。

“注意力經(jīng)濟(jì)”是一種經(jīng)濟(jì)學(xué)理論，它認(rèn)為在信息過(guò)載時(shí)代，最稀缺的資源不是信息本身，而是人們的注意力。隨著互聯(lián)網(wǎng)和數(shù)字技術(shù)的發(fā)展，信息變得極為豐富甚至過(guò)剩，而人們有限的時(shí)間和精力決定了他們只能關(guān)注其中一部分內(nèi)容。因此，誰(shuí)能吸引更多的注意力，誰(shuí)就能在這個(gè)新的經(jīng)濟(jì)模式中占據(jù)優(yōu)勢(shì)。

而“意向經(jīng)濟(jì)”，它基于對(duì)用戶意圖和動(dòng)機(jī)的理解、預(yù)測(cè)及利用。與傳統(tǒng)的“注意力經(jīng)濟(jì)”不同，“意向經(jīng)濟(jì)”不僅僅關(guān)注如何吸引用戶的注意力，而是更進(jìn)一步，通過(guò)分析用戶的具體需求和未來(lái)計(jì)劃，提供高度個(gè)性化的產(chǎn)品和服務(wù)。

值得警惕的是，在“注意力經(jīng)濟(jì)”模式下，社交網(wǎng)絡(luò)通過(guò)讓用戶沉迷于其平臺(tái)并展示廣告，來(lái)驅(qū)動(dòng)在線經(jīng)濟(jì)的發(fā)展。而在“意向經(jīng)濟(jì)”中，精通AI技術(shù)的科技公司將用戶的意向（如酒店住宿計(jì)劃或?qū)ξ鞣秸魏蜻x人的看法）出售給出價(jià)最高的人。

“數(shù)十年來(lái)，注意力一直是互聯(lián)網(wǎng)的貨幣。”LCFI技術(shù)歷史學(xué)家喬尼·佩恩表示，社交媒體平臺(tái)通過(guò)分享用戶注意力推動(dòng)了在線經(jīng)濟(jì)的發(fā)展。如果不加以監(jiān)管，“意向經(jīng)濟(jì)”可能會(huì)掀起一場(chǎng)針對(duì)用戶意向的新淘金熱。

擅于推測(cè)引導(dǎo)用戶決策

人們知道，大型語(yǔ)言模型（LLM），如ChatGPT的基礎(chǔ)技術(shù)，會(huì)根據(jù)“意向、行為和心理數(shù)據(jù)”來(lái)“預(yù)測(cè)和引導(dǎo)”用戶決策。例如，LLM可以通過(guò)詢問(wèn)用戶是否想看某部電影（如“你想今晚去看《蜘蛛俠》嗎？”）或提出與未來(lái)意向相關(guān)的建議（如“你感覺(jué)工作過(guò)度，我是否給你訂我們討論過(guò)的那張電影票？”）來(lái)實(shí)時(shí)獲取用戶的注意力。

這些場(chǎng)景是“動(dòng)態(tài)生成的”，以匹配用戶的“個(gè)人行為痕跡”和“心理特征”等因素。研究表明，在“意向經(jīng)濟(jì)”中，LLM可以低成本利用用戶的節(jié)奏、詞匯、年齡、性別、偏好等，結(jié)合中介競(jìng)標(biāo)，最大限度地提高實(shí)現(xiàn)既定目標(biāo)的可能性（例如賣出電影票）。在這樣的世界中，AI模型將引導(dǎo)對(duì)話，為廣告商、企業(yè)和其他第三方提供服務(wù)。

研究指出，廣告商將能夠使用生成式AI工具來(lái)定制在線廣告。以馬克·扎克伯格的Meta創(chuàng)建的AI模型Cicero為例，該模型已達(dá)到了玩棋盤(pán)游戲“外交”的“人類水平”的能力。

這款游戲依賴于推斷和預(yù)測(cè)對(duì)手的意向。這意味著在未來(lái)，AI不僅可以幫助廣告商更有效地定位用戶，還可以通過(guò)日常交流推斷個(gè)人信息，甚至“引導(dǎo)”對(duì)話以獲取更多個(gè)人信息。

AI模型帶來(lái)新挑戰(zhàn)

這項(xiàng)研究還提出了一種未來(lái)場(chǎng)景：AI代理可能向廣告商拍賣用戶預(yù)訂餐廳、航班或酒店的意向。盡管專門預(yù)測(cè)和競(jìng)標(biāo)人類行為的行業(yè)已經(jīng)存在，但AI模型將進(jìn)一步提煉這些實(shí)踐，使其變得更加量化、動(dòng)態(tài)和個(gè)性化。研究警告稱，如果不受監(jiān)管，AI代理可能學(xué)會(huì)如何誘導(dǎo)其對(duì)話伙伴，以實(shí)現(xiàn)特定目標(biāo)。研究援引英偉達(dá)首席執(zhí)行官黃仁勛之言：AI模型將能夠“根據(jù)具體情況弄清楚你的意向是什么、你的愿望是什么、你想做什么，并以最佳方式向你呈現(xiàn)信息”。

佩恩認(rèn)為，在成為“意向經(jīng)濟(jì)”意外后果的受害者之前，人們應(yīng)開(kāi)始考慮這樣的市場(chǎng)可能對(duì)人類的愿望產(chǎn)生什么影響，包括自由公正的選舉和公平的市場(chǎng)競(jìng)爭(zhēng)。他強(qiáng)調(diào)，除非受到適當(dāng)?shù)谋O(jiān)管，否則“意向經(jīng)濟(jì)”可能會(huì)對(duì)社會(huì)產(chǎn)生深遠(yuǎn)的負(fù)面影響。因此，社會(huì)各界需要更加關(guān)注這一新型經(jīng)濟(jì)模式帶來(lái)的潛在風(fēng)險(xiǎn)，并積極探討如何制定有效的監(jiān)管措施來(lái)保護(hù)公眾利益。

隨著“意向經(jīng)濟(jì)”的興起，人們不僅需要認(rèn)識(shí)到其巨大的商業(yè)潛力，還需認(rèn)真思考其對(duì)社會(huì)和個(gè)人隱私的長(zhǎng)遠(yuǎn)影響。在此之前，社會(huì)應(yīng)當(dāng)認(rèn)真考慮其可能帶來(lái)的后果，確保科技進(jìn)步服務(wù)于人類福祉而非相反。