2019年,李飛飛教授與哲學(xué)家約翰·埃切門迪共同成立了斯坦福大學(xué)以人為本人工智能研究院(HAI),旨在推動(dòng)人工智能技術(shù)的發(fā)展,同時(shí)確保這些強(qiáng)大的工具能夠服務(wù)于提升人類福祉,而非僅僅追求生產(chǎn)力的提高。
作為現(xiàn)代人工智能領(lǐng)域的奠基人之一,李飛飛從更加人文的視角看待如今的技術(shù)發(fā)展,她說:“現(xiàn)在有很多噪音,有很多夸張的論述,但這是技術(shù)發(fā)展的一個(gè)必經(jīng)階段。在這個(gè)以人工智能為驅(qū)動(dòng)的時(shí)代,以人為本的理念比以往任何時(shí)候都更為重要。”
本文經(jīng)授權(quán)摘編整理自《我看見的世界》。
《我看見的世界:李飛飛自傳》,作者: [美] 李飛飛,譯者:趙燦,版本:中信出版社 2024年4月
人工智能帶來社會(huì)危機(jī)
2015 年 5 月,雅虎圖片托管服務(wù) Flickr 在描述 56 歲黑人男子威廉的肖像時(shí),自動(dòng)生成了一個(gè)標(biāo)簽“猿”。
雅虎的新技術(shù)立刻引發(fā)了各方強(qiáng)烈憤慨。此后,這項(xiàng)技術(shù)接二連三出現(xiàn)失誤:將達(dá)豪集中營(yíng)大門的照片標(biāo)記為攀爬架,把一位臉上涂有彩色粉末的白人婦女貼上了“猿”的標(biāo)簽。雅虎 Flickr 已經(jīng)麻煩纏身。不僅是雅虎,谷歌也陷入了類似的爭(zhēng)議,谷歌照片服務(wù)也將兩個(gè)黑人青少年錯(cuò)誤地標(biāo)記為“大猩猩”。
圖像分類本已是老生常談的成功技術(shù),卻在短短幾周內(nèi)變得非常復(fù)雜。
雖然事故并非惡意,但這并不能讓人感到寬慰。相反,無心之失所揭示的問題才更加令人不安:包括 ImageNet 在內(nèi)的數(shù)據(jù)集由于缺乏多樣性,導(dǎo)致了一系列意料之外的結(jié)果;未經(jīng)充分測(cè)試的算法和存疑的決策又進(jìn)一步加劇了負(fù)面影響。當(dāng)互聯(lián)網(wǎng)呈現(xiàn)的是以白人、西方人和男性為主的日常生活畫面時(shí)我們的技術(shù)就很難理解其他人群了。
有果必有因,正如記者兼評(píng)論員杰克·克拉克(Jack Clark) 所言,問題的根源在于人工智能“男性之海”問題:科技行業(yè)的代表性不足,導(dǎo)致算法無意中帶有偏見,在非白人、非男性用戶身上表現(xiàn)不佳。這篇文章于 2016 年發(fā)表在彭博社網(wǎng)站上,是對(duì)人工智能倫理問題的最早一批討論之一。
從代表性問題的出現(xiàn),到問題被大眾真切地感受到,中間往往需要幾年的時(shí)間。
李飛飛和她的同僚們決定,向九年級(jí)和十年級(jí)的女生開放為期兩周的斯坦福大學(xué)人工智能實(shí)驗(yàn)室課程。讓每個(gè)一直被歷史排除在外的參與者相信,她們同樣屬于這個(gè)時(shí)代、這個(gè)領(lǐng)域。
李飛飛,1976年出生于中國北京,美國國家工程院院士、美國國家醫(yī)學(xué)院院士、美國藝術(shù)與科學(xué)院院士,美國斯坦福大學(xué)首位紅杉講席教授,以人為本人工智能研究院(HAI)院長(zhǎng),研究領(lǐng)域主要為計(jì)算機(jī)視覺、認(rèn)知神經(jīng)科學(xué)、計(jì)算神經(jīng)科學(xué)和大數(shù)據(jù)分析。
邀請(qǐng)少數(shù)人群參加人工智能課程的想法非常受歡迎,這個(gè)項(xiàng)目很快就像滾雪球一樣發(fā)展成為全國性的非營(yíng)利組織,遍布北美各地校園,使命范圍也不斷擴(kuò)大。這個(gè)項(xiàng)目開始向有色人種學(xué)生和經(jīng)濟(jì)困難學(xué)生開放。
在短短幾年后,這個(gè)項(xiàng)目就正式命名為 AI4ALL,甚至吸引了一些資金,梅琳達(dá)·弗倫奇·蓋茨(Melinda French Gates) 的 Pivotal Ventures 創(chuàng)投公司和英偉達(dá)創(chuàng)始人黃仁勛提供了一輪融資,讓項(xiàng)目改頭換面。
這個(gè)旅程可能需要幾代人才能完成,現(xiàn)在只是邁出了一小步,但實(shí)現(xiàn)了從無到有的跨越。在業(yè)界追逐人工智能未來時(shí),往往肆意而為,缺乏自省,而 AI4ALL的努力能夠保證,至少有一小部分人在逆向而行。
在風(fēng)暴中心
2022 年底,ChatGPT 的公開發(fā)布席卷了世界,隨后出現(xiàn)了更多生成式人工智能工具。
從最初只能執(zhí)行簡(jiǎn)單的任務(wù)到如今具備類似人類的能力,短短幾年的時(shí)間,人工智能的發(fā)展速度令人咋舌,與此同時(shí),對(duì)其潛在風(fēng)險(xiǎn)的擔(dān)憂也日益增加。
事實(shí)上,人工智能存在的偏見問題直到現(xiàn)在依然沒有被很好地解決。2023年底,《華盛頓郵報(bào)》發(fā)表了一篇詳盡的專題報(bào)道,深入探討了機(jī)器學(xué)習(xí)技術(shù)中潛在的偏見。當(dāng)前的 AI 圖像生成模型,如 Dall-E 和 Stable Diffusion,有時(shí)仍會(huì)反映出社會(huì)的刻板印象。例如,在生成“具有創(chuàng)造力的人”的圖像時(shí),這些系統(tǒng)往往傾向于呈現(xiàn)白人形象;而在描繪“社會(huì)服務(wù)人員”時(shí),則多數(shù)情況下展示的是有色人種的形象。
美劇《西部世界》劇照。
其實(shí),大型語言模型,即使是多模態(tài)的大型語言模型,可能也并不具備真正意義上的“思考”能力。大型語言模型很容易出現(xiàn)荒謬的概念性失誤,也樂于編造聽起來合理但實(shí)際上毫無意義的胡言亂語。
了解這些事實(shí)有助于我們避免過分迷戀模型的能力。然而,隨著大型語言模型生成的文本、圖像、語音和視頻越來越復(fù)雜,真與假之間的界限愈加模糊。越來越多的評(píng)論家開始質(zhì)疑,為我們敲響警鐘:作為個(gè)人、機(jī)構(gòu),甚至社會(huì),我們究竟有沒有能力區(qū)分真實(shí)和虛構(gòu)?
當(dāng)人們意識(shí)到這一切還只是 1.0 版本時(shí),這種發(fā)問尤其令人警醒。
我們?nèi)陨硖幰粓?chǎng)全球風(fēng)暴之中。每天似乎都有新的頭條新聞報(bào)道自動(dòng)化對(duì)全球勞動(dòng)者構(gòu)成的威脅。隨著人工智能在監(jiān)控領(lǐng)域的應(yīng)用日趨成熟,記者和人權(quán)活動(dòng)家的擔(dān)憂與日俱增,對(duì)隱私和個(gè)人尊嚴(yán)對(duì)隱私的古老威脅也在現(xiàn)代社會(huì)出現(xiàn),相關(guān)報(bào)道使公眾對(duì)人工智能形成了負(fù)面看法,這在整個(gè)科技領(lǐng)域都是非常罕見的。
科技不斷發(fā)展,算法語言表達(dá)的高級(jí)程度已逼近人類水平。機(jī)器人正在逐漸學(xué)會(huì)應(yīng)對(duì)真實(shí)的環(huán)境。視覺模型不僅可以通過照片進(jìn)行訓(xùn)練,還可以在全三維世界中進(jìn)行沉浸式實(shí)時(shí)訓(xùn)練。人工智能能夠像識(shí)別內(nèi)容一樣流暢地生成內(nèi)容。與此同時(shí),倫理問題在我們周圍不斷涌現(xiàn),與人類經(jīng)濟(jì)社會(huì)發(fā)展的關(guān)聯(lián)也日益緊密,但這就是科學(xué)一直以來的樣子。
重估人工智能
從 ImageNet 時(shí)代開始,規(guī)模的重要性就已經(jīng)顯而易見。但近年來,“越大越好”的觀點(diǎn)幾乎被賦予了宗教般的意義,關(guān)于“大數(shù)據(jù)”的討論永無休止,不斷強(qiáng)化著這樣的觀點(diǎn):規(guī)模是神奇催化劑,是機(jī)器中的幽靈,可以將人工智能的舊時(shí)代與令人窒息的夢(mèng)幻未來區(qū)分開來。
沒有人能否認(rèn),神經(jīng)網(wǎng)絡(luò)確實(shí)在這個(gè)資源豐富的時(shí)代蓬勃發(fā)展:驚人的數(shù)據(jù)量、大規(guī)模分層架構(gòu)和大量互聯(lián)的硅片確實(shí)帶來了歷史性變化。
美劇《西部世界》第三季劇照。
人工智能正在成為一種特權(quán),一種排他性極強(qiáng)的特權(quán)。越來越多的學(xué)者、政策制定者認(rèn)為,使用人工智能模型的高昂成本正在將研究人員排除在該領(lǐng)域之外,從而損害了對(duì)這一新興技術(shù)的獨(dú)立研究。這種權(quán)力的轉(zhuǎn)移正在悄然改變?nèi)斯ぶ悄茴I(lǐng)域的格局,促使研究人員將他們的研究成果更多地應(yīng)用于商業(yè)領(lǐng)域。
學(xué)術(shù)界早就意識(shí)到人工智能可能會(huì)帶來負(fù)面沖擊,比如缺乏透明度、容易受到偏見和對(duì)抗性影響等等。然而,由于研究規(guī)模有限,風(fēng)險(xiǎn)一直只存在于理論層面。市值接近萬億美元的公司已經(jīng)掌握了主導(dǎo)權(quán),潛在風(fēng)險(xiǎn)的發(fā)展步伐也急劇加快。無論是否準(zhǔn)備就緒,這些問題都需要以商業(yè)速度加以解決。
每個(gè)問題單獨(dú)來看都令人擔(dān)憂,但它們共同指向了一個(gè)未來,其特點(diǎn)是監(jiān)督減少、不平等加劇,如果處理不當(dāng),甚至可能導(dǎo)致迫在眉睫的數(shù)字獨(dú)裁主義問題。
硅谷的傲慢態(tài)度向來為外界所詬病。在人工智能時(shí)代,盡管我們對(duì)潛在風(fēng)險(xiǎn)的認(rèn)知不斷加深,企業(yè)的夸夸其談也上升到了新的高度,企業(yè)高管們承諾將在不久后推出自動(dòng)駕駛汽車,設(shè)計(jì)出高超精湛的腫瘤檢測(cè)算法,實(shí)現(xiàn)工廠的端到端自動(dòng)化。至于被先進(jìn)技術(shù)取代了工作的人(出租車司機(jī)、長(zhǎng)途卡車司機(jī)、裝配線工人甚至放射科醫(yī)生)的命運(yùn),商業(yè)領(lǐng)域的態(tài)度似乎介于半心半意的“再培訓(xùn)”和幾乎不加掩飾的漠不關(guān)心之間。
無論首席執(zhí)行官和自詡為未來學(xué)家的人的言論如何徹底脫離公眾,技術(shù)的日益普及都會(huì)進(jìn)一步加劇人們對(duì)人工智能的恐懼。在這個(gè)時(shí)代,里程碑接二連三地出現(xiàn),最可怕的情景正在逼近。有偏見的人工智能被廣泛應(yīng)用于處理貸款申請(qǐng),甚至協(xié)助法官做出假釋決定等方面。類似的報(bào)道還顯示,在某些招聘中,求職者會(huì)先經(jīng)過人工智能技術(shù)的篩選,然后才有真人面試官進(jìn)行面試,此類做法往往會(huì)在無意中造成歧視性影響。
如今的人工智能是如此宏偉,如此強(qiáng)大,如此反復(fù)無常,既能輕易激發(fā)靈感, 也很容易摧毀一切。要讓人工智能值得信任,需要的遠(yuǎn)不止商業(yè)公司空洞的陳詞濫調(diào)。
美劇《西部世界》第三季劇照。
人工智能的未來
我們?cè)?jīng)將人工智能視作純粹的科學(xué),而現(xiàn)在,我們更愿意用:“現(xiàn)象”“顛覆”“謎題”“特權(quán)”“自然之力”來定義新一代人工智能所能做的一切,無論是好是壞,無論是在預(yù)期之內(nèi),還是在意料之外,都因其設(shè)計(jì)本身缺乏透明度而變得復(fù)雜。
如果在算法設(shè)計(jì)完成后,再加入安全性和透明度等考慮因素,無論設(shè)計(jì)得多么精妙,都不足以滿足要求。下一代人工智能必須從開發(fā)之初就采取與現(xiàn)在完全不同的理念。以激情為起點(diǎn)固然很好,但我們要面對(duì)的是紛繁復(fù)雜而又不起眼的挑戰(zhàn),要取得真正的進(jìn)展,就必須有敬畏之心。而硅谷似乎缺乏這種心態(tài)。
如今,人工智能是一種責(zé)任,是我們所有人共同承擔(dān)的責(zé)任。
深度學(xué)習(xí)飛速發(fā)展,每一年都感覺像是要面對(duì)一個(gè)全新的領(lǐng)域,其應(yīng)用的深度和多樣性增長(zhǎng)得如此之快,甚至全職研究生和博士后也很難跟上文獻(xiàn)的步伐,更不用說教授們了。可能性無窮無盡,挑戰(zhàn)也永無止境。
即使在這樣一個(gè)黑暗的時(shí)代,人工智能也具有無與倫比的激勵(lì)力量。面對(duì)全球亟待解決的 問題,面對(duì)具有歷史意義的機(jī)遇,面對(duì)可能需要幾代人的努力才能揭開謎底的未知,真正解決所有問題的答案遠(yuǎn)遠(yuǎn)不是公司戰(zhàn)略或?qū)W術(shù)課程所能提供的。未來幾年,從業(yè)者需要的不僅是專業(yè)技術(shù)知識(shí),他們還必須了解哲學(xué)、倫理學(xué),甚至法律。
想象空間是巨大的,但愿景需要一個(gè)重要的紐帶串聯(lián)起來,這個(gè)紐帶就是大學(xué)。早在有人利用人工智能謀取利益之前,人工智能就已經(jīng)在大學(xué)里起步了。在大學(xué)校園里,仍然最有可能感受到某些意想不到的研究突破帶來的火花。感知機(jī)、神經(jīng)網(wǎng)絡(luò)、ImageNet,以及后來的很多東西都出自大學(xué)。
要從根本上重新構(gòu)想人工智能,使其成為以人為本的實(shí)踐,與其說這是旅程方向的改變,不如說是旅程范圍的擴(kuò)展。人工智能一直以來都追求科學(xué)性,而現(xiàn)在,它必須也追求人性。人工智能應(yīng)該秉承最優(yōu)秀的學(xué)術(shù)傳統(tǒng),保持合作和敬畏,同時(shí)不懼怕直面現(xiàn)實(shí)世界。畢竟,星光是多樣的。一旦白色的光輝展開,各種顏色就會(huì)發(fā)出耀眼奪目的光芒。