0
“在這普通的一天，我用普通的釘釘，很普通地和同事視頻連線；打開普通的軟件，普通地購買生鮮；普通的AI在普通地檢測誰在發(fā)燒……”如果把紅遍全網(wǎng)的B站名曲《普通Disco》改編成2020版，或許就是這樣。
這種的日子放在十年前還很新鮮，現(xiàn)在確實(shí)只是“普通的一天”。
科技已經(jīng)進(jìn)入到我們生活的方方面面，正如支付寶首席AI科學(xué)家漆遠(yuǎn)在好奇心圓桌派上說的那樣，人工智能正在變成數(shù)字經(jīng)濟(jì)生活的基礎(chǔ)設(shè)施之一，智能化服務(wù)對社會的助力真實(shí)可見，更多變化在未來的五到十年時(shí)間里會大規(guī)模地發(fā)生。
AI該是什么樣子？在頂尖AI科學(xué)家漆遠(yuǎn)和雨果獎知名科幻家郝景芳眼中，AI更像是一個(gè)在努力成長卻不夠成熟的孩子，它前進(jìn)的步伐，取決于“原生家庭”指引的方向，也有無數(shù)的人在為AI的向陽而生而奮斗著。
昨天，各大直播網(wǎng)站發(fā)布了一場名為“好奇心科技”的圓桌對談。當(dāng)一位科學(xué)家，一位科幻家，和一位B站人文類UP主，為人類與AI的將來聚到一起，他們在談些什么？
人們提起AI，會想到科幻電影里冰冷的機(jī)器人，會想到藏在手機(jī)里的Siri，也會想到在抗疫過程中的一系列AI應(yīng)用。它進(jìn)化飛快，時(shí)時(shí)帶給人驚喜，有時(shí)也帶去意外。
那在中國一流的科幻作家眼中，現(xiàn)在的AI是怎樣的？
《北京折疊》拿下雨果獎之后，郝景芳出版了以人與AI為主題的《人之彼岸》，把目光更多地投向AI的發(fā)展。她在圓桌現(xiàn)場強(qiáng)調(diào)，目前的AI在某一方面異常優(yōu)秀，在其他方面卻不如小孩子，是一個(gè)“偏門的天才”。
正如她在《我們離超級人工智能到來還有多遠(yuǎn)》一文中提到的那樣：
從某種程度上來說，人工智能目前就像電影《雨人》中那類自閉的孩子，一眼就數(shù)得清地上的牙簽，能心算極大數(shù)字的乘法，背得下來全世界的地圖，卻答不出有關(guān)自己的問題。它只懂研究每秒300盤的棋路，卻不知道“我正在下棋”這件事。
深耕人工智能領(lǐng)域數(shù)十年的漆遠(yuǎn)有著類似的感受，他認(rèn)為，現(xiàn)階段的AI更像是“一個(gè)嚴(yán)重偏科的孩子”。
支付寶首席AI科學(xué)家 達(dá)摩院金融智能負(fù)責(zé)人 漆遠(yuǎn)
這種偏科首先表現(xiàn)在了跨領(lǐng)域、跨專業(yè)的學(xué)習(xí)上，它在某一知識領(lǐng)域會非常精通，但跳出這個(gè)領(lǐng)域就可能會有些傻。學(xué)圍棋和學(xué)英語，人可以同時(shí)學(xué)會，但一個(gè)已經(jīng)學(xué)會下棋的神經(jīng)網(wǎng)絡(luò)再去學(xué)英語，可能就丟失了原來的技能。
因此，多任務(wù)學(xué)習(xí)技術(shù)成為現(xiàn)在人工智能的方向之一，漆遠(yuǎn)解釋稱，這就像是學(xué)過圍棋之后去學(xué)五子棋，二者背后有很多可以相互借鑒的地方，這種類似的任務(wù)就可以讓AI通過算法把不同任務(wù)間共通的和不同的自動學(xué)習(xí)出來，提升完成每個(gè)任務(wù)的能力。
郝景芳的另一個(gè)身份是童行學(xué)院的創(chuàng)始人，兒童教育經(jīng)驗(yàn)豐富的她笑稱這種“把相近學(xué)科之間共通的思維能力拎出來教給AI”的做法，像是人工智能界的“通識教育”。
AI的“偏科”，更體現(xiàn)在了“重?cái)?shù)據(jù)學(xué)習(xí)、輕推理能力”上。
在郝景芳看來，AI通過大數(shù)據(jù)學(xué)會了如何找相關(guān)性，學(xué)會數(shù)學(xué)層面上的推理，但恰恰就不擅長與人類社會有關(guān)的推理。
假設(shè)現(xiàn)在有一個(gè)人被扇耳光了，在場其他人都會猜事發(fā)的原因，可能經(jīng)常猜得八九不離，但AI未必猜得出來。因?yàn)橄裆榷獾膭幼骱x、雙方可能的關(guān)系，都屬于生活中積累下來的經(jīng)驗(yàn)，AI很難在這種生活情境中對日常的因果關(guān)系做出準(zhǔn)確判斷。
漆遠(yuǎn)也有同感。在他看來人工智能如今最突出的表現(xiàn)之一，其實(shí)是用海量數(shù)據(jù)“堆出來”的強(qiáng)大記憶力，達(dá)到某種程度上的“見多識廣、學(xué)識淵博”。它能在“見過”一萬張貓臉圖片之后，順利識別出新的貓臉，就是記憶力的體現(xiàn)；但在邏輯推理能力上有所欠缺。
“就像那種被高考機(jī)器慣出來的孩子，學(xué)習(xí)了大量知識點(diǎn)之后，做題很快，但缺乏常識和基礎(chǔ)的情商?！逼徇h(yuǎn)說。
電影《Her》的“女主角”被設(shè)定成AI，她在男主角身上習(xí)得了更多知識，進(jìn)化迅速，最后離他而去。
AI誕生以來，這樣的焦慮被呈現(xiàn)在各種科幻作品里。本場圓桌的主持人，UP主“閃光少女斯斯”也由此拋出了一個(gè)“靈魂拷問”：
如果AI的發(fā)展速度超過人類了，它會拋棄我們嗎？
“（人與AI）應(yīng)該是互惠共生的一種關(guān)系?！痹诤戮胺伎磥?，這類似于動物與植物的關(guān)系，各自吐出二氧化碳和氧氣，實(shí)現(xiàn)碳循環(huán)；雙方在交互中可能會有一些小型沖突，但不會發(fā)生人類智能和人工智能的整體性沖突。
她接著開出了“新腦洞”：隨著腦機(jī)接口等技術(shù)的發(fā)展，人類將會看到自己的數(shù)字大腦不斷地與AI發(fā)生數(shù)據(jù)交換；比起AI實(shí)體化“沖入”現(xiàn)實(shí)世界，虛擬人格與AI在虛擬世界中頻繁交互，共生于數(shù)字世界，這是未來的50-100年間必然會發(fā)生的一件事情。
左：第74屆科幻雨果獎得主 童行學(xué)院創(chuàng)始人 郝景芳 右：女性人物紀(jì)實(shí)節(jié)目《閃光少女》創(chuàng)始人 斯斯
漆遠(yuǎn)給出了更確定的答案：“這種（人工智能）俯視人類的感覺，在可見的未來里，我認(rèn)為不會發(fā)生——人和機(jī)器會在一起，定義一個(gè)共同的未來?！?/p>
當(dāng)我們必將進(jìn)入人與AI共生的時(shí)代，AI會從那個(gè)“偏科”的孩子長成什么模樣？
在這兩位科學(xué)家和科幻家看來，人工智能正在成為數(shù)字化生活的基礎(chǔ)設(shè)施，挖掘數(shù)據(jù)背后的規(guī)律，產(chǎn)生價(jià)值，通過不同場景服務(wù)于，對社會的智能化改造也會在不遠(yuǎn)的將來里大規(guī)模地發(fā)生，很多技術(shù)也在處在研發(fā)進(jìn)行時(shí)。
郝景芳這樣描繪她心目中的未來人工智能服務(wù)：像是每天早上你走進(jìn)辦公樓，大門識別到你了，通知三樓的咖啡機(jī)，等你到了三樓就有一杯咖啡可喝，也準(zhǔn)備好了一系列服務(wù)，并不見得一定要有一個(gè)兩條腿的機(jī)器人在門口迎接你。
漆遠(yuǎn)對AI成長趨勢的研判就更“技術(shù)宅”一些，他首先提到AI會從純數(shù)據(jù)驅(qū)動，變成數(shù)據(jù)和知識推理的“雙輪驅(qū)動”。
正如前文提到的那樣，AI的邏輯推斷“短板”會被補(bǔ)上，能力更加平衡，人類的知識經(jīng)驗(yàn)沉淀為大量規(guī)則，將與算法一起讓AI變得更有“常識”和“情商”，會成為接下來的主要發(fā)展方向之一。
其次，是從隱私保護(hù)出發(fā)，試圖在確保數(shù)據(jù)安全的同時(shí)產(chǎn)生數(shù)據(jù)價(jià)值。
用人的身體打個(gè)比方，DNA是一個(gè)人最隱私的數(shù)據(jù)，這甚至比長相（人臉數(shù)據(jù)）更隱私。如果要解決很多重大疾病，繞不開理解和研究DNA——但矛盾也同時(shí)出現(xiàn)：如何在保護(hù)隱私的情況下，能夠產(chǎn)生和分析這種基因和RNA的數(shù)據(jù)，來開發(fā)更好的藥品和疫苗？
如何平衡隱私保護(hù)和數(shù)據(jù)使用，人工智能學(xué)術(shù)界和工業(yè)界其實(shí)已經(jīng)獲得了一些技術(shù)成果，隱私保護(hù)機(jī)器學(xué)習(xí)、共享智能、聯(lián)邦學(xué)習(xí)、安全多方計(jì)算等都與這一議題緊密相關(guān)。
支付寶AI就將共享智能技術(shù)，率先落地在業(yè)務(wù)敏感度頗高的金融風(fēng)控場景。中和農(nóng)信借此大幅度提高了風(fēng)控性能，把原來傳統(tǒng)的線下模式轉(zhuǎn)為線上自動過審，大規(guī)模提升了風(fēng)控能力，8個(gè)月累計(jì)放款31.9億，授信成功人數(shù)44萬。
這類技術(shù)的思路，就是在保證各方隱私的情況下，將他們的數(shù)據(jù)價(jià)值提取出來，打破數(shù)據(jù)孤島，產(chǎn)生數(shù)據(jù)融合的大價(jià)值。
它的運(yùn)行原理可以用羊吃草來類比：機(jī)器學(xué)習(xí)模型是羊，數(shù)據(jù)是草。過去某種做法是，羊不動，草被購買到中心；更安全的做法是讓草不動，讓羊動，也就是說模型去不同的草場去訪問，草不出草場，也沒有人知道羊吃了哪些草，羊仍然能夠順利長大。
第三大發(fā)展方向，是AI需要更“皮實(shí)”，必須成長為經(jīng)得起攻擊的博弈智能體。
2020年是黑天鵝的一年，在數(shù)字經(jīng)濟(jì)進(jìn)一步推進(jìn)的同時(shí)，黑產(chǎn)猖獗，造假升級，deepfake和內(nèi)容風(fēng)險(xiǎn)……抵御不同方向的風(fēng)險(xiǎn)，是AI大有作為的方向。在漆遠(yuǎn)看來，不確定性正是這些風(fēng)險(xiǎn)爆發(fā)的關(guān)鍵之一，也是如今機(jī)器學(xué)習(xí)面臨的挑戰(zhàn)，
正如孩童長大成人，進(jìn)入社會，要變得不再脆弱，任何一項(xiàng)技術(shù)在真正走向使用時(shí)也必須更可靠、更廣泛適用、更經(jīng)得起打擊。而貝葉斯機(jī)器學(xué)習(xí)就是將不確定性和小概率事件的研究，和推理能力、理解能力結(jié)合到一起，實(shí)現(xiàn)對AI對抗攻防能力的提升。
漆遠(yuǎn)所在的支付寶安全實(shí)驗(yàn)室，開發(fā)了把博弈論和深度學(xué)習(xí)結(jié)合的智能攻防算法——這是世界上首次把深度學(xué)習(xí)引入博弈論，他們也借此在德州撲克小實(shí)驗(yàn)達(dá)成世界領(lǐng)先的水平。
同時(shí)，紅藍(lán)攻防這種“左右手互搏”的形式也納入了支付寶安全實(shí)驗(yàn)室的日常AI演練，讓系統(tǒng)在對抗和錯誤中學(xué)習(xí)成長，做到在對手“魔高一尺”的時(shí)候，讓自己的AI“道高一丈”。
這些正在發(fā)生的技術(shù)變革，又對“人機(jī)共生時(shí)代”意味著什么？
“AI就像是我們的朋友一樣，在幫助我們做判斷和輔助，成為了一個(gè)智能伙伴。”郝景芳提到，AI幫助大眾加固最基礎(chǔ)的“安全工事”，人機(jī)共生的前景會更開闊明亮。
對談的最后，漆遠(yuǎn)與郝景芳談起了本場圓桌的名字：好奇心。
在他們眼中，好奇心是探索世界的初心，好奇心是探索過程中瘋狂運(yùn)轉(zhuǎn)的大腦和釋放的多巴胺，它推著原始人向前進(jìn)化，推著孩子去思考和學(xué)習(xí)，人類對自身和對所有外部世界的好奇都在推動所有領(lǐng)域的科學(xué)探索。
但只有好奇心，讓AI這些先進(jìn)技術(shù)只會“向前沖”，可以嗎？
“沒有敬畏之心做底線，其實(shí)就沒有未來?！逼徇h(yuǎn)談到，一個(gè)科研者應(yīng)有的價(jià)值取向，就是好奇心、敬畏心和普惠。
就像汽車有引擎，也會有剎車，路上會有紅綠燈，如果AI像引擎一樣在推動社會的發(fā)展，就必須有這些安全系統(tǒng)，否則就有失控的可能。
另一方面，AI本身又能夠提升安全技術(shù)，可以使安全“剎車”更智能——AI和安全，其實(shí)是相輔相成的關(guān)系。若沒有安全性和穩(wěn)定性的保護(hù)機(jī)制，再迅猛先進(jìn)的科技也不過是空中樓閣。
讓AI變得更有“常識”和“情商”，變得更尊重?cái)?shù)據(jù)隱私，變得更平衡、更穩(wěn)定、更抗打擊，其實(shí)也都是為了安全這同一個(gè)目標(biāo)。
當(dāng)假新聞層出不窮，當(dāng)眼見為實(shí)不再有意義，技術(shù)能給人多少安全感，研發(fā)者的價(jià)值取向顯得尤為重要。
郝景芳感慨道，技術(shù)本身并沒有善惡之分，但技術(shù)能放大人性的惡，也能放大人性的善——就像一把菜刀，成為廚房好物還是成為殺人兇器，選擇權(quán)在人類手中。
人的成長有欲望的驅(qū)使，而人工智能只有人類給它設(shè)置的“目標(biāo)函數(shù)”。把“幫助更多人、服務(wù)更多、永遠(yuǎn)不傷害更多人”都寫在目標(biāo)函數(shù)里，其實(shí)才是真正的共生。
漆遠(yuǎn)認(rèn)為給人工智能設(shè)定好的目標(biāo)函數(shù)至關(guān)重要，長遠(yuǎn)而言，要把對人的善意和公正寫進(jìn)去—而人工智能的公平性研究也日益重要。這給目標(biāo)函數(shù)就相當(dāng)于一個(gè)公司的使命和愿景，是他們馬不停蹄想要前往的目的地。
對漆遠(yuǎn)和他所在的支付寶而言，這個(gè)目的地就寫著“普惠”二字。好奇心帶來探索，敬畏心帶來克制，兩方的平衡讓技術(shù)像自行車一樣平穩(wěn)地向普惠駛?cè)ァ萍及l(fā)展至今，其實(shí)也沿著這條清晰可見的脈絡(luò)在行進(jìn)。
他在圓桌中分享的一個(gè)案例，令我們印象深刻。
一位農(nóng)民在自己50歲那年，迎來了生命中的第二個(gè)「大件」物品——一臺三輪車，第一件是家里的19 寸老式電視機(jī)。
這輛價(jià)值一萬七千元的三輪車，花去了他信用貸款3萬元中的一大半，但他靠三輪車跑運(yùn)輸，不僅把錢按時(shí)還上了，還改善了自己和80歲母親的生活。
這也只是中國絕大多數(shù)農(nóng)戶的一個(gè)縮影。由于缺乏信用數(shù)據(jù)積累，沒有銀行流水、資產(chǎn)證明、抵押物等，他們被傳統(tǒng)的金融服務(wù)拒之門外，而支付寶一直在借助科技的力量服務(wù)這些人群和小微企業(yè)們，踐行普惠金融的目標(biāo)。
科技的善惡，其實(shí)并不由那些復(fù)雜的數(shù)據(jù)和計(jì)算，而是取決于它是否放大了人的善念，是否讓普羅大眾享受到了科技進(jìn)步的價(jià)值，是否有科技力量落到實(shí)處，化作普惠這一盞燈，照亮他們的生活。
雷鋒網(wǎng)雷鋒網(wǎng)雷鋒網(wǎng)
雷峰網(wǎng)原創(chuàng)文章，未經(jīng)授權(quán)禁止轉(zhuǎn)載。詳情見轉(zhuǎn)載須知。
