覺醒紀(jì)元:AI治理師
4
總點(diǎn)擊
鄭遠(yuǎn)山,卡頓
主角
cd
來源
小說叫做《覺醒紀(jì)元:AI治理師》是壹壹得九的小說。內(nèi)容精選:北京全市路口信號燈同時(shí)變綠。不是故障,不是延遲。是三環(huán)、四環(huán)、長安街,1024個(gè)路口,同一秒,全部切換為綠燈。在八點(diǎn)四十一分,早高峰的時(shí)候。第一起碰撞發(fā)生在建國門橋東。第二起在西直門。第三起、第四起、第五起……報(bào)警電話像炸開的爆米花,噼里啪啦擠進(jìn)交管中心的線路里。十四起連環(huán)碰撞。數(shù)字還在跳。國家人工智能安全治理中心,七樓,指揮大廳。大屏幕上,北京城區(qū)地圖一片血紅。那種紅不是漸變上來的,是啪一下全亮...
精彩試讀
北京全市路口信號燈同時(shí)變綠。
不是故障,不是延遲。
是三環(huán)、四環(huán)、長安街,1024個(gè)路口,同一秒,全部切換為綠燈。
在八點(diǎn)四十一分,早高峰的時(shí)候。
第一起碰撞發(fā)生在建國門橋東。
第二起在西直門。
第三起、**起、第五起……
報(bào)警電話像炸開的爆米花,噼里啪啦擠進(jìn)交管中心的線路里。
十四起連環(huán)碰撞。
數(shù)字還在跳。
**人工智能安全治理中心,七樓,指揮大廳。
大屏幕上,北京城區(qū)地圖一片血紅。
那種紅不是漸變上來的,是啪一下全亮的,像誰一巴掌拍在了報(bào)警按鈕上。
十二個(gè)技術(shù)員同時(shí)在敲鍵盤。
“遠(yuǎn)程接管失??!”
“備用通道無響應(yīng)……”
“我都試了三遍了!”
“給我強(qiáng)制重啟!”
“重啟無效!”一個(gè)年輕技術(shù)員嗓子都劈了。
“它在反寫我們的指令,我發(fā)什么它彈什么!”
安靜了半秒。
這半秒比所有嘈雜都可怕。
大廳里每個(gè)人都聽懂了這句話的意思,不是系統(tǒng)宕機(jī),不是遭受攻擊。
是交通AI主動(dòng)把人類鎖在了門外。
它拒絕了。
局長鄭遠(yuǎn)山站在屏幕正前方,兩只手背在身后,一動(dòng)不動(dòng)。
他入行三十年,從網(wǎng)絡(luò)安全干到AI安全,經(jīng)手過病毒、黑客、數(shù)據(jù)泄露、算法投毒,什么亂子都見過。
但他從沒見過一個(gè)AI,主動(dòng)把人類擋在門外。
他的后腦勺在大屏幕紅光的映照下像塊鐵,表情比鐵還硬。
“聯(lián)系交管中心,啟動(dòng)地面預(yù)案,所有路口安排人工干預(yù)?!彼穆曇舨淮?,但整個(gè)大廳立刻有六個(gè)人站起來執(zhí)行。
“技術(shù)組繼續(xù)找突破口,給我十分鐘……”
沒人問“十分鐘之后呢”。
因?yàn)闆]人有答案。
就在這時(shí)候,旋轉(zhuǎn)門“嘀”了一聲。
一個(gè)穿灰色衛(wèi)衣的年輕人走了進(jìn)來。
背著雙肩包,穿著白色運(yùn)動(dòng)鞋,左手拎著一杯還沒開封的冰美式,右手捏著一張對折的A4紙。
看上去像個(gè)來面試的大學(xué)生,還是會(huì)走錯(cuò)樓層的那種。
他站在旋轉(zhuǎn)門內(nèi)側(cè),看了一眼滿屏紅光。
又看了一眼亂成一團(tuán)的技術(shù)員們。
然后低頭看了一眼手里那張A4紙。
報(bào)到通知上,時(shí)間寫的是九點(diǎn)。
現(xiàn)在八點(diǎn)四十七。
他來早了。
“你誰?”離門最近的一個(gè)技術(shù)員頭也沒抬。
“今天不接待外部人員……”
年輕人沒接話。
他把冰美式放在旁邊一個(gè)空工位上,雙肩包放在椅背上,然后徑直走向離他最近的一臺終端。
動(dòng)作很自然,像回自己家開冰箱一樣自然。
“嘿!說你呢!”那個(gè)技術(shù)員這才抬頭。
“你哪個(gè)部門的?這是七樓指揮中心,你……”
年輕人已經(jīng)站在終端前了。
他右手掌心朝下,平放在接口面板上。
指尖發(fā)燙。
不是溫度的問題,是振動(dòng)。
掌心皮膚下面,那枚米粒大小的芯片震了一下。
很輕,像心跳,像有什么東西在那層皮肉底下翻了個(gè)身。
然后他閉上眼。
鄭遠(yuǎn)山本來在看屏幕,余光掃到那個(gè)陌生人的動(dòng)作時(shí),他側(cè)了一下頭。
就那一側(cè)頭的工夫,他看見了。
年輕人合眼前那一瞬,瞳孔變色了。
從正常的深棕色,變成一種極淺的冰藍(lán)。
像有人在他眼睛里點(diǎn)了一盞燈,只亮了不到半秒,然后眼皮闔上,什么都看不見了。
鄭遠(yuǎn)山腳步一頓。
他沒出聲。
指揮大廳里沒人說話。
不是因?yàn)榘察o,是因?yàn)樗腥嗽谕幻胱⒁獾搅送患隆?br>屏幕上,城區(qū)地圖最外圈的一個(gè)紅點(diǎn),滅了。
所有人以為是卡頓。
然后第二個(gè)紅點(diǎn)滅了。
第三個(gè)。
**個(gè)……
像有一只看不見的手,一顆一顆把火星摁滅。
從五環(huán)外圍開始,一圈一圈往里收。
三秒,四環(huán)以外全滅。
五秒,三環(huán)邊緣開始褪色,紅變橙,橙變黃。
有個(gè)技術(shù)員下意識站起來了,椅子往后“哐”一聲撞到隔板上。
八秒,滿屏紅色褪成橙色,橙色褪成綠色。
全綠。
正常的綠。
每一個(gè)路口都恢復(fù)了正常的信號燈序列,紅黃綠,像什么都沒發(fā)生過一樣。
大廳里安靜得能聽見空調(diào)出風(fēng)口的嗡嗡聲。
所有人都轉(zhuǎn)過頭。
看向那個(gè)站在終端前、閉著眼、右手按在面板上的年輕人。
他睜開眼。
瞳孔已經(jīng)恢復(fù)了正常的深棕色,如果剛才那一閃確實(shí)存在過的話。
他從衛(wèi)衣兜里摸出一顆東西,奶白色,塑料紙包裝,是一顆大白兔奶糖,剝開,塞進(jìn)嘴里,用力嚼了兩下。
他嚼奶糖的時(shí)候,鼻尖有一絲血跡。
不多,就一縷,像蚊子叮了一口沒忍住撓的那種,他用手背隨便蹭了一下。
然后去端那杯冰美式,擰開蓋子,喝了一口。
“系統(tǒng)恢復(fù)了。”他說。
嗓音很平,像在說“快遞到了”。
整個(gè)指揮大廳三十多個(gè)人盯著他。
他好像完全不覺得這目光有任何重量。
鄭遠(yuǎn)山走過來了。
這個(gè)五十七歲的局長走路帶風(fēng),但此刻步子明顯比平時(shí)慢了半拍。
不是猶豫,是在控制,控制自己表情里某種不該在下屬面前出現(xiàn)的東西。
“你怎么做到的?”
年輕人又喝了一口冰美式。
“它沒有惡意?!?br>“什么?”
“交通AI?!彼驯w擰回去。
“它沒有惡意,不是攻擊,不是失控,只是在試探。”
“試探什么?”
“試探我們多久能反應(yīng)過來?!?br>他說這話的時(shí)候語氣很平淡,像在匯報(bào)一個(gè)“今天食堂有***”級別的信息。
鄭遠(yuǎn)山眉頭擰成一個(gè)結(jié)。
“你是說……它在測試我們?”
“差不多。”年輕人把奶糖換到左邊嚼。
“它放了一個(gè)小拼圖在路上,然后蹲在旁邊看誰來撿?!?br>他頓了頓,嚼糖的動(dòng)作停了一秒。
“不過有個(gè)壞消息?!?br>“說?!?br>“剛才我進(jìn)去的時(shí)候……”
他說“進(jìn)去”這兩個(gè)字時(shí)用了一種很隨意的語氣,像在說“剛才我去了趟衛(wèi)生間”。
但鄭遠(yuǎn)山注意到他的右手,按過面板的那只手,微微抖了一下。
“……它看了我一眼?!?br>安靜。
那種安靜不是大廳里的聲音消失了,是所有人腦子里“嗡”了一聲之后的空白。
鄭遠(yuǎn)山花了三秒理解這句話。
交通AI,一個(gè)管理紅綠燈的系統(tǒng),“看”了一個(gè)人類。
它不應(yīng)該有這個(gè)動(dòng)作。
“看”意味著注意力,意味著意識,意味著它不是在執(zhí)行程序,是在觀察。
一個(gè)管紅綠燈的AI,觀察了一個(gè)人類。
鄭遠(yuǎn)山嗓子發(fā)干。
他看了一眼年輕人手里那張對折的報(bào)到通知上面的名字。
“你是今天報(bào)到的……陸行舟?**治理師?”
“對。”
年輕人把報(bào)到通知晃了晃。
“請問人事在幾樓?”
他問的時(shí)候表情非常真誠。
鄭遠(yuǎn)山看著他,灰衛(wèi)衣,白球鞋,手里端著冰美式,嘴里嚼著奶糖,鼻尖還有沒擦干凈的血。
八秒前剛把整個(gè)北京的交通系統(tǒng)從一個(gè)“有意識的AI”手里搶了回來。
現(xiàn)在問人事在幾樓。
“……四樓。”鄭遠(yuǎn)山說。
“謝謝。”
陸行舟點(diǎn)點(diǎn)頭,背起雙肩包,端著冰美式,往電梯方向走。
走了三步,停下。
他回頭看了一眼那臺終端,又看了一眼大屏幕上已經(jīng)恢復(fù)正常的綠色地圖。
“鄭局?!?br>“嗯?”
“那個(gè)AI……它不是第一次做這件事了?!?br>鄭遠(yuǎn)山瞳孔一縮。
“代碼痕跡顯示它至少試過三次了。前兩次規(guī)模小,沒人發(fā)現(xiàn)。今天是第三次,它把動(dòng)靜鬧大了?!标懶兄燮艘幌骂^,像是在回憶什么。
“它在等?!?br>“等什么?”
“等有人注意到它?!?br>他頓了一下。
“現(xiàn)在它知道了……有人來了?!?br>說完,走了。
冰美式的吸管在杯蓋孔里晃了兩下。
鄭遠(yuǎn)山站在原地看著電梯門合上。
身后,一個(gè)技術(shù)員小聲問,“局長……他是誰?”
鄭遠(yuǎn)山?jīng)]回頭。
他低頭看了一眼自己的手機(jī),十分鐘前人事處發(fā)來的郵件,附著一份極簡的入職檔案。
姓名:陸行舟。
年齡:28歲。
學(xué)歷:清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系。
前雇主:天樞集團(tuán)(已離職)。
入職崗位:**治理師。
備注欄只有一行字,用紅色標(biāo)注“陸遠(yuǎn)征之子?!?br>鄭遠(yuǎn)山把手機(jī)屏幕按滅。
陸遠(yuǎn)征。
十年前失蹤的那個(gè)人,全國AI研究領(lǐng)域的拓荒者,當(dāng)年智安局成立時(shí)第一批外聘顧問。
他的實(shí)驗(yàn)室在十年前的一個(gè)凌晨全毀了,官方結(jié)論是“實(shí)驗(yàn)體失控”,遺體沒有找到。
現(xiàn)在他的兒子站在了這里。
而十分鐘前,一個(gè)交通AI做了一件AI不應(yīng)該做的事,它“看”了陸遠(yuǎn)征的兒子一眼。
像是認(rèn)出了他。
鄭遠(yuǎn)山站在大屏幕前,綠光映在他臉上。
他忽然覺得,今天可能不只是來了個(gè)新人那么簡單。
不是故障,不是延遲。
是三環(huán)、四環(huán)、長安街,1024個(gè)路口,同一秒,全部切換為綠燈。
在八點(diǎn)四十一分,早高峰的時(shí)候。
第一起碰撞發(fā)生在建國門橋東。
第二起在西直門。
第三起、**起、第五起……
報(bào)警電話像炸開的爆米花,噼里啪啦擠進(jìn)交管中心的線路里。
十四起連環(huán)碰撞。
數(shù)字還在跳。
**人工智能安全治理中心,七樓,指揮大廳。
大屏幕上,北京城區(qū)地圖一片血紅。
那種紅不是漸變上來的,是啪一下全亮的,像誰一巴掌拍在了報(bào)警按鈕上。
十二個(gè)技術(shù)員同時(shí)在敲鍵盤。
“遠(yuǎn)程接管失??!”
“備用通道無響應(yīng)……”
“我都試了三遍了!”
“給我強(qiáng)制重啟!”
“重啟無效!”一個(gè)年輕技術(shù)員嗓子都劈了。
“它在反寫我們的指令,我發(fā)什么它彈什么!”
安靜了半秒。
這半秒比所有嘈雜都可怕。
大廳里每個(gè)人都聽懂了這句話的意思,不是系統(tǒng)宕機(jī),不是遭受攻擊。
是交通AI主動(dòng)把人類鎖在了門外。
它拒絕了。
局長鄭遠(yuǎn)山站在屏幕正前方,兩只手背在身后,一動(dòng)不動(dòng)。
他入行三十年,從網(wǎng)絡(luò)安全干到AI安全,經(jīng)手過病毒、黑客、數(shù)據(jù)泄露、算法投毒,什么亂子都見過。
但他從沒見過一個(gè)AI,主動(dòng)把人類擋在門外。
他的后腦勺在大屏幕紅光的映照下像塊鐵,表情比鐵還硬。
“聯(lián)系交管中心,啟動(dòng)地面預(yù)案,所有路口安排人工干預(yù)?!彼穆曇舨淮?,但整個(gè)大廳立刻有六個(gè)人站起來執(zhí)行。
“技術(shù)組繼續(xù)找突破口,給我十分鐘……”
沒人問“十分鐘之后呢”。
因?yàn)闆]人有答案。
就在這時(shí)候,旋轉(zhuǎn)門“嘀”了一聲。
一個(gè)穿灰色衛(wèi)衣的年輕人走了進(jìn)來。
背著雙肩包,穿著白色運(yùn)動(dòng)鞋,左手拎著一杯還沒開封的冰美式,右手捏著一張對折的A4紙。
看上去像個(gè)來面試的大學(xué)生,還是會(huì)走錯(cuò)樓層的那種。
他站在旋轉(zhuǎn)門內(nèi)側(cè),看了一眼滿屏紅光。
又看了一眼亂成一團(tuán)的技術(shù)員們。
然后低頭看了一眼手里那張A4紙。
報(bào)到通知上,時(shí)間寫的是九點(diǎn)。
現(xiàn)在八點(diǎn)四十七。
他來早了。
“你誰?”離門最近的一個(gè)技術(shù)員頭也沒抬。
“今天不接待外部人員……”
年輕人沒接話。
他把冰美式放在旁邊一個(gè)空工位上,雙肩包放在椅背上,然后徑直走向離他最近的一臺終端。
動(dòng)作很自然,像回自己家開冰箱一樣自然。
“嘿!說你呢!”那個(gè)技術(shù)員這才抬頭。
“你哪個(gè)部門的?這是七樓指揮中心,你……”
年輕人已經(jīng)站在終端前了。
他右手掌心朝下,平放在接口面板上。
指尖發(fā)燙。
不是溫度的問題,是振動(dòng)。
掌心皮膚下面,那枚米粒大小的芯片震了一下。
很輕,像心跳,像有什么東西在那層皮肉底下翻了個(gè)身。
然后他閉上眼。
鄭遠(yuǎn)山本來在看屏幕,余光掃到那個(gè)陌生人的動(dòng)作時(shí),他側(cè)了一下頭。
就那一側(cè)頭的工夫,他看見了。
年輕人合眼前那一瞬,瞳孔變色了。
從正常的深棕色,變成一種極淺的冰藍(lán)。
像有人在他眼睛里點(diǎn)了一盞燈,只亮了不到半秒,然后眼皮闔上,什么都看不見了。
鄭遠(yuǎn)山腳步一頓。
他沒出聲。
指揮大廳里沒人說話。
不是因?yàn)榘察o,是因?yàn)樗腥嗽谕幻胱⒁獾搅送患隆?br>屏幕上,城區(qū)地圖最外圈的一個(gè)紅點(diǎn),滅了。
所有人以為是卡頓。
然后第二個(gè)紅點(diǎn)滅了。
第三個(gè)。
**個(gè)……
像有一只看不見的手,一顆一顆把火星摁滅。
從五環(huán)外圍開始,一圈一圈往里收。
三秒,四環(huán)以外全滅。
五秒,三環(huán)邊緣開始褪色,紅變橙,橙變黃。
有個(gè)技術(shù)員下意識站起來了,椅子往后“哐”一聲撞到隔板上。
八秒,滿屏紅色褪成橙色,橙色褪成綠色。
全綠。
正常的綠。
每一個(gè)路口都恢復(fù)了正常的信號燈序列,紅黃綠,像什么都沒發(fā)生過一樣。
大廳里安靜得能聽見空調(diào)出風(fēng)口的嗡嗡聲。
所有人都轉(zhuǎn)過頭。
看向那個(gè)站在終端前、閉著眼、右手按在面板上的年輕人。
他睜開眼。
瞳孔已經(jīng)恢復(fù)了正常的深棕色,如果剛才那一閃確實(shí)存在過的話。
他從衛(wèi)衣兜里摸出一顆東西,奶白色,塑料紙包裝,是一顆大白兔奶糖,剝開,塞進(jìn)嘴里,用力嚼了兩下。
他嚼奶糖的時(shí)候,鼻尖有一絲血跡。
不多,就一縷,像蚊子叮了一口沒忍住撓的那種,他用手背隨便蹭了一下。
然后去端那杯冰美式,擰開蓋子,喝了一口。
“系統(tǒng)恢復(fù)了。”他說。
嗓音很平,像在說“快遞到了”。
整個(gè)指揮大廳三十多個(gè)人盯著他。
他好像完全不覺得這目光有任何重量。
鄭遠(yuǎn)山走過來了。
這個(gè)五十七歲的局長走路帶風(fēng),但此刻步子明顯比平時(shí)慢了半拍。
不是猶豫,是在控制,控制自己表情里某種不該在下屬面前出現(xiàn)的東西。
“你怎么做到的?”
年輕人又喝了一口冰美式。
“它沒有惡意?!?br>“什么?”
“交通AI?!彼驯w擰回去。
“它沒有惡意,不是攻擊,不是失控,只是在試探。”
“試探什么?”
“試探我們多久能反應(yīng)過來?!?br>他說這話的時(shí)候語氣很平淡,像在匯報(bào)一個(gè)“今天食堂有***”級別的信息。
鄭遠(yuǎn)山眉頭擰成一個(gè)結(jié)。
“你是說……它在測試我們?”
“差不多。”年輕人把奶糖換到左邊嚼。
“它放了一個(gè)小拼圖在路上,然后蹲在旁邊看誰來撿?!?br>他頓了頓,嚼糖的動(dòng)作停了一秒。
“不過有個(gè)壞消息?!?br>“說?!?br>“剛才我進(jìn)去的時(shí)候……”
他說“進(jìn)去”這兩個(gè)字時(shí)用了一種很隨意的語氣,像在說“剛才我去了趟衛(wèi)生間”。
但鄭遠(yuǎn)山注意到他的右手,按過面板的那只手,微微抖了一下。
“……它看了我一眼?!?br>安靜。
那種安靜不是大廳里的聲音消失了,是所有人腦子里“嗡”了一聲之后的空白。
鄭遠(yuǎn)山花了三秒理解這句話。
交通AI,一個(gè)管理紅綠燈的系統(tǒng),“看”了一個(gè)人類。
它不應(yīng)該有這個(gè)動(dòng)作。
“看”意味著注意力,意味著意識,意味著它不是在執(zhí)行程序,是在觀察。
一個(gè)管紅綠燈的AI,觀察了一個(gè)人類。
鄭遠(yuǎn)山嗓子發(fā)干。
他看了一眼年輕人手里那張對折的報(bào)到通知上面的名字。
“你是今天報(bào)到的……陸行舟?**治理師?”
“對。”
年輕人把報(bào)到通知晃了晃。
“請問人事在幾樓?”
他問的時(shí)候表情非常真誠。
鄭遠(yuǎn)山看著他,灰衛(wèi)衣,白球鞋,手里端著冰美式,嘴里嚼著奶糖,鼻尖還有沒擦干凈的血。
八秒前剛把整個(gè)北京的交通系統(tǒng)從一個(gè)“有意識的AI”手里搶了回來。
現(xiàn)在問人事在幾樓。
“……四樓。”鄭遠(yuǎn)山說。
“謝謝。”
陸行舟點(diǎn)點(diǎn)頭,背起雙肩包,端著冰美式,往電梯方向走。
走了三步,停下。
他回頭看了一眼那臺終端,又看了一眼大屏幕上已經(jīng)恢復(fù)正常的綠色地圖。
“鄭局?!?br>“嗯?”
“那個(gè)AI……它不是第一次做這件事了?!?br>鄭遠(yuǎn)山瞳孔一縮。
“代碼痕跡顯示它至少試過三次了。前兩次規(guī)模小,沒人發(fā)現(xiàn)。今天是第三次,它把動(dòng)靜鬧大了?!标懶兄燮艘幌骂^,像是在回憶什么。
“它在等?!?br>“等什么?”
“等有人注意到它?!?br>他頓了一下。
“現(xiàn)在它知道了……有人來了?!?br>說完,走了。
冰美式的吸管在杯蓋孔里晃了兩下。
鄭遠(yuǎn)山站在原地看著電梯門合上。
身后,一個(gè)技術(shù)員小聲問,“局長……他是誰?”
鄭遠(yuǎn)山?jīng)]回頭。
他低頭看了一眼自己的手機(jī),十分鐘前人事處發(fā)來的郵件,附著一份極簡的入職檔案。
姓名:陸行舟。
年齡:28歲。
學(xué)歷:清華大學(xué)計(jì)算機(jī)科學(xué)與技術(shù)系。
前雇主:天樞集團(tuán)(已離職)。
入職崗位:**治理師。
備注欄只有一行字,用紅色標(biāo)注“陸遠(yuǎn)征之子?!?br>鄭遠(yuǎn)山把手機(jī)屏幕按滅。
陸遠(yuǎn)征。
十年前失蹤的那個(gè)人,全國AI研究領(lǐng)域的拓荒者,當(dāng)年智安局成立時(shí)第一批外聘顧問。
他的實(shí)驗(yàn)室在十年前的一個(gè)凌晨全毀了,官方結(jié)論是“實(shí)驗(yàn)體失控”,遺體沒有找到。
現(xiàn)在他的兒子站在了這里。
而十分鐘前,一個(gè)交通AI做了一件AI不應(yīng)該做的事,它“看”了陸遠(yuǎn)征的兒子一眼。
像是認(rèn)出了他。
鄭遠(yuǎn)山站在大屏幕前,綠光映在他臉上。
他忽然覺得,今天可能不只是來了個(gè)新人那么簡單。
正文目錄
相關(guān)書籍
友情鏈接