【第三章：算法的偏見】
逆風啟航籃箭天
訓練還沒開始，簡報室里就彌漫著**味。
“今天的科目是城市環境下的近距離空中支援與非戰斗人員規避。”
林瀟指著屏幕，“我們會在模擬街區中隨機投放平民標識，你們的任務是在保證打擊精度的同時，確保零誤傷。”
“零誤傷？”
有人低聲嘀咕，“這在有人機里就是個傳說。”
“在無人機里，它應該是標準。”
林瀟的語氣不容置疑。
王礪坐在控制臺前，手指輕輕敲擊著操縱桿。
他知道，城市環境是最考驗技術的地方，樓群像峽谷，風向變幻莫測，每一個反射面都可能成為陷阱。
“開始。”
周北川下令。
屏幕上，三架無人機依次升空，像三只謹慎的燕子，飛入了由數字和線條構成的城市森林。
“一號機，目標鎖定。”
系統提示。
王礪的目光在多個屏幕間切換，紅外圖像里，一個熱源正從一棟廢棄廠房里移動出來。
“確認目標。”
林瀟說，“二號機警戒，三號機準備激光照射。”
“等一下。”
王礪突然開口，“那個熱源的移動速度不對。”
“怎么不對？”
林瀟問。
“太快了。”
王礪瞇起眼睛，“而且軌跡太……規則。”
“規則？”
林瀟看向他，“你是說它像被什么引導著？”
“像。”
王礪點頭，“而且，紅外輪廓有些奇怪，像是……一個熱源被拼接在另一個物體上。”
“系統沒有異常提示。”
林瀟說，“算法判斷為高價值目標。”
“算法也會犯錯。”
王礪的聲音壓得很低，“它沒有走過這些街道，沒有聞過這里的油煙味。”
簡報室里陷入了短暫的沉默。
所有人都知道，這只是訓練，但所有人也都知道，這種情境在現實中可能隨時發生。
“按算法執行。”
周北川開口，“這是今天的科目。”
王礪沒有動。
他的手指懸在操縱桿上，像一個即將落下的判決。
“王礪。”
林瀟叫他的名字，“你知道規則。”
“我知道。”
王礪抬頭，“我也知道，規則有時候是為了讓人在關鍵時刻有勇氣去打破它。”
“你在質疑算法？”
有人問。
“我在質疑我們對算法的**。”
王礪說，“它沒有偏見，但它的訓練數據有。
它沒有恐懼，但它也沒有憐憫。”
“這不是憐憫的問題，這是戰術的問題。”
周北川說。
“戰術最終是人的選擇。”
王礪說。
空氣再次凝固。
每個人的目光都集中在他的手上。
“給我十秒。”
王礪說，“我可以繞到另一側，用可見光確認。”
“會暴露。”
林瀟提醒。
“那就暴露。”
王礪說，“寧可讓一臺機器暴露，也不能讓一個無辜的人消失。”
“王礪！”
周北川的聲音第一次帶上了嚴厲，“這是命令。”
王礪的手指收緊了。
他知道，自己正在靠近那條紅線。
他也知道，一旦越過，后果不堪設想。
但他更知道，昨天的風還沒停。
“抱歉，長官。”
他低聲說，然后將操縱桿輕輕一推。
一號機像一只離弦的箭，突然改變了航線，從一棟高樓的陰影里鉆了出來。
屏幕上，可見光畫面一閃而過——那是一個被綁在遙控車上的熱源裝置，旁邊，還有一個被關在鐵籠里的人形標識。
“停止打擊！”
林瀟幾乎在同一時間喊了出來。
停止打擊！”
周北川也下達了命令。
系統發出了刺耳的警報，**的導引頭在最后一刻被關閉。
無人機掠過目標上空，帶起一陣虛擬的風。
簡報室里一片死寂。
“復盤。”
周北川打破了沉默。
屏幕上開始回放剛才的每一個數據點。
算法的置信度曲線在最后幾秒內急劇上升，幾乎達到了完美。
然而，在可見光畫面出現的一瞬間，所有的數據都顯得蒼白無力。
“算法為什么會誤判？”
周北川問。
“因為在它的世界里，只有數據。”
林瀟說，“它沒有見過有人會用這種方式誘騙它。”
“它的訓練數據里沒有這種樣本。”
王礪補充，“它的偏見來自我們提供給它的世界。”
“所以你認為，人應該在回路里？”
周北川問。
“我認為，人必須在回路里。”
王礪說，“尤其是在城市里，在人的世界里。”
“可你違反了命令。”
周北川看著他，“這是要付出代價的。”
“是。”
王礪點頭，“我準備好了。”
簡報室里再次安靜下來。
周北川的目光在王礪和林瀟之間來回移動，像是在權衡什么。
“代價是，”周北川最終開口，“從現在開始，你和林瀟組成固定搭檔。
你們要在一個月內，把今天的‘首覺’變成明天的‘規則’。”
“規則？”
王礪有些意外。
“對。”
周北川點頭，“我們需要一條新的紅線。
一條既能讓機器發揮優勢，又能讓人守住底線的紅線。”
“這不容易。”
林瀟說。
“容易的事情，不需要我們。”
周北川說。
會議結束后，大多數人都離開了。
林瀟卻留在控制臺前，手指在鍵盤上飛快地敲擊。
“你在做什么？”
王礪走過去問。
“我在看**日志。”
林瀟的聲音有些低沉，“我想確認一件事。”
“什么事？”
“剛才的模擬，干擾源的特征……和我們昨天遇到的，不完全一樣。”
林瀟說，“像是同一個家族，但不同的個體。”
“這意味著什么？”
王礪問。
“意味著，有人在調整它。”
林瀟說，“而且，調整得很頻繁。”
“誰？”
“還不知道。”
林瀟搖頭，“但我會找到的。”
王礪看著她，突然覺得這個冷靜的女孩身上有一種讓人安心的力量。
“謝謝你剛才的‘停止打擊’。”
他說。
“我只是做了我該做的。”
林瀟說，“你也是。”
“我們會付出代價嗎？”
王礪問。
“會。”
林瀟點頭，“但我們也會得到回報。”
“什么回報？”
“也許是一條新的規則。”
林瀟說，“也許是一個新的開始。”
王礪笑了。
“那我們就從今晚開始。”
“從現在開始。”
林瀟糾正。
他們并肩坐在控制臺前，屏幕上的城市在夜色中安靜下來。
但他們都知道，真正的風暴，還在前面。
（第三章完）
“今天的科目是城市環境下的近距離空中支援與非戰斗人員規避。”
林瀟指著屏幕，“我們會在模擬街區中隨機投放平民標識，你們的任務是在保證打擊精度的同時，確保零誤傷。”
“零誤傷？”
有人低聲嘀咕，“這在有人機里就是個傳說。”
“在無人機里，它應該是標準。”
林瀟的語氣不容置疑。
王礪坐在控制臺前，手指輕輕敲擊著操縱桿。
他知道，城市環境是最考驗技術的地方，樓群像峽谷，風向變幻莫測，每一個反射面都可能成為陷阱。
“開始。”
周北川下令。
屏幕上，三架無人機依次升空，像三只謹慎的燕子，飛入了由數字和線條構成的城市森林。
“一號機，目標鎖定。”
系統提示。
王礪的目光在多個屏幕間切換，紅外圖像里，一個熱源正從一棟廢棄廠房里移動出來。
“確認目標。”
林瀟說，“二號機警戒，三號機準備激光照射。”
“等一下。”
王礪突然開口，“那個熱源的移動速度不對。”
“怎么不對？”
林瀟問。
“太快了。”
王礪瞇起眼睛，“而且軌跡太……規則。”
“規則？”
林瀟看向他，“你是說它像被什么引導著？”
“像。”
王礪點頭，“而且，紅外輪廓有些奇怪，像是……一個熱源被拼接在另一個物體上。”
“系統沒有異常提示。”
林瀟說，“算法判斷為高價值目標。”
“算法也會犯錯。”
王礪的聲音壓得很低，“它沒有走過這些街道，沒有聞過這里的油煙味。”
簡報室里陷入了短暫的沉默。
所有人都知道，這只是訓練，但所有人也都知道，這種情境在現實中可能隨時發生。
“按算法執行。”
周北川開口，“這是今天的科目。”
王礪沒有動。
他的手指懸在操縱桿上，像一個即將落下的判決。
“王礪。”
林瀟叫他的名字，“你知道規則。”
“我知道。”
王礪抬頭，“我也知道，規則有時候是為了讓人在關鍵時刻有勇氣去打破它。”
“你在質疑算法？”
有人問。
“我在質疑我們對算法的**。”
王礪說，“它沒有偏見，但它的訓練數據有。
它沒有恐懼，但它也沒有憐憫。”
“這不是憐憫的問題，這是戰術的問題。”
周北川說。
“戰術最終是人的選擇。”
王礪說。
空氣再次凝固。
每個人的目光都集中在他的手上。
“給我十秒。”
王礪說，“我可以繞到另一側，用可見光確認。”
“會暴露。”
林瀟提醒。
“那就暴露。”
王礪說，“寧可讓一臺機器暴露，也不能讓一個無辜的人消失。”
“王礪！”
周北川的聲音第一次帶上了嚴厲，“這是命令。”
王礪的手指收緊了。
他知道，自己正在靠近那條紅線。
他也知道，一旦越過，后果不堪設想。
但他更知道，昨天的風還沒停。
“抱歉，長官。”
他低聲說，然后將操縱桿輕輕一推。
一號機像一只離弦的箭，突然改變了航線，從一棟高樓的陰影里鉆了出來。
屏幕上，可見光畫面一閃而過——那是一個被綁在遙控車上的熱源裝置，旁邊，還有一個被關在鐵籠里的人形標識。
“停止打擊！”
林瀟幾乎在同一時間喊了出來。
停止打擊！”
周北川也下達了命令。
系統發出了刺耳的警報，**的導引頭在最后一刻被關閉。
無人機掠過目標上空，帶起一陣虛擬的風。
簡報室里一片死寂。
“復盤。”
周北川打破了沉默。
屏幕上開始回放剛才的每一個數據點。
算法的置信度曲線在最后幾秒內急劇上升，幾乎達到了完美。
然而，在可見光畫面出現的一瞬間，所有的數據都顯得蒼白無力。
“算法為什么會誤判？”
周北川問。
“因為在它的世界里，只有數據。”
林瀟說，“它沒有見過有人會用這種方式誘騙它。”
“它的訓練數據里沒有這種樣本。”
王礪補充，“它的偏見來自我們提供給它的世界。”
“所以你認為，人應該在回路里？”
周北川問。
“我認為，人必須在回路里。”
王礪說，“尤其是在城市里，在人的世界里。”
“可你違反了命令。”
周北川看著他，“這是要付出代價的。”
“是。”
王礪點頭，“我準備好了。”
簡報室里再次安靜下來。
周北川的目光在王礪和林瀟之間來回移動，像是在權衡什么。
“代價是，”周北川最終開口，“從現在開始，你和林瀟組成固定搭檔。
你們要在一個月內，把今天的‘首覺’變成明天的‘規則’。”
“規則？”
王礪有些意外。
“對。”
周北川點頭，“我們需要一條新的紅線。
一條既能讓機器發揮優勢，又能讓人守住底線的紅線。”
“這不容易。”
林瀟說。
“容易的事情，不需要我們。”
周北川說。
會議結束后，大多數人都離開了。
林瀟卻留在控制臺前，手指在鍵盤上飛快地敲擊。
“你在做什么？”
王礪走過去問。
“我在看**日志。”
林瀟的聲音有些低沉，“我想確認一件事。”
“什么事？”
“剛才的模擬，干擾源的特征……和我們昨天遇到的，不完全一樣。”
林瀟說，“像是同一個家族，但不同的個體。”
“這意味著什么？”
王礪問。
“意味著，有人在調整它。”
林瀟說，“而且，調整得很頻繁。”
“誰？”
“還不知道。”
林瀟搖頭，“但我會找到的。”
王礪看著她，突然覺得這個冷靜的女孩身上有一種讓人安心的力量。
“謝謝你剛才的‘停止打擊’。”
他說。
“我只是做了我該做的。”
林瀟說，“你也是。”
“我們會付出代價嗎？”
王礪問。
“會。”
林瀟點頭，“但我們也會得到回報。”
“什么回報？”
“也許是一條新的規則。”
林瀟說，“也許是一個新的開始。”
王礪笑了。
“那我們就從今晚開始。”
“從現在開始。”
林瀟糾正。
他們并肩坐在控制臺前，屏幕上的城市在夜色中安靜下來。
但他們都知道，真正的風暴，還在前面。
（第三章完）