作者：理查德-W-史蒂文斯（Richard W. Stevens）是一名律師、作家，也是發(fā)現(xiàn)研究所沃爾特-布拉德利自然與人工智能中心的研究員。他撰寫(xiě)了大量關(guān)于代碼和軟件系統(tǒng)如何證明生物系統(tǒng)中的智能設(shè)計(jì)的文章。他以優(yōu)異成績(jī)獲得圣地亞哥大學(xué)法學(xué)院法學(xué)博士學(xué)位和加州大學(xué)圣地亞哥分校計(jì)算機(jī)科學(xué)學(xué)位。理查德曾在加利福尼亞州和華盛頓特區(qū)從事民事和行政法訴訟，在喬治-華盛頓大學(xué)和喬治-梅森大學(xué)法學(xué)院教授法律研究和寫(xiě)作，現(xiàn)在專門(mén)撰寫(xiě)處置性動(dòng)議和上訴辯護(hù)狀。他已撰寫(xiě)或與人合著了四本書(shū)，還撰寫(xiě)了大量文章，并就法律寫(xiě)作、經(jīng)濟(jì)學(xué)、《權(quán)利法案》和基督教辯護(hù)學(xué)等主題發(fā)表過(guò)演講。他的第五本書(shū)《調(diào)查辯護(hù)》即將出版。

美國(guó)聯(lián)邦機(jī)構(gòu)的權(quán)力準(zhǔn)備延伸到您的一舉一動(dòng)。

接下來(lái)，當(dāng) Siri 或 Alexa 通知你時(shí)，你就可以坐在駕駛座上了：

"對(duì)不起，您不能開(kāi)車。本車暫時(shí)禁用。請(qǐng)稍后再試。

沒(méi)有超馳功能，也沒(méi)有 "丟失密碼 "功能來(lái)繞過(guò)鎖定。不管你要去哪里，也不管你有多急需離開(kāi)。人工智能系統(tǒng)都會(huì)判定你不適合駕駛。

這又是一個(gè)烏托邦式的幻想嗎？當(dāng)然不是。美國(guó)國(guó)會(huì)和總統(tǒng)頒布了第 117-58 號(hào)公法（2021 年 11 月 15 日），要求制定國(guó)家規(guī)則，要求乘用車 "配備先進(jìn)的酒駕和醉駕預(yù)防技術(shù)"。這么一說(shuō)，誰(shuí)還會(huì)反對(duì)呢？畢竟，人工智能系統(tǒng)將拯救生命。

2023 年 11 月，美國(guó)國(guó)會(huì)在強(qiáng)烈反對(duì)聲中批準(zhǔn)繼續(xù)撥款，這意味著 "先進(jìn)的酒駕和醉駕預(yù)防技術(shù) "最快將于 2026 年出現(xiàn)在汽車上。由人工智能驅(qū)動(dòng)的系統(tǒng)將"（i）被動(dòng)監(jiān)測(cè)機(jī)動(dòng)車駕駛員的表現(xiàn)，以準(zhǔn)確識(shí)別該駕駛員是否可能受損；（ii）如果檢測(cè)到受損，則防止或限制機(jī)動(dòng)車操作"。

技術(shù)就在這里

駕駛員審批系統(tǒng)如何運(yùn)行？CorrActions 開(kāi)發(fā)了 "一種基于運(yùn)動(dòng)的純軟件駕駛員監(jiān)控產(chǎn)品"，它使用 "無(wú)意識(shí)的、不可控制的肌肉子運(yùn)動(dòng)來(lái)監(jiān)控大腦活動(dòng)"。輸入來(lái)自方向盤(pán)或駕駛員的智能手機(jī)。

CorrActions 稱，該系統(tǒng) "可以檢測(cè)到多種認(rèn)知狀態(tài)"，如 "疲勞、注意力不集中、焦慮、酗酒/吸毒等"。據(jù)報(bào)道，駕駛員與智能手機(jī)應(yīng)用程序的互動(dòng)所提供的信息足以確定血液中的酒精含量（BAC），準(zhǔn)確率高達(dá) 90%，而且絕不會(huì)誤報(bào)高 BAC。

解決方案帶來(lái)的問(wèn)題

現(xiàn)在考慮一下：聯(lián)邦政府機(jī)構(gòu)使用人工智能來(lái)決定美國(guó) 3.5 億多人中是否有人可以駕駛汽車。人工智能設(shè)計(jì)師建立了駕駛員審批系統(tǒng)。酒后駕車問(wèn)題迎刃而解。聯(lián)邦政府和人工智能都沉浸在英雄的榮耀中。

然而，我們必須面對(duì)大局問(wèn)題和日常權(quán)衡。首先考慮一下駕駛員審批系統(tǒng)（DAS）所帶來(lái)的日常實(shí)際問(wèn)題。當(dāng)你喝了幾杯啤酒后，你的汽車根本無(wú)法行駛：

●你的妻子突然臨產(chǎn)

●你的孩子生病、受傷或流血

●龍卷風(fēng)肆虐您所在的城市

●您需要把車開(kāi)離灌木叢火場(chǎng)

●你需要把車從熱水器漏水的車庫(kù)里開(kāi)出來(lái)

不管喝了多少啤酒，沒(méi)有哪個(gè)系統(tǒng)能永遠(yuǎn)完美運(yùn)行。電池會(huì)耗盡，電線會(huì)磨損，駕駛員審批系統(tǒng)也會(huì)發(fā)生故障，無(wú)法使用任何車輛。它不會(huì)知道也不會(huì)關(guān)心你為什么要開(kāi)車。

在任何情況下，駕駛員審批系統(tǒng)都無(wú)法評(píng)估您的情況是否緊急。安全管理局無(wú)法權(quán)衡您駕車的風(fēng)險(xiǎn)與收益。它不知道也不關(guān)心您的行程是在一條很少使用的道路上，或者醫(yī)療診所離您只有兩英里遠(yuǎn)。它只是一個(gè)聯(lián)邦授權(quán)的機(jī)器人，執(zhí)行著全國(guó)性的 "一刀切 "規(guī)則。

索賠, 訴訟, 事實(shí), 觀點(diǎn), 真理, 正義

人們希望安全系統(tǒng)能夠記錄并保存每位駕駛員的 "認(rèn)知狀態(tài) "數(shù)據(jù)。當(dāng)然，警方調(diào)查人員和保險(xiǎn)公司在考慮事故的 "過(guò)錯(cuò)方 "時(shí)會(huì)尋求這些數(shù)據(jù)。各部門(mén)是否會(huì)將 DAS 記錄的駕駛員 "損傷"、"疲勞"、"焦慮 "或 "注意力不集中 "作為不容置疑的事實(shí)？

如果公平和正義仍然重要，那就不會(huì)。任何在法律案件中提供證據(jù)的設(shè)備都需要經(jīng)過(guò)有效性和可靠性評(píng)估。要使用有關(guān)精神狀態(tài)的駕駛員審批系統(tǒng)報(bào)告，就需要設(shè)計(jì)者提供確鑿的證據(jù)，證明機(jī)器的準(zhǔn)確性、最近的測(cè)試和校準(zhǔn)情況，以及內(nèi)部和外部有害因素是否會(huì)影響報(bào)告。駕駛員審批系統(tǒng)是否會(huì)受到電氣或無(wú)線電干擾、干擾、數(shù)據(jù)損壞、人為黑客攻擊或軟件更新錯(cuò)誤的影響？

深入挖掘：例如，如果駕駛員審批系統(tǒng)報(bào)告 "損傷"、"焦慮 "或 "注意力不集中"，這些答案是否只有 "是 "或 "否"？報(bào)告是否會(huì)顯示灰色陰影或嚴(yán)重程度？也許報(bào)告會(huì)用 0 到 9 的等級(jí)來(lái)表示情緒狀態(tài)。這個(gè)等級(jí)從何而來(lái)？誰(shuí)來(lái)決定焦慮=5，注意力不集中=6，就不能開(kāi)車或讓車停在路上？

沒(méi)有任何東西能確保駕駛員審批系統(tǒng)以任何客觀的方式 "正確"。就像測(cè)謊儀既不是 "測(cè)謊儀 "也不是 "測(cè)真儀 "一樣，駕駛員審批系統(tǒng)也將受限于設(shè)計(jì)者在以下方面的選擇：(1) 哪些數(shù)據(jù)是相關(guān)的；(2) 如何計(jì)算結(jié)果；(3) 如何呈現(xiàn)計(jì)算機(jī)對(duì)高度主觀的人類生理和心理因素得出的結(jié)論。在所有車輛中安裝駕駛員審批系統(tǒng)，要么會(huì)導(dǎo)致人工智能的絕對(duì)統(tǒng)治，要么會(huì)引發(fā)大量訴訟，在爭(zhēng)議中尋求真相和人類的公平結(jié)果。

DAS 2.0：危險(xiǎn)的仆人，渴望的主人

再?gòu)拇筇幹郏荷鐣?huì)對(duì)政府如何決策、如何將權(quán)力強(qiáng)加于公民的心態(tài)。聯(lián)邦駕駛員審批系統(tǒng)授權(quán)將這樣一種觀念正常化，即使用人工智能的政府機(jī)構(gòu)可以而且應(yīng)該 "解決 "健康、安全和財(cái)政問(wèn)題。一個(gè)機(jī)構(gòu)及其官僚可以 "聽(tīng)從 "他們認(rèn)為是超級(jí)專家的人工智能系統(tǒng)的 "命令"。不再有 "人為錯(cuò)誤"--人工智能成為超級(jí)智者。任何公民都不能合理地質(zhì)疑這種智能的決定。專家與電腦的統(tǒng)治成為政府模式。

駕駛員審批系統(tǒng)概念本身實(shí)際上就是在乞求擴(kuò)大政府權(quán)力。如今，駕駛員審批系統(tǒng)被稱為與汽車駕駛員互動(dòng)的 "被動(dòng)監(jiān)控 "系統(tǒng)。一旦強(qiáng)制并廣泛安裝駕駛員審批系統(tǒng)，聰明的想法就會(huì)層出不窮，例如，限制或阻止欠稅的人、被指控違規(guī)的人、被認(rèn)為是麻煩制造者的人、或 "碳足跡 "超過(guò)某個(gè)數(shù)字的人使用汽車。

技術(shù)將不斷發(fā)展，將駕駛員審批系統(tǒng)與中央控制系統(tǒng)連接起來(lái)，以推進(jìn)當(dāng)下的官僚政策。就像今天的 Alexa 可以監(jiān)聽(tīng)人們的談話和用詞一樣，駕駛員審批系統(tǒng) 2.0 也可以檢測(cè)私下討論的語(yǔ)言和思想。

強(qiáng)制要求政府在私家車上使用監(jiān)控技術(shù)，將使個(gè)人的行動(dòng)、思想、言論和行為受到自上而下的控制。阿克頓勛爵可能會(huì)這樣說(shuō)權(quán)力使人腐化，而人工智能的權(quán)力使人成倍腐化。