作者：理查德-W-史蒂文斯（Richard W. Stevens）是一名律師、作家，也是發(fā)現研究所沃爾特-布拉德利自然與人工智能中心的研究員。他撰寫了大量關于代碼和軟件系統(tǒng)如何證明生物系統(tǒng)中的智能設計的文章。他以優(yōu)異成績獲得圣地亞哥大學法學院法學博士學位和加州大學圣地亞哥分校計算機科學學位。理查德曾在加利福尼亞州和華盛頓特區(qū)從事民事和行政法訴訟，在喬治-華盛頓大學和喬治-梅森大學法學院教授法律研究和寫作，現在專門撰寫處置性動議和上訴辯護狀。他已撰寫或與人合著了四本書，還撰寫了大量文章，并就法律寫作、經濟學、《權利法案》和基督教辯護學等主題發(fā)表過演講。他的第五本書《調查辯護》即將出版。

美國聯邦機構的權力準備延伸到您的一舉一動。

接下來，當 Siri 或 Alexa 通知你時，你就可以坐在駕駛座上了：

"對不起，您不能開車。本車暫時禁用。請稍后再試。

沒有超馳功能，也沒有 "丟失密碼 "功能來繞過鎖定。不管你要去哪里，也不管你有多急需離開。人工智能系統(tǒng)都會判定你不適合駕駛。

這又是一個烏托邦式的幻想嗎？當然不是。美國國會和總統(tǒng)頒布了第 117-58 號公法（2021 年 11 月 15 日），要求制定國家規(guī)則，要求乘用車 "配備先進的酒駕和醉駕預防技術"。這么一說，誰還會反對呢？畢竟，人工智能系統(tǒng)將拯救生命。

2023 年 11 月，美國國會在強烈反對聲中批準繼續(xù)撥款，這意味著 "先進的酒駕和醉駕預防技術 "最快將于 2026 年出現在汽車上。由人工智能驅動的系統(tǒng)將"（i）被動監(jiān)測機動車駕駛員的表現，以準確識別該駕駛員是否可能受損；（ii）如果檢測到受損，則防止或限制機動車操作"。

技術就在這里

駕駛員審批系統(tǒng)如何運行？CorrActions 開發(fā)了 "一種基于運動的純軟件駕駛員監(jiān)控產品"，它使用 "無意識的、不可控制的肌肉子運動來監(jiān)控大腦活動"。輸入來自方向盤或駕駛員的智能手機。

CorrActions 稱，該系統(tǒng) "可以檢測到多種認知狀態(tài)"，如 "疲勞、注意力不集中、焦慮、酗酒/吸毒等"。據報道，駕駛員與智能手機應用程序的互動所提供的信息足以確定血液中的酒精含量（BAC），準確率高達 90%，而且絕不會誤報高 BAC。

解決方案帶來的問題

現在考慮一下：聯邦政府機構使用人工智能來決定美國 3.5 億多人中是否有人可以駕駛汽車。人工智能設計師建立了駕駛員審批系統(tǒng)。酒后駕車問題迎刃而解。聯邦政府和人工智能都沉浸在英雄的榮耀中。

然而，我們必須面對大局問題和日常權衡。首先考慮一下駕駛員審批系統(tǒng)（DAS）所帶來的日常實際問題。當你喝了幾杯啤酒后，你的汽車根本無法行駛：

●你的妻子突然臨產

●你的孩子生病、受傷或流血

●龍卷風肆虐您所在的城市

●您需要把車開離灌木叢火場

●你需要把車從熱水器漏水的車庫里開出來

不管喝了多少啤酒，沒有哪個系統(tǒng)能永遠完美運行。電池會耗盡，電線會磨損，駕駛員審批系統(tǒng)也會發(fā)生故障，無法使用任何車輛。它不會知道也不會關心你為什么要開車。

在任何情況下，駕駛員審批系統(tǒng)都無法評估您的情況是否緊急。安全管理局無法權衡您駕車的風險與收益。它不知道也不關心您的行程是在一條很少使用的道路上，或者醫(yī)療診所離您只有兩英里遠。它只是一個聯邦授權的機器人，執(zhí)行著全國性的 "一刀切 "規(guī)則。

索賠, 訴訟, 事實, 觀點, 真理, 正義

人們希望安全系統(tǒng)能夠記錄并保存每位駕駛員的 "認知狀態(tài) "數據。當然，警方調查人員和保險公司在考慮事故的 "過錯方 "時會尋求這些數據。各部門是否會將 DAS 記錄的駕駛員 "損傷"、"疲勞"、"焦慮 "或 "注意力不集中 "作為不容置疑的事實？

如果公平和正義仍然重要，那就不會。任何在法律案件中提供證據的設備都需要經過有效性和可靠性評估。要使用有關精神狀態(tài)的駕駛員審批系統(tǒng)報告，就需要設計者提供確鑿的證據，證明機器的準確性、最近的測試和校準情況，以及內部和外部有害因素是否會影響報告。駕駛員審批系統(tǒng)是否會受到電氣或無線電干擾、干擾、數據損壞、人為黑客攻擊或軟件更新錯誤的影響？

深入挖掘：例如，如果駕駛員審批系統(tǒng)報告 "損傷"、"焦慮 "或 "注意力不集中"，這些答案是否只有 "是 "或 "否"？報告是否會顯示灰色陰影或嚴重程度？也許報告會用 0 到 9 的等級來表示情緒狀態(tài)。這個等級從何而來？誰來決定焦慮=5，注意力不集中=6，就不能開車或讓車停在路上？

沒有任何東西能確保駕駛員審批系統(tǒng)以任何客觀的方式 "正確"。就像測謊儀既不是 "測謊儀 "也不是 "測真儀 "一樣，駕駛員審批系統(tǒng)也將受限于設計者在以下方面的選擇：(1) 哪些數據是相關的；(2) 如何計算結果；(3) 如何呈現計算機對高度主觀的人類生理和心理因素得出的結論。在所有車輛中安裝駕駛員審批系統(tǒng)，要么會導致人工智能的絕對統(tǒng)治，要么會引發(fā)大量訴訟，在爭議中尋求真相和人類的公平結果。

DAS 2.0：危險的仆人，渴望的主人

再從大處著眼：社會對政府如何決策、如何將權力強加于公民的心態(tài)。聯邦駕駛員審批系統(tǒng)授權將這樣一種觀念正常化，即使用人工智能的政府機構可以而且應該 "解決 "健康、安全和財政問題。一個機構及其官僚可以 "聽從 "他們認為是超級專家的人工智能系統(tǒng)的 "命令"。不再有 "人為錯誤"--人工智能成為超級智者。任何公民都不能合理地質疑這種智能的決定。專家與電腦的統(tǒng)治成為政府模式。

駕駛員審批系統(tǒng)概念本身實際上就是在乞求擴大政府權力。如今，駕駛員審批系統(tǒng)被稱為與汽車駕駛員互動的 "被動監(jiān)控 "系統(tǒng)。一旦強制并廣泛安裝駕駛員審批系統(tǒng)，聰明的想法就會層出不窮，例如，限制或阻止欠稅的人、被指控違規(guī)的人、被認為是麻煩制造者的人、或 "碳足跡 "超過某個數字的人使用汽車。

技術將不斷發(fā)展，將駕駛員審批系統(tǒng)與中央控制系統(tǒng)連接起來，以推進當下的官僚政策。就像今天的 Alexa 可以監(jiān)聽人們的談話和用詞一樣，駕駛員審批系統(tǒng) 2.0 也可以檢測私下討論的語言和思想。

強制要求政府在私家車上使用監(jiān)控技術，將使個人的行動、思想、言論和行為受到自上而下的控制。阿克頓勛爵可能會這樣說權力使人腐化，而人工智能的權力使人成倍腐化。