從普悠瑪事故看人機協作　AI自動駕駛將面臨抉擇

在交通運輸實務上，許多國家的高鐵與捷運的設計已納入自動駕駛。而飛機早就以自動駕駛為主，大部分航程其實都是電腦在決定如何飛，機師主要是在起飛與降落時介入駕駛的運作。汽車產業也有朝自動駕駛發展的趨勢，Google於2009年開啟自動駕駛的專案計畫，2016年12月則分離出來成立一家名為Waymo的新公司，研發測試無人駕駛汽車並朝向商業化而努力。Uber、Tesla及許多汽車大廠也都紛紛投入自動駕駛的時代浪潮。

自動駕駛的發展與人工智慧（AI）的研發應用息息相關。由機器來掌控方向盤，不需要人類當司機，即使還需要人類當司機，也是居於輔助的角色。這可以解決人類當司機可能會有疲勞駕駛、分心不專注、危機處理判斷不夠周延以及應變能力不足等問題。鐵路運輸也可朝向自動駕駛發展以降低意外事故。

AI、清潔能源、機器人技術等發展開啟了第四次工業革命。火車這個悠久歷史的交通工具，其實已歷經好幾個工業革命並隨其應用發展。從蒸氣技術的第一次工業革命、電力技術的第二次工業革命到資訊及電腦的第三次工業革命，鐵路運輸則由蒸氣火車、電力火車發展到由資訊電腦控制的火車，例如普悠瑪列車走的是電氣化路線，且配備有列車控制監視系統（TCMS）以利司機掌握車輛各種狀況。隨著時代巨輪駛入第四次工業革命，火車朝向自動駕駛發展已是大勢所趨。

普悠瑪列車翻覆事故

今年（2018）10月21日16時50分，台鐵6432次普悠瑪列車行經宜蘭縣新馬站附近的大彎道時超速出軌，造成旅客18人死亡，2百多人受傷。本件肇事原因初步判定是彎道超速，且列車自動防護系統ATP（Automatic Train Protection）關閉，未能發揮限制速度的功能。但通聯紀錄則顯示在事故前40多分鐘左右，列車已發生動力異常現象，也就是有時候動力會自動消失，導致列車速度慢下來。司機與調度員一路上聯絡嘗試許多辦法要讓列車恢復正常的動力。而關掉ATP，其實是為了解決慢速的問題，因為ATP會限制車速。但在列車取得速度後，卻在彎道超速而釀成巨災。

普悠瑪事故聚焦在司機超速及ATP關閉的問題，此凸顯了機器的失靈，以及人與機器互動的不協調。這起事故是危機也是轉機，有助於我們思考自動駕駛的發展，以及更深刻地去省思如何促進人與機器的協作互動。

人與機器之間

自動駕駛可分為好幾個層級，國際汽車工程師學會於2014年發布自動駕駛六級（0、1、2、3、4、5）分類體系。如依該分類標準，現行的普悠瑪列車因為有ATP系統可由機器依現場狀況限制車速以維護安全，相當於第1級的層次，也就是主要還是由司機負責駕駛，在特定駕駛模式下，由輔助駕駛系統根據駕駛環境資訊控制轉向或加減速。但ATP被人為關閉後，該輔助駕駛減速的功能即失去作用。 交通運輸的自動駕駛，可進一步朝向2級（部分自動化）、3級（有條件的自動化）、4級（高度自動化）、5級（全自動化）的層次發展。就第5級的層次而言，自動駕駛系統在全部路程時間、路況及環境條件完成所有動態駕駛任務。自動駕駛的層級發展，與技術進步的程度有關，也涉及到人們的接受度，且呈現出人與機器互動關係的變化。在較低的層次，機器輔助人的決策，基本上還是人在開車。而在較高的層次，則是機器在開車，人反而擔任輔助機器的角色，甚至在最高層次，完全由機器操作開車，但未必能完全被世人所接受。

自動駕駛具備AI智慧，可指出通往目的地最便捷道路，提供乘客舒適愉悅的搭車體驗。當面臨危安狀況，自動駕駛亦可考量相關因素及避險手段，從而讓開車決策更符合經濟理性，亦有助於事故原因的鑑定及改革方案的建議。但另一方面，自動駕駛也可能發生機器意外事故，以及遭駭客入侵劫車接管系統的疑慮，此反映出：效率與安全是交通工具始終關注的兩大議題。

有軌電車的難題

任何交通運輸工具都須面對意外事故問題。哲學家提出一個有軌電車的難題（Trolley Problem）：一輛失控電車即將撞到前方在軌道上的五個人，若是扳動轉轍器開關，可讓該列車駛向叉路軌道，但會撞到該叉路的一個人，是否該扳動該轉轍器？如果從功利主義及經濟學的觀點，救五個人卻害死一個人似乎比較有利。但是這麼做需要積極的作為，在心理感覺上，扳動轉轍器好像自己主動去殺了一個人，會讓人覺得內疚；若是不去扳動，也就是消極不作為，似乎可將意外歸咎於命運，或是把責任推給別人，讓別人來決定扳動或是想辦法剎車。我們換一個更直接的問題：當列車高速行駛看到前方軌道有一個人臥軌，到底是要緊急剎車？還是直接開過去？

面對上開問題，自動駕駛的AI系統已將規範程式化，可做出此時此刻符合最佳成本效益的選擇判斷。然而值得深刻省思的是：為何要將功利主義植入AI系統？人類其他的價值與人性因素難道就不重要？到底該由誰來決定AI要採取哪一種價值系統？例如前述臥軌案例，如果臥軌者明顯的是一個抗議社會不公平的底層工人，則可能引發更有爭議的選擇難題。

隨著AI及自動駕駛的時代巨輪轉動，固然樂見引入AI智慧機器可便利人類的生活，降低意外事故的發生，但不能將人類重要決策完全交給機器，甚至推卸責任給機器。應深層思考人類文明科技化的核心價值！

＜本文作者陳佑寰目前為執業律師。國立台灣大學法學碩士，美國賓夕法尼亞大學法學碩士。專攻領域為智慧財產權法、高科技產業議題及資訊法等。＞