近日，在北大書店舉辦的北大博雅講壇上，《道德機器：如何讓機器人明辨是非》作者之一，耶魯大學教授溫德爾·瓦拉赫在現場做了主旨演講。他從人工智能倫理道德角度切入，與觀眾一起探討能否讓機器人“明辨是非”的問題。

隨著人工智能在人類社會的應用，人們的生活也變得更加便利，但是也有相當一部分科學家對這種陌生的、帶有一定“自主思考”能力的人造事物抱有疑問和畏懼。著名物理學家斯蒂芬·霍金曾在北京舉行的GMIC大會上稱：人工智能很可能是人類文明的終結者。

人工智能應當被道德地使用

家電網綜合外媒信息得知，近日德國政府舉行了政府代表與人工智能專家的首次會見，并計劃于6月初批準有關人工智能議題的主要文件，同時啟動一個專項調查委員會，負責解釋所有與人工智能深度學習相關的技術、法律、政治和道德問題，并在今年秋天前拿出人工智能發展總體規劃方案。

此外，在美國的Facebook也成立了一支專注于人工智能開發倫理的特殊團隊，以確保該公司所研發的人工智能算法是公平的，并且能讓所有人都受益。而微軟以及谷歌收購的DeepMind公司也都有專人負責人工智能道德，執法武器制造商Taser也于近期宣布成立了自家的人工智能道德委員會。

對于現階段的弱人工智能來講，其還未能達到高速自我學習的階段，更像是人們手中的工具。如何使用，不被濫用依然是現階段人工智能道德的課題之一。如今，人工智能已經深入醫療、教育、交通等各行各業，無人駕駛汽車、社交媒體、網絡購物平臺等都有使用人工智能幫助其控制車輛、分析大數據、甚至保管用戶隱私，因此道德地使用人工智能一直是各個國家發展人工智能時必須保障的，制定法律條文和法規就是其中的一種途徑。

人工智能能否遵循社會道德

同樣，人工智能本身是否能夠被道德所束縛也值得人們三思。據家電網了解，缺乏倫理價值、常識、爭議觀念的算法系統，在現實的交互中，很容易造成歧視和其他形式的不公。有研究表明，機器越容易習得類人的語言能力，也就越容易習得語言應用范式中根深蒂固的偏見，這種偏見如若被強化放大，后果將不堪設想，這類存在性格缺陷的AI相比窮兇極惡的無恥之徒更加危險。

人工智能在被開放出來時，就不時地“爆出”驚世之語。能夠通過抓取和用戶互動的數據模仿人類的對話的聊天機器人Tay，在不到一天的時間里上就被“調教”成了一個滿口叫囂著種族清洗的極端分子；Uber自動駕駛汽車在撞人之前是探測到了受害者，但其仍然將對方視為“誤報”的物體并忽視，保持著行駛速度撞了上去，對此，消息人士認為此為汽車高級邏輯錯誤，它決定了要注意哪些對象以及如何處理它們……

道德是人類緩慢進化的產物，但人工智能的迭代又在加速，其復雜性和風險也不可同日而語，伴隨人工智能興起，必要的“人工道德”該如何實現，越來越成為一個當今世界不可回避的重大問題。

如果按照波普爾、哈耶克等社會科學大師“開放社會”、“理性的自負”的經典理論，人們應當為AI創造一個環境生態能讓智能體探索自己的行為方式，在作出道德上值得贊揚的行為時適時得到獎賞，并將這種是非觀念和行為模式穩定下來。然而這種方法的風險在于，人類道德經驗的一個核心特征就是，人們經常會在自私的行為和利他的行為之間徘徊，創造者們不能保證AI為了自身利益而養成“不擇手段”的性格。

若是像著名的阿西莫夫機器人三定律那樣給人工智能定下規則，那么AI將會喪失自身獨立思考的能力，最后淪為人類的道具，最終也無法形成真正的“機器道德”。

最新的一種理論則提出，人們在跟AI交流時應當建構一種功能性道德，即人工道德智能體（AMAs），讓人工智能具有基本的道德敏感性，在基于開放型、交互性的前提下，會逐步使人工智能和機器具備道德決策能力，并隨著智能技術和人機交互的進步而進化、發展。

無論如何，能分辨是非對錯的人工道德的重要性，一點兒也不亞于人工智能本身。孩子最終會超越父母，但是孩子是否懂得反哺就取決于父母對其前期的成長教育。人工智能現在就如同人類的孩子，其最終如何發展也將取決于人類社會。

作者：HEA.CN 來源：家電網