正如可以保護你、幫助你、支持你一樣，機器人也可能會傷害你。如何構(gòu)建一套放之四海皆準的機器人行為原則，是科技工作者不得不面對的技術(shù)和倫理雙重難題。赫特福德大學的人工智能學者ChristophSalge博士撰文分享了自己的思考。

如何避免機器人傷害他人？許多現(xiàn)有的機器人，比如在工廠里組裝汽車的機器人，在人類接近的時候就會立即關(guān)閉電源。但是，這種簡單粗暴的解決方案并不適用于自動駕駛汽車，它可能需要在發(fā)生車禍時緊急移動，或者是對于一個護士機器人來說，因為它可能需要在老人摔倒之前扶起對方。

隨著機器人成為我們的仆人、伙伴和同事，我們需要處理日益復雜的情況，以及可能引發(fā)的倫理和安全問題?？苹眯≌f已經(jīng)預見了這個問題，并提出了各種可能的解決方案。最著名的是阿西莫夫（IsaacAsimov）的機器人三原則，它們的提出是為了避免機器人傷害人類。自2005年以來，我和我在赫特福德大學的同事們一直在研究一個可以替代的想法。

我們認為不應該限制機器人的行為，機器人應該被賦予最大限度發(fā)揮它們行動能力的權(quán)利，這樣它們就可以為任何特定的場景挑選最好的解決方案。正如我們在一篇新論文中所描述的那樣，這一原則可能構(gòu)成一套新的通用準則的基礎(chǔ)，以使人類盡可能安全。

阿西莫夫的三原則

1.機器人不可能傷害人類，或者通過不作為，讓人類受到傷害。

2.機器人必須服從人類的命令，除非這樣的命令與第一定律相抵觸。

3.機器人必須保護自己的存在，只要這種保護不與第一或第二定律相抵觸。

盡管這些原則聽起來相當有理，但無數(shù)批評已經(jīng)揭示了它的不足。Asimov自己的故事可以說就是對自己所提出的這三項原則的解構(gòu)了，展示了它們在不同的情況下是如何失效的。目前，大多數(shù)試圖起草新指導方針的嘗試都遵循了類似的原則，以創(chuàng)造出安全、順從和有效的機器人。

任何明確制定的機器人指導方針所存在的一個問題是——我們需要將它們轉(zhuǎn)換成機器人能夠處理、理解和運用的格式。理解人類語言和語言背后的生活經(jīng)驗對于一個機器人來說是非常困難的。寬泛的行為目標，例如避免對人類造成傷害或保護機器人自身的存在，在不同的情況下可能意味著不同的東西。遵守這些規(guī)則可能最終會讓機器人無法像它的創(chuàng)造者所希望的那樣行事。

新理念：授權(quán)

我們的另一種理念——授權(quán)，代表著無助的反面。被授權(quán)意味著有能力、并意識到你可以產(chǎn)生影響。我們一直在開發(fā)將這個社會概念轉(zhuǎn)化為可量化和可操作的技術(shù)語言的方法。這將使機器人能夠保持它們的選擇，并以一種增加它們對世界的影響的方式行動。

當我們嘗試模擬機器人如何在不同的場景中使用授權(quán)原則時，我們發(fā)現(xiàn)它們通常會以令人驚訝的“自然”的方式行動。它通常只要求他們對真實世界的運作模式進行建模，但不需要任何專門的人工智能編程來處理特定的場景。

但是為了保證人們的安全，機器人需要努力維持或改善人類的授權(quán)，以及他們自己的賦權(quán)。這基本上意味著要具有保護能力和支持性。為人打開一扇鎖著的門會增加他們的賦權(quán)。限制人類將會導致對機器人的短期授權(quán)失效。而對人類的嚴重傷害可能會完全消除機器人被賦予的權(quán)力。與此同時，機器人必須努力保持自身的運作力量，例如確保它有足夠的能量來運作，而不會被卡住或損壞。

機器人可以適應新的環(huán)境

使用這一通用原則，而不是預先設定的行為規(guī)則，可以讓機器人考慮環(huán)境，并評估人們未曾設想過的場景。例如，機器人不會總是遵循“不能推人類”的規(guī)則，而是會在人們可能被一個墜落物砸到之前將他們推出去。人可能仍會受到傷害，然而這種傷害相比之下更小。

在電影《I,Robot》中，機器人處在一個令人壓抑的狀態(tài)中，通過限制和“保護”來減少對人類的整體傷害。但我們的原則是避免這樣的情況，因為這意味著機器人失去了人類的賦權(quán)。

盡管“授權(quán)”提供了一種新的思考安全機器人行為的方式，但我們?nèi)杂性S多工作要做。我們要提高它的效率，這樣它就可以很容易地部署在任何機器人上，并外化為機器人良好、安全的行為。這是一個非常困難的挑戰(zhàn)，但是，我們堅信，授權(quán)可以讓我們找到一個切實可行的解決方案，來解決當前充滿爭議的問題，即如何控制機器人的行為，以及如何讓機器人——在最基本的意義上——“具備道德倫理”。