說到人工智能，就不得不談到美國科幻小說黃金時代的代表人物艾薩克·阿西莫夫和他在20世紀40年代提出的機器人“三定律”。

時隔八十余年后的今天，人工智能早已不再只是文學作品中的天馬行空，戰勝世界圍棋冠軍的阿爾法狗、聊天機器人程序ChatGPT、AI繪畫軟件等人工智能的誕生和驚人表現，在引發公眾的震驚和贊美之余，也面臨著海量質疑。

人工智能的發展會不會失控？機器人三定律背后的邏輯足夠縝密嗎？它在人工智能新時代還適用嗎？在19日于成都舉辦的2023成都世界科幻大會主題沙龍——“科幻與未來科學”現場，與會嘉賓進行了有趣的思維碰撞。

機器人三定律背后的邏輯 是否足夠縝密？

據了解，“三定律”具體包括：第一定律是機器人不得傷害人類個體，或者目睹人類個體遭遇危險卻袖手旁觀；第二定律是機器人必須服從人類給予它的命令，除非這一命令與第一定律相矛盾；第三定律是不違反第一定律和第二定律的前提下，機器人要盡可能地確保自己的生存。

在人工智能科幻作品《造神年代》作者嚴曦看來，“三定律”本身的問題在于：語言本身是不包含三原則的，“把對機器人的約束標準放到非常抽象的語言層面，這只是人類的想法。因為機器人的語言和邏輯是很底層的，它會通過各種強行的細節解釋去繞過這些定律。”這也是他之所以認為“三定律”可能對機器人約束性不夠強，也不會被好好實施的原因。

“這涉及到了下一代AI，或者說語言智能的發展到底會遵循一個怎樣的路徑。”中國科學技術大學信息科學與技術學院教授宋彥表示，這個問題實際上也是作為AI的研究者和從業者經常會被問到的一個問題。在其看來，從以往的經驗來看，人類一直都在按照最擬人化的方式來構建人工智能系統，包括現在用巨量的參數推動去學習，其實都是在不同的方面來推動機器人往擬人的方向發展。“未來幾年內，可能還是會遵循這樣的路徑。”

在“不變”中，也有幾個變化。宋彥舉例，比如，人類的知識系統怎么去表達，以及自然語言跟其他模態的組合的發展。“下一步，可能在其他模態的輔助下，我們有效減少數據，就能達到想要的效果。再下一步，實現讓機器人自己去思考。”而如果發展到這一步，機器人的發展可能就能達到今天我們想要它實現理解語言的效果了。

AI融進我們的生活有很多可能 它會不會取代人類？

在未來，人類和AI是否能和諧共處？

嚴曦認為，當我們談到AI倫理，當前可能更需要約束的是AI的開發者，而不是AI本身。“在早前，當AI技術還不夠成熟的時候，我們想到AI，總是從人的既定思維出發，把它想象成類人的東西。不管其形態、語言還是思維方式，都沒有脫離人的軌道。但我們現在越來越清楚地看到，很可能將來的強人工智能不怎么像人，甚至跟人完全不同，其思維方式從底層開始就跟人分道揚鑣，就可能出現有一天人類跟AI講倫理的時候，已經講不通了。”嚴曦認為更應該關注開發者們的道德觀和倫理問題，“不要‘喂’給你的AI，這樣會形成一個垃圾的無限循環，會把內容帶到不可回歸的歧路上。”

“將AI融進我們的生活之中，將有很多種可能。”科幻作家、2024年格拉斯哥世界科幻大會主賓肯·麥克勞德舉例說，有些人可能覺得使用AI做的藝術作品是沒有靈魂的，但依然會有一些作品令人震驚。他提及，他曾讀過一本科幻小說，在那本書中，每句話都能讓AI產生一幅圖畫，這些畫有不同的風格。當時他的心情十分復雜，“當我們去看這些圖畫的時候，確實能有一些呼喚，這是十分奇特的感覺。”一方面，他覺得對于這些藝術家來說，這其實也是一種威脅。但另一方面，他也可能會喜歡AI所寫的科幻小說。

美國科幻作家、雨果獎得主詹姆斯·帕特里克·凱利則認為，人類之間的經驗是不可互換的，一個強大的AI有自己的體驗，這個AI其實是處理了其他人的經驗。長久以來，AI就會形成這樣的習慣，去傳達人類喜歡的信息。“這個我是十分支持的，因為我可以去讀其他人寫的作品。”(成都商報—紅星新聞記者 彭祥萍 攝影記者 王勤)