自 1956 年約翰·麥卡錫提出“人工智能”一詞作為達特茅斯會議的主題以來，距離第一次專門討論這一問題的會議已經過去了 64 年。如今，人工智能已經成為最具挑戰性的科學研究和技術應用領域之一，也成為當今社會最具爭議的話題之一。一些具有代表性的問題包括：“人工智能系統最終會打敗人類嗎？”“如果人工智能有了意識，它會做什么？”
筆者曾論述，所謂“人工智能/AI（Artificial Intelligence）”，是指研究、開發用于模擬、延伸和擴展人的智能的理論、方法、技術和應用系統的一門新的技術科學。人工智能的“研究”是指人們對事物的真相、性質、規律等進行永無止境的、主動的探索，由無知到有知，由知之甚少到知之甚多。簡單地說，研究是一個認真地提出問題、系統地尋找問題答案的過程。因此，從研究的角度看，人工智能是人類對事物永無止境的、主動探索的產物。每一項人工智能研究成果（或智慧積累）都離不開人。如果說智慧有什么退化，那只能是不同時代的人工智能產品智慧的落后。隨著人工智能產品的更新換代，人類的智慧不但不會退化，反而會變得更加聰明。也就是說，一般來說，只有被更先進的人工智能研究成果淘汰的人工智能產品，而沒有被較低水平的人工智能產品淘汰的研究成果； 人工智能“開發”，就人工智能開發而言，是指利用計算機軟硬件技術與設備、自動化技術與設備、模式/圖形識別理論與技術、各類（視覺、聽覺、嗅覺、觸覺等）傳感裝置與設備……等資源作為腦力勞動和體力勞動的對象，實現人工智能理論目的的過程；人工智能“模擬”主要包括過程中能夠反映所研究人工智能目的的有效信息的獲取、關鍵特性與性能的選取、近似簡化與假設的應用、被模擬對象的可再現性和有效性等。
本質是對再現系統外部表現的一種特殊模擬或仿真。但對于一些模糊的物體，比如動物的情緒，模擬起來非常困難，也就是說不可能模擬到100%。人工智能的“外延”和“擴展”是指人類智能在空間和時間上的延伸和外延。但人工智能的外延和外延也僅限于人工智能研究者所掌握的智能和能力。比如我們希望利用人造衛星來了解整個宇宙的真相。人造衛星在太空中穿梭，將其所能監測到的信息全部反饋給我們，讓我們以億萬光年為單位了解空間和時間上的事物。但衛星不可能超越人類賦予它的智能和能力。盡管如此，人工智能/AI的發展還是很快的，一些AI產品已經達到甚至超過了普通人的智能和能力，有的甚至已經超越了專業人士的能力。 比如，我們要記得，1997年，IBM推出了一款國際象棋程序“深藍”，在當年的人機大戰中擊敗了當時的國際象棋世界冠軍卡斯帕羅夫。但我們不能因此就說人類智能退化了，相反，這恰恰證明了人類智能的進化。深藍畢竟是人造的機器！宇宙是無限的，人類的研究和探索也是無止境的。只有更先進、更聰明的人類，而不是人類自己研發的AI產品，才能取得成功。
另外，關于人工智能有了意識會做什么的問題，筆者認為與其說是“人工智能有了意識會做什么”，不如理解為“機器人有了意識會做什么”更為貼切。當然，這里說的“機器人”是指更廣義上的“人工智能系統”。首先我們知道，意識的本質可以從兩個方面來理解，即：第一是作為人腦的一種功能，這意味著：第一，人腦是一個非常復雜而獨特的物質器官；第二，意識是人腦基于第一信號系??統和第二信號系統的協調工作而產生的神經活動；第二是與物質相對應的客觀世界的主觀意象的哲學范疇，指與物質既對立又統一的精神現象。我們重點來談第二個方面。意識與物質的關系是哲學中的一個基本問題，哲學家們根據對基本哲學問題的不同回答，對意識有不同的理解。 唯心論哲學家強調意識對于物質的本源性，從而把意識理解為超越物質的獨立存在，是創造或產生物質世界的本源，意識的內容就是意識本身。按照唯心論的觀點，如果“人工智能系統”具有意識，那么人工智能系統就成為超越物質的獨立存在，那么人工智能系統就成為創造或產生物質世界的本源之一。唯物論哲學家強調物質對于意識的本源性，認為意識源于物質，任何時候都不能脫離物質而獨立存在。馬克思主義哲學揭示了意識的本質，認為意識是高度組織化的物質，即人腦的功能和屬性，是社會人對客觀存在的高級心理反映形式。從內容上看，意識是被實現的存在（包括外部對象的存在和意識承載者自身的存在），是客觀存在的主觀反映。
意識的產生不能擺脫語言這個物質的外殼。但意識對存在也有反作用。意識表現為個人意識和社會意識，它們都是由人的社會存在決定的，具有社會性。按照唯物主義的觀點，“人工智能系統”如果具有意識，那么它就是從意識派生出來的物質，成為一種高度組織化的物質，即人腦的功能和屬性，對客觀存在有高度的心理反映，感知一切外界客體的存在和自身的存在，對一切客觀存在生成它的形象，表現出自身的意識和社會意識，具有人工智能系統群體的社會活動。 無論是作為人腦的一種功能，還是作為與客觀世界和物質的主觀形象相對應的一種哲學范疇，總之，人工智能系統如果具有意識，就會表現出人類的語言和行為，如聯想思維、邏輯推理、情感表達、社交活動、宗教信仰、自我學習，甚至集會、抗議等。然而，要使人工智能系統真正成為具有人類意識的智能系統，首先必須解決一個難題，那就是人類的意識是怎么產生的？這個問題既是一個老問題，又是一個新問題。因為，到現在為止，對這個問題的爭論已經分成了眾說紛紜，至今沒有定論！