AI 不僅僅是一場新的技術革新，更是一場社會關系變革和價值觀念的重塑。它所帶來的不僅是技術創新和社會生活 的便利，還包括各種智能化風險和倫理挑戰。人類不能以純技術中心或者技術中立的視角來看待 AI 以及處理人類與 AI 的關系，典型體現如 AI 技術與用戶隱私及數據濫用問題。AI 技術的應用大量涉及個人數據的收集和處理，AI 系 統涉及的隱私和個人信息可能被用于未來模型的迭代訓練；AI 還可能被用來生成虛假信息或惡意軟件，從而造成重 大經濟損失和引發法律糾紛。這些問題都迫切需要建立與之適配的社會治理和價值體系。

很多學界代表在公開論壇等場合表達了這一擔心。例如，復旦大學計算機科學技術學院教授、上海市數據科學重點實 驗室主任肖仰華在 2024 Inclusion 外灘大會上曾表示，人類與其擔心 AI 產生意識，不如先去擔心 AI 過速發展引發 失控的風險。肖仰華認為，AI 大規模應用的挑戰，先在于當下的生產關系等社會發展上層建筑，如何適應以人工智 能為代表的先進生產力的快速發展；其次，技術普惠問題同樣值得關注，即如何避免少部分人借助先進技術形成不正 當的競爭優勢；此外，還應該特別注意防范技術成癮，防止先進技術對人類造成反噬。

1950 年，艾薩克·阿西莫夫出版了《我，機器人》一書，書的引言中提出的“機器人三大定律”，開啟了人工智能倫 理（AI ethics）研究的先聲。“機器人三大定律”旨在約束自主機器，使其服從以保護人類為目的的強制性人性倫理準 則，從宏觀層面規范了人工智能的運用邊界。面向未來，AI 應用的要原則應該是以人為本，AI 應用要回歸科技服 務于人的本質，凡是傷害人之本性的 AI 要格外謹慎使用。此外，應明確 AI 不應該成為少數人的特權，每個人都有權 利并且能夠參與其中。這些新的社會和倫理關系也構成了新的人機關系的重要組成部分，亟待進一步從社會、倫理和 法律等層面對人機關系進行新規范、新思考。

展望未來，隨著應用的日益深入，作為人類的創造物，人工智能將被賦予以前只能由人類心智完成或嘗試的任務—— 產生接近乃至超越人類智能所能完成的結果，這無疑挑戰了人何以為人的決定性屬性。AI 的發展促使人們重新思考人類的d特性和價值所在，促使人們從“以人類理性為中心”轉變為“以人類尊嚴和自主性為中心”，并需要在技術進 步和人文關懷之間找到平衡。