1樓：匿名使用者
圍棋人機大戰讓人工智慧的話題熱度居高不下。每一次新進展的橫空出世，都讓期待這項技術的人變得更樂觀，不過，人們對其影響力的顧慮也在明顯上升。越來越多的組織、機構開始研究智慧機器衍生的倫理問題。
雖然人們無法保證今天的思考、策略完全有效，但在沒有作任何準備的情況下，就必然無法將其控制。
一、永恆的恐懼
對於人工智慧的憂慮，最早可以追溯到200年前。但這不是對一項技術的反思，而是展示了造物者與被造物之間的內在關係。
「亞當」是英國19世紀女作家瑪麗·雪萊筆下作品《弗蘭肯斯坦》中的合成生命體，科學家弗蘭肯斯坦創造了他。亞當天性善良，渴望感情，渴望受到尊重，但世界並沒有像他所期待的那樣接納他，他始終是個異類。
於是，他被迫反抗，作出極端行為，脅迫弗蘭肯斯坦為他造一個「夏娃」。弗蘭肯斯坦擔心「亞當」和「夏娃」會衍生出無數新的怪物，在即將成功時將「夏娃」銷燬。「亞當」開始了復仇殺戮，弗蘭肯斯坦只能與之決鬥。
《弗蘭肯斯坦》在多年以後，依然能夠成為英美文化的熱點。上海交通大學科學史與科學文化研究院院長江曉原認為，這是源於人類與被造物之間天然的永恆恐懼與不安。「歷史證明，即便同是人類，異族之間想要獲得融合，也需付出巨大代價。
」這可以解釋為什麼人類與人工智慧的實現越近，恐懼與不安會更深。
不過，科學家一向反對將人工智慧過度擬人化，他們認為目前沒有確切證據證明它們在未來會帶來像作品中的災難性後果。
倫理學家、哲學家則堅持對人工智慧的憂慮，至少可以理解為對科學技術的人文關懷。江曉原說：「要打消這個擔憂，就必須論證『人工智慧不會危害人類』或者『人工智慧的危害是可控的』。」
二、人造機器會不會超越人
對於人工智慧的警惕最初的焦點在於「人造的機器會超越人」。庫茲韋爾在《奇點臨近》中表示，一旦強人工智慧實現，它可以很輕易地獲得提高，其能力也會增倍，這是機器能力的根本特質。而這種自我強化的智慧最終會超過人類智慧水平。
世界通用人工智慧學會副主席、《通用人工智慧》雜誌主編、美國天普大學計算機與資訊科學系副教授王培認為，首先需要理清人工智慧的概念。他告訴《中國科學報》記者，目前主流認知是，「人工智慧」就是要在計算機上再現「全部的」人類智力功能。
雖然人們不斷嘗試設計和構建「思維機器」，但是往往都以失敗而告終。因此，科學家轉而研發只在某個特定問題的解決上可以達到人類水平的計算機系統。
在王培看來，這種研究方向的根本問題是這類系統的能力完全由人設計決定，系統本身基本上沒有適應性、靈活性和創造性。因此，這類系統不是真正的智慧。
一種非主流認識是，「智慧」代表著某種理性原則，人類的智慧從來不是全知全能，但人類總是能在任意環境中找到最優解。因此，真正的智慧的定義可以抽象為「在知識和資源相對不足的條件下的適應能力」。
所謂「適應能力」是指，系統面臨的問題是實時發生的，對系統作出反應的時間是有要求的；同時，相對於所要解決的問題來說，系統只有有限的資訊加工能力，比如記憶的容量、計算的速度；其次，系統必須是開放的，不對面臨的問題內容加以限制。
如此一來，目前人們所瞭解的人工智慧系統都不滿足這種能力。但王培認為，這才是更接近公眾心目中的人工智慧觀念，是靈活的、有創造力的。
這類系統是一個自適應系統，元程式設計會賦予其自主應對問題的能力，但是它所面臨的每一個問題本身並沒有程式可以依靠，而是全憑自己在環境中學習和積累經驗。
「無論計算機技術如何發展，儘管真正的人工智慧系統會在很多具體問題的解決能力上超過人類，但由於它沒有生物屬性，沒有和人類完全相同的經驗，所以不會在所有方面超越人類。」王培表示，未來的人工智慧系統只是在某些方面和人具有可比性，而非整體超越人類。那麼，人與系統之間的關係也不可能等同於人與人之間的互動水平。
三、人工智慧真的可控嗎
人工智慧不會全面超過人類不意味著它完全可控。就連庫茲韋爾也表示，失控的人工智慧在邏輯上是完全可能的。
王培承認，「智慧」往往被當作褒義詞，但事實上，真正的智慧在擁有靈活性和創造性的同時，也可能是不穩定、不可靠的。「人工智慧目標在一定程度上可以說就是減少人對計算機的控制和干預。因此，智慧越高，失控的可能性在理論上就越大，風險也就越大。
」這正好印證了倫理學家的擔憂。我國著名生命倫理學家邱仁宗表示，倫理學認為解決這個問題的核心，是希望人工智慧機器成為一個「人工道德行動者」，使它們能考慮他人利益，甚至擁有利他主義傾向。
美國機器智慧研究院專門研究人工智慧的安全發展，該機構奠基人尤德科夫斯基就曾提出了「友好人工智慧」的概念，認為「友善」從設計伊始就應當被注入機器的智慧系統中。但這個理論很容易被推翻。「一個明顯的常識是：
人類無法避免自己的一部分後代學壞。」江曉原說。
王培的看法是，一個智慧系統的行為同時取決於其先天條件以及後天條件。對於系統設計本身，可以在某種程度上將人類普世的道德標準編程序序。但由於它擁有自適應能力，人類無法預見其行為的所有後果。
「人工智慧的『自主決策』仍是被它的經驗所約束的，如果在其『未成年』期對其輸入資訊控制，以達到社會認可的動機、知識、技能結構和水平，並在其成長過程中進行與機器相關的道德、法律等社會約束，通過終生教育和社會化過程，可以實現像對人一樣的管理。」
他認為，這就是平衡自由和道德的手段，然而，這個平衡並不能事先保證。這也說明人工智慧一定能成為「人工道德行動者」的證據是不明確的。
四、預防還是行動
有一種觀點認為，在科技發展過程中，恐懼新技術的人都會振振有詞地說：到此處為止，不要再進步。
然而，由於「智慧」天生就無法控制，在邱仁宗看來，人工智慧對人類構成的威脅是一種「存在威脅」，即人類存在本身都成為問題，沒有一項其他科技可以與之對等。
「真正帶有終極性質的問題是：我們究竟為什麼需要人工智慧？人工智慧真的必不可少嗎？」江曉原認為，「沒有人工智慧或者限制人工智慧並不會影響人類生存，它影響的是資本增值。」
這也造成在該問題上兩種截然不同的處理原則。預防原則要求，我們不能用試錯法來處理生存危機。如果一個行為的後果未知，但是根據科學家判斷有極小可能會帶來巨大的負面風險，這一行為最好不要進行；行動派則認為，很明顯，這就要求科學家在戰略中要儘可能提高自信以對抗這種風險。
阻止新興技術帶來的好處，可能會增加災難性結果的可能性。
儘管兩者無法達成一致，但人工智慧研究是人類幾千年來在意識層面上自我認識的努力的最新前沿，它將不會停止發展。
「目前在這個領域的研究成果還沒有成熟到支援應用技術的程度。和所有科學領域一樣，把不成熟的研究成果投入實際應用是危險的，尤其是那些可能產生深遠影響的成果，因此它的倫理問題很重要。」王培坦言，作為人工智慧的研究者，隨時想著自己研究工作的社會後果非常必要。
「但人工智慧技術的具體倫理規範應當隨著科學研究的進展而逐漸建立，而不可能在研究成果尚未成熟的條件下完善。」
江曉原也表示，在必須發展該技術的前提下，我們應該抱著慎之又慎的心態。雖然本質上不存在能對抗強人工智慧的絕對保護措施，大力增加在發展防禦手段上的投入，包括道德標準、法律標準和防禦技術本身都是非常必要的。
此外，在他看來，當這樣一項重大科技應用有可能引**理和社會問題時，應對方式應該是科學與人文、科學家與公眾之間積極的對話，而非單向的傳播和順從。
2樓：重慶仁愛專科
產生的憂慮在於人工智慧威脅論，現在的人工智慧機器人摒棄了機器人倫理學，作為戰爭機器出現在戰場上，一旦機器人擁有自我思維或被不法分子利用那將是一場災難
人工智慧給人們帶來了哪些焦慮
3樓：匿名使用者
沒工作的人越來越多。有工作的人工資越來愈高
人工智慧對人類發展利多還是弊多？ 20
4樓：匿名使用者
人工智慧的出現，帶動了各大領域的快速發展，使得生產力獲得了大幅度的提高，為改善人民生活水平作出了巨大貢獻。對於人工智慧而言，對人類不僅有利益可言，同時，也存在很大的隱患，如何正確引導人工智慧的發展，是我們要重視的問題
人工智慧的利 1--商業價值很高。一般認為，人工智慧有三大商用方向：一是資訊聚合；二是評估使用者情緒反應；三是與使用者建立關係，可以通過這三點建立與使用者之間的社交紐帶，讓他們經常回訪。
人工智慧的利 2----帶來更多新的工作機遇。就像曾經脫離了傳統農業、傳統手工業的大量勞動力，在現代工業生產和城市服務業中找到新的就業機會那樣，人工智慧的進步也將如此——由當前資料密集型機器學習、通過機器學習與人工智慧會話的系統而延伸出的很多領域，將會在未來帶來很多工作機遇。
人工智慧的利 3---人工智慧讓人類生活更美好例如，人工智慧的醫療應用惠及大眾。我們醫生或許難以保持最新**方案和方法，也無法瞭解所有醫學例案。人工智慧可以在短時間內分析大量資料，精確判斷病症，並找到最佳的**方案，為人們提供最好的**。
再說，先如今已經被廣泛運用的無人駕駛不僅減輕了人們的負擔，更是大大降低了事故率。再比如說，如今蘋果系統的sir手寫版系統、生物識別系統都是人工智慧的應用，都讓人類的生活質量得到顯著提高。
人工智慧的利 4----推動人類的進步.人工智慧推動了人類的理性進步，可以反過來促進人類的發展。人工智慧研發過程的本身就具有研究人腦認知與功能的需求和特性，而使人類在這個過程中就學習了學習的方法，從而增強人類的邏輯思維能力。
人工智慧更新了人類應對問題的方法，比如依靠大資料的分析，沃森醫生可以提供對病人傷害最小的、全新的**手段和技能範圍。比如，從而豐富人類應對各種問題的方法。人工智慧也拓寬了人類知識技能範圍，比如，人工智慧根據對大資料分析得到各種新知識、新資訊，使人們難以**的洪水、**等災害的預報的精確程度大大提高，使人類在自然面前的約束變得更強大
人工智慧的弊 1---大規模的失業。人工智慧的發展，導致很多人失業。據人力資源和社會保障部2023年新聞釋出會介紹，2023年末中國失業率達4.
05%，機器人不會犯錯，不會累，不需要休息，不需要工資。這完全可以代替很多職業，例如工人，司機等等不需要思想的工作。如此便會導致大批大批的人失業，大批大批的人整日無所事事。
人工智慧的弊 2---人才爭奪戰導致壟斷、貧富分化加劇.人工智慧時代的到來，必將引發空前的人才爭奪戰。誰擁有的各類一流人才數量多質量高，誰就能贏得最後勝利。
同時這會導致巨頭的壟斷、貧富分化加劇。
人工智慧的弊 3--人類的精神生活退化.機器人是沒有感情的。如果此刻你的身邊，你的同學，你的朋友，都是人工智慧機器人，你會受得了嗎?
當然不行!現在的社會，是一個物質的社會，但更是一個精神的社會，如果人工智慧機器人越來越多，這個世界將沒有感情，沒有喜怒哀樂，到處都是冷冰冰的，沒有藝術，沒有精神食糧，到處都是機械化的。
人工智慧發展的時代，人類會產生哪些職業
人工智慧運維工程師 負責大資料與ai產品相關運營 運維產品研發 負責相關元件的運維工具系統的開發與建設，保證維護產品的質量穩定，通過技術手段 流程制度提升元件的健壯性，可用性 人工智慧專家 科學家 根據部門內部的研發需求，搭建機器學習相關框架，提供機器學習相關支援 負責機器學習相關資料的處理 特徵提...
人工智慧最有前景公司有哪些，人工智慧發展的前景有哪些？
由於本人目前混安防行業，對安防行業的人工智慧解決方案還是比較瞭解的。安防行業目前主要的人工智慧解決方案是人臉識別，可以說人臉識別幾乎是人工智慧領域率先大批量應用落地的，因此我們這裡就說說人臉識別吧。一 從ai演算法方面來看有哪些偉大的公司 1 商湯科技 商湯科技 sensetime 專注於計算機視覺...
人工智慧未來發展趨勢有那些，人工智慧未來的發展方向
人工智慧是引領未來的戰略性技術，也成為了國際競爭的焦點。目前，我國人工智慧企業數量較多，截至2020年，我國共有2205家人工智慧企業。大多數企業主要在2012 2018年建立，並且大多企業主要分佈在北上廣等發達地區，北京為人工智慧企業主要的聚集地。人工智慧企業多達兩千家 人工智慧是引領未來的戰略性...