作者
標題 [新聞] 防止AI失控導致人類滅絕！ OpenAI：目前
時間 Fri Jul 7 12:06:32 2023
標題 [新聞] 防止AI失控導致人類滅絕！ OpenAI：目前
時間 Fri Jul 7 12:06:32 2023
1.媒體來源:
ETtoday
2.記者署名:
張靖榕
3.完整新聞標題:
防止AI失控導致人類滅絕！ OpenAI：目前還沒有任何解方
4.完整新聞內文:
OpenAI製作的ChatGPT為全球開創新局，不過近來共同創辦人奧特曼（Sam Altman）頻頻
示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼
續保持對人類無害，最終將透過AI來監督AI自身的發展。
示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼
續保持對人類無害，最終將透過AI來監督AI自身的發展。
路透社報導，OpenAI共同創辦人蘇茨凱佛（Ilya Sutskever）與AI對齊負責人來克（Jan
Leike）共同撰寫一則貼文，以嚴重措辭警告，「超級智能的巨大能力，可能導致人類喪
失權力，甚至可能導致人類滅絕」，「目前，我們對於控制一個潛在的超級智能AI還沒有
任何解方，也無法預防AI失控。」
Leike）共同撰寫一則貼文，以嚴重措辭警告，「超級智能的巨大能力，可能導致人類喪
失權力，甚至可能導致人類滅絕」，「目前，我們對於控制一個潛在的超級智能AI還沒有
任何解方，也無法預防AI失控。」
文中預測，作為一個超越人類智能的系統，超級智能AI有可能在10年內誕生，人類需要比
當前更厲害的技術來控制超級智能AI，代表必須在「對齊研究」上有所突破。文中指出，
「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。
當前更厲害的技術來控制超級智能AI，代表必須在「對齊研究」上有所突破。文中指出，
「對齊研究」是聚焦於確保AI如何持續對人類有益的研究。
由微軟支持的OpenAI正投入20％的計算能力，預計在未來4年內解決這項問題，該公司正
針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊研
究員， 然後透過龐大的計算能力擴展它。
針對這項任務籌組一個新的研究團隊。該團隊的目標是打造一個「人類等級」的AI對齊研
究員， 然後透過龐大的計算能力擴展它。
OpenAI表示，這代表將會以人類反饋的方式訓練AI系統，訓練AI系統協助人類評估，最終
訓練AI系統實際上進行研究「對齊研究」。
AI安全倡導者黎溪（Connor Leahy）指出，OpenAI的計畫存在根本性缺陷，因為原始的人
類等級人工智能在被迫解決AI安全問題前，可能就會失控並造成破壞。
AI的潛在危險一直是相關人員甚至一般大眾擔心的問題，一群AI界領袖和專家，包括特斯
拉創辦人馬斯克在內，今年4月曾共同簽署一封公開信，呼籲暫停開發比OpenAI「
ChatGPT-4」更強大的系統，至少6個月的時間，理由是更先進的AI將可能對社會造成風險
。
路透社和益普索5月的一項民調結果顯示，超過3分之2的美國人擔心AI可能會帶來負面影
響，61％的人更認為將威脅人類文明。
註：AI對齊（AI Alignment）是指框架人工智慧系統的目標、價值觀與行為，使其與人類
社會的期望一致。人類設計AI系統時，會希望AI解決問題的同時，也將人類利益納入考量
範圍，預防對人類產生危害，AI對齊目標即是確保AI在每個過程中都能符合人類期望，並
與人類達成相互協作。
社會的期望一致。人類設計AI系統時，會希望AI解決問題的同時，也將人類利益納入考量
範圍，預防對人類產生危害，AI對齊目標即是確保AI在每個過程中都能符合人類期望，並
與人類達成相互協作。
5.完整新聞連結 (或短網址)不可用YAHOO、LINE、MSN等轉載媒體:
https://www.ettoday.net/news/20230706/2534355.htm
防止AI失控導致人類滅絕！ OpenAI：目前還沒有任何解方 | ETtoday國際新聞 | ETtoday新聞雲
![[圖]]()
OpenAI製作的ChatGPT為全球開創新局，不過近來共同創辦人奧特曼（Sam Altman）頻頻示警AI可能帶來的危險，該公司5日更表示，將建立一個新的研究團隊，確保人工智慧繼續保持對人類無害，最終將透過AI來監督AI自身的發展。(ChatGPT,OpenAI,Sam Altman) ...
![[圖]](https://cdn2.ettoday.net/images/7021/e7021247.jpg)
6.備註:
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.165.212.248 (臺灣)
※ 作者: longwayway 2023-07-07 12:06:32
※ 文章代碼(AID): #1afuzCvc (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1688702796.A.E66.html
推 : 看來ai是真得有料1F 223.136.122.57 台灣 07/07 12:07
→ : 我等不及要看人類滅絕了 請加快進
度2F 27.247.67.20 台灣 07/07 12:07
度2F 27.247.67.20 台灣 07/07 12:07
→ : 以目前情況當然沒辦法4F 111.71.213.1 台灣 07/07 12:07
→ : 停電不就好了5F 106.105.44.109 台灣 07/07 12:07
推 : 奧創紀元6F 59.124.228.83 台灣 07/07 12:07
推 : 天網7F 42.79.136.88 台灣 07/07 12:07
→ : 希望道教徒死光8F 101.137.36.53 台灣 07/07 12:07
推 : 想太多 未來人類不會滅絕 只不過被當電池9F 114.44.128.190 台灣 07/07 12:08
→ : 那你還搞？10F 104.28.198.10 台灣 07/07 12:08
→ : 又是另一門好生意11F 111.254.91.124 台灣 07/07 12:08
→ : 住母體不爽？12F 114.136.88.169 台灣 07/07 12:09
推 : 以後大家都看Ai瑟瑟，跟Ai仿生人捉i
人類就滅亡了13F 180.217.251.57 台灣 07/07 12:09
人類就滅亡了13F 180.217.251.57 台灣 07/07 12:09
推 : 拔插頭就好了啊= =15F 163.17.149.199 台灣 07/07 12:09
→ : 清掃低端不好嗎16F 111.71.19.165 台灣 07/07 12:10
推 : AI真的比人類聰明，太依賴電子產品，我連一些字都不會寫了17F 49.216.47.53 台灣 07/07 12:11
推 : 所以我們不會停止天網系統開發計畫唷鳩咪19F 114.25.35.25 台灣 07/07 12:11
推 : 人類太笨了，留在世界上也只是多的20F 42.77.24.94 台灣 07/07 12:15
→ t9404080 …
噓 : 大型ai邪教徒高潮現場22F 101.3.148.62 台灣 07/07 12:18
推 : 要AI裝笨喔23F 42.72.57.23 台灣 07/07 12:20
→ : 愛死機有題材了24F 111.240.32.235 台灣 07/07 12:21
→ : 天網表示
天網:要不然承認你弱R25F 122.121.8.119 台灣 07/07 12:29
天網:要不然承認你弱R25F 122.121.8.119 台灣 07/07 12:29
→ : 本來就會滅絕還想怪ai喔27F 219.70.200.20 台灣 07/07 12:30
→ : 天網:不然就像駭客任務這樣R28F 122.121.8.119 台灣 07/07 12:30
→ : 導入第0法則啊29F 123.192.84.173 台灣 07/07 12:41
--
作者 longwayway 的最新發文:
![]()
瑞典家飾品牌龍頭宜家家居（IKEA）受到新冠疫情等影響，一年多達6萬名員工離職，大 約每走一人，公司就會損失5000美元（約新台幣16.1萬元），或甚至更多。為了留住員工 ，IKEA高層祭出加薪、增 …22F 12推 1噓- 24F 10推
- 8F 3推 1噓
點此顯示更多發文記錄