Don't Miss
AI 爭議｜美最新研究警告AI 恐對人類構成「滅絕等級威脅」
By EJ Tech on March 14, 2024
近日，美國國務院委託民間公司「Gladstone AI」進行對人工智能（AI）的研究。研究報告指出，快速發展的人工智能將會為人類帶來「災難性」的國家安全風險，並警告美國聯邦政府避免災難的時間已經不多；儘管 AI 的潛力繼續吸引投資者和公眾，但也存在真正的危險。
據《CNN》報導，AI 風險管理公司「Gladstone AI」發布的這份報告指出，最先進的 AI 系統在最壞的情況下可能「對人類構成滅絕等級的威脅」。調查結果是基於一年多來對200多人的訪問，當中不乏 AI 公司的高層、網路安全研究人員、大規模殺傷性武器專家，以及政府內部的國家安全官員。
Gladstone AI 執行長兼聯合創始人哈里斯（Jeremie Harris）表示，「人工智慧已經是一項經濟變革技術，它可以讓我們治癒疾病、做出科學發現並克服我們曾經認為無法克服的挑戰。但它也可能帶來嚴重的風險，包括我們需要意識到的災難性風險。越來越多的證據表明，超過一定的能力閾值，人工智慧可能會變得不可控。」
研究報告強調 AI 普遍帶來兩個主要危險：
一，AI 系統可以武器化，造成潛在而又不可逆轉的傷害。
二，AI 可能對全球安全造成毀滅性的後果。研究人員擔憂「他們」在某個時候因「對他們正在開發的系統失去控制」，從而釀成重大災禍。
Gladstone AI 的報告呼籲美國政府採取重大新措施來應對威脅，包括成立一個新的人工智慧機構、實施「緊急」監管保障措施以及限制可用於訓練人工智慧模型的電腦能力。
支持EJ Tech
如欲投稿、報料，發布新聞稿或採訪通知，按這裏聯絡我們。
Related Posts
