最近搜看股票
報價
| 返回 放大 + 縮小 - | ||||
|
Anthropic籲全球放慢前沿模型開發 AI自我完善或對社會構成重大風險
推薦 74 利好 115 利淡 54 AASTOCKS新聞
|
||||
|
||||
|
正籌劃在美國上市的AI初創Anthropic周四(4日)發表博文，呼籲頂級人工智慧(AI)實驗室考慮放慢開發步伐，稱AI系統正以極快的速度發展，可能很快就能在無人干預的情況下進行自我完善，而其方式或對社會構成重大風險。 Anthropic過去多次在前沿AI安全議題上扮演主動倡議的角色。是次「全球協調暫停」的提案，是其把安全倡議從「技術設計」延伸到「產業協調」的具體一步。 文章由Anthropic內部研究主管Marina Favaro與政策主管Jack Clark共同撰寫。Anthropic表示，放慢全球AI發展的能力「很可能是一件好事」。該博文披露的內部數據顯示，其最先進模型的改進速度驚人。文章指出，模型的進步似乎正朝著「遞歸式自我完善」的方向發展，即AI系統可以在沒有人類干預的情況下自行改進。博文稱，遞歸式自我完善尚未發生，也並非不可避免，「但其到來的時間可能比大多數機構準備好的要早」。 他們表示，當人類撰寫的程式碼與Claude撰寫的程式碼在品質上達到平等，人類工程師會自然停止撰寫程式碼，轉為純粹的審閱角色。但若Claude的程式碼生成速度快於人類可審閱的速度，人類審閱本身就會成為AI開發的速度樽頸。 Clark稱，在沒有協調一致的全球性放緩的情況下，人們只能面對現狀：各種參與者在不同國家以驚人的速度開發強大的技術，彼此陷入競爭，而商業和地緣政治的對抗聲浪，正淹沒這項正在構建的技術對人類物種的更宏大、關乎存亡的意義。 文章也指出，內部研究機構Anthropic Institute將多方合作展開研究，以「幫助建立一個可靠的放緩或暫停機制所需的系統」，該機構致力於理解和塑造AI將如何影響世界。並提到，暫停或放緩只有在得到廣泛遵守的情況下才有意義，而這需要一個核查機制，來確保所有人都停止了，但也承認「要阻止作弊行為」將更加棘手。 Anthropic上月完成了一輪融資，該公司估值達9,650億美元，首度超越同業OpenAI，並於本周一(1日)秘密提交了在美國進行IPO的申請。(da/u)AASTOCKS新聞 |
||||
已將連結複製到剪貼簿
 |
||||
