記者林齊萩／綜合報導
白宮12日宣布，包括輝達（Nvidia）、IBM、Photoshop開發商Adobe在內的八家公司已簽署協議，對管控人工智慧（AI）的風險做出承諾。這些承諾包括推出人工智慧產品前展開安全測試、構建將安全擺第一的系統、為AI生成內容添加數位浮水印等，以贏得公眾對AI技術的信任。
美國商務部長雷蒙多（Gina Raimondo）、白宮幕僚長齊安茲（Jeff Zients）和其他高級官員當天在白宮召集企業領袖，宣布拜登政府已獲8家企業承諾。除了輝達、IBM和Adobe之外，參與企業還包括Palantir、Stability、Salesforce、Scale和Cohere。
白宮在一份聲明中表示，這些承諾是政府行動的重要橋樑，也是政府兌現AI承諾和管理風險的綜合方法一部分。美國政府正製定一項行政命令，並尋求兩黨立法，以協助美國在負責任的人工智慧開發方面發揮引領效果。
根據協議條款，公司承諾在發布人工智慧系統前，將進行內部、外部安全測試，並分享安全最佳實踐。有些企業更表示，他們將投資於網路安全和其他保障措施，以防止未發布的模型權重洩露或遭駭客攻擊。此外，公司將允許第三方報告其自己系統中潛在的安全漏洞。並確保用戶能透過數位浮水印等技術，分辨人工智能生成內容。
今年7月，亞馬遜（Amazon）、谷歌（Google）、臉書母公司Meta、微軟（Microsoft），以及聊天機器人ChatGPT開發商OpenAI、Anthropic、Inflection等七大AI巨頭領袖，在白宮與美國總統拜登（Joe Biden）會面，當時與會的企業領袖允諾建立一套自我監管的安全機制，主動控管AI風險。
