要推「用講的就能操作App」的語音控制系統，業界認為，這正是蘋果將AI代理落實的第一步，雖然成為iPhone的語音控制器，可能徹底改用iPhone的使用方式，但這項技術帶來的挑戰與風險不容忽視，蘋果因此相當謹慎應對。
AI代理服務已成各大科技巨頭AI爭霸戰新戰場，OpenAI今年推出名為專為知識密集工作者設計的AI代理「Deep Research」及包辦日常瑣事的「Operator」，亞馬遜將推出的Alexa也可能成為使用者的AI代理。如輝達執行長黃仁勳所言，AI代理已逐漸成為改變全球產業的關鍵技術。
不過，當AI開始代表人類行動，錯發敏感訊息或誤刷大額交易的風險就出現了。一旦Siri在金融或健康等不容出現閃失的領域失誤，後果將遠比報錯天氣嚴重。
因此，對銀行及其他敏感類別的應用，蘋果考慮大幅限制Siri操作權限，甚至可能將這些領域完全排除，顯示蘋果正在創新與風險控制之間，審慎拿捏平衡。
業界人士指出，儘管AI代理前景光明，但也面臨許多挑戰，除了失誤與不可預測性之外，AI可能延續訓練數據中的偏見，在招聘或司法等領域做出不公平決策，過度依賴AI也可能導致人類技能退化，或在系統失效時無力應對。
從安全與監管角度來看，業界人士認為，AI代理若被惡意利用，可能助長詐騙或假訊息的散播，且AI決策過程複雜，責任歸屬難以界定。
標題：創新 vs. 風險 考驗 AI 代理
聲明： 本文版權屬原作者。轉載內容僅供資訊傳遞，不涉及任何投資建議。如有侵權，請立即告知，我們將儘速處理。感謝您的理解。
