现有代理式人工智能的治理原则难以全面规范它的自主行动能力，我国政府推出的代理式AI监管框架，为企业和机构提供参考起点。
受访律师和专家指出，代理式人工智能（Agentic AI）在企业和机构中的应用正在加速扩展，它不仅能完成简单任务，还能根据环境实时调整策略、执行复杂操作，潜力巨大。当局推出框架将助企业和机构更稳妥地引入这项技术。
虽然“代理”概念存在已久，但随着大语言模型显著进步，代理式人工智能已经发展成能够自主规划多步骤行动、利用工具执行复杂任务（如更新记录）的系统。
德尊律师事务所（Drew & Napier LLC）电讯、媒体及科技主管林宗勤，和企业与金融部总监谢利敏律师举例，若要一般AI策划一个三天旅游行程，AI只会给予行程，没有后续行动。
“代理式AI就不同，它可以比较实时价格、检查你的日程、帮你预订机票和酒店住宿，最后还帮你更新日程。”
例如，电子付款业巨头威士（Visa）和万事达卡（Mastercard）近期与本地银行合作展开测试，让由AI驱动的代理通过银行信用卡为客户处理日常事务。
在网络安全方面，安信资讯安全公司咨询部开发运营负责人郭明宏认为，代理式AI同样发挥重要作用。它不仅能扫描和分类威胁，还能根据情况自动做出反应，让网安从被动分析转为主动应变。不同网安公司也推出代理式AI驱动的防御系统，通过代理24小时对抗威胁。
代理越“聪明” 人或因越放心而出错
不过，代理式AI的自主性也带来新的风险。Dentons瑞德律师事务所知识产权与科技业务部高级合伙人梁清龙和创新赋能部高级经理黄俊文提醒，代理式AI一旦出错，不再只是一个错误答案，而可能演变成实际的运营事故。
他们指出，目前的主要风险包括错误操作、未经授权的操作、有偏见或不公平的结果、数据泄露以及对互联系统的中断。这些风险尤为重要，因为代理可能拥有登录敏感数据或改变运营环境的能力。
梁清龙和黄俊文指出，如果系统中存在多个代理，错误可能相互影响，使结果更难预测。“不可忽略的还有人为因素，因为代理越‘聪明’，人可能越容易过度信任它，从而出错。”
新加坡是较早采取行动管理人工智能的国家之一。2020年推出人工智能监管模式框架，2022年推出全球首个人工智能治理测试框架和工具箱（AI Verify）。
代理式AI监管框架 确保最终运作由人负责
今年1月，资讯通信媒体发展局推出代理式人工智能监管框架（Model Governance Framework for Agentic AI），协助企业和机构管控风险，并确保AI运作最终由人负责，框架也将持续更新。
延伸阅读
梁清龙和黄俊文赞同将框架定位为开放的“可修订文件”，供各机构反馈和研究案例，同时概述企业或机构须要关注的关键领域。这包括风险边界设定、明确的问责制、技术测试与监控，以及最终用户责任。
两人指出，代理式AI很可能迅速普及，当局推出的框架将帮助企业和机构更好地引入这项技术。他们建议，从限定范围开始，进行验证与测试，逐步部署，持续监控，并随着时间不断改进。“归根结底，治理不是让创新慢下来，而是通过审慎周密的行动和决策，确保代理式AI值得依赖，从而负责任地扩大应用。”
林宗勤和谢利敏认为，随着不同机构和企业分享自身经验，未来可能看到更多案例研究，展示如何识别风险并采取措施，这对整体发展是有好处的。
他们指出，简单来说，代理式AI正在从“给出答案”转向“完成任务”。这是好事，但也意味着必须建立更强的控制措施。
当成“数码员工” 从低风险任务起 逐步部署代理AI
企业和机构在使用代理式人工智能时，应把它当作“数码员工”，而且要对这名“数码员工”做出的操作负责。
网安公司卡巴斯基（Kaspersky）亚太地区政府事务与公共政策总监李横说，监管框架虽然不具法律约束力，但传递了清晰信息，使用代理式AI的企业和机构要对AI的操作结果承担责任。“框架因此建议企业实施技术控制和流程，持续测试和监控系统；一旦出现意外结果，就能立即介入。”
别过度信任AI导致偏差
林宗勤和谢利敏指出，企业在部署代理式AI时，应把系统看作“一名数码员工”管理。他们建议，从低风险任务开始，避免全部自动化。重要操作如确认付款或共享信息时，要设置人工审批，并记录完整流程，定期审查。
“用户培训也至关重要，可减少因过度信任AI而出现的偏差。”
两名律师还提醒，如果同时运行多个代理，操作结果可能更难预测，出现问题时也难以追溯。同时，授权方面也要警惕，必须平衡效率和人工监管，避免代理做出不可挽回或产生负面后果的决定。
梁清龙和黄俊文指出，引入新科技本身是好事，但问题往往出在操作上的细节。一个可能情况是，在使用代理式AI时，责任可能分散在供应商、工具和内部负责人之间。所以企业要明确分工，出现问题时才能快速处理，也方便追责。
受访律师和专家希望，资讯通信媒体发展局未来在持续更新框架的同时，推出更详细的操作指南，为企业和机构提供更明确的应用指引。
郭明宏建议，框架应区分建议型AI（Advisory AI）和自主型AI，并提供审计和可追溯性的最低要求。“治理框架不应只停留在原则层面，而应为企业提供清晰、实用的应用指导。”
在早报应用继续阅读
