环境下全市范围部署应用DeepSeek的城市，2月中旬，首批70名“AI数智员工”在深圳中心区福田上岗，覆盖场景240个。

  福田“AI数智员工”吸引了各地前来考察。上线一个月后，深圳市福田区政务服务和数据管理局完成了近100次考察团接待，而福田AI数智员工的供应商——深圳夸夸菁领科技有限公司一个月的业绩已相当于过去一年的总和。

  “老百姓凭什么信任政务机器人的服务？”“怎么管理政务？像管理普通员工一样吗？”“AI数智员工”的管理和安全问题慢慢的变成为关注焦点。记者获悉，2024年9月，早在大模型爆火之前，《福田区政务辅助智能管理暂行办法》（以下简称《管理办法》）就已经颁布。这是国内首部针对机器人雇员的地方规范性文件，以官方文件的形式回答了有关“AI数智员工”的多个关键问题。

  据了解，《管理办法》分为九章，是政务辅助智能机器人“基本法”，在确保管理基础性的同时，探索创新性管理措施。在保障政务辅助人与别的类型员工同样的权益与义务的同时，新增对AI安全监管内容，对进行前瞻预防和约束引导。

  什么是政务辅助机器人？《管理办法》明确，政务辅助机器人是“运用技术，辅助履行公共管理职责或者提供公共服务，具备一定人格特征，能半自主或全自主进行感知、决策、交互的或计算机系统”。同时，政务机器人形式“包括但不限于具身机器人、仿人型机器人、虚拟数字人和其他机器人”。

  政务辅助机器人如何运作？机器人从事公共服务应遵循什么样的规则？《管理办法》提出，政务辅助机器人享有类似生命权、健康权、姓名权、肖像权、荣誉权等“人格权”，同时也应履行相应的义务，运用拟人化的方式对它进行管理。

  《管理办法》明确，“政务机器人姓名权”是指政务机器人具有唯一的身份编号和姓名，其身份编号由区政务服务和数据管理局按照编号细则统一生成和管理，其姓名由使用部门命名，不能违背公序良俗；“政务机器人人格权”是指使用部门可根据用途为政务机器人设计不同标识形象和声音，外观需端庄大方、亲切质朴，符合大众审美，不能有损公序良俗，不得侵害他人知识产权。如采用特定自然人形象作为其人物形象或特定自然人声音作为其人物声音，使用部门需获得自然人本人授权同意，不得侵害自然人权益。

  另外，政务机器人人格化特性还包括“情感智能是指政务机器人可在某些特定的程度上感知和分析人类的情感表达，包括语气、表情和语言中的情感倾向，并根据所感知到的情感做出适当的反馈”。“道德和伦理框架，政务机器人遵守所在区域道德和伦理原则，其行为符合社会伦理标准”。

  这种服务背后真正“硬核”的责任机制是什么？针对政务机器人这种自主或者半自主的技术特点，《管理办法》创新提出了一种全新的法律关系——监护人制度，要求设置“监护人”对机器人进行全流程管理，一经发现机器人犯错就要及时“踩刹车”。

  “监护人”和“机器人”之间这种协同关系的合法性来源是什么？《管理办法》用专章明确了政务辅助机器人“服务关系确立”的整套流程，通过法定的采购程序，将监护人、机器人、供应商的责任关系固化下来，配套“监护人”考核、退出等机制。

  按照《管理办法》，政府部门要指定一个或多个在编人员作为监护人。监护人负责机器人的行为规范及行为后果，包括语言及行为监管，运行监测维护，当政务机器人发生异常状态时，及时进行应急处置及人工干预，包括但不限于暂停政务机器人的行动、请求售后维护、断电等处置行为。

  使用部门及监护人还应建立应急响应机制，防止政务机器人失控和自主造成损害，采取包括通过严格的算法控制和模型训练确保政务机器人行为受到限制，仅在预设的范围内操作；对政务机器人进行实时监测，设置独立的实时远程应急控制模块和独立的应急处置模块，当政务机器人发生异常状态时，立即自行启动应急处理程序，实时远程应急控制程序并行启动，进行人工干预等。

  使用部门还会定期对监护人开展考核工作，评选出工作成绩突出或有其他显著成绩的监护人进行表彰。公示或者处罚有重大工作失误或出现违反法律和法规、规章制度的监护人。

  一旦出现争议之后的解决机制是什么？针对也许会出现的伦理道德、法律行政等纠纷，《管理办法》明确了福田区组建政务机器人伦理委员会，由人大代表、政协委员、AI行业专家、社会学者、法律专家等独立组成，对政务机器人实行分级分类监督管理措施。通过建立伦理委员会、专家集体评审等方式协调解决争议，通过调解、仲裁和诉讼等途径，依法依规解决其他权益纠纷。

  据介绍，政务辅助智能机器人部署在政务云环境，源代码管理受严控。《管理办法》特别提及了通过严控数据和源代码管理，提高公众对于使用政务辅助智能机器人的信任，增强系统的透明度和可靠性。

  《管理办法》在数据安全方面明确，政务机器人原则上应部署在福田区政务云环境，训练政务机器人所需的数据及政务机器人采集、处理、使用的数据不得违规对外提供，确有需要，按照“谁提供，谁负责”的原则对提供的数据及服务可能会产生的法律责任及后果负责。

  据悉，目前AI在数字政府领域不断深入，福田区已实现在养老、教育、政务服务等领域探索20多类AI应用示范场景，落地五十余个政务辅助智能机器人协助政府开展公共服务或履行公共管理职责。