广信君达闪涛律师：AI监管沉心从“管模子”转向

　　5月21日，“AI新治向”系列沙龙第二期“若何共守智能体平安底线”研讨勾当上，广东广信君达律师事务所合股人会议联席从任闪涛分享了他对智能体时代法令风险防备的理解。他认为，跟着智能体的使用，法令风险防备的沉点正正在从内容管理转向行为管理，这给现有法令系统带来了新挑和。闪涛律师起首梳理对比了欧盟、美国取中国分歧的AI监管逻辑。他认为，中国目前采纳了一种“小步快跑”的立法模式，从2023年出台的《生成式人工智能办事办理暂行法子》到本年发布的《智能体规范使用取立异成长实施看法》（以下简称《实施看法》），监管范畴正从“大模子”延长至更具步履能力的“智能体”。正在智能体监管款式上，《实施看法》建立了一个包罗国度网信办、国度成长委、工业和消息化部等正在内的多部分协同联动框架。闪涛律师指出，这对企业意味着，正在产物全生命周期中必需成立“一个产物、多线合规”的合规认识，需同时兼顾数据平安、收集平安、算法存案、小我消息等多沉监管红线。闪涛律师将《实施看法》总结为六大板块：根基准绳、成长根本、平安底线、创重生态取保障办法。此中，第5至14条明白了企业的10条合规红线类使用场景的成长。他认为，《实施看法》的根基准绳是“平安可控、立异驱动、使用牵引”。正在风险划分上，监管思倾向于将范畴分为范畴取低风险范畴。但何为高风险、何为低风险，并无绝对尺度，必需连系具体的数据处置场景来动态评估。闪涛律师强调，当前AI风险监管的沉心已发生较着变化。以往，监管核心集中正在内容管理，如不合规的言论生成、现私泄露等。而智能体的呈现，使律必需面临一个全新的纬度——行为管理。他指出，法令素质上是行为规范，保守上针对的是天然人或法人的行为，如平易近事法令行为、合同业为、侵权行为。但正在智能体时代，“行为”的内涵取外延被急剧扩大，包罗了挪用API、操做账户、节制设备、触发买卖等一系列手艺范畴的动做。对法令工做者而言，必需去理解“挪用”“操做”“触发”这些IT术语背后的法令意义和法令后果，闪涛暗示，智能体的、回忆、规划、东西挪用等行为，已成为法令不得不的新问题。更为环节的是“决策”这一概念的法令沉构。正在保守法令中，决策联系关系着人的客不雅企图，居心或间接决定法令义务的有无取大小。而正在智能体中，呈现了用户本人决策、用户授权决策以及智能体自从决策三品种型。若何将手艺层面的决策精确映照到法令层面的客不雅企图判断，是实务中的沉题。闪律师，企业必需环绕决策成立清晰的权限分层、用户奉告、高风险操做二次确认、授权撤回以及决策日记留存等五项机制，以确保正在发生胶葛时能够逃溯义务从体。基于上述法令挑和取监管要求，闪涛律师为企业供给了一条具有操做性的合规径。他起首总结出智能体平安三道防地：第一道是内生平安，即企业本身正在智能体设想、开辟取摆设阶段嵌入平安机制，从泉源节制风险；第二道是供应链平安，涵盖模子接入的合规性、API挪用的数据溯源以及扩展东西取插件的平安审计；第三道防地次要针对使用衍生风险，其焦点计心情制是成立常态化风险识别、预警及干涉机制，对高风险输出或操做实行“人机协同审核”，避免完全依赖智能体自从决策。此外，闪涛律师认为，正在法令相敌手艺畅后的环境下，行业生态自律很是主要。他通过行业协会和专家，正在没有强制性法令要求的环境下，建立平安有序的生态。正在此根本上，他为企业列出了一份合规步履清单。短期内，企业应起首界定营业场景，明白产物所属的风险品级，然后为智能体成立全生命周期的办理规范，每个智能体必需有明白的数字身份、清晰的操做权限鸿沟，且所相关键行为必需可记实、可逃溯、可审计。中持久，则要逐渐堆集AI合规资产，将合规能力内化为企业的焦点合作力。合规的素质是事前防备，而非过后解救。合规不该被视为纯真的成本核心，而应看做企业的护城河。对于企业而言，先合规意味着占领先机，尽早成立合规系统，才能正在智能体时代的合作中建立起实正的护城河。“AI新治向”系列沙龙由粤港澳大湾区生成式人工智能平安成长结合尝试室、南方都会从办，广东省收集数据平安取小我消息协会支撑。相关部分、司法、学界、企业、等多方代表出席了勾当，聚焦国度网信办、国度成长委、工业和消息化部结合印发的《智能体规范使用取立异成长实施看法》焦点要求，分解智能体使用平安风险底层逻辑，切磋多元共治取立异实践方案。