开云体育官方下载:

  2025上合论坛：周鸿祎“以模制模”应对AI安全应战，筑牢 **AI安全** 防地

  在天津满意闭幕，360集团创始人周鸿祎在“安全危险与监管管理”议题上，针对**人工智能（AI）**安全应战，提出了极具前瞻性的解决方案。他着重，在享用AI带来的巨大机会的一起，有必要正视随同而来的安全危险与监管应战，并提出了“以模制模”的立异思路，引发了与会者的广泛重视。

  成为AI范畴的“心腹大患”，一旦被进犯者使用，企业的中心商业秘要、用户敏感数据等将面对被盗取的危险。AI本身的安全问题相同不容忽视，大模型存在的“错觉”现象，以及易遭受提示注入进犯等特性，或许会引起难以处理的结果。特别是根据大模型构建的智能体，一旦被歹意控制或呈现“错觉”，或许会引起误操作，将危险从虚拟国际传导至实际出产日子中。

  周鸿祎提出的“以模制模”，即使用人工智能技能本身的优势，经过安全大模型赋能数字安全，完成安全防护的智能化晋级。360依托10年300亿元的技能投入效果，结合20年来堆集的海量安全大数据，以及国际尖端安全专家的丰厚经历，训练出专业的安全大模型，并构成完好的安全解决方案。现在，该安全大模型已成功应用于政府、动力、金融、教育等要害职业，为其筑牢AI安全防地牵头建立大模型安全联盟，联合科研机构、高校和职业头部企业，同享技能效果，一起研制安全产品与服务，携手推进AI安全有序地融入各行各业。

  监管与立异：平衡开展之道在监管管理层面，周鸿祎着重，合理有用的监管是AI工业健康开展的重要保证。他以为，人工智能技能开展一日千里，其优势与限制并存，这就要求监管部门以辩证、客观的情绪看待，在保证安全的前提下，为立异预留满足空间。他以大模型的“错觉”问题为例，指出这一特性虽或许会引起信息误差，但一起也赋予大模型创造力和想象力，在科研范畴发挥着非消沉效果。周鸿祎主张，可学习互联网前期开展的“避风港准则”，在AI监管中采纳柔性管理战略具有极端重大意义，在据守安全底线的基础上，对企业因技能特性导致的一般性失误给予必定宽容度，以鼓舞立异。经过拟定一致的技能标准和监管结构，清晰规矩鸿沟，带领企业在标准内积极探索立异，防止因过度监管按捺工业高质量开展生机。

  周鸿祎的观念为AI安全开展供给了新的思路。未来，跟着AI技能的不断演进，如安在安全与立异之间获得平衡，将成为职业一起面对的应战。你以为，在“以模制模”的理念下，未来AI安全范畴的技能立异将呈现出哪些新的趋势？