作者：邓纯 来源：原创 发布日期：08-21
A | 来源：人民日报海外版
本版图片均由AI辅助生成
确保人工智能始终服务于人，而不是替代人的最终判断
记者：当前算法参与社会决策的广度和深度，已经发展到了一个什么样的阶段？它带来的安全风险，是不是已经到了必须系统性应对的临界点？
肖茜（清华大学人工智能国际治理研究院副院长）：随着大模型能力的快速提升，人工智能确实正在逐步从传统意义上的“辅助工具”走向“参与决策”。今天，无论是在医疗诊断、金融风控、交通调度，还是公共治理、司法辅助等领域，算法都越来越多地参与到决策过程中。但总体来看，人工智能成为完全意义上的“决策者”仍然只是少数特定场景，并非社会普遍现象。更准确的表述应该是人工智能正在成为越来越重要的“决策参与者”和“决策影响者”。
从人工智能安全治理的角度来看，确保“人在环上”（Human-in-the-Loop）仍然是一项不可突破的基本原则。人工智能虽然在数据处理和模式识别方面具有明显优势，但当前技术仍然存在诸多局限，例如“黑箱效应”导致决策过程缺乏透明性和可解释性，训练数据可能存在偏差，模型可能产生“幻觉”，在复杂环境下也缺乏人类所具备的价值判断、伦理考量和情境理解能力。因此，如果将涉及生命安全、公共利益或重大社会影响的决策完全交由人工智能作出，不仅可能导致错误决策，也可能出现责任主体不清、问责机制缺失等治理难题。
更重要的是，我们需要关注算法决策不断扩张所带来的系统性风险。
B | 与之相对应的是加州的整体经济发展非常好，有着“世界第五大经济体”之称。当越来越多的社会运行依赖算法时，一旦算法出现系统性偏差或遭受攻击，其影响可能迅速扩散至金融、医疗、交通、能源等多个关键领域，甚至影响社会公平和公共信任。
C | 未来的治理重点，不应是简单限制人工智能的应用，而是在推动技术创新的同时，建立更加完善的风险评估、算法审计和责任追溯机制，确保人工智能始终服务于人，而不是替代人的最终判断。
魏凯（中国信息通信研究院人工智能研究所所长）：算法伴随着计算机软件的普及，早已经深度嵌入社会运行的各个环节，一切计算机程序都建立在算法之上。
D | 随着神经网络等人工智能技术成熟，算法的形成逻辑发生重要转变：它不再单纯依靠人工设定规则，模型训练数据同样深刻影响最终输出。
E | ”
F |
十余年间，消费互联网率先完成迭代，信息搜索、商品推荐、广告分发等场景全面运用 AI 算法。
G | 对于无家可归者服务而言，结果实际上意味着一切，毫不奇怪，他们没有数据。”
H |
I | 这标志长滩正朝着正确的方向迈进。需要警惕的是，大模型“幻觉”问题难以彻底消除，使用者应当对智能体输出内容做好真伪辨别。当然，家里的扫地机器人，自动驾驶汽车，也都是AI算法驱动的。2024年1月，长滩市的无家可归者总数为3376人，相比之下，2023年为3447人，减少了71人。
J | 在贝里看来，这一减少幅度微乎其微，只有71人。放到“算法参与决策”这一特定语境下，我认为安全的核心要义，就是保障AI算法具备充足的透明性与运行可靠性，规避由算法自主推演、模型决策带来的重大风险。 讨论AI算法安全不能一概而论，需要结合应用场景、面向的不同主体分类考量。实际安置的无家可归者人数低得令人难以置信。
K | 面向普通消费者提供服务的AI算法，应当匹配大众认知水平，搭建相适配的安全防护机制，守住用户合法权益底线。具体涵盖内容合规、防范算法歧视、强化个人隐私保护、警惕AI算法不当引导公众认知等多个维度；针对未成年人等特殊群体，还要实施更加严格、差异化的算法约束。 维护AI算法安全，不能只要求一方出力，技术服务商与使用者双方都负有责任。
L | 对于技术服务商而言，应当严格遵循法律法规与相关技术标准，落实算法安全各项合规要求，从技术源头筑牢风险防线。与此同时，也需要持续呼吁广大使用者不断提升风险辨别与自我保护意识。 肖茜：在算法参与决策的特定语境下，我认为“安全”的核心要义，是确保AI进入决策过程之后，不会削弱决策的可靠性、公正性、可控性和可问责性。它所保护的不只是一个技术系统能否正常运行，更是社会中的决策权能否被正当、审慎地行使。
M |
N | 目前，共有733人参加了永久性住房计划。
传统意义上的网络安全、数据安全和信息安全主要解决的是决策所依赖的技术基础和信息基础是否安全。算法决策安全则进一步追问：即使网络没有遭到攻击、数据没有泄露、信息也是真实的，算法作出的判断是否一定合理？如果出现错误，最终由谁承担责任？
因此，我认为可以把它理解为一种更深层次的“决策安全”，同时也涉及“规则安全”。
o | 所谓规则安全，是要审视被写入算法的目标、指标和价值排序是否合理。贝里说：“如果在城市实施法律，给人们选择去戒毒所还是进监狱。
p | 根据我的经验，他们会选择康复中心。”
q | 因为算法并不是完全中立的，它会把开发者设定的规则转化为大规模、持续性的社会决策。过去几年中，随着盗窃、抢劫等犯罪率不断飙升，加州的州法《47号法案》受到不同族裔、不同党派民众的谴责，甚至成为全美各地人们眼中的治安“笑话”。
记者：生成式 AI 爆发之后，大模型参与决策的场景变多了。
r |
s | 这意味着，技术的发展速度远快于治理规则的更新速度，也使算法安全治理面临前所未有的挑战。
t | 一是风险更加难以预测。大模型具有一定的涌现能力，一些能力并非开发者预先设计，我们很难像传统软件那样准确预测系统在所有场景下的行为。
u | 二是算法开始影响决策，而不仅仅是执行任务。
v | 三是风险的外溢性更强。
w |
x | 相比于“先发展、后治理”或“先立法、后创新”的传统路径，敏捷治理更强调边发展、边治理、边完善规则，提高治理的适应性和前瞻性。
y |
z | 此外，中国还高度重视人工智能治理的国际合作。人工智能的发展和应用具有跨境性，其风险也具有全球外溢性，任何国家都无法单独应对。因此，中国不仅积极完善国内治理体系，也积极参与联合国框架下的全球人工智能治理，倡导开放合作、能力建设和风险共治，推动人工智能真正成为促进人类共同发展的公共产品。调查显示，67% 的美国人厌倦了该国无家可归者数量的快速增加，并希望市长们采取严厉措施解决这一祸害。
|
| 但是，技术路径始终存在其局限性。
|
| 另一方面，许多算法决策安全问题本身就不是技术能够独立解决的。
| 例如，算法是否公平、是否符合伦理、是否侵犯个人权利，这些都属于价值判断和制度选择，而不是工程问题。 因此，技术治理必须与制度治理相结合。未来算法决策治理至少应坚持几项基本原则：第一，对于涉及生命安全、基本权利和重大公共利益的决策，必须保留实质性的人类判断，并留出充足的判断时间；第二，建立算法影响评估、模型测试审计和持续监测机制，确保人工智能在部署前、部署中和部署后都处于可测试、可监督的状态；第三，保障必要的透明度、解释权和救济权，使受到算法影响的个人拥有知情和申诉的机会；第四，明确开发者、部署者、使用者和监管者之间的责任边界，形成完整的责任链条。 除此之外，随着人工智能越来越广泛地应用于跨境场景，很多风险已经超越了一国的治理能力。例如，前沿模型可能被全球用户使用，算法漏洞可能迅速扩散，军事、网络、生物等领域的风险更具有全球外溢性。
| 因此，还需要加强国际合作，推动风险评估、安全测试、技术标准和治理规则方面的协调，共同应对人工智能带来的全球性挑战。 只有形成完整的责任链条，才能避免出现“人人参与、人人免责”的治理困境 记者：算法参与决策最棘手的问题之一，是“出了事谁担责”，真出了安全问题，责任该怎么界定？ 肖茜：这是目前全球人工智能治理面临的一个核心难题。
| 过去，责任往往比较容易界定，谁作出决定，谁承担责任。但在人工智能时代，一项算法决策往往涉及多个主体，包括模型开发者、数据提供者、系统部署者、平台运营者以及最终使用算法作出决策的机构。任何一个环节出现问题，都可能影响最终结果。因此，很难简单地把责任归咎于某一个主体。 国际社会目前越来越倾向于建立“责任链条”的理念，也就是说，根据各主体在人工智能全生命周期中的职责划分责任，而不是由某一个主体承担全部责任。只有形成完整的责任链条，才能避免出现“人人参与、人人免责”的治理困境。
| 我国近年来出台《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等法规，对平台责任、算法备案、安全评估等方面已经进行了积极探索，为人工智能治理提供了重要制度基础。但总体来看，目前我国乃至国际社会，都还没有形成一套十分成熟、可操作的算法决策问责机制。特别是在大模型和智能体快速发展的背景下，责任如何划分、举证责任如何分配、算法“黑箱”如何解释、跨境应用如何监管等问题，仍然需要进一步探索。 记者：对于政府、企业和公众这三方来说，各自应该扮演什么样的角色，才能共同织密算法安全这张网？ 肖茜：算法安全不是哪一方能够独立完成的，而是一项系统工程，需要多方共同参与，形成协同治理的格局。对于政府而言，需要不断完善算法治理体系。面对快速发展的人工智能技术，监管不能停留在事后处置，而要坚持风险导向、敏捷治理，建立覆盖人工智能研发、部署和应用全过程的治理机制，完善法律法规、技术标准、风险评估和责任追究制度，为人工智能健康发展提供制度保障。
| 对于企业来说，应当切实履行安全治理的主体责任。安全不应该只是产品上线后的“补丁”，而应贯穿产品生命周期全过程，加强安全评估、红队测试、风险监测和持续优化，真正把“安全设计”融入技术创新之中。 对于公众来说，要不断提升人工智能素养。我们既要善于利用人工智能提升工作和生活效率，也要保持独立判断，不能盲目迷信算法，更不能把所有决策都交给机器。公众还应积极行使知情权、解释权和申诉权，共同推动人工智能更加透明、可信和负责任地发展。 算法安全不是限制人工智能的发展，而是为了让人工智能更好地服务于人。只有政府加强治理，企业守住责任，公众积极参与，形成共建共治共享的治理格局，才能共同织密算法安全这张网，让人工智能真正做到安全、可信、可控、向善。
Current article:http://9fah3x8.gaxuexiazengpian.pics/news/20260826_4012621.html
Published on:02:18:54