随着人工智能技术的快速发展，其应用范围正从内容生成、智能交互向行业服务、社会治理等领域不断延伸，深刻改变着人们的生产生活方式。为确保人工智能在创新中健康发展，既要激发技术活力，也要坚持以人为本、智能向善的理念，平衡发展与安全的关系。近日，我国发布了《人工智能应用伦理安全指引1.0》（以下简称《指引》），为人工智能伦理安全治理提供了从原则到实践的重要参考。
人工智能伦理安全治理涉及技术创新方向、产业应用秩序和社会公共利益，既需要明确价值导向，也需要在实践中凝聚共识。不同领域对伦理安全的理解存在差异，亟需建立统一的认识基础。《指引》在编制过程中广泛吸纳了主管部门、行业专家、企业机构和学术界的意见，通过深入研讨确保其与国家人工智能治理战略相协调，同时吸收了各领域实践经验，推动各方在治理目标、原则和路径上达成共识。
《指引》将价值导向、风险边界和实践要求转化为具体行动指南，使伦理安全要求能够被不同主体理解和落实。它不仅体现了治理的价值共识，也兼顾了技术创新和产业发展的现实需求，推动伦理安全治理从理念共识向实践深化迈进。例如，在拓展治理视野方面，《指引》强调人工智能应用需关注技术安全之外，更要重视其对人的主体性、社会秩序和公共利益的影响，引导相关主体从更广阔的视角认识人工智能的社会影响。
在规则制定方面，《指引》将伦理安全理念细化为具体原则，涵盖人类福祉、生命权利、公平公正、风险控制、公开透明、隐私保护、可控可信等多个维度。这些原则为人工智能应用提供了明确的规则参照，帮助相关主体在创新发展中平衡技术价值与社会利益。例如，它要求人工智能应用必须尊重人的主体地位，保障合法权益，促进全面发展，同时强调在应用过程中要合理控制风险，保护隐私安全，确保技术可控可信。
为使伦理安全要求更具操作性，《指引》还针对人工智能应用的全流程提出了具体指引。在通用要求层面，它明确了应用目的、能力边界、人的监督、权益保护和风险防范等基础环节的规范；在具体环节层面，它分别对应用开发、服务提供和使用者提出了差异化要求。例如，开发环节需将伦理安全要求融入目标设定、功能设计和技术实现全过程；服务提供环节要确保服务规范、可控、可信；使用者则需理性认识技术边界，共同维护健康的应用生态。
《指引》的发布标志着我国人工智能伦理安全治理体系进一步完善。它通过明确价值导向、细化规则要求、强化责任落实，为人工智能技术的健康发展提供了坚实保障。随着《指引》的深入实施，预计将在重点行业和场景中形成更多配套标准和实践案例，推动人工智能始终沿着以人为本、智能向善的方向有序发展。
