14：学术
■南京审计大学 陈锦
一、引言
21世纪以来，科学技术迅猛发展，如何平衡新技术所带来的发展机遇与科技伦理，一直是理论界和实务界不断探讨的热点话题。在科学技术高速发展的时代下，人类处在复杂的人机关系中，人工智能产品在各行各业广泛应用的同时，也在不同层面上带来潜在的伦理风险。2022年末，以ChatGPT为代表的生成式人工智能在全球范围内引起广泛研究与探讨。生成式人工智能的出现及其功能的优化在一定程度上推动了人工智能技术前进的步伐，但与此同时也增加了其应用的伦理风险。在政务服务领域运用人工智能技术，是当前推动政务服务改革的重要举措。鉴于此，一方面，需要剖析人工智能在助推政务智能化建设过程中可能会产生的伦理风险；另一方面，也需要思考如何有效规避这些风险，从而使得人工智能更好地应用于政务服务。
二、人工智能政务服务应用的伦理风险
（一）“算法黑箱”引起的伦理风险
“算法黑箱”是导致算法失控问题的主要来源。算法失控问题主要是指人工智能在政务服务应用中所产生超出人类所控制的智能行为，从而引发应用的伦理风险。算法“黑箱”具有不透明性和难理解性，人工智能的深度学习在信息输入与结果输出之间会产生难以为外界所看见以及理解的隐藏部分，这使算法在应用中可能威胁个人信息安全。人工智能的算法开发者和设计者可能将自己持有的偏见嵌入智能算法之中,造成内部算法并非中立客观，进而对部分政务服务受众群体具有主观偏见，并由此引发应用的算法歧视问题。
（二）数据泄露引起的伦理风险
数据的核心在于其使用价值，人工智能应用的伦理风险另一方面主要来自于数据泄露带来数据的非法利用，损害公民的合法权益以及给政府治理带来不同程度的负面影响。就目前智能技术发展程度，不论是从主观操作层面还是从客观技术层面，人工智能模型应用于政务服务领域，都无法确保数据信息不存在泄露、被篡改、利用的情况。人工智能作为一项新兴技术，它会随着科学技术的发展而不断更新迭代，在性能等方面更加稳定、成熟，而目前人工智能的安全系统存在被攻击的可能。
三、人工智能政务服务应用的伦理风险根源剖析
（一）人工智能技术的未成熟与情感的缺失
现阶段，人工智能技术依旧处于弱人工智能发展阶段，它在面对诸多情形下依旧只会通过智能算法来采取最优行动。因此，人工智能技术还未发展成熟到可以和人类一样处理更为人性化以及细节性的问题。在面对道德抉择时并不能判断好与坏、善与恶，由此导致科技伦理问题的产生。当前，人工智能虽然可以模拟人的思维和行为方式，并在某种程度上甚至表现出超出人类的能力水平，但依旧还无法实现在情感层面的技术突破，不具备生物学特征以及情感认知能力，无法回答涉及道德伦理的问题，也无法依据伦理道德做出和人类一样的选择。
（二）相关利益者的综合素养与责任意识有待提升
在弱人工智能发展阶段，人工智能的决策完全依托于内部已设定好的算法程序，人工智能的应用在很大程度上主要取决于算法开发者的判断方式以及使用者的实践方式。将人工智能嵌入政务服务领域必然涉及到政府、企业、社会公民等各方参与主体。其中，他们的综合素养与责任意识影响着人工智能技术的应用，同时也是推动政务服务事项精准落实的关键。就目前来看，我国人工智能应用的相关主体的综合素质都有待提高，这成为引发人工智能在政务服务领域应用的伦理风险的致因。因此，无论是人工智能技术开发者还是政府等人工智能技术的使用者，他们的综合素质与责任意识都影响着人工智能应用的伦理风险。
四、人工智能政务服务应用的伦理风险规避路径
（一）理念层：以人为本的风险社会的责任伦理
人工智能政务服务应用的伦理治理应坚持以人为本的治理理念。以人为本的治理理念既是人工智能的责任伦理也是政务服务领域需要贯彻的基本原则，在以人为本的治理理念下有利于弥合人工智能应用的价值理性与工具理性的失衡，从而更好地促进人工智能和政务服务的高质量发展。针对人工智能领域的算法歧视问题，更要在责任伦理下，坚持以人为本的治理理念，以安全高效公平的价值观为引领，塑造程序开发者正确的价值导向，端正研究人员研究动机尽可能避免算法歧视等有违社会道德伦理问题的出现。
（二）制度层：政府、企业与公众的多维视域的复合治理
人工智能的发展也进一步加剧了风险社会的复杂度。对于人工智能政务服务应用的伦理风险问题，我们要构建合理有效的人工智能伦理治理体系，“打造共建共治共享的社会治理格局”，形成国家监管、企业治理、公众参与的共同治理体系，形成多层次、全方位的制度管理机制。多维协同的治理体系离不开每一个市场主体的共同参与，只有国家健全法律体系、评估体系和监管体系，企业及研发人员自觉遵守技术标准和伦理规范，公众正确使用智能产品，安全高效的人工智能产业才能得以真正形成，分工协作的人工智能技术治理体系才能发挥真正的效用。
五、结语
近年来，党和国家非常重视人工智能革命浪潮的到来，也非常重视人工智能发展所引领的科技变革，在多次会议中强调要重视通用人工智能发展，营造人工智能发展的新环境，重视防范人工智能应用伦理风险，期待促进人工智能技术的持续健康发展。
如今，我们身处在一个智能化的社会，同时也是一个风险社会，尤其是新兴科技应用带来的伦理风险。一方面，我国要积极拥抱人工智能技术，为人工智能技术的研发提供良好的国内环境以及相关技术、政策支持，核心要致力于人工智能技术的本土化发展；另一方面，要从源头以及使用过程中对人工智能政务服务应用的伦理风险进行风险测算以及风险控制，正确引导人工智能的发展。