算法是进行数据计算和处理程序的模型支撑，其运行需要以数据的输入为基础。数据与算法是驱动社会发展数字化、智能化的关键。机器算法嵌入大数据可以高效提取数据价值、进行仿生模拟并进而在不同场景下作出行为感知和决策判断 [5] 。数据是算法应用的重要基础，而数据本身具有的多重属性则为算法应用带来潜在风险。数据涉及各类信息，具有商业属性、技术属性、法律属性、社会属性和个人属性等多元属性。算法应用过程中所获取的数据涉及用户相关人身、财产、著作以及各类生产生活活动等数据。在个人信息方面，相关数据还涉及个体生物特征、人格权、隐私权和财产权等事项。算法在通过数据实现其价值和功能的同时也带来了数据安全和隐私保护问题。主动或者被动应用算法将使得相关数据由保密、隐私或者其他非公开形式进入到算法程序，从而在数据占有主体或存储形态上产生了扩展，增加了相关数据的泄露风险 [6] 。例如近年来频繁出现相关企业工作人员秘密下载客户信息和其他主体信息牟利的案例，涉及经营中涉及的客户信息、商业秘密等。各类人工智能工具也成为数据的收集者，一旦泄露将危机个人安全甚至公共安全。除人为因素外，网络空间的各类风险也会引发机器学习模型本身、训练数据集甚至原始数据发生泄露。

随着人工智能的发展，通过人工智能提供更加高效、便捷的公共服务成为相关技术应用的重要发展方向。人工智能及其算法为技术进步提供了助力，但也因其技术局限性和应用中的监管问题而对公共领域安全带来算法偏见和滥用现象。数据偏见是指因数据本身存在的偏差(如样本选择偏差、数据收集偏差等)导致的算法模型在处理数据时产生不公平结果的现象。在社会服务或者商业领域，算法应用是提升管理、运行和服务效率和精确性的技术性辅助措施，但其本质上仍属于机械式的运行和输出过程。算法的应用结果受到一系列主客观因素的影响。就客观方面而言，算法模型可能受到数据本身的不完整性、异常性甚至虚假数据的影响，而在模型运行或者输出方面产生歧视性问题。在主观方面，算法的设计者或者使用着自身处于经济或者其他动因可能对算法设计施加主观偏见或倾向性内容，从而干扰或者操控算法的输出结果使其具有歧视性或者选择性。例如，在医疗诊断中，近年来已出现大量智能医学诊疗算法，涉及疾病的预测、诊断以及治理等各个方面 [7] 。医疗算法的应用对疾病诊断和治疗带来新的技术支撑，但因算法基于技术和计算的判断与职业人员基于专业和经验的判断往往存在张力。这种张力既可以成为更加精准诊断和治疗疾病的助力，也可能成为进一步加剧医患纠纷、增加医疗风险的原因。与商业领域的知情权类似，医疗算法也会产生“算法利维坦”现象，影响患者的基本权利。例如，医疗数据样本本身的局限性、算法的内在设计缺陷以及算法设计者可能存在价值偏见等问题会影响患者得到合理、公平的诊疗服务 [8] 。因数据、技术因素的嵌入，交互式人机共决机制容易导致医疗责任认定陷入困境，且进一步增加医患关系的复杂性 [9] 。另外，算法带来的便利性和准确性也存在被滥用的风险。例如，在商业领域，算法的应用能够用于剥夺消费者剩余，产生价格歧视。实践中存在经营者运用算法刻画消费者习惯以及结合各类营销方法，使得新老用户在价格待遇方面形成显著差别，从而形成大数据杀熟情况。通过算法设计对老顾客采取高定价策略，并对新客户采取低价策略，进而吸引更多新客户，同时对习惯性老客户榨取消费者剩余，形成市场份额和利润的最大化 [10] 。

算法设计理论上需服务于人类的安全和福祉，但与众多新兴技术类似，以算法为核心的数字信息和人工智能技术也蕴含着潜在的重大安全风险。算法的应用可能带来广泛的社会经济或者特定主体的生命财产损害。此类应用安全风险与算法本身的漏洞、网络安全和相关主体的意志有关。程学旗等(2024)提出依据人机融合的程度，智能算法安全包括算法自身的一元内生性安全、人机二元应用性安全、人机共生的复杂社会系统中多元系统性安全 [11] 。一元内生性安全风险与算法执行具有内在适用边界的任务不当时所涉及的物理世界中的事故有关，如自动驾驶、自动交易和其他替代性操作，一旦存在漏洞或受到干扰将造成外在损害。人机二元应用性安全交互式智能服务提供过程中所引发的安全问题，包括算法压榨、信息泄露等。人机共生的多元系统性安全涉及物理空间和网络空间与人机共同参与社会活动，如有算法介入的网络社交平台、金融交易系统等。人工智能算法面临不可解释性、后门攻击、逆向攻击、投毒攻击、逃逸攻击、对抗样本攻击等方面的潜在技术安全问题与挑战 [12] 。例如：通过在神经网络中植入后门，攻击者可对特定算法实现干扰和控制，形成神经网络算法的后门攻击，而且此类方法逐渐演化，更加具有隐蔽性和现实性；通过让深度学习模型学习有毒数据特征来改变模型的决策边界，破坏神经网络模型的完整性和可用性，影响相关算法在推荐、医保、教育等领域的应用。

对算法应用可能带来的数据和隐私保护风险受到国内外各类监管者的重视。相关区域和国家也出台了一系列代表性监管法律法规。例如《欧盟通用数据保护条例》赋予数据主体对数据处理和数据画像等行为的反对权、知情权、访问权、更正权和删除权等，用户有权获知对数据处理的事实、原因、基本算法逻辑、预期分析后果和可能产生的风险 [13] 。我国的《个人信息保护法》也赋予了企业在处理数据时需确保合法、透明、正当的义务以及个人对信息的访问、修改和删除权。为进一步加强算法数据和隐私保护，还需完善上述权利和义务的系统化保障机制。例如，对用户知情同意规则予以规范化并建立审查机制，避免用户因知情同意条款的冗长或隐蔽而忽视个人信息保护。基于数据最小化原则，审查相关算法使用数据范围的合理性，并监督其匿名化过程。

为促进算法的公平合理与合法利用，应加强对算法设计和应用的监管，抑制算法设计者或应用者利用算法黑箱违法违规的主观动机和矫正算法自身局限性带来的不合理后果。算法设计和应用监管问题的主要应对措施是加强算法透明化治理。例如，欧盟《人工智能法案》规定提高高风险人工智能系统的开发和使用的透明度，要求高风险人工智能系统以及部分使用这些系统的公共实体在欧盟高风险人工智能系统数据库中注册。欧盟《数字服务法》建立在线平台的透明机制和明确的问责框架，杜绝算法偏见威胁平台用户权益，确保平台对其算法负责，要求数字平台授权研究人员访问其算法机制和数据系统，以提高其内部运营的透明程度；超大型平台则有义务通过采取基于风险的行动和对其风险管理系统进行独立审计来防止滥用其系统 [14] 。进一步加强算法透明度需要区分客观与主观带来的算法不透明问题。首先，对客观上难以解释的算法可通过算法审计机制予以规制。算法审计在实验中模拟用户与算法的交互过程并收集算法结果从而对其诊断评估 [15] 。对于主观上不愿披露和解释算法的情况，需平衡商业秘密和知识产权保护与透明度治理的关系。相关主体应当保证算法不存在违规违法设计，并在产生争议时承担证明责任。由于算法黑箱会增加修正性参数的识别和修正难度，可通过逆向监管措施予以矫正。例如，在算法推荐领域可通过模拟实验推算算法逻辑和运行效果，并以之为依据实施监管或者处罚。这种逆向监管不要求对算法进行解释或者公开其相关参数，而是以其运行结果作出判断。

预防性原则是技术风险治理的重要原则。算法应用可能带来的人身财产损害以及其他安全问题需通过预防性机制设计避免风险的发生。由于算法应用往往具有广泛性，采取事前预防措施相较于事后的补救措施而言更具有成本收益的合理性。算法应用的预防机制主要包括对算法产品投入使用前的评估检验和应用过程中的持续监督。对此可借鉴欧盟的人工智能分级治理系统，基于不同算法的风险情况设置不同的监管措施，并对人类安全造成不可接受风险的人工智能系统采取严格的禁限措施。此类系统主要涉及有目的地操纵技术、利用人性弱点或根据各类个人特征等进行评价的系统等。为保证算法的风险评估的独立性，可通过专家咨询制度或设立相关的风险治理机构形成评估机制，明确风险评估的指标体系 [16] 。对于人工智能所实施的各类操作可能引发的风险，相关服务的提供者应该嵌入人工智能故障预警机制并构建完善的远程监督和控制体系，并确定人为控制相较于机器控制的优先性。