南非各政府部门越来越依赖数字工具来评估公共项目和监督绩效。这是更广泛的公共部门改革的一部分。其目标是提高问责制、应对审计压力，并在员工和预算有限的情况下管理大规模项目。
举个例子。追踪房屋交付、社会补助金或基础设施推广的国家部门依赖数字绩效系统，而非定期的纸质报告。仪表板——一种在一个地方显示可视化数据的方式——提供近实时的服务交付更新。
另一个例子是使用收集移动数据的平台。这些平台允许前线官员和承包商直接从现场上传信息。
这两个例子都适合使用人工智能（AI）来处理大型数据集，并生成以前需要数月才能分析的见解。
这种转变通常被描述为公共部门问责制和效率的进步。
我是一名公共政策学者，对政府项目的监督和评估有特别兴趣。我最近的研究显示了一个令人担忧的趋势，即技术转型的展开速度远快于旨在监管它的伦理和治理框架。
在我审查的案例中，数字工具已经嵌入到常规监督和评估流程中。但没有明确的标准来指导其使用。
这带来了围绕监控、排斥、数据滥用和专业判断不当的风险。这些风险并非抽象。它们塑造了公民如何体验国家、他们的数据如何被处理，以及最终谁的声音在政策决策中被计算在内。
当技术超越政策
公共部门评估涉及评估政府项目和政策。它确定：
- 公共资源是否被有效使用
- 项目是否实现其预期结果
- 公民是否能够让国家对绩效负责。
传统上，这些评估依赖于社区、评估者、政府和其他人之间的面对面互动。它们包括允许细微差别、解释和建立信任的定性方法。
数字工具改变了这一点。
在我的研究中，我采访了政府、非政府组织、学术界、专业协会和私人咨询公司的评估者。我发现一个普遍的担忧。数字系统通常在没有针对评估实践的伦理指导的情况下引入。
伦理指导将为如何在评估中使用数字工具提供明确、实用的规则。例如，在使用仪表板或自动化数据分析时，指导应要求评估者解释数据是如何生成的、谁有权访问它们，以及发现可能如何影响被评估的社区。它还应防止使用数字系统在未经同意的情况下监控个人，或以忽略背景的方式对项目进行排名。
南非的《个人信息保护法》为数据保护提供了一般的法律框架。但它没有解决当评估变得自动化、基于云和由算法中介时出现的具体伦理困境。
结果是，评估者经常在没有明确标准的情况下应对复杂的伦理领域。这迫使机构依赖先例、非正式习惯、过去的做法和软件默认设置。
监控蔓延和数据滥用
数字平台使收集大量数据成为可能。一旦数据上传到基于云的系统或第三方平台，对其存储、重用和共享的控制权往往从评估者转移到其他人手中。
几位评估者描述了这样的情况：他们代表政府部门收集的数据后来被这些部门或其他国家机构重新使用。这是在参与者没有明确意识的情况下进行的。数字环境中的同意流程通常简化为单次点击。
其他用途的例子包括其他形式的分析、报告或机构监督。
研究中出现的伦理风险之一是将这些数据用于监控。这是使用数据来监控个人、社区或前线工作人员。
数字排斥和隐形的声音
数字评估工具通常被宣传为扩大覆盖范围和参与度。但在实践中，它们可能排斥已经被边缘化的群体。互联网接入有限、数字素养低、语言障碍或基础设施不可靠的社区不太可能充分参与数字评估。
自动化工具有局限性。例如，它们可能难以处理多语言数据、当地口音或文化特定的表达形式。这导致对生活经验的部分或扭曲的表述。我研究中的评估者看到这种情况在实践中发生。
这种排斥具有严重后果，特别是在像南非这样不平等的国家。严重依赖数字工具的评估可能会发现城市、联网的人群，并使农村或非正规社区在统计上不可见。
这不仅仅是技术限制。它塑造了哪些需求被认可，以及谁的经历为政策决策提供信息。如果评估数据对最脆弱群体的代表性不足，公共项目可能看起来比实际更有效。这掩盖了结构性失败，而不是解决它们。
在我的研究中，一些评估报告了积极的绩效趋势，尽管评估者注意到数据收集方面的差距。
算法并非中立
评估者还对赋予算法输出越来越大的权威表示担忧。仪表板、自动化报告和人工智能驱动的分析通常被视为真实情况。即使它们与基于现场的知识或背景理解相冲突，也会发生这种情况。
例如，仪表板可能显示目标正在按计划进行。但在实地考察的例子中，评估者可能会发现缺陷或不满。
几位参与者报告了来自资助者或机构的压力，要求依赖对数字的分析。
然而，算法反映了嵌入其设计中的假设、数据集和优先事项。当不加批判地应用时，它们可能会重现偏见、过度简化社会动态并忽视定性见解。
如果数字系统规定了数据必须如何收集、分析和报告，评估者就有可能成为技术人员，而不是行使判断的独立专业人员。
为什么非洲需要对背景敏感的伦理
在整个非洲，关于数字技术的国家战略和政策往往大量借鉴国际框架。这些框架是在非常不同的背景下制定的。关于人工智能伦理和数据治理的全球原则提供了有用的参考点。但它们没有充分解决非洲大部分公共部门的不平等、历史不信任和不均衡的数字访问的现实。
我的研究认为，数字评估的伦理治理必须对背景敏感。标准必须解决：
- 如何获得同意
- 谁拥有评估数据
- 如何选择和审计算法工具
- 如何保护评估者的独立性。
伦理框架必须在数字系统的设计阶段嵌入。
Lesedi Senamele Matlala，公共政策、监督和评估高级讲师及研究员，约翰内斯堡大学
本文根据知识共享许可从The Conversation转载。阅读原文。
