来自伦敦大学皇家霍洛威学院信息安全系的一组研究人员强调了旨在帮助人们从互联网上永久删除基于图像的性虐待（IBSA）材料（如未经同意的亲密图像）的技术的主要隐私风险。
这些发现发表在《IEEE安全与隐私》杂志上，揭示了目前用于识别和删除滥用内容的技术如何受到生成式人工智能的攻击，从而可能使易受攻击的用户处于危险之中。
研究小组专注于“感知哈希”，即在不存储和分发原始文件的情况下，创建图像的“数字指纹”来检测有害内容的方法。大多数在线平台（尤其是社交媒体网站）都会保存已知滥用图片的哈希列表，以便检测和防止重新上传的副本。
此外，由国家失踪和受虐儿童中心（NCMEC）运营的“Take It Down”等工具使用户能够在一个地方自我报告IBSA。为此，用户可以上传图像的感知散列，然后与Facebook和OnlyFans等合作平台共享。
然而，最近发表的论文表明，感知哈希并不像预期的那样不可逆转，这破坏了IBSA删除工具在其FAQ页面上所声称的隐私保证。
在信息安全部门博士研究员Sophie Hawkes的带领下，研究小组检查了四种广泛使用的感知哈希函数，包括Facebook的PDQ哈希（被“Take It Down”使用）和苹果的NeuralHash，并发现它们都很容易受到逆转攻击。
更具体地说，很明显，对抗性地使用生成人工智能可以近似地重建原始图像材料。Hawkes解释说：“我们的发现挑战了感知哈希本身足以确保图像隐私的假设，而是感知哈希应该像原始图像一样被安全对待。”
考虑到IBSA内容的敏感性和这些工具旨在保护的易受攻击的用户群体，这一点尤其令人担忧。合著者Maryam Mehrnezhad博士（皇家霍洛威学院）和Teresa Almeida博士（里斯本大学）说：“现代技术的危害可以以复杂的方式展现出来。虽然IBSA的风险并不局限于任何人口统计数据，但某些群体（如儿童）可能面临更大的风险，包括心理伤害和对其安全的危险。因此，在解决这些风险时，设计安全可靠的工具至关重要。”
研究人员认为，像“Take It Down”这样的服务目前的设计是不够的，并强调需要更强大的数据保护措施，例如使用像私人集合交集（PSI）这样的加密协议。通过使用PSI，可以在不暴露敏感数据的情况下启用安全哈希匹配。这将确保一个更注重隐私的解决方案，以删除有害内容，保护易受攻击的用户。
然而，目前，研究人员建议用户仔细考虑感知散列的风险，并在提交报告时做出明智的决定。特别是，用户应该考虑到在线发布图像的风险以及从报告散列值重构图像的风险。
虽然在报告已经在网上共享的图像的散列时可能不会有重大的隐私损失，但主动报告图像可能是一个问题。
遵循负责任的披露程序，研究人员已经提醒NCMEC他们的发现，敦促服务提供商优先实施更安全的解决方案，以确保用户隐私。
此外，研究人员提倡提高透明度，以便用户在决定是否使用基于感知哈希的IBSA报告工具时，可以在隐私和安全之间做出明智的决定。
来自信息安全部门的合著者Christian Weinert博士总结道：“未来在这一领域的工作将需要技术设计师、政策制定者、执法部门、教育工作者，以及最重要的，IBSA的受害者和幸存者的共同努力，为所有人创造更好的解决方案。”
