位置: IT常识 - 正文

技术干货 | 一文弄懂差分隐私原理!(技术knowhow)

编辑:rootadmin
技术干货 | 一文弄懂差分隐私原理! 随着互联网的迅猛发展,网络早已融进人们日常生活的方方面面,我们的个人隐私在互联网时代几乎已经不是秘密。在数据时代,如何保护自己的隐私呢?差分隐私又是什么?小编用一篇文章带领大家了解什么是差分隐私,背后技术原理以及如何在MindSpore中实现差分隐私。如果大家看不懂也没关系,本周末晚八点(2020.6.7 20:00),MindSpore抖音直播间(抖音号:MindSpore梯度森林会)将会为大家详细讲解!差分隐私的背景

推荐整理分享技术干货 | 一文弄懂差分隐私原理!(技术knowhow),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:技术文是什么意思,技术ui,技术ai,技术文是什么意思,技术文是什么意思,技术干货分享,技术干货分享,技术ai,内容如对您有帮助,希望把文章链接给更多的朋友!

20 世纪90 年代,美国马萨诸塞州发生了著名的隐私泄露事件。该州集团保险委员会(GIC)发布了“经过匿名化处理的”医疗数据,用于公共医学研究。在数据发布之前,为了防止隐私泄露问题,特地删除了数据中所有的个人敏感信息,例如身份证号、姓名、住址。然而在1997 年,卡内基梅隆大学的博士Latanya Sweeney将匿名化的GIC数据库(包含了每位患者生日、性别、邮编)与选民登记记录相连后,成功破解了这份匿名数据,并找到了当时的马萨诸塞州州长William Weld的医疗记录。

30年后,在2018年又发生了多起隐私数据泄露事件。Facebook用户隐私数据泄露被罚款16亿美元,圆通10亿快递信息泄露,万豪酒店5亿用户开房信息泄露,华住酒店5亿条用户数据疑似泄露,国泰航空940万乘客数据等等,隐私泄露问题层出不穷,隐私保护当是重中之重。

隐私保护的目的

我们希望,数据使用隐私保护技术后,可以安全发布,攻击者难以去匿名化,同时又最大限度的保留原始数据的整体信息,保持其研究价值。当前的研究热点主要在两个方面:

隐私保护技术能提供何种强度的保护,能够抵御何种强度的攻击;

如何在保护隐私的同时,最大限度地保留原数据中的有用信息。

差分隐私的基本概念

差分隐私是Dwork在2006年针对统计数据库的隐私泄露问题提出的一种新的隐私定义,目的是使得数据库查询结果对于数据集中单个记录的变化不敏感。简单来说,就是单个记录在或者不在数据集中,对于查询结果的影响微乎其微。那么攻击者就无法通过加入或减少一个记录,观察查询结果的变化来推测个体的具体信息。

举个例子,当不使用差分隐私技术时,我们查询A医院数据库,查询今日就诊的100个病人患病情况,返回10人患肺癌,同时查询99个病人患病情况,返回9个人患肺癌,那就可以推测剩下1个人张三患有肺癌,这个就暴露了张三的个人隐私了。使用差分隐私技术后,查询A医院的数据库,查询今日就诊的100个病人患病情况,返回肺癌得病率9.80%,查询今日就诊的99个病人患病情况,返回肺癌得病率9.81%,因此无法推测剩下1个人张三是否患有肺癌。

在机器学习中,机器学习算法一般是用大量数据并更新模型参数,学习数据特征。理想情况下,这些算法学习到一些泛化性较好的模型。然而,机器学习算法并不会区分通用特征还是个体特征。当我们用机器学习来完成某个重要的任务,例如肺癌诊断,发布的机器学习模型可能在无意中透露训练集中的个体特征,恶意攻击者可能从发布的模型获得关于张三的隐私信息,因此使用差分隐私技术来防止机器学习模型泄露个人隐私数据是十分必要的。

差分隐私的定义

图1 随机算法在邻近数据集上的概率

差分隐私有两个重要的优点:

差分隐私假设攻击者能够获得除目标记录以外的所有其他记录信息,这些信息的总和可以理解为攻击者能够掌握的最大背景知识,在这个强大的假设下,差分隐私保护无需考虑攻击者所拥有的任何可能的背景知识。

差分隐私建立在严格的数学定义上,提供了可量化评估的方法。因此差分隐私保护技术是一种公认的较为严格和健壮的隐私保护机制。

如何实现差分隐私

差分隐私如此优秀,那具体怎么实现呢?一个很自然而然的想法是“加噪声”。差分隐私可以通过加适量的干扰噪声来实现,目前常用的添加噪音的机制有拉普拉斯机制和指数机制。其中拉普拉斯机制用于保护数值型的结果,指数机制用于保护离散型的结果。

那什么叫适量的噪声,多少才是合适的,如何衡量呢?加入噪声的量和数据集是有关系的,年龄数据集的数据间差异就没有工资数据集的数据差异大,要添加的噪声的量就不一致。敏感度是决定该加多少噪声的重要因素。

敏感度

敏感度指数据集中删除任意一条记录对查询结果产生的最大影响。在差分隐私中有两种敏感度,全局敏感度和局部敏感度。

差分隐私的应用

看了以上的数学推到是不是头昏眼花了呢,其实简单来说,差分隐私的本质是"加噪",任何需要隐私保护的算法都可以使用差分隐私,由于差分隐私的串并联原理,只要算法中的每一个步骤都满足差分隐私要求,那么这个算法的最终结果将满足差分隐私特性。因此,差分隐私可以在算法流程中的任意步骤。

技术干货 | 一文弄懂差分隐私原理!(技术knowhow)

其实差分隐私在1977年就提出了,但是真正让它声名大噪的是2016年苹果软件工程副总裁克雷格•费德里希(Craig Federighi)在WWDC大会上宣布苹果使用本地化差分隐私技术来保护IOS、MAC用户隐私。在多个场景中成功部署差分隐私,在保护用户隐私的同时,提升用户体验。

例如,使用差分隐私技术收集用户统计用户在不同语言环境中的表情符号使用情况,改进QuickType对表情符号的预测能力。根据用户键盘输入学习新单词、外来词,更新设备内字典改善用户键盘输入体验。又例如,根据使用差分隐私技术收集用户在Safari应用使用中高频的高内存占用型、高耗能型域名,在IOS和macOS High Sieera系统里在这些网站加载时提供更多资源,以提升用户浏览体验。另外,谷歌也利用本地化差分隐私保护技术从Chrome浏览器每天采集超过1400万用户行为统计数据。

除了工业界的工程应用,差分隐私的学术研究更为广泛。目前推荐系统、社交网络分析、知识迁移、联邦学习等场景下都有差分隐私的踪迹。

MindSpore中的差分隐私实现

在MindArmour的差分隐私模块Differential-Privacy中,实现了差分隐私优化器。目前支持基于高斯机制的差分隐私SGD、Momentum优化器,同时还提供RDP(R'enyi Differential Privacy)用于监测差分隐私预算。

这里以LeNet模型为例,说明如何在MindSpore上使用差分隐私优化器训练神经网络模型。

本例面向CPU、GPU、Ascend 910 AI处理器你可以在这里下载完整的样例代码<https://gitee.com/mindspore/mindarmour/blob/master/example/mnist_demo/lenet5_dp_model_train.py

导入需要的库文件

下列是我们需要的公共模块及MindSpore的模块。

import osimport argparseimport mindspore.nn as nnfrom mindspore import contextfrom mindspore.train.callback import ModelCheckpointfrom mindspore.train.callback import CheckpointConfigfrom mindspore.train.callback import LossMonitorfrom mindspore.nn.metrics import Accuracyfrom mindspore.train.serialization import load_checkpoint, load_param_into_netimport mindspore.dataset as dsimport mindspore.dataset.transforms.vision.c_transforms as CVimport mindspore.dataset.transforms.c_transforms as Cfrom mindspore.dataset.transforms.vision import Interimport mindspore.common.dtype as mstypefrom mindarmour.diff_privacy import DPModelfrom mindarmour.diff_privacy import DPOptimizerClassFactoryfrom mindarmour.diff_privacy import PrivacyMonitorFactoryfrom mindarmour.utils.logger import LogUtilfrom lenet5_net import LeNet5from lenet5_config import mnist_cfg as cfg

配置环境信息

1.使用parser模块,传入运行必要的信息,如运行环境设置、数据集存放路径等,这样的好处是,对于经常变化的配置,可以在运行代码时输入,使用更加灵活。

parser = argparse.ArgumentParser(description='MindSpore MNIST Example')parser.add_argument('--device_target', type=str, default="Ascend", choices=['Ascend', 'GPU', 'CPU'], help='device where the code will be implemented (default: Ascend)')parser.add_argument('--data_path', type=str, default="./MNIST_unzip", help='path where the dataset is saved')parser.add_argument('--dataset_sink_mode', type=bool, default=False, help='dataset_sink_mode is False or True')parser.add_argument('--micro_batches', type=float, default=None, help='optional, if use differential privacy, need to set micro_batches')parser.add_argument('--l2_norm_bound', type=float, default=1, help='optional, if use differential privacy, need to set l2_norm_bound')parser.add_argument('--initial_noise_multiplier', type=float, default=0.001, help='optional, if use differential privacy, need to set initial_noise_multiplier')args = parser.parse_args()

2.配置必要的信息,包括环境信息、执行的模式、后端信息及硬件信息。

context.set_context(mode=context.PYNATIVE_MODE,device_target=args.device_target, enable_mem_reuse=False)

预处理数据集

加载数据集并处理成MindSpore数据格式。

def generate_mnist_dataset(data_path, batch_size=32, repeat_size=1,num_parallel_workers=1, sparse=True): """ create dataset for training or testing """ # define dataset ds1 = ds.MnistDataset(data_path) # define operation parameters resize_height, resize_width = 32, 32 rescale = 1.0 / 255.0 shift = 0.0 # define map operations resize_op = CV.Resize((resize_height, resize_width), interpolation=Inter.LINEAR) rescale_op = CV.Rescale(rescale, shift) hwc2chw_op = CV.HWC2CHW() type_cast_op = C.TypeCast(mstype.int32) # apply map operations on images if not sparse: one_hot_enco = C.OneHot(10) ds1 = ds1.map(input_columns="label", operations=one_hot_enco, num_parallel_workers=num_parallel_workers) type_cast_op = C.TypeCast(mstype.float32) ds1 = ds1.map(input_columns="label", operations=type_cast_op, num_parallel_workers=num_parallel_workers) ds1 = ds1.map(input_columns="image", operations=resize_op, num_parallel_workers=num_parallel_workers) ds1 = ds1.map(input_columns="image", operations=rescale_op, num_parallel_workers=num_parallel_workers) ds1 = ds1.map(input_columns="image", operations=hwc2chw_op, num_parallel_workers=num_parallel_workers) # apply DatasetOps buffer_size = 10000 ds1 = ds1.shuffle(buffer_size=buffer_size) ds1 = ds1.batch(batch_size, drop_remainder=True) ds1 = ds1.repeat(repeat_size) return ds1

建立模型

这里以LeNet模型为例,你也可以根据需求建立训练自己的模型。

from mindspore import nnfrom mindspore.common.initializer import TruncatedNormaldef conv(in_channels, out_channels, kernel_size, stride=1, padding=0): weight = weight_variable() return nn.Conv2d(in_channels, out_channels, kernel_size=kernel_size, stride=stride, padding=padding, weight_init=weight, has_bias=False, pad_mode="valid")def fc_with_initialize(input_channels, out_channels): weight = weight_variable() bias = weight_variable() return nn.Dense(input_channels, out_channels, weight, bias)def weight_variable(): return TruncatedNormal(0.02)class LeNet5(nn.Cell): """ Lenet network """ def __init__(self): super(LeNet5, self).__init__() self.conv1 = conv(1, 6, 5) self.conv2 = conv(6, 16, 5) self.fc1 = fc_with_initialize(16*5*5, 120) self.fc2 = fc_with_initialize(120, 84) self.fc3 = fc_with_initialize(84, 10) self.relu = nn.ReLU() self.max_pool2d = nn.MaxPool2d(kernel_size=2, stride=2) self.flatten = nn.Flatten() def construct(self, x): x = self.conv1(x) x = self.relu(x) x = self.max_pool2d(x) x = self.conv2(x) x = self.relu(x) x = self.max_pool2d(x) x = self.flatten(x) x = self.fc1(x) x = self.relu(x) x = self.fc2(x) x = self.relu(x) x = self.fc3(x) return x

加载LeNet网络,定义损失函数、配置checkpoint、用上述定义的数据加载函数generate_mnist_dataset载入数据。

network = LeNet5()net_loss = nn.SoftmaxCrossEntropyWithLogits(is_grad=False, sparse=True, reduction="mean")config_ck = CheckpointConfig(save_checkpoint_steps=cfg.save_checkpoint_steps, keep_checkpoint_max=cfg.keep_checkpoint_max)ckpoint_cb = ModelCheckpoint(prefix="checkpoint_lenet", directory='./trained_ckpt_file/', config=config_ck)ds_train = generate_mnist_dataset(os.path.join(args.data_path, "train"), cfg.batch_size, cfg.epoch_size)

引入差分隐私

1.配置差分隐私优化器的参数。

设置数据集batch size。

实例化差分隐私工厂类。

设置差分隐私的噪声机制,目前支持固定标准差的高斯噪声机制:Gaussian和自适应调整标准差的自适应高斯噪声机制:AdaGaussian。

设置优化器类型,目前支持SGD和Momentum。

设置差分隐私预算监测器RDP,用于观测每个step中的差分隐私预算  的变化。

gaussian_mech = DPOptimizerClassFactory(args.micro_batches)gaussian_mech.set_mechanisms('Gaussian', norm_bound=args.l2_norm_bound, initial_noise_multiplier=args.initial_noise_multiplier)net_opt = gaussian_mech.create('Momentum')(params=network.trainable_params(), learning_rate=cfg.lr, momentum=cfg.momentum)rdp_monitor = PrivacyMonitorFactory.create('rdp', num_samples=60000, batch_size=16, initial_noise_multiplier=5, target_delta=0.5, per_print_times=10)

2.将LeNet模型包装成差分隐私模型,只需要将网络传入DPModel即可。

model = DPModel(micro_batches=args.micro_batches, norm_clip=args.l2_norm_bound, dp_mech=gaussian_mech.mech, network=network, loss_fn=net_loss, optimizer=net_opt, metrics={"Accuracy": Accuracy()})

3.模型训练与测试。

LOGGER.info(TAG, "============== Starting Training ==============")model.train(cfg['epoch_size'], ds_train, callbacks=[ckpoint_cb, LossMonitor(), rdp_monitor],dataset_sink_mode=args.dataset_sink_mode)LOGGER.info(TAG, "============== Starting Testing ==============")ckpt_file_name = 'trained_ckpt_file/checkpoint_lenet-10_1875.ckpt'param_dict = load_checkpoint(ckpt_file_name)load_param_into_net(network, param_dict)ds_eval = generate_mnist_dataset(os.path.join(args.data_path, 'test'), batch_size=cfg.batch_size)acc = model.eval(ds_eval, dataset_sink_mode=False)LOGGER.info(TAG, "============== Accuracy: %s ==============", acc)

4.结果展示

不加差分隐私的Lenet模型精度稳定在99%,加了自适应差分隐私AdaDP的Lenet模型收敛,精度稳定在96%,加了非自适应差分隐私DP的LeNet模型收敛,精度稳定在94%左右。

图4 训练结果对比展示

本文链接地址:https://www.jiuchutong.com/zhishi/298648.html 转载请保留说明!

上一篇:css特效:流光背景+动态边框+滑动效果+聚集效果+小耳朵+阴影流光效果(html流光按钮)

下一篇:小程序和H5页面的相互跳转(小程序和h5页面的区别)

  • 华为Nova9se和nova8se有什么不同(华为nova9se和nova8se手机壳一样嘛)

    华为Nova9se和nova8se有什么不同(华为nova9se和nova8se手机壳一样嘛)

  • 小米平板5pro横屏竖屏切换在哪里(小米平板5pro横屏模式不能全屏)

    小米平板5pro横屏竖屏切换在哪里(小米平板5pro横屏模式不能全屏)

  • 华为二代手写笔怎么充电(华为二代手写笔发售时间)

    华为二代手写笔怎么充电(华为二代手写笔发售时间)

  • 小米6手环nfc功能怎么开启(小米6手环nfc功能使用教程)

    小米6手环nfc功能怎么开启(小米6手环nfc功能使用教程)

  • 苹果13pro怎么改锁屏密码(苹果13pro怎么改铃声)

    苹果13pro怎么改锁屏密码(苹果13pro怎么改铃声)

  • 一个手机号可以注册多少个微信(一个手机号可以绑定几个qq)

    一个手机号可以注册多少个微信(一个手机号可以绑定几个qq)

  • 华为荣耀20青春版耳机孔在哪(华为荣耀20青春版多少钱一台)

    华为荣耀20青春版耳机孔在哪(华为荣耀20青春版多少钱一台)

  • 情侣黄钻可以不显示么(情侣黄钻可以不让别人看吗)

    情侣黄钻可以不显示么(情侣黄钻可以不让别人看吗)

  • mate30pro指纹解锁颜色可以换吗(mate30pro指纹解锁效果)

    mate30pro指纹解锁颜色可以换吗(mate30pro指纹解锁效果)

  • macbook保修期多久(macbook保修期内哪些免费)

    macbook保修期多久(macbook保修期内哪些免费)

  • 外星人是戴尔旗下的吗(外星人是戴尔的子公司吗)

    外星人是戴尔旗下的吗(外星人是戴尔的子公司吗)

  • 充电宝可以边充电边充手机吗(充电宝可以边充电边玩手机吗)

    充电宝可以边充电边充手机吗(充电宝可以边充电边玩手机吗)

  • 视频转码中要多长时间(视频转码需要什么配置)

    视频转码中要多长时间(视频转码需要什么配置)

  • 手机云服务可以关闭吗(手机云服务可以定位别人吗)

    手机云服务可以关闭吗(手机云服务可以定位别人吗)

  • 桥接和路由的区别(桥接和路由哪个网速快)

    桥接和路由的区别(桥接和路由哪个网速快)

  • 戴尔进bios快捷键(dell进入bios快捷键 win10)

    戴尔进bios快捷键(dell进入bios快捷键 win10)

  • 路由器的原始密码是多少(路由器的原始密码怎么查)

    路由器的原始密码是多少(路由器的原始密码怎么查)

  • 傲腾内存是内存条吗(傲腾内存是不是内存条)

    傲腾内存是内存条吗(傲腾内存是不是内存条)

  • 辅助解封微信有坏处吗(辅助解封微信有时间限制吗)

    辅助解封微信有坏处吗(辅助解封微信有时间限制吗)

  • oppo怎么自己设计主题(oppo怎么自己设置动态壁纸图片)

    oppo怎么自己设计主题(oppo怎么自己设置动态壁纸图片)

  • word文档怎么打印大字(word文档怎么打出分数形式)

    word文档怎么打印大字(word文档怎么打出分数形式)

  • 抖音如何上传完整视频(抖音如何上传完整歌曲)

    抖音如何上传完整视频(抖音如何上传完整歌曲)

  • 苹果xsmax怎么双卡双待(苹果xsmax怎么双卡不显示)

    苹果xsmax怎么双卡双待(苹果xsmax怎么双卡不显示)

  • airpods为什么闪蓝光(airpods为什么闪灯)

    airpods为什么闪蓝光(airpods为什么闪灯)

  • 收藏在手机哪里找(手机收藏的东西在哪里找)

    收藏在手机哪里找(手机收藏的东西在哪里找)

  • m1mac恢复出厂设置教程(m1 mac 恢复出厂)

    m1mac恢复出厂设置教程(m1 mac 恢复出厂)

  • 增值税和所得税地方留存比例
  • 跨年度的租金收入如何入账
  • 居民个税和非居民个税哪个高
  • 去税务局开增值税专用发票需要缴费吗
  • 两个日期连在一起怎么写
  • 个税申报数据有误,如何快速更正
  • 企业一般户怎么注销
  • 办公室提前退租未摊完的装修费如何处理
  • 新注册公司开银行卡流程
  • 母子公司间提供保洁保安合法吗
  • 股权投资损失账务处理
  • 股息和资本利得的区别
  • 进口设备贴息政策2019
  • 合作社 注销
  • 工商不变新股东是什么
  • 房地产企业的收入信息披露范围进一步扩大
  • 免租金政策
  • 估价入账是什么意思
  • 免抵退转免税账务处理
  • 公司合作建房什么意思
  • 发票税率开错怎么处理?
  • 售后返租税收规定
  • 资本公积账务重组
  • 企业对外投资需要哪些审批
  • 外币投入资本不产生汇兑损益
  • 抄报税失败是怎么回事
  • 暂估成本后第二年收到发票怎么做账
  • 季度所得税弥补亏损
  • 已经认证的发票怎么冲红
  • 政府补助调增还是调减
  • 预收款交税未开发票申报表怎么
  • php 文件操作
  • 免费投放资产收益的平台
  • 财政应返还额度是什么意思?
  • 现金盘盈后的财务分析
  • 出售解除监管协议书
  • 土地增值税的意思
  • php做登录界面连接数据库
  • 折旧与摊销会计分录
  • 深度学习:图像去雨网络实现Pytorch (二)一个简单实用的基准模型(PreNet)实现
  • vue 插槽详解
  • 比肩美国
  • 企业成本核算应遵循
  • 增值税普通发票税率
  • 按摊余成本计量的应收账款
  • 母子公司资产划转的涉税问题
  • 简易计税项目可抵扣吗
  • 织梦面包屑导航最后的分隔符大于号去掉方法
  • 收支平衡表怎么做工厂表格
  • access参数查询怎么弄
  • 个税返还手续费政策
  • 安全生产费用应当专户储存专款专用专户核算
  • 未支付怎么取消
  • 个体工商户不经营需要税务登记吗
  • 销售返现如何做账务处理
  • 检验费用会计分录
  • 税种的分类方法有哪些
  • 购货方尚未偿付的货款属于什么会计科目
  • 电子税务局财务报表在哪里查询
  • 合并两公司的帐务处理
  • 固定资产报废由谁审批
  • 通过SQL绘制杨辉三角的实现方法介绍
  • macbookpro蓝牙找不到
  • linux终端基础命令
  • 常用的网络操作命令
  • mac视频预览图不显示
  • linux 查看指定行
  • win8.1拨号上网
  • 电子书进不去系统原因
  • win8怎么改系统
  • scrollview怎么用
  • python提供三种基本数值类型
  • python itcast
  • javascript获取数据类型
  • javascript语言基础
  • 原生javascript
  • 浙江省网上税务局app下载
  • 演艺明星
  • 湖南城乡居民医疗保险咨询电话
  • 乌鲁木齐交通服务电话
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设