【每日一记10】+第7天 记一次批量处理数据库中的敏感信息
  

新手719447 3166

{{ttag.title}}
前言
    对于一些敏感数据,往往会对其加密后再入库,这个是对数据安全性的一个最为简单的措施。最常见的莫过于手机号码和身份证号了,相信还是有不少公司对这些敏感信息是明文存储的。万一被别人发现系统漏洞,或者是被拖库,最近也是发现了公司内部一个系统有这样的问题,刚发现的时候都吓了我一跳,这么赤裸裸的明文手机号和身份证号。第一反应就是要把这两个数据进行加密处理。既然要加密处理,那么正在使用的系统肯定就会受到影响,而且几千万数据,也不是几分钟就能搞定的。这个系统用的数据库是某公司的RDS(SQL Server)。
下面简单说一下老黄这边的处理方案。

如何处理
整个处理的流程是分了三个步骤:

修改数据库中的字段长度
系统要更新一个版本做兼容处理,写入要用统一的加密方法,读取的时候,要加一个长度判断,当长度大于20的时候,需要进行解密操作,这样才能确保不会把密文直接展示出去。

修改数据
之前数据库给这两个字段设置的长度都是20,现在统一调整成150。公司内部已经统一了一套加解密方法了,所以系统调整这一块是比较简单的,统一在数据层处理。剩下的就是去数据库改数据了。统一的加密方法,在数据库中没有办法直接使用,所以只能单独写个程序去处理。改数据也细分为下面3步。

读取源数据,加密相关字段
将加密的数据写入到一张临时表中,根据临时表去更新源表的相关字段,这里的最为核心的一个就是批量写入和批量更新。如果一条条更新,那不知道要等多久才能全部处理完。先是写一个控制台程序,根据Id分批次,把加密好的数据,以五千条一次写入的频率,一百万数据当成一个批次。

-- 查询校验一下
SELECT top 100 [id]     
      ,[IDCard]     
      ,[PhoneNo]
FROM dbo.yourtable WITH (NOLOCK)
where id > 0 and id <= 500000
order by id asc

-- 清除临时表的数据
truncate table dbo.enc_tmp

-- 删除索引
drop index idx_enc_tmp_id on enc_tmp
总结
  设计系统的时候,数据安全还真的是不容小觑的,对一些敏感信息还是要加密入库的。
  修改数据的过程中,也涉及到了两个知识点,数据的批量插入和批量更新。

打赏鼓励作者,期待更多好文!

打赏
2人已打赏

唐三平 发表于 2023-9-19 16:23
  
每天学习一点点,每天进步一点点。
朱墩2 发表于 2023-9-19 16:23
  
每天学习一点点,每天进步一点点。
梦境人生 发表于 2023-9-19 16:20
  
每天学习一点点,每天进步一点点。
小鱼儿 发表于 2023-9-19 16:19
  
每天学习一点点,每天进步一点点。
小西北 发表于 2023-9-19 16:11
  
每天学习一点点,每天进步一点点。
鲤鲤 发表于 2023-9-19 16:11
  
每天学习一点点,每天进步一点点。
日出 发表于 2023-9-19 16:00
  
每天学习一点点,每天进步一点点。
小德 发表于 2023-9-19 16:00
  
每天学习一点点,每天进步一点点。
飞飞侠 发表于 2023-9-19 15:53
  
每天学习一点点,每天进步一点点。
发表新帖
热门标签
全部标签>
安全效果
西北区每日一问
技术盲盒
技术笔记
干货满满
【 社区to talk】
每日一问
信服课堂视频
GIF动图学习
新版本体验
技术咨询
2023技术争霸赛专题
功能体验
产品连连看
标准化排查
通用技术
秒懂零信任
技术晨报
自助服务平台操作指引
安装部署配置
原创分享
排障笔记本
玩转零信任
排障那些事
SDP百科
技术争霸赛
深信服技术支持平台
以战代练
升级&主动服务
畅聊IT
答题自测
专家问答
技术圆桌
在线直播
MVP
网络基础知识
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
产品预警公告
信服圈儿
S豆商城资讯
「智能机器人」
追光者计划
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
山东区技术晨报
文档捉虫活动
齐鲁TV
华北区交付直播
每周精选
2024年技术争霸赛
北京区每日一练
场景专题
故障笔记
高手请过招
高频问题集锦
社区新周刊
POC测试案例
全能先锋系列
云化安全能力

本版达人

新手89785...

本周建议达人

新手78183...

本周分享达人