mysql重复数据表如何根据字段去重的问题
现在有一个表,表的数据主要是有一个phone字段,这个字段会有很多重复的数据
现在我需要查出这个表的数据并根据phone这个字段去除重复数据
我现在是用group by处理 但是发现数据量大了之后有性能问题
求问下有没有什么办法可以解决
建索引,使用sphinx辅助mysql
分组统计操作放到程序中
1、如果不需要即时获取这个信息的话,可以异步处理,利用定时任务或mysql事件和存储过程来不停处理这个任务。
2、如果实时性要求高的话,可以使用redis或memcache再缓存一下。
3、海量数据的话要考虑分表,这样可以快速的获取需要的数据。
索引,分库,分表,nosql定时写库。
给phone字段加上索引
加索引
or 建分表
对于内容重复率特别高的列(如性别)加索引,并不能实现优化,反而会增加索引维护的开销.
如果phone列重复率不是那么高,可以考虑创建索引,具体用MySQL的explain来执行对该列建立索引后的查询,看看相比原来是否有更好的性能.如果发现MySQL放弃使用该列索引,那么该列应该是不适合建立索引的.
题外话:建立联合索引时,也要考虑把重复率低而又用得多的列放在前面.
为什么不先查询出来,然后在进行数组去重呢?
海量的数据不可能是要全部显示吧,可以分批处理,交由php处理
玩蛇网文章,转载请注明出处和文章网址:https://www.iplaypy.com/wenda/wd14083.html
相关文章 Recommend
- • 如何为实时性应用存取经纬度?django mysql
- • MySQL小问题,fetchone怎么返回到dict中的方法?
- • Python字典操作的问题,要删除字典内部重复值ite
- • SQLAlchemy修改了模型结构后,如何更新到已有数据
- • MAC下使用easy_install MySQL-python报错No such file or di
- • Python MySQLdb模块问题多表连接key查询
- • 要完成多台mysqlserver远程备份工作,用python怎么实
- • 求大牛帮优化一段python代码关于循环里重复sele
- • 找出python列表中重复项的方法
- • 为什么Emacs使用python程序会重复出现一些信息
- • Mac Python MySQLdb库遇到的一些问题
- • 求python添加emoji表情字符串进mysql数据库方法
您现在的位置: 玩蛇网首页 > Python问题解答 > 正文内容
我要分享到:
必知PYTHON教程 Must Know PYTHON Tutorials
- • python 解释器
- • python idle
- • python dir函数
- • python 数据类型
- • python type函数
- • python 字符串
- • python 整型数字
- • python 列表
- • python 元组
- • python 字典
- • python 集合
- • python 变量
- • python print
- • python 函数
- • python 类定义
- • python import
- • python help
- • python open
- • python 异常处理
- • python 注释
- • python continue
- • python pass
- • python return
- • python global
- • python assert
- • python if语句
- • python break
- • python for循环
- • python while循环
- • python else/elif
- • lambda匿名函数
必知PYTHON模块 Must Know PYTHON Modules
- • os 模块
- • sys 模块
- • re 正则表达式
- • time 日期时间
- • pickle 持久化
- • random 随机
- • csv 模块
- • logging 日志
- • socket网络通信
- • json模块
- • urlparse 解析URL
- • urllib 模块
- • urllib2 模块
- • robotparser 解析
- • Cookie 模块
- • smtplib 邮件
- • Base64 编码
- • xmlrpclib客户端
- • string 文本
- • Queue 线程安全
- • math数学计算
- • linecache缓存
- • threading多线程
- • sqlite3数据库
- • gzip压缩解压
最新内容 NEWS
- • django app提供pv信息的方法是什么
- • Django项目版本升级如何操作?
- • django较多数据传递如何优雅的呈现
- • django1.7获取参数问题求助
- • Django1.7使用内置comment遇到问题
- • python mysql数据库做insert操作时报_mysql_ex
- • 关于python mysql的duplicate insert机制的疑问
- • pymongo使用insert函数批量插入被中断要怎么
- • Python程序员解决棘手问题的常用库
- • 求助关于restfull api接口几个问题
图文精华 RECOMMEND
-
django1.7获取参数问题求助
-
Python程序员解决棘手问题的常用库
-
求问str()同__str__原理上有什么不同
-
scrapy框架里面用link extractor怎么能
-
python {}.fromkeys创建字典append添加操
-
python3 类型Type str doesn't support th
热点文章 HOT
- 学习Python有什么好的书籍推荐?
- Python匿名函数 Lambda表达式作用
- Python与Java、C、Ruby、PHP等编程语言有什么
- Python 正则中文网页字符串提取问题
- 如何为实时性应用存取经纬度?django my
- 想用python做个客户端,在二维码登录这个地
- 有让IDE可识别Python函数参数类型的方法吗
- Python字符串转换成列表正则疑问