如何去除数据表中的重复数据

　2007-02-13 10:53:37　来源：WEB开发网　闂傚倸鍊搁崐鎼佸磹妞嬪孩顐芥慨姗嗗厳缂傛氨鎲稿鍫罕闂備礁婀遍搹搴ㄥ窗閺嶎偆涓嶆い鏍仦閻撱儵鏌ｉ弴鐐测偓鍦偓姘炬嫹

闂傚倸鍊搁崐鎼佸磹妞嬪海鐭嗗〒姘ｅ亾妤犵偛顦甸弫鎾绘偐閹绘帞鈧參姊哄Ч鍥х仼闁诲繑鑹鹃悾鐑藉蓟閵夛妇鍘甸梺瑙勵問閸犳牠銆傛總鍛婄厱閹艰揪绱曟牎闂侀潧娲ょ€氫即鐛幒妤€绠ｆ繝闈涘暙娴滈箖鏌ｉ姀鈶跺湱澹曟繝姘厵闁绘劦鍓氶悘杈ㄤ繆閹绘帞澧涚紒缁樼洴瀹曞崬螖閸愬啠鍓濈换娑樼暆婵犱胶鏁栫紓浣介哺閹瑰洤鐣烽幒鎴僵闁瑰吀鐒﹂悗鎼佹⒒娴ｇ儤鍤€闁搞倖鐗犻獮蹇涙晸閿燂拷

濠电姷鏁告慨鐑藉极閸涘﹥鍙忔い鎾卞灩缁狀垶鏌涢幇闈涙灈鐎瑰憡绻冮妵鍕箻鐎靛摜鐣奸梺纭咁潐濞茬喎顫忕紒妯肩懝闁逞屽墮宀ｈ儻顦查悡銈夋煏閸繃鍋繛宸簻鎯熼梺瀹犳〃閼冲爼宕濋敃鈧—鍐Χ閸℃鐟愰梺鐓庡暱閻栧ジ宕烘繝鍥у嵆闁靛骏绱曢崢顏堟⒑閹肩偛鍔楅柡鍛⊕缁傛帟顦寸紒杈ㄥ笚濞煎繘鍩℃担閿嬵潟闂備浇妗ㄩ悞锕傚箲閸ヮ剙鏋侀柟鍓х帛閺呮悂鏌ㄩ悤鍌涘闂傚倸鍊搁崐鎼佸磹妞嬪孩顐芥慨姗嗗厳缂傛氨鎲稿鍫罕闂備礁婀遍搹搴ㄥ窗閺嶎偆涓嶆い鏍仦閻撱儵鏌ｉ弴鐐测偓鍦偓姘炬嫹　　闂傚倸鍊搁崐鎼佸磹閻戣姤鍤勯柤鍝ユ暩娴犳氨绱撻崒娆掑厡缂侇噮鍨堕妴鍐川閺夋垹鍘洪悗骞垮劚椤︻垶宕￠幎鑺ョ厪闊洦娲栨牎闂佽瀵掗崜鐔奉潖閾忓湱纾兼俊顖氭惈椤矂姊洪崷顓涙嫛闁稿妫濋幆鈧い蹇撴祩濡嫰姊洪崫鍕拱婵炲弶岣块幑銏犫攽婵犲嫮鏉搁梺鍝勬川婵兘鎮伴妷鈺傗拻濞达絽鎼敮璺侯熆閻熷府鏀荤紒鍌氱Т楗即宕煎锝呬壕闁哄啫鐗嗙粈鍐┿亜韫囧海顦﹀ù婊堢畺閺屻劌鈹戦崱娑扁偓妤€顭胯閸犳牠婀侀梺缁樕戦悷銉р偓姘煎枤缁粯銈ｉ崘鈺冨幈濡炪倖鍔戦崐鏇㈠几鎼淬劍鐓熼煫鍥ь儏閸旀粓鏌曢崶褍顏€殿喗娼欒灒闁告繂瀚濠碉紕鍋戦崐鎴﹀垂濞差亝鍋￠柍鍝勬噹缁犳牠鏌嶉埡浣告殲闁稿海鍠栭弻鏇㈠炊瑜嶇花濠氭煙閸戙倖瀚�

核心提示：通常情况下，一个我们在做一个产品的时候，如何去除数据表中的重复数据，一开始可能由于设计考虑不周或者程序写的不够严谨，某个字段上的值产生重复了，来看看用IGNORE的方式：mysql> LOAD DATA INFILE '/tmp/user.txt' IGNORE INTO TABLE `user`

通常情况下，一个我们在做一个产品的时候，一开始可能由于设计考虑不周或者程序写的不够严谨，某个字段上的值产生重复了，但是又必须去掉，这个时候就稍微麻烦了一点，直接加一个UNIQUE KEY肯定是不行了，因为会报错。

现在，我们来采用一种变通的办法，不过可能会丢失一些数据 :)

在这里，我们设定一个表，其结构如下：

mysql> desc `user`;
+-------+------------------+------+-----+---------+----------------+
| Field | Type　　　　　　 | Null | Key | Default | Extra　　　　　|
+-------+------------------+------+-----+---------+----------------+
| id　　| int(10) unsigned | NO　 | PRI | NULL　　| auto_increment |
| name　| char(10)　　　　 | NO　 |　　 |　　　　 |　　　　　　　　|
| extra | char(10)　　　　 | NO　 |　　 |　　　　 |　　　　　　　　|
+-------+------------------+------+-----+---------+----------------+

原来表中的数据假定有以下几条：

mysql> SELECT * FROM `user`;
+----+-------+--------+
| id | name　| extra　|
+----+-------+--------+
|　1 | user1 | user1　|
|　2 | user2 | user2　|
|　3 | user3 | user3　|
|　4 | user4 | user4　|
|　5 | user5 | user5　|
|　6 | user3 | user6　|
|　7 | user6 | user7　|
|　8 | user2 | user8　|
|　9 | USER2 | user9　|
| 10 | USER6 | user10 |
+----+-------+--------+

1、将原来的数据导出

mysql>SELECT * INTO OUTFILE '/tmp/user.txt' FROM `user`;

2、清空数据表

mysql>TRUNCATE TABLE `user`;

3、创建唯一索引，并且修改 `name` 字段的类型为BINARY CHAR区分大小写

mysql> ALTER TABLE `user` MODIFY `name` CHAR(10) BINARY NOT NULL DEFAULT '';
mysql> ALTER TABLE `user` ADD UNIQUE KEY ( `name` );

现在来看看新的表结构：

mysql> desc user;
+-------+------------------+------+-----+---------+----------------+
| Field | Type　　　　　　 | Null | Key | Default | Extra　　　　　|
+-------+------------------+------+-----+---------+----------------+
| id　　| int(10) unsigned | NO　 | PRI | NULL　　| auto_increment |
| name　| char(10)　　　　 | NO　 | UNI |　　　　 |　　　　　　　　|
| extra | char(10)　　　　 | NO　 |　　 |　　　　 |　　　　　　　　|
+-------+------------------+------+-----+---------+----------------+

4、把数据导回去，在这里，有两种选择：新的重复记录替换旧的记录，只保留最新的记录或者是新的记录略过，只保留最旧的记录

mysql> LOAD DATA INFILE '/tmp/user.txt' REPLACE INTO TABLE `user`;
Query OK, 10 rows affected (0.00 sec)
Records: 8　Deleted: 2　Skipped: 0　Warnings: 0
mysql> SELECT * FROM USER;
+----+-------+--------+
| id | name　| extra　|
+----+-------+--------+
|　1 | user1 | user1　|
|　8 | user2 | user8　|
|　6 | user3 | user6　|
|　4 | user4 | user4　|
|　5 | user5 | user5　|
|　7 | user6 | user7　|
|　9 | USER2 | user9　|
| 10 | USER6 | user10 |
+----+-------+--------+

上面是采用REPLACE的方式，可以看到，导入过程中删掉了两条数据，结果验证确实是新的重复记录替换旧的记录，只保留最新的记录。

现在，来看看用IGNORE的方式：

mysql> LOAD DATA INFILE '/tmp/user.txt' IGNORE INTO TABLE `user`;
Query OK, 6 rows affected (0.01 sec)
Records: 8　Deleted: 0　Skipped: 2　Warnings: 0
mysql> SELECT * FROM USER;
+----+-------+--------+
| id | name　| extra　|
+----+-------+--------+
|　1 | user1 | user1　|
|　2 | user2 | user2　|
|　3 | user3 | user3　|
|　4 | user4 | user4　|
|　5 | user5 | user5　|
|　7 | user6 | user7　|
|　9 | USER2 | user9　|
| 10 | USER6 | user10 |
+----+-------+--------+

看到了吧，确实是新的记录略过，只保留最旧的记录。