数据库插入速度能有50W每秒吗

写入速度

• MySQL每秒可以插入50w条记录吗?
• 带着疑问，我们一起看看mysql每秒可以插入多少条记录?
• 要回答这个问题，首先要考虑影响mysql插入速度的因素有哪些?

硬盘的速度，网卡的速度，写入行的数据量，数据在硬盘中的存放位置等等因素。

简单的数据，插入速度肯定快，复杂的插入肯定慢。

所以单纯这个问题不好回答，最好的办法是进行压力测试，最后求一个平均值。

一 测试环境：

MySQL表结构

1. CREATE TABLE `user_10w` ( 
2.   `id` int(10) NOT NULL AUTO_INCREMENT, 
3.   `name` varchar(20) DEFAULT NULL, 
4.   `mobile` varchar(11) DEFAULT NULL, 
5.   `add_time` int(11) DEFAULT NULL, 
6.   `groupid` tinyint(1) DEFAULT NULL, 
7.   `login_time` int(11) DEFAULT NULL, 
8.   PRIMARY KEY (`id`) 
9. ) ENGINE=MyISAM AUTO_INCREMENT=4730016 DEFAULT CHARSET=utf8mb4 

电脑配置

4核 Intel(R) Core(TM) i3-8100 CPU @ 3.60GHz

ssd 120G硬盘

二. 开始测试

说明：单机测试，不涉及网卡，网络传输的影响

测试程序php pdo

1. include_once("tool.php"); 
2. $dsn = 'mysql:dbname=demo;host=127.0.0.1'; 
3. $user = 'root'; 
4. $pass = 'root'; 
5. try{ 
6.         $hand = new PDO($dsn, $user, $pass); 
7. }catch(PDOException $e){ 
8.         echo 'Connection failed: ' . $e->getMessage(); 
9. } 
10. $query = $hand->prepare("insert into user_10w(name,mobile,add_time,groupid,last_login_time) values(?,?,?,?,?)"); 
11. $n=0; 
12. $count = 1000000; //每次插入100w 
13. $t = time(); 
14. echo 'start write,time is '. $t. "\\n"; 
15. while(true){ 
16. $n++; 
17. $name = Tool::getRandomStr(5); 
18. $mobile = Tool::getRandNum(9); 
19. $group = Tool::getRandNum(1); 
20. $rs = $query->execute([$name,'13'.$mobile,time(),$group,time()]); 
21. if($n>$count)break; 
22. } 
23. echo 'write end, time is '. (time()-$t) . "\\n"; 

1.无任何索引，单进程

1. start write,time is 1593338798 
2. write end, time is 50 

耗时50s， 平均2w/秒

2. 给name添加普通索引

1. write end, time is 60  
2. root@test:/data/php# php7 pdo.php  
3. start write,time is 1593393695  
4. write end, time is 61 

大概慢了10s ，所以索引会导致插入变慢，因为要更新索引

负载

3. 多进程测试

用go写了一个简单的多进程执行程序

1. package main 
2.  
3. import( 
4.         "os/exec" 
5.         "sync" 
6. ) 
7. var wg sync.WaitGroup 
8. func testRun(wg *sync.WaitGroup){ 
9.         c := exec.Command("php7", "./pdo.php") 
10.         c.Run() 
11.         wg.Done() 
12. } 
13. func main(){ 
14.         var n int = 10 
15.         wg.Add(n) 
16.         for i:=0;i
17.                 go testRun(&wg) 
18.         } 
19.         wg.Wait(); 
20. } 

4进程负载

结果：

耗时115s ，插入速度平均3.4w/s

MySQL锁表状态

mysql status

10进程一起执行

10进程

耗时5‘10“ ，插入速度大概3.2w/s

MySQL锁表状态

MySQL status

最后：

• 可见，插入速度并没有网上说的那么高，随着进程数增多，锁冲突逐渐增加，插入效率下降。
• 通过存储过程批量进行插入 ，插入速度应该会更高，但在实际高并发应用中使用并不多!
• 抛开业务，单纯测这个好像没什么意义，一定要结合业务复杂度，性能需求来做测试，做优化。
• 通过分布式、拆表提高并发量。

不足之处，请各位指正。

数据库是一个 单位或是一个应用领域的通用数据处理系统，它存储的是属于企业和事业部门、 团体和个人的有关数据的 集合。数据库中的数据是从全局观点出发建立的，按一定的 数据模型进行组织、描述和存储。其结构基于数据间的自然联系，从而可提供一切必要的存取 路径，且数据不再针对某一应用，而是面向全组织，具有整体的结构化特征。