经验首页 前端设计 程序设计 Java相关 移动开发 数据库/运维 软件/图像 大数据/云计算 其他经验
当前位置:技术经验 » 程序设计 » PHP » 查看文章
php快速导入大量数据的实例方法
来源:jb51  时间:2019/9/23 10:38:51  对本文有异议

PHP快速导入大量数据到数据库的方法

第一种方法:使用insert into 插入,代码如下:

  1. $params = array(‘value'=>'50′);
  2.  
  3.  
  4. set_time_limit(0);
  5.  
  6.  
  7. echo date(“H:i:s”);
  8.  
  9.  
  10. for($i=0;$i<2000000;$i++){
  11.  
  12.  
  13. $connect_mysql->insert($params);
  14.  
  15.  
  16. };
  17.  
  18. echo date(“H:i:s”);

最后显示为:23:25:05 01:32:05 也就是花了2个小时多!

第二种方法:使用事务提交,批量插入数据库(每隔10W条提交下)最后显示消耗的时间为:22:56:13 23:04:00 ,一共8分13秒 ,代码如下:

  1. echo date(“H:i:s”);
  2.  
  3.  
  4. $connect_mysql->query(‘BEGIN');
  5.  
  6.  
  7. $params = array(‘value'=>'50′);
  8.  
  9.  
  10. for($i=0;$i<2000000;$i++){
  11.  
  12.  
  13. $connect_mysql->insert($params);
  14.  
  15.  
  16. if($i%100000==0){
  17.  
  18.  
  19. $connect_mysql->query(‘COMMIT');
  20.  
  21.  
  22. $connect_mysql->query(‘BEGIN');
  23.  
  24.  
  25. }
  26.  
  27.  
  28. }
  29.  
  30.  
  31. $connect_mysql->query(‘COMMIT');
  32.  
  33.  
  34. echo date(“H:i:s”);

第三种方法:使用优化SQL语句

将SQL语句进行拼接,使用 insert into table () values (),(),(),()然后再一次性插入,如果字符串太长,则需要配置下MYSQL,

在mysql命令行中运行 :

  1. set global max_allowed_packet = 2*1024*1024*10;

消耗时间为:11:24:06 11:25:06;

插入200W条测试数据仅仅用了1分钟!代码如下:

  1. $sql= insert into twenty_million (value) values”;
  2.  
  3.  
  4. for($i=0;$i<2000000;$i++){
  5.  
  6.  
  7. $sql.=”('50′),”;
  8.  
  9.  
  10. };
  11.  
  12.  
  13. $sql = substr($sql,0,strlen($sql)-1);
  14.  
  15.  
  16. $connect_mysql->query($sql);

总结:在插入大批量数据时,第一种方法无疑是最差劲的,而第二种方法在实际应用中就比较广泛,第三种方法在插入测试数据或者其他低要求时比较合适,速度确实快。

感谢大家的学习和对w3xue的支持。

 友情链接:直通硅谷  点职佳  北美留学生论坛

本站QQ群:前端 618073944 | Java 606181507 | Python 626812652 | C/C++ 612253063 | 微信 634508462 | 苹果 692586424 | C#/.net 182808419 | PHP 305140648 | 运维 608723728

W3xue 的所有内容仅供测试,对任何法律问题及风险不承担任何责任。通过使用本站内容随之而来的风险与本站无关。
关于我们  |  意见建议  |  捐助我们  |  报错有奖  |  广告合作、友情链接(目前9元/月)请联系QQ:27243702 沸活量
皖ICP备17017327号-2 皖公网安备34020702000426号