PHP 快速导出百万级数据到 CSV 或者 EXCEL 文件

后端开发   发布日期:2023年05月18日   浏览次数:442

一、导出思路

需要考虑服务器内存

需要考虑程序运行的最大时间

缺少 BOM 头导致乱码的处理

如果导出数量过大,推荐使用循环导出,每次循环这里以导出一万条为例,循环100次即可全部导出

二、导出源码

下面源码将数据库信息修改成自己的即可使用

亲测导出一百万条数据,3个字段,不过20秒

如果服务器硬件不支持一次读取一万条数据,可将循环次数提高,导出数量降低

  1. <?php
  2. //让程序一直运行
  3. set_time_limit(0);
  4. //设置程序运行内存
  5. ini_set('memory_limit', '128M');
  6. $fileName = '测试导出数据';
  7. header('Content-Encoding: UTF-8');
  8. header("Content-type:application/vnd.ms-excel;charset=UTF-8");
  9. header('Content-Disposition: attachment;filename="' . $fileName . '.csv"');
  10. //打开php标准输出流
  11. $fp = fopen('php://output', 'a');
  12. //添加BOM头,以UTF8编码导出CSV文件,如果文件头未添加BOM头,打开会出现乱码。
  13. fwrite($fp, chr(0xEF).chr(0xBB).chr(0xBF));
  14. //添加导出标题
  15. fputcsv($fp, ['姓名', '年龄', '地区']);
  16. //链接数据库
  17. $dsn = "mysql:host=127.0.0.1;port=3306;dbname=db_www;charset=utf8";
  18. $pdo = new PDO($dsn, 'root', '');
  19. $step = 100; //循环次数
  20. $nums = 10000; //每次导出数量
  21. for($i = 0; $i < $step; $i++) {
  22. $start = $i * 10000;
  23. $sql = "SELECT uname,age,city FROM `hd_test` ORDER BY `id` LIMIT {$start},{$nums}";
  24. $pdostatement = $pdo->query($sql);
  25. $result = $pdostatement->fetchAll(PDO::FETCH_ASSOC);
  26. foreach ($result as $item) {
  27. fputcsv($fp, $item);
  28. }
  29. //每1万条数据就刷新缓冲区
  30. ob_flush();
  31. flush();
  32. }

三、蠕虫复制

快速生成百万条测试数据,可以使用数据库的 蠕虫复制 命令

先建好表后,插2条测试数据后,执行几次下列命令,即可指数增长

  1. INSERT INTO hd_test
  2. (uname,age,city)
  3. SELECT
  4. uname,age,city
  5. FROM
  6. hd_test;


以上就是PHP 快速导出百万级数据到 CSV 或者 EXCEL 文件的详细内容,更多关于PHP 快速导出百万级数据到 CSV 或者 EXCEL 文件的资料请关注九品源码其它相关文章!