IT技术博客大学习 共学习 共进步
全部 移动开发 后端 数据库 AI 算法 安全 DevOps 前端 设计 开发者

使用PHP将大文件导入到数据库中..

Skiyo 2010-06-22 13:11:38 累计浏览 4,841 次
本机暂存

原文链接已失效,但全文已在站内存档。

探索更多技术文章 技术头条社区

推荐阅读

  1. 使用gettext来支持PHP的多语言
  2. WordPress插件开发 -- 在插件使用数据库存储数据
  3. Paypal接口详细代码(PHP版,非API接口)

朋友需要将一个有170w行的txt文件.按行把数据导入到数据库中..

所以我帮他写了一下 马克在这里 万一也有人用的着:)

以下是代码片段:
header ( "Content-type: text/html;charset=utf-8" );
set_time_limit(0);
include(’Database.class.php’);
$db = new Database(’127.0.0.1’, ’root’, ’root’, ’test’); //数据库
$fp = fopen(’171w.txt’, ’r’); //文件
$i=1; //开始行数
$array = array();  //用来存放从XXX-XXX行的数据的数组
//回调函数
function callback($now) {
    global $db, $array, $i, $fp;
    if(empty($array)) {             //为了节省资源..我们只生成一次数组
        while (!feof($fp)) {
           if($i == $now) {         //循环到需要读取的行数时
               for($j=$i;$j<=$i+999;$j++) {         //读取下面的1000行并存储到数组中
                   $array[$j] = stream_get_line($fp, 1000000, "\n");
               }
               break;
           }
           stream_get_line($fp, 1000000, "\n");    //实践证明 stream_get_line 比 fgets 快很多..
           $i++;
        }
    }
    $db->insert("INSERT INTO test(name) VALUES(’{$array[$now]}’)");  //插入到数据库中
}
include(’SkiyoProcess.class.php’);
$sp = new SkiyoProcess(2, 1000, 171000);  //间隔为2秒  每次插入1000条数据 一共171000行数据
$sp->process(’callback’);

需要的库 一起打包下载 没有提供那个文件 太大鸟..

点我下载