使用PHP将大文件导入到数据库中..
浏览:3606次 出处信息
朋友需要将一个有170w行的txt文件.按行把数据导入到数据库中..
所以我帮他写了一下 马克在这里 万一也有人用的着:)
以下是代码片段: header ( "Content-type: text/html;charset=utf-8" ); set_time_limit(0); include(’Database.class.php’); $db = new Database(’127.0.0.1’, ’root’, ’root’, ’test’); //数据库 $fp = fopen(’171w.txt’, ’r’); //文件 $i=1; //开始行数 $array = array(); //用来存放从XXX-XXX行的数据的数组 //回调函数 function callback($now) { global $db, $array, $i, $fp; if(empty($array)) { //为了节省资源..我们只生成一次数组 while (!feof($fp)) { if($i == $now) { //循环到需要读取的行数时 for($j=$i;$j<=$i+999;$j++) { //读取下面的1000行并存储到数组中 $array[$j] = stream_get_line($fp, 1000000, "\n"); } break; } stream_get_line($fp, 1000000, "\n"); //实践证明 stream_get_line 比 fgets 快很多.. $i++; } } $db->insert("INSERT INTO test(name) VALUES(’{$array[$now]}’)"); //插入到数据库中 } include(’SkiyoProcess.class.php’); $sp = new SkiyoProcess(2, 1000, 171000); //间隔为2秒 每次插入1000条数据 一共171000行数据 $sp->process(’callback’); |
需要的库 一起打包下载 没有提供那个文件 太大鸟..
建议继续学习:
- 高效的大文件拷贝 (阅读:3012)
- Linux 找出大文件汇总 (阅读:2985)
- c/c++访问超过2G的文件 (阅读:2317)
- 误删大文件的一个可能解救办法 (阅读:1492)
- centos查找大文件 (阅读:559)
QQ技术交流群:445447336,欢迎加入!
扫一扫订阅我的微信号:IT技术博客大学习
扫一扫订阅我的微信号:IT技术博客大学习
文章信息
- 作者:Jessica 来源: Skiyo
- 标签: 大文件 导库
- 发布时间:2010-06-22 13:11:38
近3天十大热文
- [700] Go Reflect 性能
- [24] 正态分布的前世今生(一)
- [16] rsync同步的艺术
- [15] Cuckoo Filter:设计与实现
- [13] 什么是DNS劫持和DNS污染?
- [13] Linux Used内存到底哪里去了?
- [13] 关于RDS只读实例延迟分析
- [12] Linux内存中的Cache真的能被回收么?
- [12] 公钥私钥加密解密数字证书数字签名详解
- [11] Android应用内多进程的使用及注意事项