“IP树”导入37万条IP数据库,并运行更新、刷新链接

来自Jamesqi
跳转至: 导航搜索

--James Qi 2009年8月10日 (一) 11:02 (CST)

  IP树网站设立已经很有一段时间了,一直在导入初始的IP数据,刚开始对导入数据的格式进行了反复测试、修改,并运用动态页面列表的新特性,最后确定下来格式,然后用importDump.php导入37万条初始数据很慢很慢,算了一下大约需要1个多月,后来改为多个小文件同时导入,算是几天后导入完成,查看系统统计37万条全部导入了,但分类只认了大约24万条数据,还有10多万没有正确归类,又同时运行多个runJobs.php,完成后同时运行多个refreshLinks.php,不过还是有问题,估计都是因为数据库冲突报错引起的,最后只好单独运行一个refreshLinks.php,这样也差不多前后还是用了1个多月的时间,才算是把37万条数据都搞妥当。

  这也算是我们以前在MediaWiki中导入数据量最多的一次,每一页的原始数据只有一行,但扩展包含的多个模板后还是比较大、比较复杂的。数据全部导入以后,又修改模板以便增加谷歌地图调用和Whois查询链接,这样一轮更新下来估计又是要按月来计算时间,看来是需要事先尽量考虑周全,以后少调整这种大量数据包含的模板。

  数据导入完成后,还需要在功能上进行完善,让这个IP地址查询网站真正做到与众不同,这个工作将持续进行。

标签:IP树IPMediaWiki
相关内容:
  1. 2010-11-10 22:20:28 MediaWiki-1.15升级到1.16.0步骤
  2. 2010-11-04 22:52:58 开启MediaWiki的搜索建议(Search Suggest)功能
  3. 2010-11-03 11:26:02 MediaWiki-1.15.0升级到1.16.0中出现的问题
  4. 2010-11-02 23:52:05 MediaWiki-1.15准备升级到1.16
  5. 2010-10-22 22:29:00 想写一本关于MediaWiki的书,有人需要吗?
  6. 2010-09-20 11:33:29 直接操作MediaWiki的MySQL数据库
  7. 2010-09-04 00:20:09 修改模板对付MediaWiki及扩展程序的Bug
  8. 2010-08-31 00:47:49 分割大容量MediaWiki数据库
  9. 2010-07-08 23:08:13 用HTML和站间链接减小MediaWiki数据库记录
  10. 2010-06-12 12:27:01 将数据导入MediaWiki进行到底
  11. 2010-05-20 22:01:46 导入大量名录数据到MediaWiki网站的例子
  12. 2010-05-05 15:06:09 不懂PHP编程也可以修改MediaWiki程序
  13. 2010-04-03 22:45:40 MediaWiki导入XML数据中需要转义的字符
  14. 2010-04-02 00:38:01 用MediaWiki搭建多语言网站群框架
  15. 2010-04-01 16:05:48 在美国VPS上升级MediaWiki

关于““IP树”导入37万条IP数据库,并运行更新、刷新链接”的留言:

目前暂无留言

新增相关留言