嗷嗷答 - 嗷嗷好的公务员考试网络答题平台

用PHP写了一个采集程序

作者:不烦恼 发布时间:July 1, 2011 分类:快乐学习

采集需求:
1、采集某网站的若干文章和评论,入库
2、本站用户新发布文章、评论(包括对已采集的文章附加评论)
3、定期再将采集网站相关文章最近更新的未采集评论附加入库

比对库:

  1. DROP TABLE IF EXISTS {TABLEPRE_}spiders;
  2. CREATE TABLE {TABLEPRE_}spiders (
  3. sid mediumint(8) UNSIGNED NOT NULL AUTO_INCREMENT COMMENT '采集ID',
  4. mid mediumint(8) UNSIGNED NOT NULL DEFAULT '0' COMMENT '关联消息ID',
  5. tid bigint(11) UNSIGNED NOT NULL DEFAULT '0' COMMENT '已采集文章ID',
  6. lastcid bigint(11) UNSIGNED NOT NULL DEFAULT '0' COMMENT '已采集最后评论ID',
  7. lasttime int(10) UNSIGNED NOT NULL DEFAULT '0' COMMENT '最后采集时间',
  8. PRIMARY KEY(sid),
  9. KEY tid (tid),
  10. KEY mid (mid)
  11. ) TYPE=MyISAM;

采集目标:百度贴吧

采集效果:漠河群

采集后果:
也许很严重,待验证后续更新!

已有 12 条评论 »

  1. 不错,关注下采集的网站,看看度娘会有什么反应!

  2. 采集源码开放不?

    1. 因为是给我自己定制的,所以源代码基本没有利用的价值,而且目前的代码只是实现了功能,没做优化
      等我最近写的程序开源后就可以看到完整采集代码了

      1. 嗯 那我等你开源吧 我就是想参考下哈

  3. 不懂啊!真看不懂!
    顺便,还请博主关注我的原创DV《让爱飞》(Lost love)是中国第一部描写程序员的银幕电影。观看地址是:http://v.youku.com/v_show/id_XMjg1MDkxNDY0.html

  4. 采集百度,百度会不高兴的吧!

    1. 嗯,我就是想试试后果有多严重

  5. 蚂蚱 蚂蚱

    哈哈,写出来了。

    1. 嗯,这个符合我的需求了,哈

  6. 沙发…哇!膜拜啊,看来你选错了行业…

    1. 蚂蚱 蚂蚱

      淫荡的换头像了....

      1. 是他没留邮箱或者留错了

添加新评论 »