我下载了“整个” Hacker News - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
爱意满满的作品展示区。
hidev
V2EX    分享创造

我下载了“整个” Hacker News

  •  1
     
  •   hidev 154 天前 3932 次点击
    这是一个创建于 154 天前的主题,其中的信息可能已经有所发展或是发生改变。
    一个多月前,在这里分享了 tophn.co ,它可以帮助你以现代化的方式快速浏览 Hacker News 榜单,包括多语言 AI 翻译、总结、文章封面、RSS 等功能。

    但是之前只抓取了近几年的数据,这次狠下心直接把 Hacker News 从 2006 年起长达 19 年的数据全部下载下来,并且开源: https://github.com/heyppen/hn-dump

    SQLite 文件可以到 https://github.com/heyppen/hn-dump/releases 下载,但只包括 score ≥ 5 的 story ,数据截止到 2025.4.30 ,文件大小约 181 MB ,总共 135 万条记录,感兴趣的朋友可以自取,或者亲自下载一遍。

    顺便分享一个 Hacker News 在线实时 ClickHouse 官方数据库,详见: https://x.com/ipen_ink/status/1919664189251191296

    同时,tophn.co 也同步更新了总榜单( https://www.tophn.co/?tab=all )以及年度榜单(例如 https://www.tophn.co/?tab=2018 ),欢迎大家体验~


    16 条回复    2025-05-09 12:44:18 +08:00
    clemente
        1
    clemente  
       154 天前   1
    6666
    newdongyuwei
        2
    newdongyuwei  
       154 天前   1
    followad
        3
    followad  
       154 天前 via iPhone   1
    Pipecraft
        4
    Pipecraft  
       154 天前
    包含评论吗?怎么才有 181 MB ,这么少。
    hidev
        5
    hidev  
    OP
       154 天前 via iPhone   2
    @Pipecraft 不包括评论,而且存的字段比较少
    Pipecraft
        6
    Pipecraft  
       154 天前   1
    @hidev #5 网站做得不错。
    Patrick6
        7
    Patrick6  
       154 天前   1
    昨天刚从 X 看到,今天又在 v 站看到了哈哈
    MzM2ODkx
        8
    MzM2ODkx  
       154 天前   1
    hidev
        9
    hidev  
    OP
       154 天前 via iPhone
    @Patrick6 精准投放
    JJJLG
        10
    JJJLG  
       154 天前
    1
    mywaiting
        11
    mywaiting  
       154 天前   6
    Hacker News 的数据库很大程度算公开数据源,很多地方都有下载

    1 、官方 API 接口,使用 Firebase 提供,近乎实时更新数据 https://github.com/HackerNews/API

    2 、全量数据搜索接口,Algolia 提供,API 提供每 IP 每小时 1w 访问限制(等于无限制) https://hn.algolia.com/api

    3 、graphql API 。它将允许您在单个请求中获取所有评论、用户和帖子 https://hngraphql.fly.dev/graphql

    由于 HN 的数据本身就是公开的,爬虫抓取到本地意义不大
    ammeto
        12
    ammeto  
       154 天前   1
    punkerhyde
        13
    punkerhyde  
       154 天前   1
    66666666666666666
    hidev
        14
    hidev  
    OP
       154 天前 via iPhone   1
    @mywaiting 这里用的就是官方 API ,下载下来目的是可以做一些离线分析,比如词云,比如训练个 Hacker News LLM
    Akagi201
        15
    Akagi201  
       154 天前   2
    评论这么关键的数据没有啊? hn 主要价值就是评论啊
    hidev
        16
    hidev  
    OP
       154 天前 via iPhone
    @Akagi201 目前是以帖子为主,后面我跑个全量数据看看,估计会很大
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     911 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 28ms UTC 21:58 PVG 05:58 LAX 14:58 JFK 17:58
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86