请教一个 web 接口设计 - V2EX
V2EX = way to explore
V2EX 是一个关于分享和探索的地方
现在注册
已注册用户请  登录
darnurash
V2EX    Java

请教一个 web 接口设计

  •  
  •   darnurash 2022-06-15 18:20:10 +08:00 3413 次点击
    这是一个创建于 1217 天前的主题,其中的信息可能已经有所发展或是发生改变。

    现有一个基于 spring mvc 的独立 web 程序,无任何其他服务(数据库、redis 等统统没有) 需求是提供一个接口,返回一个大型 excel 文件中的内容。 因为文件比较大,读取的操作应该只能做一次 请问怎么高效实现这个接口

    20 条回复    2022-06-21 12:44:24 +08:00
    rock123
        1
    rock123  
       2022-06-15 18:46:44 +08:00
    预先解析 excel ,整理分割,重新组织成便于读取的数据结构,保存到内存,数据库,redis ,等等地方,供接口读取。excel 有变化了,定时或手动重新解析,看你的实际场景
    renmu123
        2
    renmu123  
       2022-06-15 18:55:01 +08:00 via Android
    你要不说说有多大,你可以起个 sqlite
    Ayanokouji
        3
    Ayanokouji  
       2022-06-15 18:57:25 +08:00
    没有复杂格式的话,可以考虑把 excel 转换成 csv ,直接内存应该就够了
    maocat
        4
    maocat  
       2022-06-15 18:59:34 +08:00 via iPhone   1
    数据流的形式给前端,让前端解析,前端做不出来就是他不行 /dog
    cco
        5
    cco  
       2022-06-15 19:39:31 +08:00   1
    excel 能有多大,有行列限制的。 一股脑返回就行,压力给到前端。
    Vegetable
        6
    Vegetable  
       2022-06-15 19:46:05 +08:00
    看大小,直接开局加载到 sqlite in memory ,后边就不管了。
    rabbbit
        7
    rabbbit  
       2022-06-15 19:53:06 +08:00   1
    直接发给前端即可,前端抗议性能差就上 V2 发个帖子:
    经过技术选型,我们放弃了 xxx,转了 xxx.
    tramm
        8
    tramm  
       2022-06-15 19:53:14 +08:00
    不考虑内存的话,启动时读取,存内存里.
    rabbbit
        9
    rabbbit  
       2022-06-15 19:53:25 +08:00
    具体操作可以参考 t/519999?p=3
    rabbbit
        10
    rabbbit  
       2022-06-15 19:55:53 +08:00
    算了不开玩笑了
    前端咋设计的,能分页吗?
    到底有多大,能否全读到内存里,然后前端按分页的形式展示.
    rabbbit
        11
    rabbbit  
       2022-06-15 20:03:08 +08:00
    其实如果用虚拟 Dom,前端抗个 1 万行 20 列没啥问题.加载速度大概在 2~3 秒吧.
    tairan2006
        12
    tairan2006  
       2022-06-15 21:59:46 +08:00
    > 因为文件比较大,读取的操作应该只能做一次 请问怎么高效实现这个接口

    文件大你不会分页么返回么,把 excel 转成 csv ,用 mmap 加载到内存里分段读取不就完了。
    xiongxin8802
        13
    xiongxin8802  
       2022-06-15 22:12:17 +08:00
    如果很大的话使用 csv 格式,分段先写入文件,然后下载这个文件
    DonaldY
        14
    DonaldY  
       2022-06-15 22:14:57 +08:00   1
    高效?
    文件扔 oss 里,前端请求访问就下载呗。
    superchrisliu
        15
    superchrisliu  
       2022-06-20 16:20:36 +08:00
    @DonaldY
    superchrisliu
        16
    superchrisliu  
       2022-06-20 16:21:23 +08:00
    @tairan2006 10g 也能用 mmap 吗
    tairan2006
        17
    tairan2006  
       2022-06-20 16:47:42 +08:00
    @superchrisliu 64 位机器肯定能映射 10g 的
    superchrisliu
        18
    superchrisliu  
       2022-06-21 09:11:04 +08:00
    @tairan2006 我刚去查了一下好像确实可以映射 10g ,最大值跟 Linux 内核参数有关?
    tairan2006
        19
    tairan2006  
       2022-06-21 12:43:04 +08:00
    @superchrisliu

    Although pointers are 64-bit wide, most processors do not actually support virtual addresses using the full 64 bits. To see what size virtual addresses your processor supports, look in /proc/cpuinfo (48 bits is typical).

    grep "address sizes" /proc/cpuinfo

    Additionally, half of the virtual address space is used by the kernel and not available to userspace - leaving 47 bits in the current Linux implementation.

    48 位理论上最大支持 128TB
    tairan2006
        20
    tairan2006  
       2022-06-21 12:44:24 +08:00
    关于     帮助文档     自助推广系统     博客     API     FAQ     Solana     5822 人在线   最高记录 6679       Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 26ms UTC 01:45 PVG 09:45 LAX 18:45 JFK 21:45
    Do have faith in what you're doing.
    ubao snddm index pchome yahoo rakuten mypaper meadowduck bidyahoo youbao zxmzxm asda bnvcg cvbfg dfscv mmhjk xxddc yybgb zznbn ccubao uaitu acv GXCV ET GDG YH FG BCVB FJFH CBRE CBC GDG ET54 WRWR RWER WREW WRWER RWER SDG EW SF DSFSF fbbs ubao fhd dfg ewr dg df ewwr ewwr et ruyut utut dfg fgd gdfgt etg dfgt dfgd ert4 gd fgg wr 235 wer3 we vsdf sdf gdf ert xcv sdf rwer hfd dfg cvb rwf afb dfh jgh bmn lgh rty gfds cxv xcv xcs vdas fdf fgd cv sdf tert sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf sdf shasha9178 shasha9178 shasha9178 shasha9178 shasha9178 liflif2 liflif2 liflif2 liflif2 liflif2 liblib3 liblib3 liblib3 liblib3 liblib3 zhazha444 zhazha444 zhazha444 zhazha444 zhazha444 dende5 dende denden denden2 denden21 fenfen9 fenf619 fen619 fenfe9 fe619 sdf sdf sdf sdf sdf zhazh90 zhazh0 zhaa50 zha90 zh590 zho zhoz zhozh zhozho zhozho2 lislis lls95 lili95 lils5 liss9 sdf0ty987 sdft876 sdft9876 sdf09876 sd0t9876 sdf0ty98 sdf0976 sdf0ty986 sdf0ty96 sdf0t76 sdf0876 df0ty98 sf0t876 sd0ty76 sdy76 sdf76 sdf0t76 sdf0ty9 sdf0ty98 sdf0ty987 sdf0ty98 sdf6676 sdf876 sd876 sd876 sdf6 sdf6 sdf9876 sdf0t sdf06 sdf0ty9776 sdf0ty9776 sdf0ty76 sdf8876 sdf0t sd6 sdf06 s688876 sd688 sdf86