推荐学习书目 Learn Python the Hard Way Python Sites PyPI - Python Package Index http://diveintopython.org/toc/index.html Pocoo 值得关注的项目 PyPy Celery Jinja2 Read the Docs gevent pyenv virtualenv Stackless Python Beautiful Soup 结巴中文分词 Green Unicorn Sentry Shovel Pyflakes pytest Python 编程 pep8 Checker Styles PEP 8 Google Python Style Guide Code Style from The Hitchhiker's Guide
Python 里面 np.savetxt()和 pickle 本地化时，两个性能对比怎么样
DongDongXie 2018-11-26 17:08:57 +08:00 3030 次点击这是一个创建于 2540 天前的主题，其中的信息可能已经有所发展或是发生改变。
如题，数据量比较大，想把一个 ndarray 保存到本地，这两种方法和直接 write 到本地性能相比怎么样，我试了下 savetxt()有点慢，请问大家有什么比较好的方法吗
 | 1 glasslion 2018-11-26 17:20:47 +08:00 试试 Apache Arrow(Apache Parquet Format) |
 | 2 xpresslink 2018-11-26 18:30:06 +08:00 cPickle 了解一下 |
 | 3 DongDongXie OP @xpresslink 以前用过这个，据说比 pickle 快 |
 | 4 deepreader 2018-11-27 11:47:00 +08:00 massage pack 了解一下 |
 | 5 wwqgtxx 2018-11-27 15:22:36 +08:00 |
| 6 wwqgtxx 2018-11-27 15:48:44 +08:00 其实还有一些蹊跷意淫的办法，比如你先 pickle 保存 ndarray 的 dtype size shape 三个属性，然后用 memcpy 直接保存 ndarray 的 data，那是一个 memoryview 对象，你可以用 mmap 或者直接 file.write 保存进文件，读的时候用 np.frombuffer 或者 np.fromstring 读进来后 reshape 一下就好了（ frombuffer 的话最后需要 copy 一下，否则当原 buffer 对象失效之后会出问题，当然如果你原 buffer 对象是从 mmap 获得的话那也没事，而且后续对该 ndarray 的修改还能用过 mmap.flush 写回硬盘） |
Select Language