兴趣是第一驱动。
没卡不是理由，只是验证原理的话，CPU 一样能训。
我自己就训了个 56M 参数的超小模型，会说人话，这就足够了。
https://github.com/bd4sur/Nano

AI 不懂的语言是没有未来的。

PL 已经完了。

去医院，无非“诊”和“疗”。
“诊”的目的，在于“解决正确的问题”。
“疗”的目的，在于“正确地解决问题”。
医学在“诊”的问题上还有很多不足，遑论“疗”。
所以才有“偶尔治愈、常常帮助、总是安慰”这样的说法。
软件开发也有类似的道理，找到正确的需求，甚至比正确地实现需求更重要。

面对复杂的世界，不妨拾起汉隆剃刀能解释为愚蠢（能力不足）的，就不要归咎于恶意。
放过这个世界，也放过自己。

1 、FFT 的硬实现已经做进各类硬件了，比如音视频硬 codec 、DSP 、无线网卡、射频/基带芯片等等。
2 、FFTW 之类的库已经足够快了，做成硬件指令不划算。
3 、FFT 的变体非常多，效率与问题规模有关，与其做成通用指令，不如直接做进应用场景，针对性优化。

@shintendo
同意。
在文本中强行不必要的字符以控制版式呈现，是形式对内容的粗暴干涉，是语言层次的纠缠混乱。
让内容的归内容、版式的归版式、渲染的归渲染，才是正道。
程序员是操弄字符串的专业人士，每个字符都是珍贵的、神圣的，每个字符都承载一定的语义。
为了迁就版式美观而强行增加多余字符，以形害意，谬矣。
在某些自动加空格的开源项目中，有众多的转换错误或者妨碍功能的 issue ，可见一斑。

@synthpop123
本来在这个问题上持中立立场，但是看到该项目用如此刻薄的语言去诅咒异见者，实在是恶心。
项目维护者恐怕需要去看看心理医生。

本质上是矩阵运算，CPU 不是不能干，只是太慢而已。

不妨试试我的智障电子鹦鹉，浏览器 CPU 推理的，并不实用，只是为了说明语言模型推理的原理：
https://bd4sur.com/Nano/infer/

上网不涉密，涉密不上网。

我一直想不通的是，为什么有人会把敏感隐私数据弄到云存储服务上。

不妨看看我做的小玩具，浏览器上推理的：
https://github.com/bd4sur/Nano

量化 ggml + llama.cpp 、vLLM 。

只是图一乐的话，甚至浏览器也能推理。
可以看看我做的小玩具： https://github.com/bd4sur/Nano

手机的本质在于你购买的只是使用权，而非所有权。跟信用卡一样。
刷机破坏了可信计算，破坏了手机所有权人的权益。
所以不能允许你刷机。

众所周知，炒股最赚钱的是教别人炒股。你炒我教你，我炒我不炒。

什么深度学习科学算命，自己不要用。拉个群，包装一下，卖给别人用。（滑稽）

1 ）参数量是主要矛盾，越多越好。
2 ）不必担心量化，量化掉点有限。
3 ）实用模型，参数量不可低于 13~14B ，以 72B 量级为佳。
4 ）显存是主要矛盾，越多越好。
5 ） 2080ti 魔改 22GiB 显存，性价比较高。
6 ）多卡 AI 服务器平台，性价比较高，但要考虑环境和电费开销问题。