这是一个创建于 32 天前的主题，其中的信息可能已经有所发展或是发生改变。
ai 的数据主要来源于虚拟世界，它没有物理身体直接体验现实生活
虚拟世界的信息是有限的，正如算法无法产生真随机数；而现实世界的信息是无限的，无限的意外（哪怕大脑意外短路）才是人类创造力和灵感的来源
所以我觉得这是 ai 不能产生自主“意识”和独创性的原因
你怎么想?
 | 1 vietquocthanhtin 3 月 23 日 via Android  1 现实世界是无限的 你能接触到的 可以是无限的吗？ |
 | 2 sddyzm PRO 科学家也这么想 |
 | 3 1bo 3 月 23 日 via Android ai 不如人会用情绪思考/做事。 |
 | 4 billzhuang 3 月 23 日 via iPhone 可能 AI 不如某些人，但肯定不是我 |
 | 5 fox0001 3 月 23 日 via Android 现实世界的数据，可以模拟的。例如机器人训练控制姿态、动作的模型（可以理解为人类的小脑），是在虚拟环境中训练出来，与硬件开发分开执行。 |
 | 6 我觉得就是情绪，否则 ai 只能是工具 |
 | 7 shendaowu 3 月 23 日 我认为目前来看有价值的创造力基本都是定向的，就算是艺术也有美这个目标。随机就能创造出有用的新东西的时代应该早就不存在了。一方面低垂的果实已经被摘得差不多了，另一方面东西的种类已经非常多了，随机碰到有用的组合的概率应该很低了。低垂的果实指比较容易被发现或者说创造出来的新东西。两个概念一组的创造可能就已经很难了，如果再考虑三个主要概念一组的创造，难度还会上一个台阶。排列组合我都忘得差不多了，我只记得这个要用到阶乘。所以我认为随机基本是不可行的，人脑关于生成有价值的创造可能会有很多辅助的“硬件”。就算是过去的时代我也怀疑不是存粹的随机，可能只是随机的成分能大一点。 我隐约记得我好像在什么地方看到说真随机在理论上是不可能存在的，好像是会导致无限的熵还是什么来着。我不想去确认了。 虚拟与现实的问题我之前扯过。我认为主要是因为现实是涌现的，而虚拟或者说理性不是涌现的。或者就算有涌现也不多，而且就算涌现了也跟现实不一样。现实中有很多理性甚至是感性也预测不了的东西，只能通过无法预测的情况不断给思维模型打补丁才能提高预测和控制的精度。或者特别幸运的话，出现一个能整合所有数据的更简洁的新思维模型。现在的 AI 都是训练好了就基本不会改变了，无法持续学习。据我所知主要是因为训练的费用太高了。而且好像还有训练失败，需要重来的风险。好像还有一些其他的原因，比如对其之类的。好像还有只要一直训练就一直有模型废掉的风险？我问了一下 DeepSeek ，感觉基本差不多，不一样的地方我基本看不懂，我不详细了解了。 |
 | 10 levn 3 月 23 日 人类可以不断加强 AI 直到自我毁灭，这就说明人类很愚蠢 |
 | 11 iceAD 3 月 23 日 ai 没有社会性 |
 | 12 ysxb1145 3 月 23 日 via Android 感性和人情味，gpt5 和 ds 新版本登味挺重 |
 | 13 opengps 3 月 23 日 ai 如果能操作一个机器人的时候，你还觉得这是边界吗？ |
 | 14 ice000 3 月 23 日 AI 需要电，人类需要吃点食物就能干活，食物比电容易获取，此为人类一胜。 AI 不能脱离人类帮助自我进化繁衍，人类不需要依靠外界就可以繁衍进化，此为人类二胜。 AI 不能自主造工具，人类可以创造工具，此为人类三胜。 AI 体验不到爽的感觉，人类可以，此为人类四胜。 |
| 15 ice000 3 月 23 日 “现实世界的信息是无限的”，该论述不一定对 |
 | 16 elevioux 3 月 23 日 1 对 AI 的发展本身也有不同的思路。 现在流行的是 LLM ，基于虚拟数据训练，基于概率，本质是模仿。 有些科学家，像杨立昆对 LLM 就持否定态度，他认为 AI 应是基于现实的 world model ，这样才能产生“真正的智力”。 未来可能是两种 AI 并存的局面，真正研究型的 AI 、陪伴人的 AI 是 world model ，而现有的 LLM 则会沦为 廉价低能的劳动力。 |
 | 17 needhourger 3 月 23 日 现阶段 AI 肯定是不如人的, 至少是还有缺陷的 AI 没有物理身体所以没法模拟五感, AI 对于任何现有的人类概念例如火是烫的, 冰是冷的温度, 太阳是温暖的, 微风拂过, 花香... 等等一系列的概念全都是依靠人类投喂的文本而产生的基于文本的一种理解(一种高维的数据向量云) 所以当下有一个研究方向就是 具身人工智能 . 寄希望于通过类似人类感受世界的方式去训练 AI, 不仅仅再通过向其投喂文本来帮助其构建智能, 而是想办法帮助其构建更多维度的数据输入包括温度视觉触觉等等, 让其能像人类婴儿一样真正"感受"到世界的样子从而训练人工智能. 当然上述目前而言还只是一个理念, 大多数方向还仅局限于理论. 人类可以将文本向量化, 但是如何将温度, 触觉, 听觉等等多维度信息数据化, 转变为计算机可以理解的电信号. 以及就算真的可以转化, 如何组织获取大量的这类训练数据都是悬而未决的问题. 这是未来 AI 的一个前进方向, 至于这个方向能不能真的诞生真正的人工智能, 将人类抬升到造物主的阶段, 还很遥远与未知 |
 | 18 purloe00 3 月 23 日 模拟和数字信号的区别，连续与非连续的缺陷 |
 | 19 catazshadow 3 月 23 日 via Android 别涌现涌现的了，这词就是这帮搞 AI 的生造出来的，没有准确定义的形象描述 |
 | 21 beasnail OP @ice000 微观来说，每个原子都能产生随机噪音，宏观一点，各种未解之谜，新发现，这些都是没有尽头的“新信息”，封闭系统无法模拟这些东西 |
 | 22 wanguorui123 3 月 23 日 数码味重 |
| 24 shendaowu 3 月 24 日 @catazshadow 据我所知涌现这个词在 AI 大火起来之前很久就存在了。我看了一下维基百科涌现的英文词条的历史，2002 年就创建了，也不是其他的意思。你感觉涌现哪里定义不准确了？难道是因为我是通过看复杂系统的书了解的涌现，所以才感觉不到不准确？或者你是从这个词被滥用的角度来说的？就像逻辑和认知？ |
| 25 catazshadow 3 月 24 日 via Android @shendaowu 过于形而上了 |
 | 26 WuDiHaiTai 3 月 24 日 人有鬼脑，AI 时至今日还是靠总结现有资料来产出内容。 就比如 AI 这辈子都想不出这个 idea 。  |
| 27 shendaowu 3 月 27 日 @catazshadow 你对均值回归是什么看法？跟涌现类似吗？ 我之前纠结过均值回归作为一个解释的合理性。因为我感觉这东西不能指导行动，而且根本就不知道什么时候会回归。我在知乎上问了一下，确实在某些定义下均值回归不能作为一个解释，或者说不能作为一个原因。 我今天才偶然意识到涌现跟均值回归有类似的地方。问你也是想确认一下是不是不只我一个人有类似的困惑。其实从我之前问的那个关于均值回归问题有一百多个关注应该就能看出来有很多人感兴趣了。我不太清楚我为啥想问你这个，可能是表达欲？ 不过我感觉涌现跟均值回归有一点不一样的地方，就是涌现是可以在一定程度上预测的。就算不能准确预测结果，某些时候也许可以预测可能出现涌现现象，就算不知道具体可能出现什么现象。我前几天在知乎上问过一个相关的问题，目前还没有靠谱的回答。 |
| 28 catazshadow 3 月 27 日 @shendaowu 哪个帖子 |
| 29 shendaowu 3 月 28 日 @catazshadow #28 关于均值回归在某些对解释的定义下不能作为解释的回答： https://www.zhihu.com/question/366386685/answer/983253228 。我也就看个大概，好像太专业了。但通过这个回答我比较确定均值回归根一般正经的解释坐一桌很可能不合适。 关于涌现可能可以部分预测： https://www.zhihu.com/question/2011539651022833404 。我估计你问的可能主要是上面那个，为了节省你时间我还是顺便给出这个吧，万一你想知道这个呢。 |
Select Language