国外有很多公司有一些比较疯狂的尝试，比如a家就有给全球各个科研单位提供免费的ai服务，因为科研单位的ai对话信息量是非常高的，这些人会反复挑战ai来确保结论成立。将来说不定会倒贴钱请科研单位用，因为这部分数据确实很难得。国内应该也可以这么搞。还有一些公司把摄像头绑在人脑袋上，实时监控人看到的现象与人的动作，将来用这些数据训练机器人。 ▍@梅佑仁2098：现在谷歌就有请科学家来用，免费发放反重力额度

有的人对国产模型没有信心，觉得在软件使用上和一流水平有差距。其实就是缺乏对应的训练。国内数据标注规模相对于国外还是太小了，因为这个很花钱。一个普通规模的标注任务可能需要千万美元这个量级。在软件使用方面，我觉得这其实是很亏的，因为最难的一步是人把低密度的信息传递给ai，而ai之间相互学习就容易得多。我觉得这部分应该能够很快赶上。至少比算力问题好解决。 ▍@绝道在水瓶：数据倒是不担心，这领域属于磨时间

数据标注任务给我留下的一点感触就是，世界上的知识实在是非常有限，没有人能想到别人想不到的事情，科学家也仅仅比普通人高了那么一点点。所以使用穷举，就可能把所有知识和结构列举出来。 现在大模型看起来是如此的完美，是因为许多人反复挑战它各个方面，使得它似乎变得光滑，我感觉这是非常原始的方法，但也没有新的方法出现。

模型刷分是不可避免的。每个模型都希望有自己远远强于别的模型的点，所以不同厂商会设计不同的标注任务，比如数学物理特化任务等。现在有的标注任务甚至要求只有拿过数学奥林匹克竞赛奖的人才能参加。相应地，会有人设计出测试方法来衡量各个模型。对于顶尖的领域，设计方法的人，和实际参与标注的人，几乎是同一批人，所以信息泄露是不可避免的。 此前o家放出七百多篇数学论文，我感觉方法就是找人大量出题，穷举出ai回答似乎

后面从龙虾开始，厂商看到了ai控制电脑大有可为，所以也有很多专业软件的标注任务。比如我就收到了电路设计相关软件的任务邀请，可惜我不会。这种标注任务本质上是为ai写一个非常详细的说明书，告诉它点一个地方会发生什么，各个模块的位置，联系，与使用顺序等。如果没有这个训练，ai只能通过反复截屏来观察理解，有了这个工具后，ai会软件的理解使用会突飞猛进。当一个模型可以非常熟练地使用一个软件时，它是很容易教会

早期ai主要以写作为主，当时标注任务也有描述图片，描述结构，或是语言各个纬度(易读性，完整性，拟人性等)的评分项目，后面代码任务出现后，语言类的标注就少很多了。代码任务我没有参与，因为要求有计算机学位加五年以上开发经验啥的。之后有一些任务是评价ai输出的冗余度，相关性等，后来就看到模型开始讲词元效率，可能从那开始ai就不再以说人话为目标，而是以自身运行效率优先。这两方面的割裂可以解决，就是使用多个

我此前在国内外的几家数据标注平台上干了一段时间，自觉对这部分比较了解。感觉吧里有时候的讨论有点缺乏事实基础，我就说说我知道的。 大模型的数据很多人说是来自网络的，实际上网络数据并不好拿，比如新闻报道，网友发言，一些人的博客等，一是数量和信息量少，二是里面偏见，逻辑错误等很多。所以很早就不再作为主要训练数据了。 ai生成的数据也是不能直接用于ai训练的，因为噪声会放大，有用ai画的图微调ai画图模型

比较搞笑的是当时网上有很多用脑筋急转弯让ai出错的，比如去150米外洗车，开车去还是走路去。当时大多数模型都出错被嘲笑。马上就有一个puzzle项目出来，就是需要人提出类似的题，以及正确的思考方法。效果很显著，ai现在能回答出类似的脑筋急转弯了。

国外有很多公司有一些比较疯狂的尝试，比如a家就有给全球各个科研单位提供免费的ai服务，因为科研单位的ai对话信息量是非常高的，这些人会反复挑战ai来确保结论成立。将来说不定会倒贴钱请科研单位用，因为这部分数据确实很难得。国内应该也可以这么搞。还有一些公司把摄像头绑在人脑袋上，实时监控人看到的现象与人的动作，将来用这些数据训练机器人。 ▍@梅佑仁2098：现在谷歌就有请科学家来用，免费发放反重力额度

有的人对国产模型没有信心，觉得在软件使用上和一流水平有差距。其实就是缺乏对应的训练。国内数据标注规模相对于国外还是太小了，因为这个很花钱。一个普通规模的标注任务可能需要千万美元这个量级。在软件使用方面，我觉得这其实是很亏的，因为最难的一步是人把低密度的信息传递给ai，而ai之间相互学习就容易得多。我觉得这部分应该能够很快赶上。至少比算力问题好解决。 ▍@绝道在水瓶：数据倒是不担心，这领域属于磨时间

数据标注任务给我留下的一点感触就是，世界上的知识实在是非常有限，没有人能想到别人想不到的事情，科学家也仅仅比普通人高了那么一点点。所以使用穷举，就可能把所有知识和结构列举出来。 现在大模型看起来是如此的完美，是因为许多人反复挑战它各个方面，使得它似乎变得光滑，我感觉这是非常原始的方法，但也没有新的方法出现。

模型刷分是不可避免的。每个模型都希望有自己远远强于别的模型的点，所以不同厂商会设计不同的标注任务，比如数学物理特化任务等。现在有的标注任务甚至要求只有拿过数学奥林匹克竞赛奖的人才能参加。相应地，会有人设计出测试方法来衡量各个模型。对于顶尖的领域，设计方法的人，和实际参与标注的人，几乎是同一批人，所以信息泄露是不可避免的。 此前o家放出七百多篇数学论文，我感觉方法就是找人大量出题，穷举出ai回答似乎

后面从龙虾开始，厂商看到了ai控制电脑大有可为，所以也有很多专业软件的标注任务。比如我就收到了电路设计相关软件的任务邀请，可惜我不会。这种标注任务本质上是为ai写一个非常详细的说明书，告诉它点一个地方会发生什么，各个模块的位置，联系，与使用顺序等。如果没有这个训练，ai只能通过反复截屏来观察理解，有了这个工具后，ai会软件的理解使用会突飞猛进。当一个模型可以非常熟练地使用一个软件时，它是很容易教会

早期ai主要以写作为主，当时标注任务也有描述图片，描述结构，或是语言各个纬度(易读性，完整性，拟人性等)的评分项目，后面代码任务出现后，语言类的标注就少很多了。代码任务我没有参与，因为要求有计算机学位加五年以上开发经验啥的。之后有一些任务是评价ai输出的冗余度，相关性等，后来就看到模型开始讲词元效率，可能从那开始ai就不再以说人话为目标，而是以自身运行效率优先。这两方面的割裂可以解决，就是使用多个

我此前在国内外的几家数据标注平台上干了一段时间，自觉对这部分比较了解。感觉吧里有时候的讨论有点缺乏事实基础，我就说说我知道的。 大模型的数据很多人说是来自网络的，实际上网络数据并不好拿，比如新闻报道，网友发言，一些人的博客等，一是数量和信息量少，二是里面偏见，逻辑错误等很多。所以很早就不再作为主要训练数据了。 ai生成的数据也是不能直接用于ai训练的，因为噪声会放大，有用ai画的图微调ai画图模型

比较搞笑的是当时网上有很多用脑筋急转弯让ai出错的，比如去150米外洗车，开车去还是走路去。当时大多数模型都出错被嘲笑。马上就有一个puzzle项目出来，就是需要人提出类似的题，以及正确的思考方法。效果很显著，ai现在能回答出类似的脑筋急转弯了。

国外有很多公司有一些比较疯狂的尝试，比如a家就有给全球各个科研单位提供免费的ai服务，因为科研单位的ai对话信息量是非常高的，这些人会反复挑战ai来确保结论成立。将来说不定会倒贴钱请科研单位用，因为这部分数据确实很难得。国内应该也可以这么搞。还有一些公司把摄像头绑在人脑袋上，实时监控人看到的现象与人的动作，将来用这些数据训练机器人。 ▍@梅佑仁2098：现在谷歌就有请科学家来用，免费发放反重力额度

有的人对国产模型没有信心，觉得在软件使用上和一流水平有差距。其实就是缺乏对应的训练。国内数据标注规模相对于国外还是太小了，因为这个很花钱。一个普通规模的标注任务可能需要千万美元这个量级。在软件使用方面，我觉得这其实是很亏的，因为最难的一步是人把低密度的信息传递给ai，而ai之间相互学习就容易得多。我觉得这部分应该能够很快赶上。至少比算力问题好解决。 ▍@绝道在水瓶：数据倒是不担心，这领域属于磨时间

数据标注任务给我留下的一点感触就是，世界上的知识实在是非常有限，没有人能想到别人想不到的事情，科学家也仅仅比普通人高了那么一点点。所以使用穷举，就可能把所有知识和结构列举出来。 现在大模型看起来是如此的完美，是因为许多人反复挑战它各个方面，使得它似乎变得光滑，我感觉这是非常原始的方法，但也没有新的方法出现。

模型刷分是不可避免的。每个模型都希望有自己远远强于别的模型的点，所以不同厂商会设计不同的标注任务，比如数学物理特化任务等。现在有的标注任务甚至要求只有拿过数学奥林匹克竞赛奖的人才能参加。相应地，会有人设计出测试方法来衡量各个模型。对于顶尖的领域，设计方法的人，和实际参与标注的人，几乎是同一批人，所以信息泄露是不可避免的。 此前o家放出七百多篇数学论文，我感觉方法就是找人大量出题，穷举出ai回答似乎

后面从龙虾开始，厂商看到了ai控制电脑大有可为，所以也有很多专业软件的标注任务。比如我就收到了电路设计相关软件的任务邀请，可惜我不会。这种标注任务本质上是为ai写一个非常详细的说明书，告诉它点一个地方会发生什么，各个模块的位置，联系，与使用顺序等。如果没有这个训练，ai只能通过反复截屏来观察理解，有了这个工具后，ai会软件的理解使用会突飞猛进。当一个模型可以非常熟练地使用一个软件时，它是很容易教会

早期ai主要以写作为主，当时标注任务也有描述图片，描述结构，或是语言各个纬度(易读性，完整性，拟人性等)的评分项目，后面代码任务出现后，语言类的标注就少很多了。代码任务我没有参与，因为要求有计算机学位加五年以上开发经验啥的。之后有一些任务是评价ai输出的冗余度，相关性等，后来就看到模型开始讲词元效率，可能从那开始ai就不再以说人话为目标，而是以自身运行效率优先。这两方面的割裂可以解决，就是使用多个

我此前在国内外的几家数据标注平台上干了一段时间，自觉对这部分比较了解。感觉吧里有时候的讨论有点缺乏事实基础，我就说说我知道的。 大模型的数据很多人说是来自网络的，实际上网络数据并不好拿，比如新闻报道，网友发言，一些人的博客等，一是数量和信息量少，二是里面偏见，逻辑错误等很多。所以很早就不再作为主要训练数据了。 ai生成的数据也是不能直接用于ai训练的，因为噪声会放大，有用ai画的图微调ai画图模型

比较搞笑的是当时网上有很多用脑筋急转弯让ai出错的，比如去150米外洗车，开车去还是走路去。当时大多数模型都出错被嘲笑。马上就有一个puzzle项目出来，就是需要人提出类似的题，以及正确的思考方法。效果很显著，ai现在能回答出类似的脑筋急转弯了。

国外有很多公司有一些比较疯狂的尝试，比如a家就有给全球各个科研单位提供免费的ai服务，因为科研单位的ai对话信息量是非常高的，这些人会反复挑战ai来确保结论成立。将来说不定会倒贴钱请科研单位用，因为这部分数据确实很难得。国内应该也可以这么搞。还有一些公司把摄像头绑在人脑袋上，实时监控人看到的现象与人的动作，将来用这些数据训练机器人。 ▍@梅佑仁2098：现在谷歌就有请科学家来用，免费发放反重力额度

有的人对国产模型没有信心，觉得在软件使用上和一流水平有差距。其实就是缺乏对应的训练。国内数据标注规模相对于国外还是太小了，因为这个很花钱。一个普通规模的标注任务可能需要千万美元这个量级。在软件使用方面，我觉得这其实是很亏的，因为最难的一步是人把低密度的信息传递给ai，而ai之间相互学习就容易得多。我觉得这部分应该能够很快赶上。至少比算力问题好解决。 ▍@绝道在水瓶：数据倒是不担心，这领域属于磨时间

数据标注任务给我留下的一点感触就是，世界上的知识实在是非常有限，没有人能想到别人想不到的事情，科学家也仅仅比普通人高了那么一点点。所以使用穷举，就可能把所有知识和结构列举出来。 现在大模型看起来是如此的完美，是因为许多人反复挑战它各个方面，使得它似乎变得光滑，我感觉这是非常原始的方法，但也没有新的方法出现。

模型刷分是不可避免的。每个模型都希望有自己远远强于别的模型的点，所以不同厂商会设计不同的标注任务，比如数学物理特化任务等。现在有的标注任务甚至要求只有拿过数学奥林匹克竞赛奖的人才能参加。相应地，会有人设计出测试方法来衡量各个模型。对于顶尖的领域，设计方法的人，和实际参与标注的人，几乎是同一批人，所以信息泄露是不可避免的。 此前o家放出七百多篇数学论文，我感觉方法就是找人大量出题，穷举出ai回答似乎

后面从龙虾开始，厂商看到了ai控制电脑大有可为，所以也有很多专业软件的标注任务。比如我就收到了电路设计相关软件的任务邀请，可惜我不会。这种标注任务本质上是为ai写一个非常详细的说明书，告诉它点一个地方会发生什么，各个模块的位置，联系，与使用顺序等。如果没有这个训练，ai只能通过反复截屏来观察理解，有了这个工具后，ai会软件的理解使用会突飞猛进。当一个模型可以非常熟练地使用一个软件时，它是很容易教会

早期ai主要以写作为主，当时标注任务也有描述图片，描述结构，或是语言各个纬度(易读性，完整性，拟人性等)的评分项目，后面代码任务出现后，语言类的标注就少很多了。代码任务我没有参与，因为要求有计算机学位加五年以上开发经验啥的。之后有一些任务是评价ai输出的冗余度，相关性等，后来就看到模型开始讲词元效率，可能从那开始ai就不再以说人话为目标，而是以自身运行效率优先。这两方面的割裂可以解决，就是使用多个