专栏名称: 新智元

智能+中国主平台，致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展，关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响，领航中国新智能时代。

吴恩达的二八定律：80%的数据+20%的模型=更好的机器学习

新智元 · 公众号 · AI · 2021-04-13 09:31

正文

新智元报道

来源：外媒

编辑：LRS

【新智元导读】模型好就能碾压一切吗？吴恩达泼冷水，机器学习发展80%依靠数据集的进步！这也激起了业内对MLOps工具链的关注。

机器学习的进步是模型带来的还是数据带来的，这可能是一个世纪辩题。

吴恩达对此的想法是，一个机器学习团队80%的工作应该放在数据准备上，确保数据质量是最重要的工作，每个人都知道应该如此做，但没人在乎。如果更多地强调以数据为中心而不是以模型为中心，那么机器学习的发展会更快。

当去arxiv上查找机器学习相关的研究时，所有模型都在围绕基准测试展示自己模型的能力，例如Google有BERT，OpenAI有GPT-3，这些模型仅解决了业务问题的20％，在业务场景中取得更好的效果需要更好的数据。

传统软件由代码提供动力，而AI系统是同时使用代码（模型+算法）和数据构建的。以前的工作方式是，当模型效果不理想，我们就会去修改模型，而没有想过可能是数据的问题。

机器学习的进步一直是由提高基准数据集性能的努力所推动的。研究人员的常见做法是在尝试改进代码的同时保持数据固定，以模型改进为中心对模型性能的提升实际上效率是很低的。但是，当数据集大小适中（<10,000个示例）时，则需要在代码上进行尝试改进。

根据剑桥研究人员所做的一项研究，最重要但仍经常被忽略的问题是数据的格式不统一。当数据从不同的源流式传输时，这些源可能具有不同的架构，不同的约定及其存储和访问数据的方式。对于机器学习工程师来说，这是一个繁琐的过程，需要将信息组合成适合机器学习的单个数据集。

小数据的劣势在于少量的噪声数据就会影响模型效果，而大数据量则会使标注工作变得很困难，高质量的标签也是机器学习模型的瓶颈所在。

这番话也引起机器学习界对MLOps的重新思索。

MLOps是什么？

MLOps，即Machine Learning和Operations的组合，是ModelOps的子集，是数据科学家与操作专业人员之间进行协作和交流以帮助管理机器学习任务生命周期的一种实践。

与DevOps或DataOps方法类似，MLOps希望提高自动化程度并提高生产ML的质量，同时还要关注业务和法规要求。

互联网公司通常用有大量的数据，而如果在缺少数据的应用场景中进行部署AI时，例如农业场景

，你不能指望自己有一百万台拖拉机为自己收集数据。

基于MLOps，吴恩达也提出几点建议：

MLOps的最重要任务是提供高质量数据。
标签的一致性也很重要。检验标签是否有自己所管辖的明确界限，即使标签的定义是好的，缺乏一致性也会导致模型效果不佳。
系统地改善baseline模型上的数据质量要比追求具有低质量数据的最新模型要好。
如果训练期间出现错误，那么应当采取以数据为中心的方法。
如果以数据为中心，对于较小的数据集（<10,000个样本），则数据容量上存在很大的改进空间。
当使用较小的数据集时，提高数据质量的工具和服务至关重要。

一致性的数据定义，涵盖所有边界情况，从生产数据中得到及时的反馈，数据集大小合适。

吴恩达同时建议不要指望工程师去尝试改善数据集。相反，他希望ML社区开发更多MLOps工具，以帮助产生高质量的数据集和AI系统，并使他们具有可重复性。除此之外，MLOps是一个新生领域，MLOps团队的最重要目标应该是确保整个项目各个阶段的高质量和一致的数据流。

请到「今天看啥」查看全文

推荐文章

新智元 · Grok 3疯狂实测，满屏都是马斯克！3D乒乓球破屏，火星殖民实时播报

10 小时前

爱可可-爱生活 · 【[1.5k星]Wan2.1：阿里开源的大规模视频生成基础模型套-20250226124349

昨天

量子位 · 何恺明开辟分形图像生成新范式！计算效率提高4000倍，首次实现高分辨率逐像素生成

昨天

量子位 · DeepSeek开源第二弹，为MoE和EP量身定制的通信库！暂和英伟达显卡绑定

2 天前

歸藏的AI工具箱 · Claude 3.7 Sonnet 最强编码模型发布！一文速通

2 天前

歸藏的AI工具箱 · Claude 3.7 Sonnet 最强编码模型发布！一文速通

2 天前

更美 · 有奖拿丨这才是秀恩爱的正确打开方式，哪对CP最撩动你心？

8 年前

济宁拉呱 · 3斤3两万紫千红一片绿终于有人出来杀济宁重金彩礼的不良风气了！赶紧看！

7 年前

健康养身 · 夏天湿热,病常来犯！这碗汤一定要喝,看完就知道为什么了

7 年前

生意社 · 煤价持续走低水泥行业将受益

7 年前

燕郊汇 · 燕郊小男孩儿偷了邻居的“矿泉水瓶” 问警察：“我会坐牢吗？”结果很温暖！

7 年前

吴恩达的二八定律：80%的数据+20%的模型=更好的机器学习

正文

新智元报道

【新智元导读】 模型好就能碾压一切吗？吴恩达泼冷水，机器学习发展80%依靠数据集的进步！这也激起了业内对MLOps工具链的关注。

MLOps是什么？

请到「今天看啥」查看全文

【新智元导读】模型好就能碾压一切吗？吴恩达泼冷水，机器学习发展80%依靠数据集的进步！这也激起了业内对MLOps工具链的关注。