人工智能，将如何影响产品开发？

第 8757篇深度好文：9993字 | 25分钟阅读

人工智能产品团队开发的产品。为了明确术语，当我们提到“人工智能产品管理”时，我们指的是开发人工智能驱动的产品。

1.基础设施与应用程序

一个重要的区别是，这里关注的是人工智能驱动的应用程序，而不涉及模型训练过程本身的底层人工智能基础设施。

这种区别类似于平台产品和体验产品之间的区别。

平台产品使体验产品成为可能。这两种产品都很有趣也很重要，但绝大多数人工智能产品经理将负责体验产品，即应用程序，所以我们在这里将重点关注这一点。

2.人工智能驱动的产品的本质

大多数产品都存在重大风险，而产品团队是跨职能的，因此他们拥有应对这些风险所需的各种技能。很少有产品比人工智能产品更能凸显对强大产品管理的迫切需求。

人工智能产品是指利用人工智能技术为客户或公司创造解决问题的体验的产品。

“人工智能”一词既包括传统人工智能（例如机器学习），也包括生成式人工智能。这些技术可实现多种功能，包括智能建议、个性化体验或匹配市场双方。

人工智能应用程序的例子包括使用语音和自然语言理解来处理人类声音的智能家居设备、欺诈检测系统，以及生成式人工智能的高级功能，如内容创建、总结和合成。

当谈到产品风险时，人工智能产品尤其具有挑战性。

这意味着产品经理、产品设计师和技术主管需要密切合作才能找到有效的解决方案。

请注意，虽然人工智能产品经理可能不会将机器学习科学家作为其核心产品团队的专职成员，尤其是在人工智能应用产品的背景下，但他们希望咨询机器学习科学家。

这种合作对于有效利用底层人工智能技术至关重要。

3.技术可行性风险

生成式人工智能本质上是概率性的，而非确定性的。

对于传统解决方案，我们通常可以相信，如果给程序以相同的输入，它将产生一致的输出。

对于生成式人工智能解决方案，可能有数十亿个输入，并且权重会随着学习而改变，并可能随着时间的推移产生不同的输出。

某些类型的产品和功能非常适合概率解决方案，而其他类型的产品和功能则不适合。

这也许是最基本的考虑因素。如果产品是个性化的新闻推送，那么如果偶尔有推送与用户所述的偏好不完全一致，这很可能可以在用户体验中进行管理。

如果一种产品控制药物的剂量，例如胰岛素，那么超出医疗指南推荐的剂量是不可接受的。

因此，人工智能产品经理要确保该技术与特定产品或解决方案良好匹配。

这直接引出了质量保证这一关键问题。可接受的错误率是多少？可能的错误类型有哪些？产品将如何处理每种类型的错误？有没有办法通过用户体验来减少错误？

说到错误，很多时候重点都被放在训练数据上。

用于训练人工智能模型的数据质量至关重要。产品经理需要对训练数据以及模型的训练和调整方式有清晰而深入的了解。

所有大型数据集都存在潜在的偏差和局限性。

数据偏差的伦理影响将在下文业务持续性风险中讨论，但人工智能产品经理需要掌握这些问题，并了解这些问题可能如何在最终产品中体现出来。

更普遍地说，对于当今许多人工智能产品而言，最大的障碍是训练数据本身。目前的训练数据的数量和质量可能还不足以支持可行的商业产品。

当谈到技术可行性时，人工智能产品经理需要与技术主管密切合作，并且可能还需要咨询机器学习科学家，以做出最合适的权衡。

例如，可能需要对高精度模型在训练数据、大量处理能力和时间以及计算资源方面进行更大规模的投资，从而影响用户体验、可扩展性和成本。

提及技术债务和基础设施并解决以下问题，也很重要：

公司是否拥有支持人工智能产品所需的技术基础设施？要考虑数据存储、处理能力和持续维护成本等因素。高额技术债务会阻碍可扩展性以及整体技术可行性和业务持续性。

4.可用性风险

客户体验对于任何产品都很重要，但对于人工智能来说，它的重要性和复杂性上升到了一个新的水平。

对于人工智能产品，需要设计用户体验，明确设定技术能做什么和不能做什么，以及至少在概念上产品如何工作。这种透明度是建立信任和避免在遇到限制时感到沮丧的关键。

传统模式中，产品经理在建立用户信任方面严重依赖产品设计师。然而，人工智能带来了额外的限制和复杂性，其中许多来自产品经理。

我们需要让用户和客户对他们的数据使用方式以及人工智能的功能感到满意，这可能意味着新型的用户交互。

产品设计师需要与人工智能产品经理密切合作，以确保人工智能体验易于学习、使用、理解和信任。

此外，在许多情况下，解释人工智能决策和行为背后的“原因”在某些应用中变得至关重要。这种透明度可以建立信任，并帮助用户在与产品交互时建立信心。

需要什么级别的可解释性才能产生必要的信任？

与评估可行性一样，人工智能产品经理需要与产品设计师密切合作，分析可能影响用户体验的权衡因素。

例如，高度准确的人工智能推荐系统可能需要更长时间才能产生结果，从而导致用户失望。同样，为更快处理而设计得更简单的人工智能模型可能会难以应对复杂的用户交互，或者准确性较低。

在准确性、速度、运营成本和用户体验之间找到适当的平衡至关重要。

5.价值风险

价值始终是一个关键风险。

人工智能产品有望带来巨大价值，这就是为什么世界上如此多的人争相应用这项技术。但如今我们也看到许多人工智能产品只是徒有虚名。

人工智能产品经理的首要职责是确保人工智能驱动的功能和产品为用户和客户提供真正的增量价值。

这意味着要以明显优于现有解决方案的方式解决实际问题，甚至解决没有人工智能技术就无法解决的问题。

我们希望避免仅仅为了营销或竞争而使用人工智能的诱惑。我们的工作是确保人工智能产品的价值清晰且引人注目。

与大多数复杂的产品功能一样，我们希望使用一系列工具来评估价值。通常这意味着将定量证据（如 A/B 测试）与定性见解（如用户测试）相结合。

我们还需要与产品营销部门密切合作，以确保我们能够有效地传达这一价值。

在谈到产品营销时，将围绕用户隐私和合乎道德的数据使用讨论重要的业务持续性工作，希望确保在适当的情况下，能够清楚有效地传达这些要点。

6.业务持续性风险

尽管人工智能具有巨大潜力，特别是在为用户和客户提供真正价值方面，但商业可持续性挑战往往也很大，而有关业务持续性风险的错误和疏忽往往占据了当今的新闻头条。

对于任何产品，我们都需要确保它能够有效地营销、销售、服务、融资、货币化，合法并符合相关的监管限制。

但对于人工智能产品来说，这些业务持续性风险尤其重要且具有挑战性。从人工智能产品的单体经济模型角度来看，这一产品目前还处于初始阶段，但成本可能相当高昂。

此外，对于几种类型的产品，存在关于训练数据的数据来源和版权、数据中的偏差以及基于这些数据的建议引发的后果的真正问题。

换句话说，公司仍在努力了解向客户提供概率解决方案的法律责任和影响。

最后非常重要的一点是道德考量。

这是一个持续且日益令人担忧的问题。这超出了训练数据中的潜在偏差。如果用户误解了结果，或者模型出现造成危险的幻觉，那么法律和道德后果是什么？

要知道，有了概率解决方案，人工智能系统很有可能既能通过比人类更准确地执行关键任务拯救生命，又能通过犯错危及生命。如今，公司必须积极应对这些道德问题。

同样，人工智能产品经理必须努力预测不良行为者以非法或不当方式使用产品的后果。

业务持续性的一个重要部分是保护公司的资产和声誉。

打造领军企业，除了战略与机制，更离不开有生命力的组织。

目前大多数与人工智能相关的内容都涉及如何使用人工智能来改进产品和服务。这当然是一个非常有趣的话题，我们每天都会听到更多鼓舞人心的案例，而且越来越多的人开始将生成式人工智能视为一种平台转变。

但我的工作重点是产品开发方式：产品开发已经开始发生哪些变化，我认为将会发生哪些变化，以及你可以做哪些准备。

1.建立在颠覆性技术之上的行业

我想我的主要优势在于我已经在科技行业的核心部门工作了40 多年，并且经历过几次重大的技术变革。

我的职业生涯开始于个人电脑诞生之时，很难向今天的人描述在每个家庭和每个办公室中配备一台电脑的想法有多么意义深远。

出现了分布式计算和高速网络，这使我们能够解决一些更棘手的问题。

后来互联网出现了，这实际上促使公司重新审视我们生活和工作方式的几乎所有方面。我很难向人们解释当时的情况，只能说感觉就像现在的情况一样。

无论是初创公司还是大公司，都涌现出大量创新。

每周都有数十种新技术、数十种新工具和数百家新企业诞生。要跟上这些创新步伐非常困难，常常让我头晕目眩。

今天的 OpenAI 可能最接近网景在当时所扮演的角色。移动计算将这三项创新结合到一个可以放进口袋的设备中。

我意识到这些早期的颠覆性技术在今天听起来可能有些过时，但在方方面面，无数的公司和产品被颠覆。

关于颠覆性技术，我还学到了另一件事，我始终牢记在心，那就是阿玛拉定律：“我们倾向于高估一项技术的短期影响，而低估其长期影响。”

也许生成式人工智能会是个例外，但我对此表示怀疑。

在产品公司，我们为这些颠覆性技术而生。它们让我们能够以以前无法想象的方式解决长期存在的问题。

2.产品开发方式的创新

现在，如果我们把注意力转向如何开发产品，我会说迄今为止互联网对产品开发的影响最深远。互联网出现之前，产品团队规模更大，开发产品所需的时间更长，获取反馈所需的时间也更长，而且迭代次数更少。

纯属运气好，我正好处于互联网变革的中心，负责互联网诞生之初的公司—网景的平台和开发工具。

互联网实现了产品探索、产品交付、分销和反馈周期的新模式。

网景的产品团队以及我们处于中心的不断发展的生态系统都在前线，尝试着如何改变我们开发和交付产品的方式，而敏捷、客户开发和精益创业技术正是从这些早期团队的经验中诞生的。

所有这些都引出了一个问题：生成式人工智能的兴起将如何影响我们开发产品的方式？

3.产品开发方式的10大变革

从某种程度上来说，生成式人工智能是一种新型且功能强大的工具。

听起来很简单，但用起来却很棘手。正如本尼迪克特 ·埃文斯 (Benedict Evans) 所指出的：“有句老话说，当我们得到一个新工具时，我们首先要让它适应旧的工作方式，然后再改变自己的工作方式来适应新工具。”

我认为我们已经看到了这两者的明显迹象。两者都很有趣，但我想在这里集中讨论一下这些技术可能会如何改变我们的工作方式。

此外，有些工具可用于产品开发，有些工具可用于产品运营。商业模式画布是前者的例子，AWS 是后者的例子。然而，生成式人工智能是一种在两方面都有重大应用的工具。

① 产品团队和团队拓扑

公司销售的产品来自不同的产品团队。

由于大多数产品都有多个产品团队负责不同的领域，团队拓扑是指如何组织这些产品团队。这是目前产品领导者需要做出的最困难但最重要的决定之一。

目前有许多限制因素影响着最佳团队拓扑结构的决策。其中一个主要制约因素是“认知负荷”，即工程师的脑子能记住多少信息。

要知道，如今许多产品的代码多达数千万行，因此这是一个非常现实的问题。我们确实有各种方法来抽象这种复杂性，但这仍然是一个主要因素。

因为工程师有了新的人工智能工具，认知负荷可能会下降，而且可能会大幅下降；这意味着团队负责的范围可能会增加，而且可能会大幅增加。

产品团队数量减少、规模缩小，对公司来说是一大利好。

这会带来很多切实的好处，包括提高赋权、自主性、沟通、协调、协作和工作满意度。显然，一种可能性是公司只是减少了所需的产品人员数量。

我们已经看到类似情况发生了。但从历史上看，随着时间的推移，公司会追求更多的产品，更多新公司成立，因此整个行业都会经历整体增长。

没有硬性指标，但我相信情况会如此发展。尽管正如你将在下文中看到的那样，这从来都不是一个平稳的过渡。总会有伤亡。

② 团队自主权和主动性

决定产品团队成员工作满意度的主要因素之一是他们的自主权水平。

从实际角度来说，这意味着他们所依赖的资源中有多少是他们可以自己控制的，有多少是必须从别人手中获取的。

在大多数大型组织中，为了完成任何有意义的工作而不得不依赖如此多的其他产品团队，这可能会让人非常沮丧和无能为力。

由于自主权有限，即使想实现很小的功能也可能会非常复杂。

以至于许多产品团队和产品组织只会避免解决最有意义的问题， 因为他们不想处理沟通、协调和依赖管理的额外工作，也不想花费由此产生的时间和成本。

新一代人工智能工具可能带来的一个主要好处是产品团队将拥有更高程度的自主权，尤其是对于工程师而言。

一般而言，产品团队会处理各种规模的工作。

从小型功能到中型项目，再到影响多个产品团队的大型计划。大多数公司对主动性总是感到困惑。

主动性往往是解决最有意义的问题的砝码，能产生最大的潜在影响。然而，由于缺乏自主权，主动性往往伴随着高额的管理费用。

新技术的一大希望是，自主权将提高到一定水平，即单个产品团队不仅可以完全拥有和交付常规功能和项目，还可以有更大的自主行动权。

随着技术解决了工程师更多的认知负担，提高了设计师的体验设计水平，将产品经理从更多的行政负担中解放出来，产品团队有望承担起更多的端到端体验的责任，而依赖性会大大减少。

希望这将使产品团队能够以与他们今天承担新功能时相当的自主性水平来应对更大的计划。

③ 团队动态

产品团队在很大程度上是一种基于信任的社会结构。

它们必然是跨职能的，而真正的创新的关键是合作。甚至在生成人工智能出现之前，许多团队就发现建立和维持信任是困难的，尤其是当团队成员远程工作时。

问题在于新一代生成式人工智能工具是否会找到帮助建立信任的方法，或者是否会在无意中加剧问题，让人们更容易退缩到自我，主要与基于人工智能的代理进行互动，而较少与跨职能的同事互动。

这听起来很微妙，其实不然，因为健康的合作需要一些必要的摩擦，能够表达不同意见，并解决许多经常相互冲突的目标和制约因素。

许多人倾向于避免摩擦。但这样做，创新可能会受到影响。

当然，工具有可能有助于培养必要的信任和协作，但考虑到人们倾向于避免这些互动，人们真正担心的是，这会造成伤害而不是帮助。

④ 思考与判断

这一点既具有最大的潜力，也具有最大的风险。

我对这件事将如何发展既感到兴奋，又感到恐惧。

新一代人工智能工具有可能比我们所见过的任何其他工具更能提高我们的思考和推理能力。但它也有可能接管必要的思考和判断，这可能会严重损害产品团队以及整个社会。

产品团队致力于以客户喜欢的方式解决难题，同时又有利于我们的业务。这需要一支跨职能团队来构思和讨论各种权衡。

但最重要的是，它需要思考和判断，事实上，培训产品经理、产品设计师和工程师最重要的技能之一就是如何思考这些棘手的问题。

尽管如此，仍有许多人为了逃避思考而不惜采取如此行动，这真是令人惊讶。

就在产品团队尝试 ChatGPT 的过去几个月里，我已经看到了各种例子。

有些例子中，人们使用这项服务来挑战自己的思维，找到表达论点的最佳方式，或总结现有的研究。

我也看到过太多这样的例子：有人得到了 ChatGPT 对提示的回应，盲目地接受了它，而没有考虑它是否有意义，是否真的是最好的行动方案，或者输出是否相关。

如果人们最终放弃实际的思考和判断，转而依靠科技工具，那么我担心我们正走向一个非常糟糕的方向，这一点再怎么强调也不为过。

相反，如果我们确保人们使用这些工具来提高他们的思考质量，那将是一个巨大的贡献。

⑤ 工件

随着新的人工智能工具的出现，创建产品团队和产品组织用于沟通和生产产品的工件将比以往更容易、更快捷。这有可能节省大量时间，并将人们从通常烦琐且耗时的工作中解放出来。

然而，对于许多人，特别是那些不愿意深入思考和完成工作的人来说，工作变成了做工件本身，而实际上工件只是做工作的副产品。

例如，如果你已经完成了必要的产品探索工作，通常需要将你的决策记录在产品路线图、产品需求说明书或带注释的用户故事等文档中，以便与工程师沟通，让他们了解需要开发和测试的产品的细微差别。

但如果没有进行必要的产品探索工作，那么你将基于猜测而不是产品探索期间产生的实际证据来制作工件。

工件可能从表面上看跟工作一样，但其价值却不一样。

⑥ 质量

一个既有巨大潜力又有巨大风险的领域是质量保证。我们如何确保我们的产品始终如一地为我们的客户提供正确的服务？

一方面，这对许多产品团队来说一直是一个非常困难的问题。通常需要在测试自动化方面投入大量资金，然后持续投资维护这些（非常脆弱的）自动化测试。

新一代基于人工智能的测试自动化工具有望彻底改变我们确保产品正常运行的方法。

另一方面，我们当前对质量的掌控主要基于确定性产品。

这意味着，给定一组输入，我们可以预测适当的输出应该是什么，并且可以无限期地信赖这一点。然而，对于许多基于生成式。

人工智能的新产品来说，我们的产品不再是确定性的，而是概率性的。

我们不能再指望相同的输入产生相同的输出。

在许多情况下，这不是问题。但对于其他情况来说，尤其是涉及安全的情况，这将需要不同的方法来确保适当的行为。

⑦ 产品工程师

现在让我们从工程师开始看看人工智能技术对具体角色本身的影响。

自产品工程师这个职业诞生以来，他们用来开发、测试和部署产品的工具一直在不断改进。

请到「今天看啥」查看全文