专栏名称: 人机与认知实验室
北京邮电大学人机交互与认知工程实验室 联系方式:[email protected]
目录
相关文章推荐
51好读  ›  专栏  ›  人机与认知实验室

AI+的堵点在于…

人机与认知实验室  · 公众号  ·  · 2025-03-21 00:00

正文

AI+在应用中存在一些堵点,其中“一多分有”可能涉及到数据整合、模型性能、应用落地等方面的问题。


在AI+的应用场景中,数据往往分散在不同的机构、部门或系统中,形成数据孤岛。例如在医疗领域,影像数据、病理数据、临床记录等分别由不同的科室或医疗机构管理,难以实现有效的整合和共享,这限制了AI模型对全面数据的学习和分析,影响其性能和应用效果。AI+应用常常需要处理多种类型的数据,如图像、文本、音频等多模态数据。将这些不同模态的数据进行有效的融合和处理是一个复杂的问题,需要解决数据对齐、特征提取、模态间语义鸿沟等技术难题。

当对AI模型进行微调以适应新的任务或数据时,模型可能会忘记之前学到的知识,出现“灾难性遗忘”。这意味着在一个领域优化模型可能会导致其在其他领域的性能大幅下降,限制了AI+在多领域应用中的灵活性和通用性。对于一些复杂问题,AI模型可能难以找到简约有效的解决方案。当问题的描述过于详细或复杂时,AI的理解力和处理能力可能会下降,无法满足实际应用中的详细需求,这在一定程度上阻碍了AI+在复杂任务中的应用。尽管AI技术在某些方面取得了显著进展,但在一些关键领域,如医疗诊断、金融决策等,其准确性和可靠性仍需进一步提高。例如在医疗领域,AI模型的诊断准确性可能无法达到人类专家的水平,导致其在实际应用中难以完全取代人类,影响了AI+的落地。

在AI+应用中,当出现错误或问题时,责任的界定往往比较复杂。是开发者的责任、使用者的责任,还是AI系统本身的责任?此外,用户对AI系统的信任度也需要逐步建立,这些问题都可能成为AI+应用落地的障碍。


在不少应用落地领域,AI+在人机环境系统中的堵点,主要体现在人机协作、环境适应性以及系统设计与集成这三个方面。


(1)人机协作

人类擅长直觉判断、创造力和复杂的社会互动,而机器则擅长处理大量数据和重复性任务。当任务需要结合人类的创造力和机器的计算能力时,协调可能会变得复杂。机器通常遵循明确的规则和算法,而人类的思维更加灵活,可能会基于上下文和经验做出决策,而机器可能难以理解复杂的语境,这可能导致沟通障碍。机器通常比人类更快,尤其是在数据处理和计算方面。然而,过快的反馈可能会让人类感到困惑或无法跟上节奏,这可能导致人类在与机器协作时感到压力,进而影响合作的效果。此外,人类和机器之间的沟通方式可能存在差异,机器通常只能处理结构化的数据,而人类的沟通往往是非结构化的,比如在语音识别系统中,口音、语调或背景噪音可能导致机器难以准确理解人类的意图。人类通常基于经验和直觉做出决策,而机器则基于算法和数据分析。在某些情况下,机器的决策可能无法充分考虑道德和伦理问题,这可能导致与人类价值观的冲突。此外,人机信任与责任界定也是一个重要问题。人类对AI系统的信任度需要逐步建立,而且当出现错误或问题时,责任的界定往往比较复杂,这可能影响人机协作的效果。

(2)环境适应性

AI系统需要在复杂多变的环境中运行,如无人驾驶领域,车辆需要适应各种交通规则、道路条件和行人行为等复杂环境。这种复杂性使得AI系统难以有效应对,导致技术的瓶颈。此外,环境的变化可能影响AI系统的性能,例如在医疗领域,AI系统需要适应不同医院的设备、数据格式和工作流程等差异。环境不仅是AI系统运行的外部条件,还与人类的行为和需求密切相关。AI系统需要能够感知和理解环境的变化,并根据这些变化调整自身的行为,以更好地满足人类的需求。如在智能家居领域,AI系统需要根据居住者的活动、偏好和环境的变化(如温度、光照等)自动调整设备的状态,提供舒适和安全的居住环境。







请到「今天看啥」查看全文