转自：InfoQ - 褚杏娟 核子可乐
Reddit 上的一用户发帖介绍了一款将员工数据与同事进行比较的软件后，该话题迅速引发热议。这款“反乌托邦”式的员工“生产力监控”AI 软件令网友们大惊失色，它不仅可以监控员工的每一个动作，还可以自动提供开除员工的建议。
用户 OP 在 r/sysdmin 子版块中写道，“今天早上，我认真听取了这场关于强大‘生产力监控’软件的营销宣传”，并同时简要介绍了该款应用程序的功能。
他了解到该软件不仅能够在多个维度上精确跟踪员工效率，还能使用 AI 创建“生产力图表”，向员工发出“警报通知”并最终建议雇主开除不合格人员。
该用户补充了该应用程序的基本功能：完整记录键盘和鼠标移动操作（这已经存在很久了）；每隔一段时间（10 秒到 5 分钟之间）截取一次桌面屏幕；跟踪目标用户打开的程序及打开频率；
此外还会创建用户在任意程序中点击位置的实时记录和热图（几乎所有网站也都这样做）。
但接下来的情况就变得诡异了起来：
该应用程序允许经理将每位雇员划分进不同的“岗位类别”，之后 AI 根据“鼠标移动数据、点击位置、打字速度、使用退格键的频率、访问的网站、打开的程序、发送的电子邮件数量”等以创建“生产力图表”，并将这些指标与同一岗位类别下的其他同事数据进行比较。
如果员工的绩效低于某一最低百分比（比如你的打字速度比同事慢、填写表格的时间更长，或者在写电子邮件的过程中必须接听电话），则会收到“红色标记”，要求其接受审查。该标记会被即时发送给经理及其他管理层，员工则需要通过门户网站解释自己生产力不足的理由。
员工桌面空闲时间如果超过 30-60 秒（没有“有意义的”鼠标和键盘移动），就会收到“红色标记”。如果员工的工作流程在周一至周四是一致的，但在周五低于设定的汇总数据分数，则会收到警告。
该软件还可以使用这些收集到的数据进行“工作流效率自动化”，包括取代人类员工。没错，销售该套件的厂商还同时提供 AI 办公自动化服务。
随着帖子的传播，千名用户纷纷跟帖，表达了他们对此类软件的不满和担忧。有网友直言道，“这太恶心了！难道我们就不能花上一两分钟认真思考一个问题、上班随时都得移动鼠标或者敲击键盘？那唯一的结果就是所有人都被迫胡敲乱打。”
另一位网友也补充道，“什么样的反乌托邦雇主会使用这种软件？这是怕我晚上睡得太好么？”“如果我们公司认真考虑用这款软件，那我绝对立马去找新工作。”有网友表示。
大企业们都在用 AI 监工
今时今日，企业正通过监控和跟踪等方式从员工处收集到越来越多个人信息。美国的大型企业，如沃尔玛、达美航空、T-Mobile、雪佛龙和星巴克，以及欧洲品牌，如雀巢和阿斯利康，已经向成立七年的初创公司 Aware 寻求帮助，以监控其员工之间的聊天内容。
Aware 的联合创始人兼首席执行官 Jeff Schumann 表示，Aware 拥有数十种专为阅读文本和处理图像而构建的 AI 模型，这些模型能够识别欺凌、骚扰、歧视、不合规、色情、裸体等不当行为。
Schumann 表示，AI 能够帮助公司实时“了解沟通中的风险”和员工情绪，而不必依赖于每年或每半年进行一次的调查。通过利用 Aware 分析产品中的匿名数据，企业可以洞察特定年龄段或地区员工对新公司政策或营销活动的反应。
Schumann 强调，Aware 的分析工具不会标记单个员工的姓名，它们仅用于监控员工情绪和恶意程度。但他也补充说，如果出现极端威胁或企业预先设定的其他风险行为，Aware 的电子取证工具也能够识别出具体个体。
Aware 每年都会发布一份报告，汇总大型公司之间发送的数十亿条消息（2023 年这一数字为 65 亿条），并分析感知风险因素和工作场所情绪评分。如果将图片和视频等其他类型的共享内容也计算在内，Aware 的分析 AI 每天会处理超过 1 亿条内容。通过这种方式，该技术能够创建公司社交图谱，识别哪些团队内部交流较多。
“它始终在跟踪员工的实时情绪和恶意行为。如果你是一家使用 Aware 的银行，员工的情绪在过去 20 分钟内飙升，可能是因为他们正在集体积极地讨论某件事。该技术能够揭示具体原因。”Schumann 说道。
Aware 也证实了在使用来自企业客户的数据来训练其机器学习模型。该公司表示，其数据存储库包含约 65 亿条消息，代表了 300 多万独立员工的约 200 亿次个人互动。 当新用户注册分析工具时，Aware 的 AI 模型需要大约两周的时间来训练员工信息，学习公司内部的情绪模式，以便识别什么是正常的、什么是异常的。
Schumann 表示，企业可以利用 Aware 的技术来指定“暴力威胁”政策或其他任何类别，并让 AI 模型监控 Slack、Microsoft Teams 以及工作场所中的交流。此外，企业还可以将 AI 监控与基于规则的标记结合起来，针对某些短语或语句进行监控。如果 AI 检测到违反公司指定政策的行为，它可以将违规员工的姓名报告给企业指定的代表。
如今的办公楼已经如同网络浏览器一般——其中充斥着各种跟踪技术。
“随着办公室、建筑和其他企业设施逐渐融入网络环境，雇主越来越希望利用从现有数字基础设施或者额外传感器处收集到的数据用于各种目的。无论有意还是无意，其中都涉及大量关于员工及其运动和行为的个人信息。”Cracked Labs 在调查报告《跟踪办公场所中室内位置、运动及工位利用情况》中指出。
Cracked Labs 声称，虽然大部分数据收集是通过员工电脑和移动设备上的软件应用完成的，但思科、瞻博、Spacewell 以及 Locatee 等工作方法厂商的办公环境监控系统也在其中出了大力。
报告解释称，思科使用 Wi-Fi 接入点及其他无线网络基础设施来跟踪员工、客户、设备及其他物体的位置。 用思科公司自己的话来说，他们这样做是为了“了解人和事物在物理空间中的移动方式”并“了解人（访客、员工）及物体（资产、传感器）的行为和位置。”该公司将其基于云端的位置跟踪系统称为 Cisco Spaces。
除了提供关于个人在公司环境下的运动和行为结果之外，该技术还能够“基于位置数据进行行为分析”，具体是将人类对象划分为多种位置角色（例如“餐厅散客”、“零售区散客”、“VIP 忠实会员”、“回头客”、“员工”等）并对其开展近距离监控。
报告指出，思科在其 Spaces 隐私数据表中解决了多项潜在的争议问题，并宣称其系统符合欧洲发布的《通用数据保护条例》（GDPR）。
市场增长，但已引发抗议
AI 员工监控是迅速扩张但相对小众的大型 AI 市场中的一部分。据了解，采用 Aware 技术来管理风险和合规性类业务约占公司总业务的 80%。Aware 在过去五年中的平均年收入增长 150%， 其典型客户规模约为拥有 30,000 名员工。
除了 Aware，还有像 Qualtrics、Relativity、Proofpoint、Smarsh 和 Netskope 等诸多公司。根据 fortunebusinessinsights 报告，2023 年，全球员工监控和监控软件市场规模为 5.351 亿美元。预计该市场将从 2024 年的 5.878 亿美元增长到 2032 年的 14.652 亿美元，预测期间的复合年增长率（CAGR）为 12.1%。
上述报告从资本角度指出，随着生成式 AI 应用的不断扩展，未来几年员工监控和监控软件领域将迎来众多有利可图的机会。新时代技术的融合预计将推动员工监控和监控软件取得重大进步。此外，未来几年，提高安全性和访问权限的监管合规性预计将为市场带来机会。
但从现实看，办公环境监控系统的应用已经引发抗议。Cracked Labs 的报告指出，2022 年美国东北大学的学生们就反对在研究生的办公桌下安装由德国智能设备供应商 EnOcean 提供的运动传感器。
学生和教职员工们向东北大学校长 Joseph Aoun 要求拆除这些传感器，理由包括“它们没有任何科学用途”、“它们令人心生焦虑”、“它们改变了我们的行为”、“其安装未经同意”以及“被全程监控既令人毛骨悚然又毫无必要性”等等。
虽然说，AI 驱动的员工监控对雇主来说可以利用雇主收集的大量数据，包括员工的生产力、绩效和安全身份模式，来减少一些非恶意损失，但是有研究表明，监控行为对员工的身心都造成了不同程度损害。
根据美国心理学会（APA）的一项调查，近一半（45%）受到技术监控的员工表示，他们的工作场所对其心理健康产生了负面影响。同时，工会联盟战略组织中心的研究显示，在 2021 年，亚马逊工厂的员工遭受了 34,000 起严重伤害，这一受伤率是其他非亚马逊工厂的两倍多。“这些伤害中的肌肉骨骼损伤与亚马逊仓库在监控下的工作节奏密切相关。”
当研究如何使用 AI 监控员工时，人是其中的一个重要组成部分，特别是当该技术提出的建议会影响人们的工作时。此外，我们无法保证拿到员工数据的企业不会滥用这些数据。
“无处不在的数字监控与分析会破坏员工隐私、尊严、自主权以及对办公场所的信任。一旦以‘为善’之名进行部署，无论是出于综合分析、提高能源效率或者是增强工人安全，这些技术都会导致数字监控逐步常态化，并可能迅速被滥用于其他目的。雇主利用收集到的数据针对甚至打击雇员的风险极高。”Cracked Labs 报告作者 Wolfie Christl 说道。
在工作场所使用 AI 监控的趋势仍在进行，但这并不意味着雇主在实施 AI 员工监控工具时完全没有法律顾虑。
在德国和奥地利，企业雇主需要与员工协商后才能引入这种系统，且员工有权审查雇主如何使用收集到的数据。“基本上，GDPR 和劳动法的存在意味着有数个欧洲国家几乎或者完全不允许企业雇主合法使用室内位置跟踪。”Christl 表示。
“只要没有可靠的保障措施来防止雇主将这些数据用于恶意目的，员工们就不该接受任何形式的室内位置跟踪。”Christl 催促其他地区建立适当的法律，来保护员工在办公场所中免遭不当监控。
参考链接：
https://www.ndtv.com/offbeat/dystopian-ai-workplace-software-that-tracks-every-move-has-employees-worried-7098960
https://www.cnbc.com/2024/02/09/ai-might-be-reading-your-slack-teams-messages-using-tech-from-aware.html
https://www.theregister.com/2024/11/27/workplace_surveillance/?td=rt-3a%E8%BF%99%E4%B8%AA%E8%B7%9F1%E6%9C%89%E5%85%B3%E4%B9%88%EF%BC%8C
https://www.informationweek.com/machine-learning-ai/what-is-the-future-of-ai-driven-employee-monitoring-
https://www.fortunebusinessinsights.com/employee-surveillance-and-monitoring-software-market-104796
