专栏名称: 新智元
智能+中国主平台,致力于推动中国从互联网+迈向智能+新纪元。重点关注人工智能、机器人等前沿领域发展,关注人机融合、人工智能和机器人革命对人类社会与文明进化的影响,领航中国新智能时代。
目录
相关文章推荐
常青藤爸爸  ·  《哪吒3》没出来之前,看看它也过瘾啊! ·  昨天  
夏天的陈小舒  ·  原来人生定“胜负”的核心是它 ·  2 天前  
夏天的陈小舒  ·  原来人生定“胜负”的核心是它 ·  2 天前  
51好读  ›  专栏  ›  新智元

CMU教授、机器学习系主任空降OpenAI董事会,曾用一句话攻破ChatGPT

新智元  · 公众号  ·  · 2024-08-09 12:35

正文



新智元报道

编辑:耳朵 好困
【新智元导读】 就在刚刚,CMU教授Zico Kolter正式宣布加入OpenAI董事会,并成为安全与安保委员会成员。OpenAI这是终于要在安全上下功夫了?

OpenAI最近人事变动不断,本周三名高层领导人离开了OpenAI,其中包括联合创始人John Schulman和Greg Brockman。
今天,OpenAI正式宣布董事会新增了一位董事:卡内基梅隆大学计算机科学教授、机器学习系主任Zico Kolter。
人才流失不断、痛失左膀右臂后,OpenAI终于迎来一员大将,奥特曼火速在评论区表示热烈欢迎。
大牛Karpathy也送上祝贺:
OpenAI研究科学家、CMU校友Noam Brown也在X上赞扬了他的前导师,写道, 「Kolter是我经常向他寻求研究和职业建议的人。」
「他深受学生的喜爱,是机器学习领域的世界专家。我很高兴他能加入我们!」
Kolter还将与董事Bret Taylor、Adam D'Angelo、Paul Nakasone、Nicole Seligman 和Sam Altman以及OpenAI技术专家一起加入董事会安全委员会。该委员会负责对所有OpenAI项目的关键安全决策提出建议。
人工智能安全一直是OpenAI的一个大问题。几位专注于安全的OpenAI知名高管和员工(包括联合创始人Ilya Sutskever)纷纷离开公司,超级对齐团队就地解散。
Kolter可谓临危受命,作为OpenAI董事会中唯一的人工智能研究员,Kolter的任命会在一定程度上平衡人们对OpenAI安全委员会主要由内部员工组成的批评。
董事会主席Bret Taylor在欢迎Kolter加入董事会时表示,「Zico的到来,增加了对人工智能安全性的深刻技术理解,这将有助于我们确保通用人工智能造福全人类。」
Brown在接受采访时表示,作为一名研究人员和教育家,Kolter先生很快就能适应新的工作范式。
并且,Kolter专业的技术知识将有助于他了解人工智能系统面临的安全漏洞。

Zico Kolter何许人也?

Zico Kolter什么来头?怎样级别的大神一来OpenAI就是董事会席位?
Kolter于2010年在斯坦福大学获得计算机科学博士学位,随后在2012年在麻省理工学院完成博士后研究。
Kolter在卡内基梅隆大学工作了12年,目前是计算机科学教授兼机器学习系主任,也是软件与社会系统系、机器人研究所、CyLab安全与隐私研究所以及工程学院电气与计算机工程系的成员。

学术斐然

Kolter在机器学习领域做出了重要贡献,不仅在NeurIPS、ICML(荣誉提名)、AISTATS(时间检验奖)、IJCAI、KDD和PESGM上获得过最佳论文奖,而且也是DARPA青年教师奖和斯隆研究奖的获得者。
他的研究涵盖机器学习和优化的多个主题,包括AI安全性和稳健性、大语言模型安全性、数据对模型的影响、隐式模型等。
其研究小组的大部分工作集中在如何让深度学习算法更为稳健和安全,并理解数据如何影响模型的功能,和OpenAI安全工作完全匹配。
Kolter的研究中最重要的包括开发了第一种具有鲁棒性保证的深度学习模型的方法,开创了使用神经网络层中的经典优化将硬约束嵌入人工智能模型的技术。
最近,2023年,他的团队开发了自动评估大型语言模型安全性的创新方法,展示了通过自动优化技术绕过现有模型保护措施的潜力。

行业活跃

除了学术追求之外,Zico在整个职业生涯中还与AI行业内密切合作。
他曾担任C3.ai的首席数据科学家,C3.ai是唯一为企业构建的一站式AI软件集合平台,它建立在经过安全验证的AI解决方案之上,这些解决方案能够帮助企业处理数十种复杂的业务工作。
目前,Kolter还担任博世的首席专家,以及专门从事人工智能安全和安保的初创公司Gray Swan的首席技术顾问。







请到「今天看啥」查看全文