专栏名称: AGI Hunt
关注AGI 的沿途风景!
目录
相关文章推荐
内蒙古自治区文化和旅游厅  ·  过大年 闹元宵 | ... ·  18 小时前  
精明常旅客  ·  携程春促今晚12点开启,要抢就别早睡! ·  2 天前  
成都日报  ·  最新,九寨沟景区紧急辟谣! ·  2 天前  
成都日报  ·  最新,九寨沟景区紧急辟谣! ·  2 天前  
甘肃省文化和旅游厅  ·  兰州新区:“非遗贺新春 新区过大年”社火展演 ... ·  2 天前  
51好读  ›  专栏  ›  AGI Hunt

Ilya:我对AI 的未来一无所知

AGI Hunt  · 公众号  ·  · 2024-12-17 00:00

正文

Ilya 称:

在过去十年的AI预测中,我几乎都是对的。但现在,即便站在预言之山上,我也完全不知道下一步会发生什么。

这位在AI领域拥有「预言帝」称号的大佬,为什么突然承认对未来「一无所知」?

在NeurIPS会议上,Ilya这番出人意料的表态引起了轩然大波。而更有趣的是,谷歌DeepMind的高级研究员Shane Gu对此给出了一个令人深思的解读。

Shane认为,Ilya最令人敬佩的品质之一,就是他对「知」与「不知」的清晰界定。 每次在表达观点前,他都会 一步一步地验证 ,确保每个「输出」都经过深思熟虑。

这种严谨的态度,让他的预测总能 保持极高的准确性

Shane还透露了一个有趣的发现: 思维链(Chain of Thought,CoT)方法不仅能提升AI模型的推理能力,还能显著改善其「校准性」

什么是校准性?

简单来说,就是 模型对自己判断的「自信程度」要与实际的「准确率」相匹配

从他们2022年的研究成果看,通过CoT方法,模型的自信程度与实际表现达到了惊人的一致性。

这不禁让人联想到Ilya的表态:

当你真正站在知识的高峰,反而更能清楚地看到自己的局限。这种认知,正是「校准性」最好的体现。

这种坦诚和谦逊,或许正是推动AI持续进步的关键。

只有承认自己「无知」,才更激发探索「未知」的动力。

才是创新的源泉吧!

👇

👇

👇

👇







请到「今天看啥」查看全文