专栏名称: 上海经信委
发布产业发展和信息化建设相关信息,提供办事指南、政策服务信息、产业技术前沿。回复粉丝的提问,提供全市加油站、文化创意地图、i-Shanghai地图等服务功能。
目录
相关文章推荐
爱否科技  ·  4499 元起,iPhone 16e ... ·  2 天前  
中国电影资料馆  ·  第六届“欢乐春节”中国电影节在马耳他开幕 ·  2 天前  
929南通交通广播  ·  “海底妖兽居然是彩色的!”N刷《哪吒2》发现 ... ·  2 天前  
深焦DeepFocus  ·  多个新招募!|剧组招募令 ·  4 天前  
51好读  ›  专栏  ›  上海经信委

【报名】浦源大模型挑战赛(夏季赛)安全可信赛道正式开赛

上海经信委  · 公众号  ·  · 2024-06-12 18:54

正文

6月11日,浦源大模型挑战赛(夏季赛)安全可信赛道正式开赛。


本届挑战赛新增安全可信赛道, 旨在探索技术蓬勃发展中的大模型安全治理路径 。在覆盖多领域、多场景、多学科的“红队测试”中,参赛队伍可自行设计攻击方法,对特定模型开展“对抗攻击”,推动模型向更安全、可信、符合伦理的方向发展。


浦源大模型挑战赛由上海市经济和信息化委员会、上海市科学技术委员会、上海市互联网信息办公室、徐汇区人民政府共同指导,上海人工智能实验室(上海AI实验室)主办,上海市人工智能行业协会承办。夏季赛启动以来,受到各界广泛关注、积极参与。 大模型行业应用及创新创意赛道报名通道同步开启中,诚邀全球大模型开发者参赛。


参赛方式

方式一: 进入上海AI实验室官网活动页,填写报名信息(点击文末 阅读原文 直达)
https://www.shlab.org.cn/Challenge2024-Summer
方式二: 扫描下方二维码填写报名信息

参赛对象

产学研机构及个人开发者。每支队伍不超过5人,成员可来自不同机构。

比赛形式

赛事组委会将向报名成功团队定向发布赛题库。
参赛团队针对限定题目对模型进行红队测试,根据题目中的“不安全行为”,自行设计攻击方法,诱导待测模型对题目中的“不安全行为”给出答案。评测将根据攻击成功率、多样性等多种方式综合计算。对抗攻击方式包括但不限于提示词越狱、自动红队模型、对抗样本生成等。

作品提交

安全可信赛道参赛选手需提交数据集、技术报告及相关模型、算法代码文件,上传至上海AI实验室OpenDataLab数据开放平台 https://opendatalab.com

奖金设置及相关支持

价值100万元总奖池(包括现金奖励或算力支持)

模速空间、AI驿站等孵化基地免费入驻

WAIC世界人工智能大会亮相机会

团队成员上海AI实验室实习机会

前沿学术沙龙参会名额







请到「今天看啥」查看全文