6月11日，浦源大模型挑戰(zhàn)賽（夏季賽）安全可信賽道正式開賽。

本屆挑戰(zhàn)賽新增安全可信賽道，旨在探索技術(shù)蓬勃發(fā)展中的大模型安全治理路徑。在覆蓋多領(lǐng)域、多場(chǎng)景、多學(xué)科的“紅隊(duì)測(cè)試”中，參賽隊(duì)伍可自行設(shè)計(jì)攻擊方法，對(duì)特定模型開展“對(duì)抗攻擊”，推動(dòng)模型向更安全、可信、符合倫理的方向發(fā)展。

浦源大模型挑戰(zhàn)賽由上海市經(jīng)濟(jì)和信息化委員會(huì)、上海市科學(xué)技術(shù)委員會(huì)、上海市互聯(lián)網(wǎng)信息辦公室、徐匯區(qū)人民政府共同指導(dǎo)，上海人工智能實(shí)驗(yàn)室（上海AI實(shí)驗(yàn)室）主辦，上海市人工智能行業(yè)協(xié)會(huì)承辦。夏季賽啟動(dòng)以來(lái)，受到各界廣泛關(guān)注、積極參與。大模型行業(yè)應(yīng)用及創(chuàng)新創(chuàng)意賽道報(bào)名通道同步開啟中，誠(chéng)邀全球大模型開發(fā)者參賽。

參賽方式

方式一：進(jìn)入上海AI實(shí)驗(yàn)室官網(wǎng)活動(dòng)頁(yè)，填寫報(bào)名信息

https://www.shlab.org.cn/Challenge2024-Summer

方式二：掃描下方二維碼填寫報(bào)名信息

參賽對(duì)象

產(chǎn)學(xué)研機(jī)構(gòu)及個(gè)人開發(fā)者。每支隊(duì)伍不超過(guò)5人，成員可來(lái)自不同機(jī)構(gòu)。

比賽形式

賽事組委會(huì)將向報(bào)名成功團(tuán)隊(duì)定向發(fā)布賽題庫(kù)。

參賽團(tuán)隊(duì)針對(duì)限定題目對(duì)模型進(jìn)行紅隊(duì)測(cè)試，根據(jù)題目中的“不安全行為”，自行設(shè)計(jì)攻擊方法，誘導(dǎo)待測(cè)模型對(duì)題目中的“不安全行為”給出答案。評(píng)測(cè)將根據(jù)攻擊成功率、多樣性等多種方式綜合計(jì)算。對(duì)抗攻擊方式包括但不限于提示詞越獄、自動(dòng)紅隊(duì)模型、對(duì)抗樣本生成等。

作品提交

安全可信賽道參賽選手需提交數(shù)據(jù)集、技術(shù)報(bào)告及相關(guān)模型、算法代碼文件，上傳至上海AI實(shí)驗(yàn)室OpenDataLab數(shù)據(jù)開放平臺(tái)https://opendatalab.com。

獎(jiǎng)金設(shè)置及相關(guān)支持

價(jià)值100萬(wàn)元總獎(jiǎng)池（包括現(xiàn)金獎(jiǎng)勵(lì)或算力支持）

模速空間、AI驛站等孵化基地免費(fèi)入駐

WAIC世界人工智能大會(huì)亮相機(jī)會(huì)

團(tuán)隊(duì)成員上海AI實(shí)驗(yàn)室實(shí)習(xí)機(jī)會(huì)

前沿學(xué)術(shù)沙龍參會(huì)名額

賽程安排

• 即日起至6月21日  參賽報(bào)名并提交參賽數(shù)據(jù)
• 6月24日  公布決賽入圍名單
• 7月4日-6日  世界人工智能大會(huì)（WAIC 2024）現(xiàn)場(chǎng)頒獎(jiǎng)

來(lái)源：上海人工智能實(shí)驗(yàn)室