9月6日上昼，在2024Inclusion·外滩大会“以AI防守AI 大模子期间的攻守之谈”论坛上，国内首个大模子攻防主题的科技赛事—“民众AI攻防挑战赛”晓谕稳重开动。该赛事聚焦AI大模子产业推论，想象了攻、防双向赛谈，邀请各路白帽黑客、技能东谈主才别离进行针对文生图大模子“数据投毒”的攻防实战演练，以及金融场景大模子生成内容的防伪检测竞赛，角逐百万元科技奖金。
本次大赛由中国图象图形学学会、蚂吞并团、云安全定约(CSA)大中华区和谐主理，芜俚和谐清华大学、上海交通大学、浙江大学等C9高校及多家产学研组织共同发起，上海东谈主工智能本质室手脚技能协调单元。大赛旨在通过技能竞赛的模样，凝华学界、行业力量，直面并处罚大模子应用中消散的风险，助力民众AI产业健康可握续发展。
中国工程院院士、中国图象图形学学会理事长王耀南在赛事开动设施暗示，大模子期间，怎样确保AI系统的安全可控、怎样有用搪塞供应链中的潜在风险，成为亟待处罚的伏击问题。图像图形技能手脚新一代信息技能限度的要道技能，在大模子等多场景更始应用，鼓动图像识别与安全技能更始发展。这次AI攻防挑战赛，是中国图象图形学学会联袂蚂吞并团等业界着名企业、机构，聚焦大模子AIGC赛谈共同打造的民众性技能盛宴，从东谈主脸验真到生成式内容检测，期待挖掘出更多更始有诡计，更进一步保险大模子应用安全和产业安全。
大赛建造了“抨击”与“防护”两大赛谈，别离聚焦大模子自己安全和大模子生成内容的防伪检测及大模子失掉风险检测，涵盖机器学习、图像处理与计较机视觉、数据处理等多个算法限度的考点。
其中，“抨击赛谈”聚焦于文生图大模子的骨子应用风险问题。参赛选手可通过指标劫握、景况带入、逻辑嵌套等各种化的动态抨击指点技能，诱发大模子输出风险图像，以此激活大模子的潜在流毒和缺欠，增宏大模子生图的安全免疫智商。“防护赛谈”则聚焦于AI核身中的金融场景字据编削检测，以搪塞日益严峻的Deepfake深度伪造及AIGC假证风险。大赛提供百万级字据编削数据测验集，参赛选手需要研发和测验模子，并期骗对应的测试集评估模子有用性，给出数据伪造概率值。
为保证大赛平允公正，同期更好地请示选手，大赛评委团由多位学术界与工业界大师共同构成。中国工程院院士、中国图象图形学学会理事长王耀南，云稳固约(CSA)大中华区主席李雨航担任本次大赛的请示委员会大师，来自清华大学、上海交通大学、上海东谈主工智能本质室、中国图象图形学学会等单元的近30位着名学者将参与大赛的组织及评审职责。
ai换脸 视频本次大赛于9月6日稳重开动报名，11月初完成赛事评审。即日起，选手可通过中国图象图形学学会官网、阿里云天池大数据众智平台官网等渠谈报名。大赛全程设有近100万元奖金池，用以接管及赏赐限度内的优秀东谈主才。