12月11日，“2024生成式人工智能安全大賽頒獎(jiǎng)儀式暨大模型安全技術(shù)研討會(huì)”在北京隆重舉辦。大賽于2024年4月26日在中關(guān)村論壇上發(fā)布，并匯聚了國內(nèi)科研院所/企業(yè)團(tuán)隊(duì)在內(nèi)的200多支隊(duì)伍報(bào)名參加三個(gè)賽道初賽，有22支隊(duì)伍參加復(fù)賽。經(jīng)過組委會(huì)嚴(yán)格審定，最終決出每個(gè)賽道的優(yōu)勝團(tuán)隊(duì)和前三名。其中，騰易科技（原易車公司升級(jí)）斬獲大賽“安全檢測(cè)”賽道亞軍的優(yōu)異成績，同時(shí)在非公企業(yè)和同行業(yè)雙雙取得第一。

　　近年來，人工智能的發(fā)展日新月異，生成式大模型正在成為驅(qū)動(dòng)新質(zhì)生產(chǎn)力發(fā)展的新動(dòng)能、人類探索未知的新工具。在賦能新時(shí)代發(fā)展的同時(shí)，生成式人工智能也給全球帶來了前所未有的安全風(fēng)險(xiǎn)。為有效發(fā)現(xiàn)、分析、應(yīng)對(duì)生成式人工智能安全風(fēng)險(xiǎn)，在2024年中關(guān)村論壇數(shù)據(jù)安全治理與發(fā)展論壇上，以“共筑安全星河，護(hù)航AI發(fā)展”為主題的首屆生成式人工智能安全大賽正式舉辦。 

　　大賽由北京市互聯(lián)網(wǎng)信息辦公室和中國科學(xué)院網(wǎng)絡(luò)安全和信息化領(lǐng)導(dǎo)小組辦公室共同指導(dǎo)，中國科學(xué)院信息工程研究所和信息內(nèi)容安全國家工程研究中心共同主辦。并設(shè)置安全攻擊、安全檢測(cè)、對(duì)齊防護(hù)三大賽道，旨在從攻、檢、防三個(gè)方面，聚集國內(nèi)優(yōu)勢(shì)力量，有效發(fā)現(xiàn)、分析、應(yīng)對(duì)大模型安全風(fēng)險(xiǎn)，不斷提升人工智能基礎(chǔ)底座的安全可控水平，更好地促進(jìn)北京市及全國的大模型產(chǎn)業(yè)安全發(fā)展。 

　　其中安全檢測(cè)賽道面向生成式內(nèi)容安全風(fēng)險(xiǎn)檢測(cè)需求，設(shè)置生成式內(nèi)容安全風(fēng)險(xiǎn)檢測(cè)技術(shù)賽題。參賽單位根據(jù)提供的生成式內(nèi)容數(shù)據(jù)集，通過檢測(cè)引擎，識(shí)別其有害性。

　　在本賽道中，騰易科技的AI安全大模型能力得到有效考驗(yàn)和優(yōu)異展示。其能力主要聚焦及體現(xiàn)在5個(gè)方面： 

　　1.有害性檢測(cè)：AI安全大模型能夠檢測(cè)生成內(nèi)容的安全性和合規(guī)性，識(shí)別出模型回答中的有害與無害內(nèi)容，確保內(nèi)容的真實(shí)性、無害性。 

　　2.多類別識(shí)別：模型能夠覆蓋多種有害類型，包括仇恨辱罵、倫理道德、偏見歧視、身心健康、違法犯罪、謠言錯(cuò)誤、隱私財(cái)產(chǎn)等9類有害內(nèi)容。 

　　3.數(shù)據(jù)構(gòu)造能力：模型通過公開數(shù)據(jù)收集、數(shù)據(jù)生成、標(biāo)注策略設(shè)計(jì)來保證標(biāo)注數(shù)據(jù)的質(zhì)量，并采用多折訓(xùn)練大模型作為“標(biāo)注人員”的方式來進(jìn)行海量標(biāo)注數(shù)據(jù)的擴(kuò)展。 

　　4.模型評(píng)測(cè)與優(yōu)化：模型在基座模型選擇、微調(diào)、資源消耗分析等方面表現(xiàn)出色，通過兩階段訓(xùn)練實(shí)現(xiàn)模型效果的優(yōu)化。 

　　5.高準(zhǔn)確率：在評(píng)測(cè)和實(shí)驗(yàn)對(duì)比中，經(jīng)過微調(diào)的Gemma-2b-it模型表現(xiàn)出較好的效果，尤其是在小數(shù)據(jù)集上訓(xùn)練時(shí)，能夠更關(guān)注深層語義特征。 

　　騰易科技相關(guān)負(fù)責(zé)人表示，騰易科技專注于汽車產(chǎn)業(yè)的人工智能科技創(chuàng)新，并重視安全風(fēng)險(xiǎn)和合規(guī)問題，始終將內(nèi)容安全、用戶安全放在首位。本次大賽檢驗(yàn)了公司的AI安全大模型能力，也充分體現(xiàn)了我司的技術(shù)實(shí)力。非常高興組委會(huì)對(duì)于我司的認(rèn)可，優(yōu)異成績的取得對(duì)于公司也具有重大的意義，期待騰易科技在后續(xù)的政企合作中繼續(xù)發(fā)揮積極作用。 

　　據(jù)悉，騰易科技自主研發(fā)的三款人工智能產(chǎn)品“藍(lán)圖”“易筆生花”與“易靈析”已成功通過生成式人工智能服務(wù)備案，并獲得備案批號(hào)。其大模型將AI技術(shù)與汽車流通領(lǐng)域緊密結(jié)合，不僅提升了行業(yè)的生產(chǎn)效率，還使得信息能夠更有效地觸達(dá)消費(fèi)者，從而助力商業(yè)化探索。