 |
新加坡 2025年5月30日 /美通社/ -- 新加坡已公布其"全球人工智能保障試點(diǎn)計(jì)劃"的核心成果。該計(jì)劃旨在推動(dòng)生成式AI（GenAI）應(yīng)用技術(shù)測(cè)試領(lǐng)域的規(guī)范與最佳實(shí)踐發(fā)展。相關(guān)成果為全球首款GenAI應(yīng)用測(cè)試入門(mén)工具包提供了設(shè)計(jì)藍(lán)本，目前該工具包已開(kāi)放公眾咨詢。在新加坡亞洲科技大會(huì)（ATxSG）旗艦活動(dòng)亞洲科技峰會(huì)(ATxSummit) 2025，新加坡數(shù)碼發(fā)展及新聞部高級(jí)政務(wù)部長(zhǎng)陳杰豪宣布了這些全球性倡議。這些舉措使新加坡在以下領(lǐng)域處于全球領(lǐng)先地位：推動(dòng)人工智能安全實(shí)踐落地、加速可信賴且負(fù)責(zé)任的AI技術(shù)應(yīng)用部署，以及促進(jìn)惠及全人類(lèi)的人工智能?chē)?guó)際合作。
全球人工智能保障試點(diǎn)計(jì)劃
為促進(jìn)行業(yè)安全采用人工智能，人工智能驗(yàn)證基金會(huì)（AIVF）與新加坡資訊通信媒體發(fā)展局（IMDA）于2025年2月聯(lián)合發(fā)起"全球人工智能保障試點(diǎn)計(jì)劃"，旨在推動(dòng)生成式AI應(yīng)用技術(shù)測(cè)試的規(guī)范與最佳實(shí)踐。該試點(diǎn)計(jì)劃吸引了來(lái)自本地及國(guó)際AI利益相關(guān)者的強(qiáng)烈關(guān)注，特別是那些在業(yè)務(wù)流程中部署生成式AI的企業(yè)。試點(diǎn)中，16家專(zhuān)業(yè)AI測(cè)試機(jī)構(gòu)與來(lái)自金融、醫(yī)療、人力資源、公共部門(mén)等10個(gè)不同行業(yè)的17家生成式AI實(shí)際應(yīng)用部署方展開(kāi)合作。
試點(diǎn)發(fā)現(xiàn)，生成式AI的風(fēng)險(xiǎn)往往具有場(chǎng)景依賴性（具體取決于行業(yè)、用例、文化、語(yǔ)言和組織）。針對(duì)特定情境界定風(fēng)險(xiǎn)與測(cè)試標(biāo)準(zhǔn)存在挑戰(zhàn)，建議在整個(gè)應(yīng)用生命周期中引入領(lǐng)域?qū)＜覅⑴c。AIVF與資媒局將持續(xù)與行業(yè)協(xié)作完善試點(diǎn)方案。
生成式 AI應(yīng)用測(cè)試入門(mén)工具包
資媒局同時(shí)宣布將開(kāi)發(fā)全球首款生成式AI應(yīng)用測(cè)試入門(mén)工具包。該工具包整合了保障試點(diǎn)成果及其他從業(yè)者的實(shí)踐經(jīng)驗(yàn)，為跨行業(yè)、跨場(chǎng)景開(kāi)發(fā)或應(yīng)用生成式AI的企業(yè)提供實(shí)用測(cè)試指南。工具包逐步指導(dǎo)用戶識(shí)別需要關(guān)注的風(fēng)險(xiǎn)類(lèi)型（如幻覺(jué)內(nèi)容、不良輸出、數(shù)據(jù)泄露及對(duì)抗性提示漏洞等常見(jiàn)風(fēng)險(xiǎn)），并制定相應(yīng)測(cè)試方案。資媒局現(xiàn)就測(cè)試指南及針對(duì)四大風(fēng)險(xiǎn)的推薦測(cè)試方法公開(kāi)征詢行業(yè)意見(jiàn)。
工具包配套"Project Moonshot"等測(cè)試工具可幫助企業(yè)落實(shí)測(cè)試指南。其內(nèi)容將隨技術(shù)發(fā)展持續(xù)更新，以應(yīng)對(duì)新興風(fēng)險(xiǎn)與測(cè)試需求。
保障試點(diǎn)與工具包旨在提升企業(yè)安全部署生成式AI的能力，并增強(qiáng)整個(gè)AI生態(tài)系統(tǒng)的可信度。
新加坡持續(xù)推動(dòng) AI技術(shù)為本土及全球公共利益服務(wù)
新加坡堅(jiān)信AI技術(shù)應(yīng)當(dāng)服務(wù)于公共利益，既能釋放經(jīng)濟(jì)潛能、提升社會(huì)效益，又能應(yīng)對(duì)當(dāng)今時(shí)代的各項(xiàng)需求與挑戰(zhàn)。新加坡全國(guó)人工智能核心（簡(jiǎn)稱(chēng)AISG）即將與聯(lián)合國(guó)開(kāi)發(fā)計(jì)劃署簽署諒解備忘錄，在六個(gè)試點(diǎn)國(guó)家推進(jìn)AI普及計(jì)劃，旨在消除AI知識(shí)鴻溝，助力發(fā)展中國(guó)家社區(qū)轉(zhuǎn)型發(fā)展。此項(xiàng)合作會(huì)將AISG于2024年推出、最初旨在提升亞洲各國(guó)AI能力的"AI向善"（AI4Good）計(jì)劃擴(kuò)展至全世界。
AISG人工智能學(xué)生開(kāi)發(fā)者大會(huì)
由AISG主辦的"人工智能學(xué)生開(kāi)發(fā)者大會(huì)"（AISDC）成功舉辦，這場(chǎng)為期兩天的盛會(huì)匯聚了逾千名學(xué)生與60家行業(yè)合作伙伴，共同推動(dòng)AI創(chuàng)新與人才培養(yǎng)。大會(huì)亮點(diǎn)為"全國(guó)AI學(xué)生挑戰(zhàn)賽"（NAISC），來(lái)自新加坡、印度尼西亞、馬來(lái)西亞、泰國(guó)、菲律賓和越南的學(xué)生通過(guò)大語(yǔ)言模型微調(diào)與提示工程技術(shù)，展開(kāi)解決現(xiàn)實(shí)問(wèn)題的競(jìng)賽。此次大會(huì)通過(guò)新增區(qū)域挑戰(zhàn)賽道吸納東盟國(guó)家參與，彰顯了新加坡在促進(jìn)東南亞地區(qū)AI人才培養(yǎng)與合作方面的引領(lǐng)作用。新加坡數(shù)碼發(fā)展及新聞部政務(wù)部長(zhǎng)拉哈尤-瑪贊（Mdm Rahayu Mahzam）將出席活動(dòng)并致閉幕辭。
科技領(lǐng)域的女性力量
新加坡數(shù)碼發(fā)展及新聞部部長(zhǎng)楊莉明在"從成功到卓越—領(lǐng)袖打造社區(qū)"專(zhuān)題討論中，與攜程集團(tuán)首席執(zhí)行官孫潔、星展集團(tuán)首席執(zhí)行官陳淑珊共同探討科技領(lǐng)域女性領(lǐng)袖如何在"薪火相傳"和塑造平等共贏的社區(qū)生態(tài)中發(fā)揮關(guān)鍵作用。本次討論由新加坡管理大學(xué)金融學(xué)（實(shí)踐方向）教授許茵妮主持。
