8月9日 國仟生態(tài)圈

2024年第四場專題培訓活動順利舉辦

此次活動專題是

“AI大模型安全”

主辦單位：國仟醫(yī)療科技（蘇州）有限公司

國仟創(chuàng)業(yè)投資管理（蘇州）有限公司

本期特邀演講嘉賓：清華大學邱寒博士、董胤蓬博士

活動背景

近兩年來，隨著ChatGPT、Sora等人工智能模型的出現(xiàn)，社會各界對AI的關(guān)注度日趨高漲。無論是科研產(chǎn)業(yè)界，還是投融資界，都對人工智能在未來人類社會的應(yīng)用充滿期待。其中醫(yī)療大健康領(lǐng)域的AI模型，有助于更快更準地解決臨床剛需，因此備受關(guān)注。然而由于醫(yī)療領(lǐng)域自身的特殊性，AI模型安全至關(guān)重要，也直接影響AI模型在醫(yī)療健康領(lǐng)域的落地。

活動回顧

針對模型安全在醫(yī)療健康領(lǐng)域人工智能產(chǎn)品中的重要意義，本次國仟生態(tài)圈主題培訓活動邀請到清華大學網(wǎng)絡(luò)研究院邱寒副教授和計算機科學與技術(shù)系董胤蓬博士，圍繞“AI大模型安全”主題進行分享。

邱教授演講的主題是“大語言模型內(nèi)容安全研究”，通過實際的GPT模型案例深入淺出的介紹了大語言模型的發(fā)展歷史和基本原理、大模型對于有害內(nèi)容的輸出管控、大模型幻覺對垂直領(lǐng)域應(yīng)用的影響。在演講中，邱教授通過分析GPT訓練過程，解釋了大模型的局限性、偏見、不安全內(nèi)容輸出的原因，認為數(shù)據(jù)驅(qū)動的本質(zhì)會直接影響大模型的安全性。同時邱教授認為大語言模型的自回歸推理模式和模型幻覺有關(guān)，不同模型的幻覺或者人為干擾下的響應(yīng)會有不同表現(xiàn)。減少生成式人工智能的幻覺，提高模型準確性，是大模型在垂直領(lǐng)域廣泛使用的主要挑戰(zhàn)，仍有較長的路要走。

董博士分享的主題是“面向擴散概率模型的安全可信研究”，董博士依靠扎實的理論功底，重點介紹了圖片生成領(lǐng)域的擴散模型基本概念和分類、擴散模型的魯棒性與安全性的判斷、模型生成圖片的安全性處理，和擴散模型對提高圖片生成與識別魯棒性的應(yīng)用。董博士在演講中結(jié)合自己的科研經(jīng)歷，分析了多種擴散模型的實際應(yīng)用案例和數(shù)學方法，加深聽眾對生成式人工智能安全風險的理解。

分享過程中兩位專家和聽眾針對不同的大語言模型方法、物理概念與大模型的融合、醫(yī)療數(shù)據(jù)對大模型幻覺的影響、大模型未來趨勢、如何在模型訓練中設(shè)置提示詞等問題展開了熱烈討論。

當前人工智能沖擊著傳統(tǒng)產(chǎn)業(yè)界，新的范式對于產(chǎn)品定位、產(chǎn)品內(nèi)容、產(chǎn)品研發(fā)都有巨大影響。大模型的應(yīng)用是醫(yī)療企業(yè)面臨的新機遇與新挑戰(zhàn)。期待本次交流碰撞出的火花能夠給各位企業(yè)家朋友帶來思考，助力公司在人工智能時代創(chuàng)新發(fā)展！

關(guān)于國仟

國仟醫(yī)療科技（蘇州）有限公司由張旭博士等七名在生物醫(yī)學和醫(yī)療器械領(lǐng)域成功創(chuàng)新創(chuàng)業(yè)的國家重大人才工程專家聯(lián)合其他領(lǐng)域股東共同投資設(shè)立。

國仟醫(yī)療致力于醫(yī)療器械創(chuàng)新科技產(chǎn)業(yè)投資、創(chuàng)業(yè)孵化及精準賦能。全資控股的國仟創(chuàng)業(yè)投資管理(蘇州)有限公司，是一家專注醫(yī)療器械早期股權(quán)投資的風險投資機構(gòu)。本著“成就他人夢想”的經(jīng)營理念，國仟創(chuàng)投通過所管理的股權(quán)投資基金來進行產(chǎn)業(yè)投資和聚集，國仟醫(yī)療通過孵化和賦能打造產(chǎn)業(yè)生態(tài)，兩大業(yè)務(wù)平臺高度協(xié)同，在蘇州高新區(qū)打造一個高端醫(yī)療器械產(chǎn)業(yè)聚集群和生態(tài)圈。