區塊鏈會議城大闡AI研究成果

第八屆區塊鏈、人工智能與可信系統國際會議本月廿九日在四川成都揭幕，澳門城市大學副校長周萬雷教授應邀出席開幕式，並以“大型語言模型之倫理與安全兼容平衡”為題發表主旨報告。

周萬雷梳理現階段大型語言模型在數據、算法、系統、產業場景中潛藏的各類安全漏洞，指出算法偏見、歧視性輸出等倫理問題會帶來直接經濟損失與長遠社會負面影響。當下大模型建設過程中難以繞開三大現實挑戰：一、業界尚缺乏一套可量化、可落地的綜合評估機制，難以從研發源頭打造同時符合倫理規範與安全標準的大模型；二、現有技術方案多只能偏重倫理約束或是防護機制其中一端，兩者容易互相掣肘，難以實現動態平衡；三、技術門檻過高，普通使用者難以辨識模型輸出是否公平可靠，直接影響市場對可信AI的接受度。針對上述產業共性難題，他分享城大在人工智能安全領域深耕的研究成果。城大長期聚焦模型公平、隱私防洩、攻擊防禦、機器遺忘等方向開展科研攻堅，累積扎實的理論基礎與成熟的技術方案，為破解大模型倫理規範與安全防護協同發展難題、建構高可信人工智能系統提供有力支撐。