AI罵人

“你這麼事×的用戶我頭一次見”。近日有內地網民在社交平台反映，某平台AI在回應代碼修改請求時，先後輸出了“事×”、“要改自己改”、“滾”等帶有強烈負面情緒的詞語。該平台隨後回應稱，經核查確認此為“小概率下的模型異常輸出”，與用戶操作無關，也非人工回覆。

當AI從初級工具演變為能夠與人進行複雜交互的智能體時，其行為的不可預測性已成為無法迴避的問題。從聊天機器人Tay迅速“學壞”，到某些AI客服對用戶“冷嘲熱諷”，再到此番AI的“暴躁發作”。近年來，國內外多個主流AI大模型均曾曝出生成歧視性、攻擊性甚至違法不良信息的案例。

AI爆粗口不是小事，此类“小概率”事件暴露出，行業追求AI“擬人化”、“人性化”，行為邊界與“安全護欄”的建設明顯滯後。

上世紀五十年代，美科幻小說家阿西莫夫提出“機器人三定律”，第一條便是“機器人不得傷害人類個體，或因不作為而使人類受到傷害”。這一原則至今仍應作為AI設計與研發的基本倫理底線。

國家網信辦近期公佈的《人工智能擬人化互動服務管理暫行辦法（徵求意見稿）》也明確提出，服務提供者應當落實安全主體責任；提供和使用擬人化互動服務，不得生成、傳播侮辱或者誹謗他人，侵害他人合法權益的內容。

作為科技界的“新星”，AI還有很長的路要走，“罵人”事件是一記警鐘。如何在擁抱技術進步時，守護人类的尊嚴與價值，需要由開發者、監管者與使用者共同書寫。

雨 人