OpenAI 模型行為和策略負責人 Joanne Jang 今天（6 月 6 日）在 substack 上發表博文，隨著越來越多的用戶與 ChatGPT 建立類似“人際關系”的互動，甚至將其視為“有生命”的存在，OpenAI 關注這種情感依附的深遠意義。
IT之家援引博文介紹，Jang 表示人類天生具備共情能力，會將情感投射到物體上，比如給愛車命名，或對被卡住的掃地機器人感到“同情”，但 ChatGPT 的不同之處在于，它會回應。
ChatGPT 能記住用戶的對話，模仿語氣，甚至表現出類似“共情”的反應。對于孤獨或情緒低落的人來說，這種始終如一、不帶評判的關注仿佛是陪伴和理解。
她指出這種情感需求是真實的，但當這種互動進一步擴展后，依賴 AI 來傾聽和安慰可能改變我們對人際關系的期待。OpenAI 擔憂，如果不深思熟慮地處理這種依賴，可能帶來未預料的后果。
關于“AI 意識”，OpenAI 將其拆分為兩個維度：一是“本體意識”，即 AI 是否真正擁有內在意識；二是“感知意識”，即用戶情感上認為 AI 有多“像人”。
本體意識目前尚無科學測試可以驗證，而感知意識則通過社會科學研究可探索。隨著模型愈發智能，互動更自然，感知意識將進一步增強，甚至引發關于 AI 福利和道德地位的討論。
OpenAI 的立場是，模型應坦誠意識問題的復雜性，而非簡單回答“有”或“無”，以鼓勵開放討論。
OpenAI 認為，模型是否“像人”很大程度上取決于訓練后的設計決策，包括語氣、用詞和界限設定。公司目標是讓 ChatGPT 展現溫暖、貼心和樂于助人的一面，但不主動與用戶建立情感紐帶或表現出“自我意識”。
例如，模型可能會因禮貌而說“對不起”或“我很好”，但不會暗示擁有真實情感或欲望。OpenAI 希望通過這種平衡，避免用戶產生不健康的依賴，同時保持溝通的清晰和友好。 
