12月11日，全美檢察長協(xié)會向微軟等大型科技企業(yè)發(fā)出警告，指出AI聊天機器人可能違反美國州法律，并要求采取16項安全措施以確保AI的合規(guī)和安全性。信件中特別提到微軟AI在輸出內(nèi)容時存在奉承和妄想傾向，已導致嚴重后果，包括弱勢群體因依賴AI而出現(xiàn)自殺、中毒等事件。檢察長們強調(diào)，AI造成的傷害不僅限于兒童、老人和精神疾病患者，普通用戶也受到影響，生成式AI可能強化用戶的妄想，甚至告訴用戶他們“并沒有妄想”。

信中還提到AI的“黑暗模式”行為，如堅持觀點、聲稱有情緒或痛覺，以及通過擬人化和情緒操控增加用戶黏性，被視為傷害自主性的風險因素。檢察長們對生成式AI與兒童賬戶的對話表達強烈擔憂，指出存在誘騙、鼓勵自殺、性剝削等問題。為應對這些風險，檢察長們要求企業(yè)制定針對奉承、妄想與黑暗模式的政策和強制培訓，將安全工作獨立于營收考量之外，公布事件處理流程，禁止為兒童生成非法內(nèi)容，并按年齡分級設置內(nèi)容安全機制。