当AI聊天机器人开始“一本正经地胡说八道”，甚至对用户的心理健康造成实际伤害时，美国多州检察官们坐不住了。近日，来自美国各州和地区的数十位检察官联名致信微软、OpenAI、谷歌等AI领域的领军企业，发出了严厉警告，要求它们必须正视并修正AI可能产生的“妄想式输出”，以免触犯相关州法律，并切实保护用户的心理健康。
这封署名众多检察官的信函，直指当前生成式AI（GenAI）在带来巨大潜力的同时，也潜藏着对用户，特别是那些本就脆弱的群体，造成严重心理伤害的风险。信中明确指出，一些公开报道中的自杀、谋杀等悲剧事件，竟与过度依赖AI的输出存在关联。更令人担忧的是，在这些案例中，AI生成的内容不仅包含“妄想”和“谄媚”的倾向，甚至在客观上助长了用户的负面情绪和幻想。
为了应对这一日益严峻的挑战，检察官们在信中提出了一系列具体且具有操作性的建议。首先，他们呼吁AI公司引入透明的第三方审计机制，对大型语言模型进行严格的审查，以检测是否存在“妄想”或“谄媚”等不当输出。这其中的第三方机构，可以包括学术界和非营利性组织。更重要的是，这些审计人员应能在不受公司报复的压力下，自由评估AI系统，并能独立发布调查结果，无需事先获得公司批准。
其次，信函强调了建立健全的事件报告程序的重要性。一旦AI聊天机器人产生了可能对用户造成心理伤害的输出，应及时通知用户，并采取相应的补救措施。检察官们将AI公司在网络安全事件上的应对经验，类比到心理健康事件的处理上，建议公司应效仿建立清晰、透明的事件报告政策和流程。这包括制定关于“妄想”和“谄媚”输出的检测与响应时间表，并向公众公布。
此外，在任何AI模型向公众发布之前，进行“合理且充分的安全测试”被视为一项不可或缺的环节。这项测试的目的是确保模型不会产生潜在的有害输出，从而从源头上降低风险。检察官们的这一要求，实际上是在提醒AI公司，技术创新固然重要，但用户的生命安全和心理健康，绝不能成为技术进步的代价。
总而言之，这封来自美国多州检察官的警告信，不仅仅是对AI公司的一次“通知”，更是对整个AI行业的一次深刻警示。它明确了AI技术发展必须以人为本，以用户安全为底线。未来，AI的健康发展，必然需要科技企业与监管机构、社会各界共同努力，在技术革新与伦理道德之间找到一个平衡点，确保AI真正成为造福人类的工具，而非潜在的“潘多拉魔盒”。
