OpenAI 首席执行官萨姆・奥特曼近日发布了一篇长文,详细阐述了公司在这一领域的新举措。他表示,OpenAI 正在努力寻找青少年安全、自由与隐私之间的平衡,确保 ChatGPT 在与年轻用户互动时采取更为谨慎的态度。

奥特曼提到,OpenAI 正在开发一个 “年龄预测系统”,通过分析用户与 ChatGPT 的互动方式来估算其年龄。这一系统的实施意味着,如果有疑问,ChatGPT 将默认采用未满 18 岁的用户体验。此外,奥特曼指出,在某些情况下或特定国家,OpenAI 可能会要求用户提供身份证明,以确保其年龄信息的准确性。

在针对青少年用户的特别规定方面,OpenAI 将采取更加严格的措施。例如,避免与未成年人进行调情式对话,或讨论自杀和自残等敏感话题。奥特曼强调,即便是在创意写作的环境中,这些话题也将被严加控制。他表示:“如果 18 岁以下的用户表达出自杀的念头,我们将尽力联系他们的父母;如果无法取得联系,我们会向相关当局报告,以防止可能的伤害发生。”

值得注意的是,奥特曼发布这篇文章的同一天,美国参议院举行了一场听证会,专门审查人工智能聊天机器人的潜在危害。在听证会上,一些因与聊天机器人互动后自杀的青少年家长也出席,向社会传达了这些技术可能带来的严峻问题。

OpenAI 的这些新举措旨在更好地保护青少年用户的安全和隐私,推动一个更加健康的数字环境。在信息技术飞速发展的今天,如何平衡技术进步与用户保护,将是企业和社会共同面对的重要挑战。