OpenAI CEO山姆·阿尔特曼紧急呼吁监管大型语言模型，警示生成式AI的风险！

OpenAI首席执行官山姆·阿尔特曼（Sam Altman）近日在与美国参议院的生成式AI治理听证会上迫切要求监管高级大型语言模型的部署，并警告缺乏坚实政策框架的生成式人工智能所带来的风险。

阿尔特曼表示，随着对社会威胁的担忧不断增加，监管对于应对日益强大的模型所带来的风险至关重要。

他在听证会上讨论了与OpenAI模型训练相关的错误信息传播和违反数据隐私法的威胁。参议员理查德·布卢门撒尔（Richard Blumenthal）也在听证会上表示，未经充分训练的人工智能的前景令人非常担忧，新技术必须承担责任。

阿尔特曼指出，OpenAI的ChatGPT具备模仿和模拟真实人类互动的能力，并以一段由经过语音训练的模型生成的语音作为例子展示了这一能力。

他建议成立一个政府机构来监管人工智能的训练和部署，以促进开发，并强调了开发者需要遵守“许可和测试要求相结合”的必要性。

此外，他还提议吊销那些开发超越某些“阈值”或“能力”的人工智能工具的开发者许可，例如那些能够自我复制或产生有害内容的模型。

阿尔特曼主张制定关于机器学习工具如何从互联网和个人数据中生成响应的管理规则。

他补充道：“用户应该有权选择不让像我们这样的公司或其他社交媒体公司使用他们的数据。”

阿尔特曼的呼吁和警告凸显了对生成式AI监管的迫切需求，以平衡创新和风险，确保人工智能的发展符合社会的利益和价值观。