Open AI缓解监管压力：构建众包治理 AI可以参与政治竞选吗

当地时间1月16日，Open AI发文宣布，希望采纳公众关于“如何确保其未来人工智能模型符合人类价值观”的想法，正在组建一个由研究人员和工程师所组成的集体协作团队，创建一个全新的系统，用于收集公众对模型行为的诸多建议，并将其编码到Open AI后续的产品与服务之中。

1月16日，Open AI首席执行官山姆·奥特曼在世界经济论坛上回应人们对人工智能发展的种种担心，他表示，人们担心人工智能发展有一天会极大程度的重塑或颠覆世界，这种可能性是非常小的，这种担心是多余的，人工智能会变得越来越好，但始终不会摆脱人类的控制。

如今的Open AI正遭受政策制定者越来越严格的审查，当地时间1月15日，就在共和党公布第一周抽签结果之日，Open AI概述了对其工具应用政治领域的限制。

作为市面上最强大的AI聊天机器人和图像生成应用程序之一，Open AI的快速发展已经引起了民众的广泛担忧，他们认为Open AI可能被用于虚假新闻报道以及计算机生成的图像和视频来操纵选民。

对此担忧，Open AI进行的一系列澄清，其中最重要的一条是 Open AI是无法被用于政治竞选和游说，也无法成为地方政府聊天机器人，更不得创建于冒充候选人和其他真人的聊天机器人。

除了无法参与政治竞选之外，Open AI还不得用于给投票设置阻碍，为了帮助选民更好的评估信息和图像是否是由AI形成，Open AI表示，将会对所有的图像溯源进行细节处理和编码，公司将会越来越多地提供新闻报道的链接和出处来帮助选民评估文本的可靠性。

其他AI系统开发商也在2024年全球70多国举行选举之前宣布的一系列措施，上个月谷歌发文表示将会限制AI聊天机器人参与选举查询，拥有Facebook的meta也在去年禁止AI工具参与到竞选过程中。