环球最资讯丨面对“围剿” OpenAI发文：加强监管！ChatGPT一度暂停Plus付费升级服务

4月5日，ChatGPT官网宣布，由于需求量过大，暂停Plus付费项目的购买，一度引发关注。目前该功能已恢复，并可进入付费环节。

值得注意的是，4月6日凌晨，Open AI在官网发布了《Our approach to AI safety》，以确保安全、可靠地为全球用户提供ChatGPT服务。

图片来源：Open AI公司官网

(资料图片)

建立广泛的安全和监控系统

Open AI表示，在发布任何新系统之前，我们会进行严格的测试，聘请外部专家进行反馈，通过人工反馈的强化学习等技术来改善模型的行为，并建立广泛的安全和监控系统。

例如，在我们的最新模型GPT-4完成培训后，我们花了6个多月的时间在整个组织中工作，以使其在公开发布之前更安全、更一致。

Open AI认为，强大的人工智能系统应该接受严格的安全评估。需要进行监管以确保此类做法得到采纳，我们积极与政府就此类监管的最佳形式进行接触。

图片来源：Open AI公司官网

从实践中学习、优化、改善

Open AI表示：在部署之前，我们努力防止可预见的风险，然而，在实验室中所能学到的是有限的。尽管进行了广泛的研究和测试，但仍无法预测人们使用我们技术的所有有益方式，也无法预测人们滥用我们技术的所有方式。

Open AI表示，随着时间的推移，从现实世界的使用中学习是创建和发布越来越安全的人工智能系统的关键组成部分。所以，从实践项目中学习、优化和改善产品，成为重中之重。

图片来源：Open AI公司官网

关键重点：保护儿童

我们安全工作的一个关键重点是保护儿童。我们要求年满18岁或13岁以上的人必须获得父母批准才能使用我们的人工智能工具，并正在研究验证选项。

我们不允许我们的技术被用于生成仇恨、骚扰、暴力或成人内容等类别。与GPT-3.5相比，我们的最新模型GPT-4响应不允许内容请求的可能性降低了82%，我们已经建立了一个强大的系统来监控滥用情况。现在，ChatGPT-Plus用户可以使用GPT-4，我们希望随着时间的推移，更多的人可以使用它。

我们已经做出了重大努力，最大限度地减少我们的模型生成伤害儿童的内容的可能性。例如，当用户试图将儿童性虐待材料上传到我们的图像工具时，我们会阻止并向国家失踪和被剥削儿童中心报告。

除了我们默认的安全护栏外，我们还与非营利组织Khan Academy等开发人员合作，该学院构建了一个人工智能辅助系统，既可以作为学生的虚拟导师，也可以作为教师的课堂助理，为他们的用例量身定制安全缓解措施。我们还在开发一些功能，允许开发人员为模型输出设置更严格的标准，以更好地支持想要这些功能的开发人员和用户。

图片来源：Open AI公司官网

尊重隐私

Open AI的大型语言模型是在广泛的文本语料库上训练的，这些文本包括公开可用的、许可的内容以及由人工审阅生成的内容。

Open AI不会使用数据来销售服务、做广告或建立人们的档案——会通过使用数据使大语言模型对人们更有帮助。例如，ChatGPT 通过与人类之间进行的对话，以进一步培训和改善产品。

图片来源：Open AI公司官网

ChatGPT恢复Plus订阅服务

4月5日，ChatGPT官网宣布，由于需求量过大，暂停Plus付费项目的购买。

这一情况在社交平台Reddit上引起讨论，有网友表示因为需求过高而关闭付费服务“一点也不奇怪，(和ChatGPT对话时)10%-15%的回复会出现网络错误情况，且回应速度比以前至少慢了2倍”。

也有不少网友将这一情况归咎为OpenAI人手不足。此前1月，该公司的首席执行官Sam Altman曾在推特上表示，该公司的总人数为375人，远远小于大型科技公司的员工数量。

《科创板日报》今早实测发现，OpenAI的ChatGPT已经恢复了Plus订阅服务，并可进入付费环节。

ChatGPT风险引发多国警惕！千人联名呼吁暂停

继意大利宣布禁用ChatGPT后，多国政府和企业开始调查或采取措施限制使用该软件。据加拿大广播公司(CBC)4日报道，加拿大联邦隐私监管机构宣布，已经对开发ChatGPT的美国公司OpenAI展开调查，因为该公司涉嫌“未经同意收集、使用和披露个人信息”。报道同时提到，美国总统拜登及其科技顾问委员会在4日举行的会议上也讨论了人工智能的“风险和机遇”。英国《卫报》4日称，英国信息专员办公室已经向科技公司发出警告，不要使用个人信息来开发聊天机器人。英国信息专员办公室技术和创新总监阿尔蒙德表示，类似ChatGPT的生成式人工智能“如果被不负责任地使用，有可能对数据隐私构成风险”。

据第一财经，上周，包括OpenAI共同创始人马斯克在内的上千名科技领袖通过非营利组织未来生命研究所(FLI)，签署一份联名信，呼吁OpenAI暂停对GPT的训练，理由是对社会的潜在风险。这份联名信引用了包括OpenAI、谷歌及其子公司DeepMind等机构的12项研究。

不过这份联名信已经引发了激烈的争辩。一些人工智能权威人士认为，人工智能的威胁被夸大了。

清华大学智能产业研究院首席研究员聂再清对第一财经记者表示：“我认为GPT-4主要还是人类助手和提升效率的工具，而且是完全在人类的控制下工作的，暂停6个月的训练这一要求过于一刀切了。”

ChatGPT概念股集体重挫

4月6日，AI应用端相关板块陷入调整，ChatGPT概念股领跌，截至午盘，中文在线跌超8%，鸿博股份跌超7%、海天瑞声跌超6%。

（文章来源：每日经济新闻）

关键词：