专家联名警告AI对人类“生存威胁” 中国信通院:正在编制人工智能模型许可证|世界即时看
2023-05-30 22:12:26 来源:同花顺财经
【资料图】
中国信通院云大所开源和软件安全部主任郭雪表示,AI大模型的本质决定了开源是其必经之路。为充分发挥大型模型的通用性优势,促进大型模型技术在产业中真正落地,中国信息通信研究院联合产业各方共同编制“纸鸢”开放人工智能模型许可证,下一步将发布《纸鸢开放人工智能模型许可证(征求意见稿)》。
有业内人士认为,此举有助于政府对AI的监管,同时也在一定程度上避免“重复造轮子”。
据智东西统计,自2022年11月ChatGPT发布至5月29日,国内至少有55个类GPT大模型已经推出或马上面世。其中,在AI企业发布的大模型中,最受关注的无疑是NLP领域龙头企业科大讯飞(行情002230,诊股),其于5月6日推出的“星火”大模型已经开始内测。据发布会上,科大讯飞董事长刘庆峰释放的消息,6月9日,“星火”大模型将迎来第一次升级。
行业高管与知名学者警告AI对人类“生存威胁”
据界面新闻,非营利组织“人工智能安全中心”(Center for AI Safety)5月30日在其网站刊出多位行业高管、学者与公众人物联名签署的声明,指出“减轻AI(给人类)带来的灭绝风险应成为全球性的优先事项,与大流行病及核战争等其他影响社会的大规模风险同等级别”。
联名签署人包括OpenAI首席执行官山姆·阿尔特(行情300825,诊股)曼、谷歌DeepMind首席执行官德米斯·哈萨比斯和Anthropic首席执行官达里奥·阿莫迪三大AI企业高管,“深度学习三剑客”中的两人、图灵奖得主杰弗里·辛顿与约书亚·本吉奥,微软首席技术官凯文·斯科特、OpenAI首席技术官米拉·穆拉蒂与谷歌负责技术和社会事务的高级副总裁詹姆斯·马尼卡,清华大学智能产业研究院(AIR)院长张亚勤以及中国科学院自动化研究所研究员、人工智能伦理与治理研究中心主任曾毅也参与联名。
自我监管 凭证入场
早在5月中旬,OpenAI的首席执行官山姆·阿尔特曼(Sam Altman)在美国国会针对人工智能监管的听证会上,反复强调,AI的强大,让监管在现在看起来就非常重要,而且他很同意需要一个新的机制来处理AI的监管问题。他甚至有备而来地在这次听证会上建议美国政府应该如何监管像OpenAI的公司,包括提出了三点计划:
? 组建一个新的政府机构,负责为大型AI模型颁发许可,如果有公司模型不符合政府标准,该机构可以撤销该公司的许可证;
? 为 AI 模型创建一套安全标准,包括对其危险能力的评估。模型必须通过某些安全测试,例如它们是否可以“自我复制”和“随意渗透”,即开始自主行动不受控制。
? 要求独立专家对模型在各种指标上的表现进行独立审计。
不过,对于当下开源界和企业界对AI模型最大的争议之一——训练数据
是否应该透明化的问题,他却没有正面回答;也没有对另外一些颇有争议的问题提出回应,比如AI是否可以基于有版权的作品进行训练,以及AI开发者该如何补偿这些作品的创作者。
奥特曼此前曾表示, “需要一部针对人工智能的新法律”。而这次,他也非常清楚地表明,230条款不是正确的监管人工智能的框架。(美国《通信规范法案
》第230条被视为互联网行业的法律基石:如果用户在网站上发布虚假、有害内容,网站无需对用户发布的有害信息承担连带责任)。
奥特曼还警告说,如果AI出错了,那后果会非常严重。“对于一项非常新的技术,我们需要一个新的框架。“当然,我们这样的公司对我们推出的工具负有很多责任,但工具用户也一样。”
不过网友对他的这番话也不全像议员们那样买账。有推特网友就讽刺说,奥特曼的实际想法其实是,”现在OpenAI领先了,政府快来管管我们的竞争者吧。“ 许多 AI研究人员也认为这是一种反竞争行为,因为”凭证入场“对大公司有利,却可能难倒小公司、研究人员和免费的开源替代方案。
招商证券(行情600999,诊股)大模型采购“半日游” 网友:利好国产大模型
5月29日下午三点,招商局集团电子招投标平台发布《招商证券微软大语言模型服务采购项目-询价采购公告》,采购人为招商证券股份有限公司。然而至当晚九点,据招商局集团电子招标采购交易平台显示,该采购项目已终止,终止原因为采购需求变更。
招商证券原计划引进微软Azure-Open AI大语言模型,根据其业务需求场景进行AI能力研究开发工作,预先研究及论证大语言模型在量化投研、精准营销、财富管理、客户服务、智能投顾、人员效能等场景上产生的应用价值。
招商证券此举抓住了人工智能技术的风口,值得肯定。我们也可以看到,证券机构也越来越多的采用大模型技术应用,认可人工智能技术对业务发展的帮助。
此次招标被快速终止后,引发网友广泛讨论。
有网友称:“下午看到招标公告感觉不可思议”、“一直强调数据安全,国产崛起被招商当耳边风了。
也有网友称,此举利好国产大模型,招商证券放弃采购国外大模型技术,或许是为了选择国产技术。
关键词:
推荐内容
- 专家联名警告AI对人类“生存威胁” 中国信通院:
- 微头条丨5月30日获机构调研最多的10只股票
- 世界热消息:今日辟谣(2023年5月30日)
- SAFETY1ST是哪个国家的品牌_什么档次怎么样
- 【天天时快讯】147家单位入选2023年度科学家精神
- 年销售10万余棵!滕州南沙河镇“小多肉”育出“致
- 定远人注意!事关电动车!7月1日起强制执行!
- 曝光!网友怒了 天天热点评
- 随县吴山镇卫生院深入学校开展世界无烟日主题宣传
- 保护三电 人人有责:你需要知道的广电系统及广播
- 350马力国产最强钢炮 领克03高性能版预告:大尾
- 村民报警称8000元现金“被盗”,民警到场后从衣柜
- 咸宁嘉鱼叉尾鮰俏销全国,“鄂电红马甲”帮了大忙
- 暴雨来临前颗粒归仓,红安县永佳河镇抢收5000亩小
- 世界今热点:咸宁实验二小:在校园内“安营扎寨”
- 【时快讯】咸宁市崇阳县大市村党支部书记程桔——
- 大渡河畔看石棉:“红色引擎”驱动绿色发展
- 厚植创新沃土 向高水平科技自立自强进发 全球今
- 每日速讯:揭秘新疆棉背后的硬核高科技
- 世界热讯:万人说新疆|感受塔城博主朵拉的快乐生活
- 【青听·两岸】穿梭光影之间,登“陆”台湾青年竞
- 梦洁家纺“后院起火” 环球最新
- 8项议案7项被否!交易所火速关注
- 每日热点:超48亿黄金大交易!16万股民“嗨了”
- 环球新动态:投资580亿!A股大动作了
- 明日复牌!刚刚,证监会宣布:立案调查
- 针织机器人纺织品有望用于手部水肿患者_天天实时
- 肉末豆腐的做法_肥肠豆腐汤的做法 世界快报
- 39℃!广州打破5月气温最高纪录|头条
- 俄气公司CEO与乌兹别克斯坦能源部长会面 讨论俄
- 清凉一夏三星BESPOKE缤色铂格冰箱打开高效储鲜新方式
- 多地下架!_要闻
- 焦点资讯:动领未来丨人形机器人、全新车型、储能
- 官方通报柯基被砍事件:“柯基被砍”事件属实
- 病媒生物防制交流会圆满
- 老人拾荒堆家中 各方联动除隐患 环球热门
- 瑞泰科技(002066.SZ)拟10股派0.8元 于6月7日除权
- 想见老朋友“蓝胖子”?来赴“极目电影之约”!
- 中国林科院到湖北省林科院调研 今日观点
- 游客夜游武汉网红打卡地时晕倒,武昌中华路街综合