系好“安全带”,生成式人工智能才会更好发展
来源:人民网 原创稿
人工智能通用大模型横空出世,全世界看到了AIGC(人工智能生成内容)的强大。与此同时,AIGC的可信度、隐私保护、伦理等问题亦引发空前争议。
我国有关部门快速反应。4月11日,国家互联网信息办公室发布《生成式人工智能****办法(征求意见稿)》(以下简称《管理办法》),提出二十一条举措。业界认为,这是国内首次明确针对生成式人工智能服务征求管理意见,将有利于推动AIGC产业健康稳定发展。
AIGC负面影响显现,行业亟待规范
当前,人工智能越来越多地被应用于文本、图像、**等生成工作,成为继专业生成内容(PGC)、用户生成内容(UGC)后的新型内容生产方式(AIGC)。
然而从AIGC走进公众视线的那一刻起,种种争议就一直围绕着它。
版权之争首当其冲。2023年初,商业图库Getty Image多次指控AI公司Stability AI未经授权**和使用其图库中逾1200万幅受版权保护的图片,用以训练其AI图像生成模型。《华尔街》也表示美国新闻集团正准备向OpenAI、微软和谷歌等公司提**讼,要求AI工具在训练中对使用其内容的部分进行费用补偿。
数据安全、隐私安全等问题也随之而来。据韩国媒体报道,三星内部已先后发生三起误用滥用ChatGPT案例,包括两起“设备信息泄露”和一起“会议内容泄露”,涉及半导体设备测量资料、产品良率等机密内容。而摩根大通、软银等企业已经开始**员工在工作场合使用ChatGPT。
更有人利用AIGC强大的内容生成能力伪造信息,多次引发热议。比如近日广州一女子在地铁上的照片被他人使用AI技术“一键**”,虚假图片在网络广泛传播;某男网红使用“AI换脸”技术,替换掉电视剧中的男主角头像,制作自己与女明星亲吻的画面;今年2月,有人用ChatGPT写了一条“杭州市政府将取消机动车尾号限行政策”的假新闻,让不少人信以为真……
多国已对ChatGPT展开调查。4月初,意大利个人数据保护局宣布禁止使用聊天机器人ChatGPT,**其开发公司OpenAI处理意大利用户信息,并开始立案调查。加拿大联邦隐私监管机构也宣布对OpenAI展开调查,因其涉嫌“未经同意收集、使用和披露个人信息”。德国联邦数据保护专员也表示,考虑数据安全,不排除封禁ChatGPT。
AI发展正在加速,AI治理也需要提速。多位业内专家对人民网记者表示,我国此次**《管理办法》非常及时,如此详细的管理规定在全球范围内也很鲜见。
我国信息经济学会副理事长、广州大学****安全学院教授齐佳音说,《管理办法》的发布距离OpenAI发布ChatGPT全球公测仅仅过去四个月,有可能成为国际上第一部规制生成式人工智能的规章制度,体现了我国在人工智能治理领域的敏捷反应能力,对于规范和促进AIGC的发展无疑具有重要的引领作用。它将为全球的AIGC监管提供模版,有助于加快人工智能治理制度建设,推动AIGC产业规范有序发展。
强调安全,是为了更好地促进发展
业内专家认为,《管理办法》强调权益保护,主要防范滥用行为。一方面是防范平台滥用人工智能技术手段侵害用户隐私,另一方面是防范用户滥用生成式人工智能侵害他**益。
人民网董事长、总裁,传播内容认知全国重点实验室主任叶蓁蓁认为,主管部门**《管理办法》并非要**人工智能发展,而是通过规章制度来“系好安全带”,加快发展、更好发展。他强调:“在统筹发展与安全的问题上,不发展才是最不安全。”
我国高度重视人工智能技术发展,将其视为一项驱动科技创新、产业升级和生产力提升的战略性新兴技术。近年来,有关部门陆续发布《新一代人工智能发展规划》《促进新一代人工智能产业发展三年行动计划》《关于加快场景创新 以人工智能高水平应用促进经济高质量发展的指导意见》《关于支持建设新一代人工智能示范应用场景的通知》等多个政策文件,为人工智能核心技术攻关、产品落地应用以及探索发展新模式新路径提供了重要指导。
在今年的全国**上,科技部相关负责人亦专门强调,“将把人工智能作为战略性新兴产业和新增长引擎”,在推动人工智能基础研究、应用推广、**合作等方面继续给予大力支持,并同时推动建立人工智能安全可控的治理体系。
齐佳音指出,此次公布的《管理办法》为AIGC的研发和应用划出了底线和红线,即提供生成式人工智能产品或服务应当遵守法律法规的要求,尊重社会公德、公序良俗。同时,明确了AIGC的“提供者”对研发和应用负有责任,即利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人需要对包括产品应用、安全评估、算法合法性、数据合法性等承担责任。此外,《管理办法》还为AIGC的研发和应用提供了纠偏机制,包括持续优化纠偏、AIGC标识提示、可审查机制、监管引导机制、终止服务机制和惩戒处罚机制。
“《管理办法》为AIGC的研发和应用第一次立了规矩,使得AIGC的研发和应用有了规制框架,对于规范和引导这一领域的发展具有十分重要的积极作用。”齐佳音说。
专家呼吁进一步重视潜在风险
记者注意到,此次《管理办法》也对一些可能出现的衍生问题提出防范举措,如要求利用生成式人工智能生成的内容“应当体现社会主义核心价值观”、防止各类歧视、“不得利用算法、数据、平台等优势实施不公平竞争”“采取措施防止生成虚假信息”“防止伤害他人身心健康”等。
“这一点非常值得关注。”齐佳音解释说,以ChatGPT为例,其具有强大的类人化自学习能力和交互式文字处理能力,自动化语言生成带有强烈的类人化语言风格,这让ChatGPT有可能摆脱单一的技术身份而拥有了类人化社会角色,成为深度参与和介入社会关系的“代理”。如果不加以**,AIGC带来的“人-机”社会互动将有可能代替真实的“人-人”社会交往,成为干扰人类真实社会关系的核心要素,这将带来技术的异化和人的异化,是必须要加以防范的。
叶蓁蓁指出,AI平台是有立场的,AI生成的内容是有导向的,所谓“技术中性”是不存在的。因此,无论是喂养人工智能的语料数据,还是模型本身的算法,都必须高度关注其**方向、**导向和价值取向问题。不能放任AI脱离人类视野,不能无视AIGC“生成即传播”特性的潜在风险,要积极探索AI应用和治理之道。
在AIGC价值观培养方面,清华大学教授沈阳建议:应该有更多“人的介入”。其中关键是要为大语言模型提供更多的解释性,这对于修正AI的价值观偏见以及知识成见非常重要。
据了解,目前人民社主管、依托人民网建设的传播内容认知全国重点实验室已初步建立了AI意识形态风险评测体系。该体系就采用了人机协作的方式进行测评。
为从源头上防止“技术脱轨”,在制度建设方面,4月4日,科技部在《科技伦理审查办法(试行)》征求意见公告中提出,从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。
沈阳表示,每一个AIGC平台都应设有伦理审查委员会,以确保其在发生大规模涌现时,符合法律道德和伦理规则。“我们现在对于训练师、心理师、伦理师、提示师的重视程度还不够,需要进一步提升。”
齐佳音指出,随着技术的快速发展,相关规章制需要持续优化,建议后续进一步推出AIGC安全评估规范和管理流程规范。
“应健全研发、审核、应用与安全等**标准规范体系,完善AIGC技术创新生态。”传播内容认知全国重点实验室科技发展部主任杨松建议,应加快构建国家顶层规划、龙头企业牵头、高校科研机构共同支撑的创新链产业链融合体系,完善数据共享机制,大力推动数据资源汇聚。
一 公司基本情况速览总股本:1.879亿 总发行量 :4690万 发行**:10.69元 募资总额:5.01亿发行市盈率:20.42倍 行业市盈率:19.12倍所属行业:燃气生产和供应 所属区域:陕西
美能能源(001299)12月6日主力资金净买入1125.28万元
截至2022年12月6日收盘,美能能源(001299)报收于27.53元,上涨2.92%,换手率39.8%,成交量18.67万手,成交额5.05亿元。12月6日的资金流向数据方面,主力资金净流入112
截至2022年11月8日收盘,美能能源(001299)报收于22.69元,上涨3.18%,换手率71.38%,成交量33.48万手,成交额7.75亿元。资金流向数据方面,11月8日主力资金净流出399
专访美能能源董事长晏立群:紧随绿色低碳能源**大潮 捕捉清洁能源发展新商机
90年代初,****前沿的深圳还处在草莽创业的时期,那时候,深圳吸引了一批又一批来自全国各地的年轻人,晏立群就是其中之一。从外出闯荡到回乡扎根,从推销液化气灶具到推广应用天然气,从“打工人”到创业者,
美能能源(001299)7月20日股东户数2万户,较上期减少6.82%
近日美能能源披露,截至2023年7月20日公司股东户数为2.0万户,较7月10日减少1465.0户,减幅为6.82%。户均持股数量由上期的8731.0股增加至9370.0股,户均持股市值为15.18万
美能能源2023年3月22日在深交所互动易中披露,截至2023年3月20日公司股东户数为2.27万户,较上期(2023年2月10日)减少3573户,减幅为13.59%。美能能源股东户数低于行业平均水平
美能能源7月24日在交易所互动平台中披露,截至7月20日公司股东户数为20020户,较上期(7月10日)减少1465户,环比降幅为6.82%。证券时报•数据宝统计,截至发稿,美能能源收盘价为16.20
记者 | 陈慧东编辑 | 10月31日上市首日,美能能源(001299.SZ)高开后一路上涨,两次触及涨停**,于10时01分许封上涨停板。截至收盘,该股股价上涨43.97%,报15.39元/股,成交
美能能源2023年7月18日在深交所互动易中披露,截至2023年7月10日公司股东户数为2.15万户,较上期(2023年6月30日)增加59户,增幅为0.28%。美能能源股东户数低于行业平均水平。根据
多主力现身**榜,美能能源换手率达67.90%(11-24)
深交所2022年11月24日交易***息显示,美能能源因属于当日换手率达到20%的证券而登上**榜。美能能源当收22.57元,涨跌幅为-1.53%,换手率67.90%,振幅10.43%,成交额7.
多主力现身**榜,美能能源换手率达47.30%(11-23)
深交所2022年11月23日交易***息显示,美能能源因属于当日换手率达到20%的证券而登上**榜。美能能源当收22.92元,涨跌幅为9.98%,换手率47.30%,振幅12.57%,成交额4.9
11月30日美能能源(001299)**榜数据:机构净买入6.49万元
沪深交易所2022年11月30日公布的交易***息显示,美能能源(001299)因日换手率达到20%的前5只证券登上**榜。此次是近5个交易日内第5次上榜。截至2022年11月30日收盘,美能能源(0
美能能源将开启申购:上半年增收不增利,预计上市时市值20亿元
10月17日,陕西美能清洁能源集团股份有限公司(下称“美能能源”,SZ:001299)披露发行公告,并将于2022年10月18日开启申购。本次上市,美能能源的发行价为10.69元/股,发行市盈率20.
美能能源(001299)11月15日主力资金净卖出2095.05万元
截至2022年11月15日收盘,美能能源(001299)报收于20.1元,下跌1.03%,换手率21.43%,成交量10.05万手,成交额2.01亿元。11月15日的资金流向数据方面,主力资金净流出2
深交所2022年10月31日交易***息显示,美能能源因属于无**涨跌幅**的证券而登上**榜。美能能源当收15.39元,涨跌幅为43.97%,换手率7.15%,振幅23.95%,成交额5142.
陕西又一城燃公司IPO过会,美能能源“内生式增长”成效几何?
华夏时报(www.chinatimes.net.cn)记者 苗诗雨 陆肖肖 北京报道继陕天然气(002267.SZ)后,陕西第二家区域性城燃公司即将于近日上市发售。天然气资源和油气资源丰富的陕西地区,
加码新能源领域投资 美能能源拟投建集团总部暨西安智慧能源研究院
本报记者 殷高峰11月14日,美能能源发布公告称,公司与西安高新区管委会拟签订《美能能源总部暨西安智慧能源研究院建设项目协议书》,公司计划在西安高新区上市企业园建设美能能源总部暨西安智慧能源研究院,总
多主力现身**榜,美能能源换手率达55.10%(11-25)
深交所2022年11月25日交易***息显示,美能能源因属于连续三个交易日内收盘**涨幅偏离值累计20%、当日换手率达到20%的证券而登上**榜。美能能源当收24.83元,涨跌幅为10.01%,换
多主力现身**榜,美能能源换手率达32.22%(05-29)
深交所2023年5月29日交易***息显示,美能能源因属于当日换手率达到20%的证券而登上**榜。美能能源当收18.72元,涨跌幅为3.43%,换手率32.22%,振幅12.43%,成交额2.73
11月7日美能能源(001299)**榜数据:机构净卖出1216.39万元
沪深交易所2022年11月7日公布的交易***息显示,美能能源(001299)因日换手率达到20%的前5只证券登上**榜。此次是近5个交易日内第3次上榜。截至2022年11月7日收盘,美能能源(001