专家:人工智能对国家**安全带来5大挑战

2023-06-13 上观新闻

人工智能技术的蓬勃发展和广泛应用,给人类生产生活带来了极**利,同时,也对国家**、意识形态、执政环境、社会关系、治国理念等带来冲击,深度影响国家**安全。充分认清人工智能对国家**安全的挑战,研究应对之策,对于有效维护国家**安全,意义重大。

人工智能影响**安全的机理

作为一种颠覆性技术,人工智能进入**领域后,既具有技术影响**安全的一般规律,又体现出其不同于以往技术的鲜明特点。

从技术影响**安全的一般机理来看,主要体现在三个方面。第一,技术进步不可避免地直接或间接服务于**安全。**安全是****的根本,经济、社会、网络、军事等领域安全的维系,最终都需要以**安全为前提条件。因此,包括技术在内的一切社会条件,首要的任务是为**安全提供服务和保证。综观人类历史上的技术进步,往往被首先考虑用于维护****特别是**安全,尽管这些技术研发的初衷并非如此。人工智能亦然。第二,**安全与技术进步相生相克、相生相长。马克思认为,先进技术进入**领域后,有效提高了“社会控制和权力再生产”。同时,**安全对技术进步的需求,反过来成为技术不断进步的推动力。但技术并非完美的**工具。一旦技术利用不当、发生技术失控,或者技术自身**所蕴含的风险爆发,**安全可能被技术进步反噬。第三,技术进步倒逼**发展转型,给**安全带来新课题新挑战。从历史上看,技术进步对社会结构、社会关系、社会文化等带来的变化和冲击,从来不以人的意志为转移。当火枪火炮成为主战兵器时,继续用木盾藤牌来保卫政权的行为无疑是愚蠢的,迫切需要***转变思想观念,寻求能够有效维护**安全的新模式新方法。当计算机网络技术逐渐普及时,西方国家政爱纷纷利用互联网进行**宣传和选举拉票。人工智能较之以往的技术,拥有前所未有的机器“主观能动性”优势,必将对**安全理念、安全机制、安全路径等带来更大的改变。

从人工智能影响**安全的独特机理来看,主要体现在两个方面。第一,算法和大数据将左右智能机器“认知”“判断”,继而影响**行为体的抉择。人工智能的核心“三大件”是算法、算力和大数据。一方面,算法是否公正不偏袒、大数据是否真实完整未被删减篡改伪造污染,直接决定机器的研判结果,并影响人的判断和行为。另一方面,与传统的人口学变量的定量分析不同,大数据、云计算、机器学习等可以将数以亿计的**行为体抽象成社会的“节点”,人工智能通过分析信息中节点的度数、介数和接近度,来揭示权力集聚规律、赢得**威望的秘诀,这为执政安全提供了新的技术支撑和智慧渠道。第二,人工智能技术对经济、军事、社会、网络、信息等领域的影响向**领域传导,间接冲击**安全。作为一项赋能性技术,人工智能正在逐渐“改写”各领域的秩序规则,给各领域带来机遇和挑战。尽管以往的技术进步也是如此,但其影响的深度和广度远远不及人工智能。而且,以往各领域安全问题“错综复杂、交织并存”的程度,也远远不及人工智能时代高。其他领域的安全问题一旦发酵,极有可能冲击**安全。

人工智能给**安全带来新挑战

技术变革具有两面性,人工智能既是维护**安全的新机遇,也是新挑战。

挑战之一:人工智能技术的普及应用,导致**权力呈现出“去中心化”趋势。在人工智能时代,数据即代表着权力。掌握数据的主体既有国家权力机构,也有个人、企业团体、社会组织等非国家行为体。“互联网数据”结构的“多节点、无中心”设计,决定着处于线上社会任何位置的主体,均不可能比其他位置的主**势高。人人都有“麦克风”“**机”,处处都是“**中心”“事发现场”,这一显著特征,弱化了传统的线下科层制国家管理结构和单向治理模式,**话语权由政府这个传统的权力中心逐渐向社会层面弥散,国家治理难度大大增加,**安全风险也大大增加。目前,这种风险已初露端倪。2019年9月,因有人线上传播“老师*****学生是‘猴子’”的种族歧视谣言,印尼巴布亚省爆发严重*乱,导致26人死亡、70余人受伤。

挑战之二:随着人工智能技术和数据垄断持续扩张,资本权力的扩张将危及国家权力边界。生产力的发展变化必将带来生产关系包括**权力结构的调整。作为“第一生产力”的科学技术,其发展进步势必引起国家权力结构的调整。当人工智能技术广泛应用于经济社会各领域并引起变革时,将会推动国家治理结构与权力分配模式做出相应调整。从当前种种迹象来看,资本的权力依托技术和数据垄断持续扩张,将成为新时代国家治理结构调整的重大课题。一方面,人工智能技术研发门槛很高,依赖于大量的、长期的资本投入和技术积累,这导致社会各产业、各阶层、各人才群体间的技术研发能力、资源占有程度、社会影响力等方面极不平衡,以互联网商业巨头为代表的技术资本将占据明显优势。另一方面,人工智能技术强大的赋能作用,以及良好的经济社会应用前景,导致资本趋之若鹜。商业巨头实际上掌握了目前人工智能领域的大部分话语权,并正在逐步形成行业垄断。人工智能时代,巨头企业以强大资本为后盾,逐步垄断技术、控制数据,或将不可避免地在一定程度上逐渐分享传统意义上由国家所掌控的金融、信息等重要权力,进而可能插手**事务。因此,国家是否有能力为资本权力的扩张设定合理的边界,是未来**安全面临的重大挑战。

挑战之三:人工智能技术及其背后的数据和算法潜移默化引导公众**,进而影响人的**判断和**选择,间接把控**走向。在人工智能时代,数据和算法就是新的权力。近年来围绕国家大选而展开的种种**运作显示:拥有数据和技术能够从一定程度上影响**议程。据有关媒体报道,2020年美国总统大选期间,有人利用网络社交平台的大量机器人账号,发布海量虚假信息,力图影响选民的认知、判断与选择。类似的情况,也曾出现在2016年的美国大选、2017年的英国大选和法国大选中。这些案例非常清晰地显示:只要拥有足够丰富的数据和准确的算法,技术企业就能够为竞争性选举施加针对性影响。当某种特定**结果发生时,人们很难判断这是民众正常的利益诉求,还是被有目的地引导的结果。

挑战之四:人工智能技术可能被**敌对势力用于实施渗透、颠覆、**、**活动。利用先进技术威胁他国**安全,这样的例子屡见不鲜。计算机网络技术出现后,被西方国家用来进行网络窃密、网络攻击、网络勾联、传播**谣言、意识形态渗透和进攻。人工智能时代,攻击一国人工智能**或利用人工智能实施渗透、颠覆、**、**活动,带来的后果将比以往更为严重。

挑战之五:人工智能技术进步对**国家参与国际竞争带来严峻挑战。人工智能是当前最尖端最前沿的技术之一,其核心技术多被美欧等发达国家所掌握。这些国家利用它提升生产自动化水平,提高劳动生产率,加快制造业回迁,将冲击发展我国家的传统比较优势,使后者在国际**经济竞争格局和全球分工中处于更加不利的地位。通过发展军事智能化,进一步扩大对发展我国家的军事优势。国家之间一旦形成技术“代差”,综合实力差距将被进一步拉大。在这种情况下,技术强国对发展我国家实施**讹诈和技术突袭的可能性增大。

多措并举,维护我国**安全

**安全事关我爱生死存亡和国家长治久安,我们必须高度重视人工智能带来的**安全挑战,多措并举,综合施策。

人工智能技术具有高度专业性和复杂性,企业、科研机构常常处于技术创新前沿,而国家政府则往往远离技术前沿,对技术的感知相对滞后,对技术的安全风险准备不足。为此,要强化风险意识,密切**人工智能技术和应用的发展,运用**思维,定期研判人工智能可能带来的**风险,提高风险识别、防范和处置能力。要创新技术治理模式,构建政府主导,企业、研究机构、技术专家、公众等多方参与的人工智能治理体系。“治理”不同于“管理”,管理是政府单向的行为过程,治理则是一种**的、多个利益攸关方参与的互动过程。通过多方互动,政府既可以**掌握技术和应用的前沿动态、发展趋势,掌控治理主动权,又有助于企业、研究机构、专家、民众更好地了解政府关切,共商制定风险管控机制,推进治理工作的科学化**化。

当前,我国在人工智能技术领域面临的最重大的安全威胁,是关键核心技术受制于人。从现在起到2030年,是我国抢抓机遇的关键期。要举全国之力,集全民之智,打造一批***人工智能研发平台,加强基础性、原创性、前瞻性技术研发,从智能芯片、基础算法、关键部件、高精度传感器等入手,加快核心技术突破。

没有规矩,不成方圆。针对技术应用风险,严格人工智能标准制定和行业监管,确保人工智能良性发展。紧跟技术发展变化,动态修订完善相关技术标准。加紧完善人工智能相关法律法规和伦理道德框架,对相关的民事与刑事责任确认、隐私和产权保护、机器伦理等问题予以明确,理顺设计者、使用者、监管者之间的权责关系。要建立健全人工智能监管体系,形成设计问责和应用监督并重的双层监管结构,实现对算法设计、产品开发、成果应用的全过程监管。积极促进行业自律,加大对数据滥用、算法陷阱、侵犯隐私、违背道德伦理、擅越权力边界等**行为的惩戒力度。要积极主动参与人工智能国际议题设置,共同应对安全、伦理、法律等诸多挑战。抓住人工智能国际准则和配套法规刚刚起步之机,积极参与规则制定,及时宣示我国主张,努力掌握规则制定话语权和国际交往主动权。

针对外部安全风险,加强军事能力建设,为维护国家**安全提供力量保证。要积极研究探索智能化战争理论,加快推进现代**装备体系和人才队伍建设,强化智能化条件下部队训练演练,不断提升我军新时代军事斗争准备水平。

(作者:许春雷,系军事科学院博士研究生,现任河北省石家庄市鹿泉区人武部副部长)

【新闻链接】

计算力决定战斗力

战争是一门科学,也是一门艺术。战争中斗智斗勇,“算”起着举足轻重的作用。被兵家奉为经典的《孙子兵法》,其制胜要诀就是庙算。“夫未战而庙算胜者,得算多也;未战而庙算不胜者,得算少也。多算胜,少算不胜,而况于无算乎!”“知彼知己者,百战不殆。”“出其不意,攻其不备。”所有这些,都离不开“算”。

“算”与战争须臾也不曾分开。传统的中军帐、参谋部、指挥所都是“中心计算模式”。制导**出现以来,算法的关键性赋能作用越发明显。从坦克装甲车辆的主动防护**到**飞机的自主控制**,再到“爱国者”防空**的防空反导**,算法已成为主战装备的标配。

人工智能的本质在于计算,决定计算效率的是算法。数据、计算能力、算法是人工智能的三大要素。数据是基础,算力是保障,算法才是人工智能的“大脑”。算法的先进程度,决定了人工智能的“聪明”程度。缺乏先进算法支撑,人工智能只能是“机器”;有了智能算法,机器就可能具有智慧、“灵魂”,就具备了自主能力。人工智能时代的“科技原力”是算法突破,算法是人工智能领域中的超尖端核心技术。从本质上讲,机器学习就是人工智能的一类核心算法。

从物理和数学角度看,战争本身就是一种运动,也可以用数学方法进行描述与分析。以往,受技术**,计算多是粗略概算并服务于指挥员谋略,计算力一直是战斗力的配角。大数据技术的开发应用,是继云计算之后又一次颇具“颠覆性”意义的技术**,这为应用数学工具对战争进行定量分析提供了动力。万物互联的智能化时代,“数字参谋”等人工智能军事化应用可以加速战场数据的信息融合,加快数据产生的速度,运用大数据方法挖掘信息宝藏成为适应时代的必然选择,也是世界新军事变革发展的必然趋势。

对于科幻电影《星球大战》迷来说,一定会对电影中那个名叫R2-D2的机智、勇敢而又憨态可掬的宇航技工机器人留下深刻印象。它是影片男主人公卢克·天行者飞行、战斗的重要助手。它虽然只有0.96米高,却有一个塞满了各种工具的附加臂,使它成为一名了不起的太空船技工和电脑接口专家。

如今,科幻电影中的场景,正在被美军变为现实。2020年12月15日,在加州比尔空军基地进行的一次训练中,美军首次实现了AI自主控制一套****。美空军让AI副驾驶ARTU和人类飞行员共同驾驶一架U-2侦察机,模拟在**打击中执行侦察任务。ARTU是任务的指挥官,全权*控机载传感器应用和战术导航**,并与人类飞行员共享雷达,掌握着人机团队的最终决定权。具体分工上,人类飞行员专注于寻找敌机,ARTU通过控制雷达和传感器等**搜寻敌方**发射器。最终,在没有人类飞行员*控的情况下,ARTU自主作出决定,将雷达专门用于**搜寻与自我保护。对于这次训练,美国空军助理部长威尔·罗珀博士评价道:“算法战的时代已经开启。”

“算法战”概念源于一篇文章——2013年4月,美国智库“大西洋理事会”发表了一篇题为《“震网”事件预示“算法战”时代来临》的署名文章,指出“震网”**是首个用算法取代人手来扣动扳机的自主**,这预示着“算法战”的时代或将来临。2016年9月,哈佛大学法学院发布题为《战争算法问责》的研究报告,将“战争算法”定义为“通过电脑代码表达、利用构建**实现以及能在战争行动中运作的算法”。2017年4月,美国时任***常务副部长、“第三次抵消战略”设计者罗伯特·沃克正式提出算法战,并由其督建成立美***“算法战跨职能小组”,标志着美军智能化建设进入“快进”模式。

关于创建“算法战”的初衷,美***的表述为应对军事行动中的海量数据处理压力,首要任务是用于“情报战”,即运用大数据、计算机视觉及模式识别技术,提升“处理、分析与传送”战术无人机获取**数据的自动化水平。严格地讲,算法本身的使用价值有限,只有与超算能力和大数据技术相结合才能产生魔力。“算法战”的实质是“智能+”战争,“外壳”是软件**,“核心”是对数据资源的运用。智能化战场,取得智能优势是关键。而智能优势实质是信息优势、认知优势、决策优势和行动优势的高度统一。算法作为用**的方法描述解决问题的策略机制,算法优势主导信息优势、认知优势、决策优势、行动优势。掌握算法优势的一方,能够快速准确预测战场态势,创新作战方法,实现“未战而先胜”。

在未来智能化战场,计算力决定战斗力,“算法战”蕴藏着改写战争游戏规则的巨大潜力。

栏目主编:张武 文字编辑:卢晓川 题图来源:图虫创意 图片编辑:雍凯

来源:作者:光明


相关股票: 机器人 大西洋 海量数据

崛起的中科系,被改变的我国芯片产业格局

当前,以芯片为代表的信创产业逐步成为国家科技竞争力的重要标志。在国产CPU产业强势崛起的过程中,你首先想到的会是哪几企业?答案有很多,但“中科系”的提及率绝对很高。作为国家战略科技力量,“中科系”旗下

芯片战场丨芯片领域三箭齐发 英特尔跑步突围

21世纪经济报道记者倪雨晴 圣何塞报道在硅谷源泉之一的圣何塞,英特尔CEO帕特·基辛格(Pat Gelsinger)正在带领英特尔加速奔跑。当地时间9月19日,2023英特尔on技术创新大会于美国加利

OPPO重启芯片业务?国产芯片或需告别“单打独斗”

财联社9月19日讯(记者 唐植潇)近日有消息称,OPPO将会重启芯片业务,并且“有部分员工已经回流,加入到了车载业务之中”。记者就此事向OPPO方面进行核实,对方表示“不予置评”。特百惠(我国)数字与

600亿颗芯片!我国巨头正式宣布,美媒:**也没料到制裁这么快

我国芯片市场与美国依赖我国的集成电路市场一直以来都是一个巨大的市场,拥有庞大的需求和巨大的增长潜力。我国的电子消费市场一直在迅速增长,包括智能手机、电视、电脑和各种智能设备等,这些设备都需要高性能的芯

最新手机芯片天梯图:A17、华为麒麟9000S,排在什么位置?

近日,最火的两颗芯片分别是苹果的3nm芯片A17 Pro,虽然很多人吐槽它较上一代提升不明显,但论性能,可以碾压任何安卓芯片,甚至是领先2代的。另外一款芯片,则是华为麒麟9000S,当然,这颗芯片工艺

韩国芯片连续13个月暴跌,尹锡悦指责我国不采购,外媒:自食其果

据韩国媒体称,韩国的半导体出口额已经连续暴跌13个月了,比去年同比下降了28%左右。韩国政府急的焦头烂额。尹锡悦政府竟直接甩锅我国,话里话外都是指责,他认为韩国半导体卖不出竟是我国的原因,我国应该帮助

我国突破芯片瓶颈将影响全球秩序?美国很担心,指出我国关键弱点

我国在芯片半导体领域一直深受美国的**,通过贸易制裁的方式阻止高端芯片进入我国市场。这样的举措一度造成我国芯片领域发展断档,不过随着我国科技企业近几年的突破,目前我国已经在芯片制造方面取得了重大的成果

没有他,我国芯片发展至少要**十年?

前几天,华为一声不响的上线了mate60系列,带着麒麟芯片9000s强势回归,吸引了全世界的目光。而华为麒麟芯片**背后,我们不该忘记这位老人—张汝京。我国半导体之父,为回**造芯片,被开除**户籍,

陈清泰:未来汽车颠覆传统,50%以上的零部件体系面临重构

【有车以后 资讯】“未来汽车对传统汽车的颠覆性,使传统零部件体系的50%以上都面临重构。”12月16日,在全球智能汽车产业峰会(GIV2022)上,我国电动汽车百人会理事长陈清泰指出,智能汽车的价值链

「姿势」一辆汽车由多少个零件组成?保证你说不清...

投稿点这里汽车有多少个零件?其实这个问题并没有一个十分确切的标准答案...据估计,一般轿车约由1万多个不可拆解的**零部件组装而成。结构极其复杂的特制汽车,如F1赛车等,其**零部件的数量可达到2万个

全球最大的10家汽车零部件供应商 都是世界500强 无我国企业

【卡车之家 原创】美国《财富》**每年发布的世界500强排行榜,是以营业收入数据对全球企业作出排名的榜单。2017年“世界500强”榜单中,汽车制造商和零部件厂商共占据33席(除去大型工程车辆企业),

汽车零部件企业哪家强?除了博世**还有这些名字你一定耳熟能详

文:懂车帝原创 李德喆[懂车帝原创 行业]9月18日,由《我国汽车报》主办,罗兰贝格协办的2019汽车零部件“双百强”企业发布会在江苏南京举行。在两份榜单中,博世、**、电装位列2019全球汽车零部件

汽车零部件行业现状及产业链

行业现状(Reference:产业运行 | 2021年汽车工业经济运行情况)中汽协预测:2022年我国汽车销量达到2700万辆,新能源销量超过550万辆(Reference:乘用车市场信息联席会)以乘

全球十大汽车零部件供应商,核心技术都被他们垄断,自主遗憾缺席

提到电影,我们会想到张艺谋、冯小刚,而很少会想到幕后的制作人;提起流行乐,我们会想到周杰伦、萧敬腾,而很少会想到背后的作词人。台前台后,一幕之别,知名度往往相差甚远。车界又何尝不是如此,知名车企我们都

高清汽车各零部件构造图,看完你就是汽车专家!

2023世界移动通信大会即将举行,大批中企强势回归!

来源:环球时报 【环球时报记者 倪浩 陶震 环球时报驻德国特约记者 青木】经过3年疫情后,全球最具影响力的通信展今年有望再现往日盛况。2月27日至3月2日,由全球移动通信**协会(GSMA)主办的20

太空新赛道:6G时代的卫星通信,究竟是什么?

近日华为、苹果争相推出手机卫星通信功能,成为一大亮点,不少手机厂商也将目光投到卫星通信。放眼未来,手机直连卫星的卫星通信服务将是大势所趋,也是6G时代的重要标志。华为以“北斗三号”为依托,率先把“卫星

光纤#光纤通信

国内企业在光通信产品的参数测试过程中,通常使用国外的先进测试设备。然而,这些测试仪器之间往往是孤立存在的,需要手动调试仪器并通过旋钮、按钮和人眼观察波形或数据。这不仅*作繁琐易出错,而且测试效率低下。

龙头20cm涨停,7天股价翻倍!一文看懂卫星通信前世今生及产业链

卫星通信概念股华力创通今日再度强势拉升,截至发稿,该股股价20cm涨停,7个交易日累计涨幅近113%,现报23.52元续刷阶段新高,总市值155.9亿元。消息上,有媒体从供应链获悉,Mate 60 P

工信部:目前我国尚不具备实现网络层面的移动通信号码归属地变更的条件

针对网友提出的“电话号码归属地更改”建议,工信部近日给出了官方回复。此前,有网友在人民网留言板向工信部留言称,“现在电话都是实名制,电话号绑定的***及一些主流的软件较多,更换号码后造成一系列问题

AD
更多相关文章