西安夜生活_刘永谋:关于智能治理的哲学反思

“智能治理牵涉的不只是纯粹的技术问题,更多是制度安排和政治考量。不同的国家和地区、不同的文化类型、不同的民族特性、不同的历史和国情、不同的科技发展水平,走出来的智能治理道路不会都一样。这需要我们不断探索。”

本文来自微信公众号:腾云(ID:tenyun700),作者: 刘永谋(中国人民大学哲学院教授),题图来自:视觉中国

什么是智能治理?

我想到最近有两则新闻很“火”,一则关于“文明码”;另一则关于外卖骑手和算法。这两则新闻都与将智能技术运用于当代社会的治理活动中有关,称之为智能治理。

所谓的智能技术一般指的是互联网、物联网、大数据、云计算、VR、区块链和人工智能技术等信息通信技术(ICT,information and communication technology)的最新进展,均与所谓“机器智能”的概念相关联。

显然,今天智能治理的影响逐渐深入到每个人的日常生活。一方面是智能治理正在不可阻挡地前进,新冠疫情更是使之加速;另一方面,大家对智能治理一直存在各种担忧,担心被算法控制,自身权利被侵害。

那么,我们必须要问:究竟如何看待智能治理?如何实施智能治理?它究竟是完美的天使,还是残忍的恶魔?它究竟是无坚不破的利器,还是装模作样的南郭先生?

当然,智能治理的哲学反思是个大问题,这里做一下简单分享。

从技术治理到智能治理

我对智能治理的研究,是在我的技术治理理论大框架下进行的。在过去几年中,我一直尝试建构一套审度技术治理的理论,对技术治理现象予以某种框架性的诠释,进而以此为基础,探讨将技术治理引导到有益方向的可能性。

也就是说,智能治理实际上是技术治理中的一个小问题、新问题。

技术治理与技治社会

何为技术治理?工业革命和电力革命极大地彰显了科学技术改造自然界的巨大威力。19世纪中叶一些思想家想到:应该把威力巨大的现代科技成果运用于社会治理中。这就是我所谓的技术治理的主旨

我对技术治理的定义是,在社会运行,尤其是政治、经济领域中,以提高社会运行效率为目标,系统地运用现代科学技术成果(包括原理、方法和知识)的治理活动。

在思想史上,技治主义思想又多又乱。而且,技治主义一出现就遭到各种批评。但当前技术治理已经成为公共治理领域一种全球范围内的普遍现象,我称之为“当代社会的技术治理趋势”。

而物联网、大数据以及人工智能等新技术,更是加快了技术治理在全球范围内的推进。从这个意义上说,当代社会已经成为技术治理的社会。

我研究技术治理是因为,哲学归根结底是人学,哲学的核心问题是要理解当代人的历史境遇。显然,我们生活在一个技术时代。如果离开技术时代的大背景,哲学反思肯定流于空泛,无法真正理解当代人的历史处境,更谈不上“把握时代精神”。

“技术时代”包含的内容非常丰富,我认为其中最重要的就是技术治理和技治社会:抓住技术治理深入思考,就能很好地回答哲学的核心问题。

智能治理综合

从知识角度来看,很多学科知识可以运用于治理活动中,以不同学科为基础的治理方案各具特色。

以物理学为基础的技治方案,如斯科特(Howard Scott)“高能社会”,往往将现代社会视为能量转换和利用的大机器,主张通过社会测量查明整个社会的能量状况,进而实现生产和消费的物理学平衡,给社会成员提供舒适的物质生活。

以心理学为基础的技治方案,如斯金纳(B. F. Skinner)“瓦尔登湖第二”社区,最大的特点是用心理学方法对社会成员的情绪和行为进行一定程度的管理、改造和控制,消除不利的心理状态,鼓励有利的个体行为,使之符合技术治理的总体目标,从而提升整个社会的运行效率。

以生物学为基础的技治方案,如威尔斯(H. G. Wells)“世界国”,主张用生物学的方法提升社会成员身体和精神两方面的状态:未来的人类不仅道德水平极高,人性与今日迥异,身体素质和智力水平也将远迈今日,在此基础上技治社会得以高效运转。

以管理学为基础的技治方案,如伯恩哈姆(James Burnham)“经理社会”,主张用专业的管理技术来运行整个社会,包括公司、政府和其他社会组织机构,摆脱所有者对实际经营者的干扰,组织和协调治理活动所涉及的诸种人财物因素,扩展国有经济,融合政治与经济,交由职业经理人管理。

以经济学为基础的技治方案,如纽拉特(Otto Neurath)“管理经济社会”,强调在更大范围实行中央计划调节,有规律地进行生产而非依赖盲目的市场调节,并以经济计划为核心实施各种社会工程,不断对整个社会进行改良,最后走向社会主义。

智能革命兴起以来,技术治理转向以信息技术和智能技术为基础,将各种科学原理和技术方法综合运用的治理活动。这是技术治理最新的发展趋势,我称之为“智能治理的综合”

无论哪一种治理技术,都必须精确地把握治理对象的即时信息。在技治社会中,技术治理主要运用战略包括:

(1)社会测量,即对社会物质和精神状况进行调查和统计;

(2)计划体系,即运用计划手段,既包括国家计划、社会计划,也包括企业计划,在相对较大的范围内尽可能地对生产和分配活动进行统一的配置和安排;

(3)智库体系,即制度性地将政治权力的一部分通过智库方式交由专家掌管,实施一定程度、一定范围的专家参与决策;

(4)科学行政,又称为行政科学化;

(5)科学管理,这里指的是企业、公司和非政府组织的理性化;

(6)科学城市(或工程城市),即科学地建设、运行和维护作为人类主要居住场所的城市,如能源、交通、治安、物资、垃圾处理和环境保护等;

(7)综合性大工程,这种工程不仅涉及自然改造,还涉及人口、社会、文化和环境等诸多社会因素,既是自然工程,也是社会工程。

显然,信息-智能技术平台在上述战略中均非常重要,从总体上提升局部社会工程的效率,改变技术治理运行的形式,故而我才有“智能治理的综合”的看法。

智能社会自觉

随着智能革命的爆发,在当代社会,尤其是技术-经济领域正在发生重大变革。有人认为,智能革命对社会的影响是如此之大,以至于最终导致总体社会形态、未来将发生整体性变革,智能社会随之来临。因此,简单地说,智能社会就是以智能技术为主导性技术,被智能革命全面影响、改造和定型的社会。

显然,“智能社会”的说法是基于智能技术发展的未来愿景而提出来的。也就是说,它是未来发展的理想蓝图,今天只能说智能社会正在到来。但同时,“智能社会”又在现实发生,因为智能技术的社会影响已经开始显现。

究竟什么是智能社会呢?社会怎么会像人一样有智能呢?这当然是一种拟人化的用法:智能社会之所以是“智能的”,是因为它能像有机体一样在“自觉”的基础上完成刺激-反应的“类生命”行为。

什么是社会自觉?智能社会可以通过技术手段收集关于自身的各种数据和信息,对自身即时状态有一定程度的“了解”,并在此基础上“思考”自身发展的问题和方向——这里的“了解”、“思考”都要打上引号,是一种比喻。

当智能社会出现各种问题和变化时,比如受到新冠病毒冲击时,它能迅速感受到内外的刺激,在“思考”的基础上做出反应,并不断接收反馈以调整反应行为,这与传统社会“盲目”“本能”地应对方式是根本不同的。因此,一定程度的“自觉”是智能社会的根本特征。

实际上,思想家们早就有了以科技手段来测量、预测和控制社会的想法。比如今天我们视之为应用数学分支的统计学,源于一种社会治理术。威廉·配第将之称为“政治算术”。

统计学的英文statistics显然与state(国家)相关,汉语译为统计学字面意思是“统而计之的学问”,丢失了原有的研究国家治理的含义。

虽然社会技术一直在推进,但是只有等到智能技术大规模兴起,测量、预测和控制社会的理想才第一次变得有落地的可能。

所谓智能社会,可以说就意味着智能治理社会,即用智能治理的方式来运行整个社会。智能技术在各个技治战略中都可以发挥非常重要的基础性作用,从总体上提升社会工程的效率,改变技术治理运行的形式。

反过来,当代社会技术治理的大趋势,又给智能技术的发展提供了强大的动力,不断推进智能革命和智能治理深入推进。

一句话,智能社会与技术治理是相互支持、相互促进的。

远眺:乌托邦VS敌托邦

前一阵,马斯克爆炒的“脑机接口”,试图把人的大脑活动也“上网”,有人担心脑机接口技术会不会变成操控人的技术。假如可以“脑补”未来的愿景,智能技术会对人类社会造成什么影响?

粗略地说,存在两种极端而相反的看法:一种是乐观主义的,认为最终会出现以智能技术为基础的理想国,我称之为“AI理想国”;另一种是悲观主义的,认为世界最终会变成一座大机器,我称之为“AI机器国”。

AI理想国

先看AI理想国。它以一个乐观预期为支撑:就算机器人最终不能取代人类的所有劳动,也能替代其中绝大部分。

“Robot(机器人)”的最初含义是“机械劳工”:发明Robot的初衷就是要让AI为我们劳动。在很多人设想中,Robot不光劳动能力远超人类,而且任劳任怨、不要休息、不要工资、不怕危险,不和人类争抢资源,一心为人,紧急情况出现的时候为了人类可以毁灭自己。大家看,理想的Robot是不是“活雷锋”?

在现实生活中,自动化工厂、无人超市、智能旅馆和AI物流等出现,虽然创造一些新的工作岗位,但更多的人因此而失业。我称之为“AI失业”。

从长远来看,“AI失业”不可避免。为什么?既然发明Robot目标是让人类从繁重劳动中解放出来,那么除非智能革命停止,否则大趋势上看“AI失业”只能是愈演愈烈。

即使是保守估计,都可以认为:全部的体力劳动和绝大部分的脑力工作未来都能够被AI取代。终有一天,完全从繁重劳动中解放出来之后,人类就有礼迈入理想社会的可能。

可是,现实中大家都在担心“AI失业”。显然,这不是机器人的错,而是社会制度的问题。

不是失业的人不愿去劳动,而是AI把工作做了。一些理想主义者认为,这是少数人利用货币制度压迫大多数人,应该对未来智能社会的社会制度重新进行设计。

按照马克思主义的说法,AI失业问题本质上是科技生产力发展与现有社会生产关系之间的矛盾,现有的社会制度不适应科技生产力的发展。

按经济学家加尔布雷思的说法,这是“富裕社会”问题,也就是说:二战以后生产力突飞猛进,到60年代,发达国家生产的物质财富总量远超过社会成员的基本需要,进入富裕社会。他认为,传统社会是贫穷社会,东西不够吃,必然有人挨饿,而富裕社会东西够吃,有人挨饿是因为没有分给他,或者说,属于相对贫困而非绝对贫困。

1929年,技治主义者斯科特、罗伯等人认为,美国和加拿大所生产的商品和服务如果平均分配,完全能满足所有人的舒适生活。他们的结论不是拍脑袋得出的,而是组织工程师和专家进行实际物理测量得出的,得到了当时美国政府的承认。

“AI理想国”应该什么样子?各家意见不一,但也有一些基本共识。

(1)在全社会范围内平均分配,统一生产,把机器人全力开动。女人、老人、小孩、残疾人和病人,分配同样的产品和服务。生产力极大丰富,每个人的所得超过舒适生活所需。

(2)取消货币和商品交换,用物理券来测算生产和消费。“人人平均”怎么衡量呢?钱做不到。平时一桶牛奶100元,在经济危机中卖不出去,一钱不值。但是,生产一桶牛奶消耗的能量不变,而能量券代表的是生产某项服务和商品所消耗的能量数,用能量券衡量就可以解决价值与价格的偏离问题。

(3)要大大缩短工作时间。在大量的闲暇中,人们从事文化、艺术和体育活动,逐渐提升整个人性。斯科特在1929年的测算是,25到45岁之间要工作,每天工作4天,一年工作165天,生产的东西就完全够用了。那可是1929年!在智能革命之后,大家可以畅想一下,一周人类还需要工作多久呢?

(4)物理券记名到个人,不能转让、出借、赠予和继承,有有效期,不能积累,也不能通过储蓄和投资获利。经济上人人平等。这基本上朝着公有制方向前进。

(5)人们在工业系统中的晋升,由专业能力和从业资历决定,从最普通劳动者中逐级提拔,不看出身和裙带关系。

(6)政府由行业顶级专家组成,主要管理经济事务,保障大家的经济自由,对其他社会事务尤其是宗教和文化,保持宽容。

总之,没有Robot代替人类劳动,“AI理想国”难以想象。在AI理想国中,智能技术广泛运用于社会运行的调节。比如,即时收集整个社会的生产信息和消费信息,统一传输到计划中心进行处理,使生产与消费相匹配。

AI机器国

另外一些人,却对智能治理的未来非常悲观。

一些哲学家担心,互联网可能成为电子圆形监狱(electronic panopticon)。“圆形监狱”是边沁提出、福柯等人发展的一种治理理论。边沁认为,当时各种治安问题都可以用圆形监狱的原理加以解决。

圆形监狱的中心是看守监视囚犯的瞭望塔,四周是环形分布的囚室。看守可以24小时监视囚犯,囚犯却看不到看守,囚犯相互之间不能交流。即使看守不在瞭望塔里,囚犯也会觉得有人在监视他。而看守也不自由,因为上级可以不定时来视察。

一句话说,圆形监狱原理就是“无处不在的监视”

福柯指出,圆形监狱不光监视,还可以采取措施改造罪犯行为,并根据改造效果调整改造方案。福柯称这种改造为规训,认为规训技术可以用于对所有人进行改造,还认为圆形监狱原理早就从监狱中扩散到整个社会,所以现代西方社会本质上是规训社会,或监狱社会。

后来一些人认为,新兴的信息与通信技术(ICT)技术加剧规训化的趋势,当代社会就成了“电子圆形监狱”。

显然,这种理论主要考虑的是隐私问题,但智能革命之后,就不再仅仅是隐私问题。所以智能技术才可能带来真正的牢狱和“AI机器国”。

“AI机器国”会是什么样子?它将是一架严密的智能大机器:每个社会成员都成为这个智能机器上的一个小智能零件,随时可以更换,和钢铁制造的零件没有差别。

归纳起来,“AI机器国”的噩梦集中在4个方面:

(1)完全机械化。社会中所有的一切,包括人,都是智能机器。对一切进行智能测量,包括人的思想情感,也要还原成各种大数据。

(2)完全效率化。效率是社会的唯一目标。智能科技最有效率,没有效率的东西,比如文化、文学和艺术等,都可以取消。于是,“AI机器国”科技越来越发达,物质越来越丰富,人类文明不断扩展,冲出地球,冲出太阳系……著名好莱坞系列科幻电影《星际迷航》,表达的就是这种不断星际殖民的梦想。

(3)完全总体化。整个社会是一个智能总体,按照基于智能技术所规划的蓝图运转。所有的一切包括国家政党、社会制度、风俗习惯以及个人生活,全部被改造,没人能够逃脱总体智能控制。

(4)完全极权化。“AI机器国”认为民主和自由没有效率,所以反对民主和自由,把权力完全交给智能专家、控制论专家,实行等级制度,以数字、智能和控制论的方式统治社会。

近看:反治理与风险

“AI理想国”与“AI机器国”是两种对未来的极端想象。未来究竟会怎样?这里我们埋个伏笔,先看看现实中的智能治理。

完美人梦想

现实是什么样子?现实远比理想状态要复杂,并非那么非黑即白,而是利弊互现的。这就引出一个问题:智能技术真的是完美治理的利器吗?恐怕不是。

在这个世界上,一辈子24小时完全照着法律、规章、公司规定、校纪校规、社会公德以及爸妈教导活着的人有几个?谁都会犯个小错,比如闯红灯,在禁烟的楼道偷偷抽烟……这些都监测下来之后,都要处理吗?

月经贫困,困住全球4000万女性

纪录片《月事革命》聚焦女性月经贫困,获得了2019年奥斯卡纪录短片奖今年2月,梁钰第一个提出湖北及援鄂女性医护人员缺乏经期用品2019年的调查数据显示,全球有4000万女性正在经历月经贫困,在中国,这个数据超过400万。梅丽莎·伯顿月事革命从“月经羞辱”引发的一个想法 2013年,梅丽莎带着学生到联合国参观,她们第一次了解到全球约有4000万女性消费不起卫生用品,其中以印度的情况最为严重。

西安夜生活网西安荤场子为您推荐!

现代治理有一个冲动:所有人都多少有点问题,都要被改造、被提升,而不光是罪犯。我称之为“完美人梦想”。

于是,社会用各种各样的规矩,把每个人随时随地约束起来。显然,这是不可能的,也是可怕的。哪里监控装得多,结果发现哪里的治安就会“差”一些,因为发现的不规矩会越多——本来大家差不多。所以,理想的全面管控不可能付诸实施,只能是理想型(ideal type)或者方法论。

执拗于“完美人梦想”,肯定会导致我所谓的“过度治理”问题。

多数小错误还是应该交给道德领域,甚至要被社会所容忍。因为治理必然伴随反抗,技术治理必然伴随着技术反治理,反治理是不可能,也没有必要被消除的。

技术治理要想平稳运转,必须在治理与反治理之间,达到某种作用力与反作用力的平衡。试图完全铲除反治理,结果一定是技术治理系统的崩溃。

智能反治理

总的来说,智能治理的反治理主要包括如下问题:

(1)智能低效问题。治理智能化是否真的提高了效率?这个问题必须具体分析。有人认为,电脑在社会机构中的使用,未必提高效率,而是掩盖这些机构需要改进的问题。有论文提到,一些法院反映:“智能法院”并没有明显提高效率,有时还变麻烦了,一些例行审批交给智能系统,出了问题,都不知道找谁负责。它打着新科技的名义,实际上并不科学,并没有效率。我称之为“伪技术治理现象”,它在现实中很常见。

(2)技术怠工问题。利用智能技术来怠工。比如,借口学习新的智能技术来怠工,在微信群里@领导,事事请示汇报,推卸责任等等。

(3)智能破坏问题。“人肉搜索”“网络水军”甚至网络造谣,给治理活动带来混乱。利用智能技术的欺诈和犯罪已经出现,比如机器人语音诈骗。对于智能破坏,尤其是机器人犯罪问题,很不好追查。

(4)官僚主义智能化问题。现代治理以可计算和文犊中心作为基础,可计算就是信息要数字化,文犊中心要求治理围绕文件展开。治理者治理的是纸上的、数字的对象,不是真实对象,那治理措施在现实社会就会出现一定的偏差。而且,这导致信息和文件激增,出现很多原本没有的待处理信息,比如智能技术制造出城市管理中水电气、交通、人流等信息。信息越多,就需要更多机构处理,于是官僚机构不断膨胀。比如,不管电子监控效果如何,但可以此向上面要钱、要编制,目标就从效率偷偷换成官僚机构的扩张。各官僚机构各管一摊,不能把握整体,这在“智慧城市”治理当中已经发生。

(5)过度治理问题。刚才已经提到过,很多社会参数没有必要获取。过度监控可能成为阻碍治理的反作用力,浪费人财物,严重降低治理效率。

总之,智能治理没有科幻电影中想象的那么厉害。

数字崇拜

智能治理导致新的社会风险,有些目前已经有所表现。比如,专家权力过大乃至失控,精英主义思想泛滥,个人的权利被侵蚀;比如,文化朝着数字化单方面发展,不能数字化的东西被抛弃;再比如“AI失业”的风险,甚至由此加剧社会阶层的固化等等。风险不一一列举,必须要警惕,要研究,预先防范并及时化解。

智能治理是以大数据为基础的数字治理。它的风险从根本上说,与“数字崇拜”有关。“数字崇拜”就是认为数字才是客观的,数字才是权威的唯一可靠来源。智能革命以后,数字崇拜进化成“大数据崇拜”。

有一种说法:大数据不再是随机样本,而是全体数据。这种说法是错误的,世界上没有真正的全数据。

因此,大数据所谓的“大”是实用意义上的“大”,针对某个目的而言足够大了。比如智能交通调控,能掌握八成以上机动车辆的运行轨迹,就可以尝试调控。既然是以实用目的来判断是不是够大,所以大数据并不客观,而是有价值预设的。

因此,我们不需要全数据。数据并不是越多越好,太多可能出现“数据超载”。大数据的根本目标不是真理,而是行动,如果不能对决策有帮助,就是“数字垃圾”。

波兹曼批评了统计数字崇拜。他认为,运用统计数字进行论证主要是“三招”。

(1)抽象概念客观化,把某个发明出来的抽象概念变得可以测量,比如民意测验假定有个“民意”,可以从民众身上抽取出来。哪有什么像桌上这瓶矿泉水一样客观的“民意”呢?民意调查的结果都是偶然的,今天这么选,可能明天就变了,或者有人没说真话,人心也是变动。

(2)排序,即把每个人按照某种标准安放在某个序列之中,比如从极不喜欢到极其喜欢分为0到10,你选一个数字,5是中间值,这叫排序,好像很科学,实际上谁也搞不清5是多喜欢。

(3)忽略不可数字化的问题。比如智商测量中,数字、图形、逻辑推理的能力可以量化,IQ能测,而想象力、直觉不能量化,IQ就不测。会讲故事?这个不好量化,不算智商。所以,很多人批评IQ测量。

因此,很多数据概念都存在问题。如对它们视若神明,就成了“数字迷信”。

不要迷信数据,大数据作用也是有限的、有边界的。而将大数据运用于社会运行策略当中,本质上是政治问题,而不是纯粹的技术问题,因为大数据并不能提供纯粹客观真理的基础,而是有价值取向的。

就算大数据是真理,也推导不出我们应该如何行动。这就是休谟著名的是与应当的二分。

案例:疫情应对与再治理

究竟应当实施智能治理吗?对于不同技术、不同国情、不同语境,答案肯定是不同的,必须具体情况具体分析。这里结合新冠疫情应对中智能技术的使用,谈一点初步的看法。

无人困境

大家有目共睹:智能技术在抗疫活动中发挥了很大的作用。

比如,我们现在每日都用到的各种“健康宝”,运用交通数据、移动通信数据分析人员流动状况,用即时病人统计数字来预测疫情动向,在机场、火车站用智能测温与人脸技术筛查病人,用AI和医用机器人辅助医学诊疗。

在抗疫相关的人财物调拨、舆情信息收集分析等方面,智能技术发挥的作用就更大。

但是,“智能抗疫”也引起一些非议,或者说,并没有达到大家期望的理想状态。

首先最典型的是“无人技术”,如无人机、无人车、无接触检测治疗机器人等,效果不理想。

第二,智能技术应用好的地区集中于东部发达地区和发达城市,中西部一些数字化基础不好的地方,政府在公共卫生智能化方面投入很少,之前缺乏完善用户体系和原始数据积累,智能技术就发挥不了什么作用。

第三,智能技术在疫情防控实践中还存在“堵点”和缺陷,对真实应用情境的理解还不够。尤其是在街道和社区的一线工作中,无人技术和智能技术没有表现出应有的力量,比如人员管控基本上靠登记填表、高音喇叭等“人海”技术,耗费大量人力。

最后,对技术应用中人的因素考虑不够,引起社会对智能技术应用的伦理和隐私方面的关注。大家知道,各种“健康码”一直就有这方面的争议。

为什么会这样呢?

疫情突发,“智能抗疫”相关的各方面应对仓促,是一个原因。还有之前智能技术在治理领域的应对不成熟,虽然政府需求很大,但没有得到商业上的重视。再有就是我们在技术储备、专家水平方面,也有一些客观的短板。

但这些原因的背后,还有一个更重要或最主要的原因:当前智能治理领域中,智能技术不能与“治理中的人”很好地结合起来,我称之为智能治理的“无人困境”。

道理很简单:智能治理不是纯粹技术问题,而是技术与治理的融合,而讲到治理,就不能不考虑人的因素,尤其是治理者和被治理者的特点和规律。

“智能抗疫”如果不能把人和技术结合起来考虑,肯定会事倍功半。

再治理

要摆脱“无人困境”,就要对智能治理进行再治理。我认为,所有的技术治理活动都需要再治理,重心是约束治理者,尤其是专家的权力。

第一,要划定权力的界限。

第二,要设计越权时的纠错机制。从治理中的人的角度看,人与技术在技术治理中的结合,最根本的是治理活动中各方权力如何平衡的问题。

从原则上说,要破解“无人困境”,至少要重视如下问题。

(1)加强技术专家与治理专家、实际管理者、利益相关者的沟通和合作。技术专家熟悉技术,治理专家熟悉治理,实际管理者了解国情和国人,利益相关者或者是被治理的直接对象,或者与治理行动有利益关系。只有大家沟通合作,智能治理运转才能更顺畅。

(2)约束治理者的权力,这也意味着对被治理者权利的保护。比如,疾控专家说,出门要戴口罩,在人烟稀少的空旷处可以不戴,到了基层就有极端情况:没带口罩的人就被打骂、被扭送到派出所。这是典型的过度治理的现象。

(3)约束技术专家权力。专业技术,普通人不懂,而专家同时也是危机处理中的利益相关者,有着自身的利益诉求,并且由于专业局限对其他事务缺乏足够了解,如果专家权力过大,可能出现胡乱决策或以权谋私等问题,必须对专家权力加以约束。专家队伍中要有一些人文社科的专家,不能全是搞技术的。

4)预测与平衡反治理行为。治理必然会有反治理,不能完全消除,要理解、容忍和控制。各种“智能抗疫”措施的使用,要根据具体情况以及疫情变化而变化,不能搞“一刀切”,特殊情况特殊处理。网传很多老人不用智能手机,不会搞“健康码”,导致坐公交地铁、去医院公园都被拒。这就是不能容忍的反治理的情况。

(5)区别治理与操控。智能治理的运用是有限度的,超过限度就成为技术操控,把被治理对象当作囚犯来对待,严重侵害公民的基本权利。这个界限在哪里呢?要具体问题具体分析。我认为一个基本原则是:治理应该是统计学意义上的,对象是人群或“人口”,不能精确到操控单个人甚至某个人的行为。机械决定论的思路肯定会导致越界,引发治理系统的崩溃。

(6)区分信息与舆论。在“智能抗疫”中,必然涉及信息流动的问题。许多信息是疫情信息,是客观和物理的,不与疫情判断、预测和防控直接相关。而发病人数、药物疗效和医疗物资状况等,这类信息必须以保持通畅为第一原则,否则就会耽误事情。当然,也要遵守保密法规。另外一些是舆情信息,有很强的主观色彩,其中掺杂大量的谣言和错误言论,需要运用意识形态技术进行治理。不能混淆信息治理与舆论治理,混淆疫情信息和舆情信息。

“他山之石”:阿甘本的批评

在西方,以“智能抗疫”为核心的技术治理战略引发的非议,远超过中国。

在中国,对技术治理疫情评价基本上是肯定的,但在一些西方国家则是否定的。在美国,戴口罩被政治化。我与德国、美国的哲学家合作研究,比较了三国疫情技术治理模式的不同,发现差别很大。

这里我们举个最典型的例子,即意大利哲学家阿甘本对疫情中技术治理的批评,来进行分析。

在三四月份的时候,他批评意大利政府为应对疫情“封城锁国”的隔离政策,引发各国思想家论战了一个多月。

简单地说,阿甘本的观点是:新冠肺炎并不多么致命,政府采取极端措施,是另有所图,即将例外状态常态化,扩充国家权力。

因此,最大的问题不是疫情,而是政府以疫情为名搞的严管措施,只怕今后会成为常态。当年,纳粹就是这么一步步极权的。

难道国家搞隔离不是为了保护大家吗?要理解阿甘本的言论,首先就要理解他的生命政治理论,该理论有三个关键词:赤裸生命、神圣人和例外状态。

先说赤裸生命。阿甘本把活着与生活对立起来。活着就是纯粹动物性的生命,吃喝拉撒繁衍……这就是“赤裸生命”。人不能光活着,还得生活。生活的本质是思想。思想被压制,只剩下活着,你的生命就成了赤裸生命。

再说神圣人。谁的生命完只剩下赤裸生命了呢?最典型的就是纳粹集中营中的囚犯,还有战争中的难民,为了活着,他们只能任人宰割,是“神圣人”。其实“神圣人”最好翻译为“天谴之人”。

最后说例外状态。对待神圣人,根本不需要遵守适用于正常人的各种法律规则,也就是说,神圣人就处于例外状态之中,因为适用他的各种习俗、伦理、法律和政治权利等规矩都不存在,完全要等“主权者”来决定。

这个主权者,就是国家最高权力。希特勒要种族灭绝犹太人,设置了集中营。集中营怎么搞?根本没有约束。

阿甘本认为,除了集中营、战争难民外,例外状态并不罕见。它在各种紧急状态、戒严状态和军事管制状态中经常出现。本来例外状态是暂时的,正常之后应该取消,但实际上在正常状态中某些例外措施恰恰被延续起来。

因此,例外状态一再出现,一再悄悄地改变现代政治。所以,他认为,当代人在不同程度上都生活在集中营中。

阿甘本把抗击疫情所做的隔离工作视为例外状态了,坚称政府在耍阴谋,让我们为了活着而不要生活,自我隔离或强制隔离,保持社交距离,打碎我们与朋友、邻居结成的共同体关系,这坚决不行!

大家知道,奥斯维辛集中营的阴影至今仍笼罩在欧洲人民的心中,阿甘本的观点容易引发西方人的共鸣。例外措施究竟是什么?

阿甘本称之为生命政治措施。生命政治是指在政治领域中,运用科学原理和技术方法来改造人的行为和生活,以提高政治活动效率,属于技术治理的一种。现在我们每天出门都要戴上口罩,和人说话都离远点怕传染,都属于阿甘本所称的“生命技术”。

阿甘本的批评不能说完全没有道理,但是存在很多问题,尤其不是适合中国的国情。

第一,当代西方反科学思潮流行,普通欧洲民众对科技有成见,反感技术治理,所以有些人才会坚决不戴口罩,不配合政府的隔离措施——“不自由毋宁死”。中国民众对于科技和专家主要还是支持和信任的。

第二,技术治理不是完全负面的,显然“智能抗疫”挽救了许多人的生命。就算它有一些问题,但你不能完全抹杀它的正面价值,只看负面的可能。

最后,不存在绝对自由,人多少都要受到社会的改造和控制,比如学校教育也要改造人,让你成为文明人,所以重要的不是拒绝所有的改造,而是要把生命政治控制在正常的范围之内。

阿甘本其实提醒了我们:抗疫中的技术治理措施不能太过,不能超出限度,否则就侵害人们的生活和权利,并且当疫情过去,例外措施应该及时取消,恢复正常。

结语:审慎务实地推进智能治理

回过头来,我们再来看看智能治理的愿景。

AI理想国和AI机器国最后真的会出现吗?从以上的分析中,很容易得出一个结论:未来智能治理的道路肯定是介于理想国和机器国之间,两种极端状况都不大可能出现。

先说理想国。就算机器人把所有的劳动都包了,一些人担心,人类会不会天天打麻将,天天无事生非,自己把自己毁灭了。或者像电影《机器人瓦利》中想的那样:人类成了行尸走肉,吃饭都是机器人喂。

更重要的是,如何让人类放弃现行的不平等制度?我们为此将付出何种样的代价呢?

马克思主义认为,科技的本质是革命性的力量,它推动着人类的进步,但是在阶级社会却被统治阶级利用,为权力者的统治服务,而被统治阶级也可以利用科技谋求自身的解放。这就是科技与权力的辩证法。显然,智能治理也是如此。

并且当我们将智能技术用于治理活动,不只有一种可能性,而是存在很多不同的模式。我们应该结合现实国情,坚持“期待理想国,警惕机器国”的理念,审慎选择智能治理模式,通过制度设计发挥智能治理的正面作用,防范它的风险,将之引导到造福社会的方向上去。

这就是我提出的技术治理理论要解决的问题。

要特别强调的是,防范智能治理的风险要落到实处,不能光喊口号,停留在文件里。结合中国国情,更可能落地的风险防范思路,至少有三个可以深入思考的思路:

(1)制度主义思路。近年来,科技伦理讨论持续热门,但已经让人感觉到伦理约束技术治理在现实中的不足,主要是无力感明显,伦理批评难以落实。应对技治风险,还是要以制度设计为主,结合国情,通过制度来约束专家和治理者的权力。这是上述智能治理再治理的最核心问题。

(2)工程师教育。智能治理不可避免要依靠智能专家和控制论专家。技术和工程方面的事务,专家还是有更大的发言权,外行可以意见,但对技术设计的内情还是不清楚的。对工程师的伦理教育如果做得好,还是能起到一定的效果。也就是说,要制度性地对对工程师、对在读的理工科大学生进行工程伦理、人文素质方面的教育,让他们意识到自己肩负的社会责任,学会不仅用技术的眼光看待自己的工作,还要学会用伦理的眼光看待自己的工作。目前,国内在这方面要做的工作还很多。

(3)工程设计“道德物化”。道德可以通过设计思路落实到技术中,要以技术的方式实现道德理念,这就是道德物化的思路。比如说开车要系安全带,不系可能伤害自己伤害他人。可某个司机就是不讲道德,怎么办?技术上设计报警系统,不系安全带,就不停地报警。再比如减速带。你急弯开车就不减速,我就设计很多减速带,把车颠簸得不得不减速。所以,把技术和道德结合起来,用物化的办法将准则变成有形的技术设计。对智能治理中的风险,可以研究“道德物化”提前加以规避。

当然,上述技术治理、再治理的思考还很初步,只是一些抛砖引玉的思路。

但总而言之,智能治理牵涉的不是纯粹的技术问题,更多是制度安排和政治考量。不同的国家和地区,不同的文化类型,不同的民族特性,不同的历史和国情,不同的科技发展水平,走出来的智能治理道路不会都一样。这需要深入研究,不断探索。

本文来自微信公众号:腾云(ID:tenyun700),作者: 刘永谋(中国人民大学哲学院教授)