产品沉思录 产品沉思录 产品沉思录 产品沉思录
把人类美德外包出去:对技术和完美系统的看法

把人类美德外包出去:对技术和完美系统的看法

T.S. 艾略特

德和美(Virtue 和 Beauty )是人类美好的东西。什么是德(Virtue)?亚里士多德说德是表现于习惯行为中的品格特征。例如诚实的德性,他的行为"源自坚定而不可更改的品格"。而人类很想把这个美德外包出去。在 T.S. 艾略特的时代,为了追求效率、速度和规模,越来越复杂,拜占庭式的官僚机构想用技术,用系统,用工具将人类决策自动化,从而将人类的判断和责任外包。

参考:Vol.20210207:慢,未必不是一种向前迈进的姿态 中提到的,Lyft 的工程化学增长措施的核心:最小化人类对低阶决策的参与程度;机器自动化去处理广度的问题,而释放人的时间以便于专注于深度问题与探索试验。

T.S. 艾略特
T.S. 艾略特

T.S. 艾略特,在《The Rock》的一段副歌中准确地描述了我们的处境:“他们不断地试图逃离世界的黑暗,他们梦想着完美的制度,以至于没有人需要做出改变。” Google Cloud 编辑 Quentin Hardy 在关于现代技术和云世界的一些悖论中,提到在一个充满不确定的新技术世界里,令人回想起那首85年前T.S. 艾略特的《The Rock》诗歌。无论我们多么了解和完善这个世界,我们仍然需要努力成为一个更好的人,机器不能解决这个问题。

在本周推荐的文章中,作者假定技术官僚结构和流程可以消除美德的必要性,甚至可能完全消除人类的参与。也许可以很容易地说,系统是如此完美,以至于没有人需要变得明智、温和或公正。只要严格遵守规范或技术,一切都会好起来的。

一个人不需要美德或良好的判断力,只需要一个足够清晰的规则体系。在这种情况下,官僚机构官员可能会变成歌德在《浮士德》中说的“梅菲斯特”,会助长各种形式的平庸之恶。但是,现代社会的规模和范围似乎也需要这样的结构,以便相当好地运作,虽然这当然是有争议的。无论严格必要与否,这些系统引入了一个悖论: 为了表面上服务于人类社会,它们必须消除或取代人类经验的要素。当然,最终变得明显的是,这些系统实际上并不是为人类服务的,至少不一定是这样。

有人说美国不是解决社会问题,而是使用技术修复来绕过这些问题,抹上伤口,而不是消除伤害的根源ーー前提是人们甚至接受现有的解决方案。如果有一个简单的技术方案表面上能解决问题,那么就不需要良好的判断力、负责任的治理、自我牺牲或相互关心。换句话说,只要能找到正确的技术解决方案,就没有必要做好事。

这些问题的根源在于我们制造的系统中混乱而有缺陷的人性,然后想象我们可以制定一些衡量标准,来冲洗人性——以便更好地判断某种人性。当今人类面临的最大挑战是技术官僚政权的持续崛起,这种政权强迫性地寻求优化每一种可能的人类行为,却不知道如何问什么是最优的,甚至不知道优化为什么是好的。

通过消除人类经验的要素来缓解人类状况的这种冲动值得思考。

《Tools for Conviviality》

“What is fundamental to a convivial society is not the total absence of manipulative institutions and addictive goods and services, but the balance between those tools which create the specific demands they are specialized to satisfy and those complementary, enabling tools which foster self-realization. The first set of tools produces according to abstract plans for men in general; the other set enhances the ability of people to pursue their own goals in their unique way.”

— Ivan Illich, Tools for Conviviality

伊凡·伊里奇
伊凡·伊里奇

这里要说到另一个人,伊凡·伊里奇和他的书《Tools for Conviviality》作为对这个话题的补充。伊凡·伊里奇是一位集神学、哲学、社会学及历史学多种角色于一身的学者。在其广泛流传1973年出版的的著作《陶然自得的工具》(Tools for Conviviality)中探讨了关于技术的正确使用这一话题。

关于他关注的社会问题,他认为问题出在教育身上,引起他对教育的思考。“非学校化社会”不仅是对教育、学校的批判,更是对贫困文化进行反思,对造成贫困的各种因素进行批判性分析的产物,它揭示了制造贫困和产生异化现象的广泛的社会基础——价值商品化、机构化,并对这些机构的作用过程——隐蔽结构进行了剖析,最后指出,只有当技术知识不再成为商品时,技术和知识才能为每一个人提供一种能力,只有废除这些价值机构,人才能获得真正的自由和平等。

在中南美洲的人口中不到百分之一是大学毕业生,而在美国的人口中却有百分之三十左右的大学毕业生。一个美国公民可接受十二到十六年的教育,而在中南美洲却只能接受二至三年的教育。他认为以很高的代价去设立学校,建立教育制度,在富有的国家因财政充裕,所以不在乎;在贫穷的国家因财政困难,所以成问题。因此学校教育的使命每一个国家不同。今天的困难之处是把学校当成制度来看待,工业化国家对于学校教育可以把它订出目录的方式逐步实施,其产生的结果是特殊的机构和教学的工具随处可见,但贫穷的国家只能希望教会帮助其解决一些教育问题。贫穷国家的人的能力在入学前就已经形成了,然而富裕国家的人在入学后才去塑造能力。

这本书概括了他以前应用于教育领域的主题: 专业知识的体制化,技术官僚精英在工业社会中的主导作用,以及为普通公民重新征服实用知识而开发新工具的必要性。他写道: “精英专业团体... ... 已经开始对诸如健康、农业、建房和学习等基本人类活动实行‘根本垄断’,导致了一场‘生存之战’,剥夺了农民社会的重要技能和诀窍。许多经济发展的结果往往不是人类繁荣,而是‘现代化的贫穷’、依赖,以及一个失控的系统,在这个系统中,人类变成了磨损的机械部件。”伊里奇提出,我们应该“颠倒目前工具的深层结构”,以便“给人们工具,保证他们的权利,以独立的效率工作。”

这本书对工具的设想是由一个用户社区来开发和维护,这对个人电脑的第一批开发者产生了重大影响,尤其是 Lee Felsenstein( Lee Felsenstein 是第一台大规模生产的便携式计算机 Osborne 1 的设计者,他的许多设计都是降低计算机技术成本的领导者,目的是使它们能够在大型市场上销售。他的作品关注技术的社会影响,并受到伊万 · 伊里奇哲学的影响)。

Lee Felsenstein   UC Berkeley, 1966.
Lee Felsenstein UC Berkeley, 1966.

一个插曲,作者提到一个有趣的最早的人脸识别的案例,这是一张带有原始人脸识别功能的火车票: “打孔照片”,列车员根据它们与持票人的相似程度打孔,这些或许启发了从1890年到20世纪中期的人口普查数据所用的方法。

来源: