1 论文背景和意义 #
20世纪后半叶，计算机技术已逐渐渗透进人们社会生活的各个角落。伴随其大规模普及，不可避免地出现了牵涉到道德伦理价值判断的新场景，在这一时代环境下，研究者纷纷将目光投向描述和建立关于计算机的新伦理学体系的行动上。
就这一领域，James Moor在所著what is computer ethics中从两个大的方面开展了讨论：计算机技术是如何区别于其它技术的，以及这些区别是如何作用于计算机伦理道德准则之上的。特别地，作者希望通过抓住这一领域的特征，展示其于智性探讨上的趣味性和它本身的重要意义。站在今天的角度来看，确实是一项富有远见和深刻洞察的工作。
文章从概念铺垫开始，列举计算机技术在社会生活中反映的主要问题，从现象出发，回溯建构计算机伦理体系的内容，并进一步从计算机技术的革命性及其它特征开展讨论。
2 论文综述 #
2.1 概念铺垫 #
2.1.1 计算机伦理学 #
对计算机技术相关伦理的研究涵盖了两种工作，分别是关于对计算机技术在自然和社会领域中影响之分析，以及关于这类技术规范使用之政策所对应的制定和说明。
因此，计算机伦理学既关注道德价值体系的分析建立，也关注它在现实中以政策形式出现作为实际的应用。
2.1.2 计算机技术 #
在讨论关于它的伦理研究之前，应当先明确计算机技术本身的所指范围。因为这一领域的现实性，所以这一定义是广义的：涵盖计算机和所有相关的技术，计算机的软硬件皆在讨论范围中。
2.2 问题考察 #
在社会生活中，存在几类代表性的问题，共同折射出计算机伦理学自身特性和理想的设立方针。
2.2.3 政策真空 #
“政策真空”是计算机技术使用在约束方面的一大问题。文章指出：不存在真正完善的相关政策付诸执行。唯一的解决方法是不断地制定引导和约束相关行为的政策，同时考虑从个人和社会条件进行考虑。
2.2.4 概念真空 #
在涉及现实中计算机技术相关的社会问题时，人们常常会发现它们都与概念定义相关。Moor使用了一个极具代表性的例子：关于计算机程序的保护政策制定。在既往的价值判断中，应当视其为一种知识产权；但程序归属版权保护还是专利保护？如何将程序本身，程序实例，程序副本纳入这一概念体系？
上述例子有力地说明了概念化的重要性。实际上，并不存在一种直接从道德理论生成合适政策的机制应用。
一个问题或许初始阶段很清晰，但稍加深入就会产生概念混淆。为了应对这一情况，我们必须建立连贯的概念框架作为分析基础，在框架中制定下一步的行动，因此，需要广泛接纳关于计算机伦理概念框架的各种提议。
2.3 价值观变更 #
在讨论了政策真空和概念真空两大现象后，一个答案已经呼之欲出。本质来讲，这些问题都源自于计算机技术带来的价值观层面变更。
计算机技术带来了技术上新的可能，进而催生出大量新的社会观念，它们对我们既有的文化体系造成了一定冲击。这要求我们在处理计算机技术相关问题时，一定要洞悉自身的价值观偏好，处理好计算机技术所中介的各环节的关系。
2.3.5 特别的计算机伦理学 #
计算机伦理学的一大特征在于计算机技术本身的参与程度。对于所有涉及这种技术的场景而言，我们并不能给出通用确定的理解和应对。进一步说，并不是所有涉及相关技术的场景都是计算机伦理学的领域：例如小偷盗窃电脑只是一个一般性的财产性法律问题。
综合以上观点，可以说计算机伦理学作为一个研究领域，其地位十分特殊：它作为应用伦理学，不是对伦理学的直接应用；普遍的伦理学为伦理领域提供了基本的分类和处理程序，这是计算机伦理学应当吸收的；科学信息在道德论述中相当重要；重要的还有对事实关注，因为许多时候道德争端是事实层面的分歧，而非价值层面。
2.4 特别的计算机技术 #
Moor通过剖析计算机技术特殊性，完成了计算机伦理学存在必要性的证明。
2.4.6 革命机 #
是什么使计算机技术与其他技术有重大区别？当我们拘泥于丰富廉价、快速进展的工程规格，抑或是功能友好等等表面标签时，就已经进入了思维的倒错。它们只是革命的传播条件，而非其革命本身；真正的革命性在于其逻辑可塑性。
而如果因此陷进对计算机的算术视角解释——将数学符号系统的运行直接视为计算机的本质，则又是不恰当的。
计算机的逻辑是计算机革命的原始资源；逻辑操作是精确定义的步骤；计算机通过硬件和软件的变化，以无尽的方式运行任何可以用输入、输出和连接逻辑操作来描述的活动；因此计算机是目前最接近于通用工具的东西。对于这样一个逻辑具身化的造物，我们考察它的局限性实则是考察作为使用者的我们自己的局限性。
我们对计算机技术的概念定义会倾斜我们使用计算机的态度。因此，真正有意义的问题将是“我们如何塑造计算机的逻辑以更好地服务于我们的目的？”。
2.4.7 计算机革命 #
类比发生在英国的第一次工业革命是不错的研究途径。Moor将计算机革命划分为两个大的阶段：技术引进阶段与技术渗透阶段。第一阶段，即计算机成为从事标准工作的工具，这一阶段已经完成了。
现在正在进行的第二阶段，即算机技术成为整个社会机构的一个组成部分，或者说，生活方式与社会活动的计算机化。在文章写作阶段，这一表征还不十分明显，而如今我们已经能切实体会到“计算机化”浪潮溅起的时代水花。
在这一阶段，计算机不只作为从事标准工作的工具，更是开始指导人们思考计算机执行活动性质和价值。计算机技术不只是作为工作的一个环节，更将其运行过程转移到工作行为本质之中。
Moor以选票计数为例说明了这一点：由于计算机计票行为的参与，选票活动不再以单纯计票过程为核心；由计算机负责的数据分析预估反而更大地影响起投票心理和选票分布来。计算机化的“入侵”远不只是硬件流程的替代：“万物皆程序，软件定义一切”这句口号在现如今已经得到了广泛的承认。
在金融领域，计算机化迫使我们重新思考货币的定义，铺设电子金融市场；在教育行业，计算机化迫使我们重新思考教育的实质，思考课堂搬至线上后褪去形式的含义，思考计算机接管教育环节后教育系统的未来。
计算机化也迫使我们再一次思考工作的本质和社会链条的运转模式。现有的工作形式在它面前会遭遇彻底的颠覆。工业机器人的高度自动化、个人计算机终端的全面普及，瓦解了传统形式的工作场所； 计算机全方位介入人类的劳动实践过程，将“工作”变为“指示计算机工作”。
这种情形下，劳动者的心理状态更加偏离我们的历史习惯；远程工作带来的人际关系变化，自动化运行的成果与人的直接劳动之间的隔阂到底是对生活的解放，还是更深的异化呢？Moor并没有对此过多着墨，他同样也未明确指出这种结构性变化对就业市场可能的巨大震动，或许他并不认为经济构成的问题应当由这一领域参与。在今天，以ChatGPT为代表的高级自动化工具正将这一未来向现实拉近，越来越多的人参与到相关讨论。至少，计算机伦理学应当积极现身其中。
2.4.8 存在必要性的证明 #
计算机的革命性特征是其逻辑可塑性，逻辑可塑性保证了计算机技术的大量应用，计算机技术的大量应用改变生活方式和社会机构，这种变化带来了政策和概念的真空，政策和概念的真空标志计算机伦理学的现实意义。
2.5 不可见因素 #
在大多数情况下，计算机呈现操作不可见的内部黑箱状态。人们可能对计算机的输入和输出有相当的了解，却不清楚内部的处理。这些不可见因素在社会生活会产生不可忽略的影响。
2.5.9 三种行为 #
Moor指出有三种具有伦理探讨意义的不可见因素：
故意利用计算机的不可见操作来从事不道德的行为，例如利用银行账户利息四舍五入的机制，偷窃利息零头。
对他人财产和隐私的侵犯，例如直接入侵他人计算机系统操作存储信息。
利用计算机进行监视操作，例如通过隐蔽的方式监听数据。
2.5.10 不可理解性 #
在编写计算机程序的过程中，对程序的评估是在抽象层次上进行的；而在实际代码规范的实现中，程序员会自行做出未明确规定部分的价值判断，这些价值以不可见的方式被整合到最终产品中。某些情况下，这可能会造成灾难性后果（比如故障模拟系统的不充分考虑）。
程序的计算过程同样具有不可理解性。即使一个程序可被理解，也并不意味着基于该程序的计算被理解了。计算机的计算过程完全可能会复杂到无法由人工检验，求解繁琐的数学问题，和超大数量级参数的ai模型都是如此。
这种不可理解性带来了重要的伦理问题：我们在多大程度上能相信计算机？涉及重大价值判断（例如自动驾驶技术、核弹发射评估）的程序可信吗？
2.5.11 问题解决 #
这一问题的解决可能在于计算机本身，或许可以通过程序分析揭示这些不可见的步骤，帮助我们判断。
某种意义上，不可见性为我们屏蔽了不必要的步骤和信息；与此同时，正是这种隐蔽使得我们时刻面对程序执行错误价值判断的风险。我们必须决定信任计算机的时机。这是计算机伦理学如此重要的另一个原因。
3 总结 #
计算机伦理学在生活方式与社会活动的计算机化的当代，具有重要的研究和实践意义。对于现实中存在的计算机相关的道德价值判断，需要在连贯概念框架的基石之上进行讨论，关注变化中的技术与社会关系。同时，我们需要对计算机的应用产生正确的认识，将计算机更好地用于服务塑造社会现实，集中考虑计算机化对既有秩序构成的更迭产生的影响。此外，在价值判断的相关场景中，我们应当根据实际，思考究竟在何种程度上采信于计算机，谨慎处理。