马塞诸斯州大学波士顿

关于麻省大学波士顿分校应用伦理学中心的对话。

亚历克·斯塔布斯（以下简称“AS”）：尼尔，请告诉我应用伦理中心（AEC）是如何开始关注人工智能（AI）伦理的。

Nir Eisikovits (NE)：几年前，我遇到了伦理与新兴技术研究所（IEET）的执行主任James Hughes。

多年来，詹姆斯一直从事尖端技术伦理方面的开创性工作，最初是作为生物伦理学家，最近则专注于人工智能伦理。他就是我们所说的技术进步主义者——对利用技术实现社会进步目标感兴趣的人。

我对科技有点怀疑。我们一拍即合，聊了很多有趣的话题。我们决定在IEET和马萨诸塞大学波士顿分校之间开展合作，探索与人工智能越来越多的接触所带来的一些道德挑战和机遇。

作为这个过程的米兰体育，我们启动了一个雄心勃勃的博士后奖学金计划，每个研究员将在两年的时间里专注于人工智能和自动化带来的一个关键挑战。亚历克，你应聘的第一份奖学金主要研究自动化、人工智能和未来的工作。

第二个奖学金项目于2024年秋季启动，我们聘请了康涅狄格大学（University of Connecticut）的科迪·特纳（Cody Turner）博士，主要研究脑机接口的伦理问题，比如Neuralink。

除了研究人工智能应用的伦理挑战之外，我们还撰写了一系列政策文件或白皮书，涉及人工智能对高等教育的影响、虚拟世界对工作和娱乐的潜力以及使用聊天机器人进行心理治疗的潜力和风险等领域。最近，詹姆斯和我开始了一个名为“假肢之神”的新播客，在这个播客中，我们讨论从聊天机器人到基因工程等新兴技术。

 

AS：太酷了！告诉我们一些你自己对人工智能伦理的研究兴趣。

NE：在过去的几年里，我的同事、该中心的高级研究员丹·费尔德曼（Dan Feldman）和我一直在研究一个我们称之为“人工智能与体验”的领域。

我们要问的问题是：如果你解决了围绕人工智能的一些公平和正义问题，比如与算法偏见有关的担忧，那么这项技术还有什么值得担心的吗？换句话说，如果通常的自由主义、民主主义、分配主义、正义主义的担忧都被搁置了，还有什么担忧吗？我们的观点是，技术有可能改变我们看重自己的关键能力和特征。

例如，算法决策的日益普及有可能削弱我们日常实际判断的能力——希腊人称之为phronesis。

此外，有效和公平的人工智能决策的出现可能最终会破坏人权的哲学基础，所有这些都与我们的理性和决策能力内在地联系在一起。

当然，你和我最近开始了一个新项目，专注于人工智能作为实现愿望的机器的作用，旨在减少摩擦在我们生活中的作用。

这可以从聊天机器人友谊的兴起和悲伤机器人的使用中看出，以及生成式人工智能的兴起，在某些领域，这意味着从创造性的努力中解脱出来。

 

NE：亚历克，我可以问你一个问题吗，你最近对人工智能和未来工作的研究重点是什么？更广泛地说，你和我们在一起的时间是如何为你的下一个冒险做好准备的，你将在西海岸领导东北大学的政治、哲学和经济学项目？

AS：总的来说，我的工作集中在与人工智能和未来工作相关的几个关键主题上。一方面，我的研究调查了人工智能和自动化对劳动正义问题的影响。这些技术带来了提高生产率的希望，但我们需要调查我们的经济体系结构是如何决定谁能获得生产性产出的。以目前的组织方式，我担心这些技术只会让少数在生产现场和投资决策中拥有决定权的富人受益。例如，近年来，我们知道自动化技术的引入由于对工人的去技能化影响而对工资产生了下行压力。

我认为，我们需要摆脱建立在非民主所有权和控制权基础上的经济结构。我的建议是，我们提倡一种经济民主制度，让工人拥有并经营自己的工作场所，并通过民主方式做出广泛的投资决策。这种结构已经存在，尽管在我们的当代经济中它们很少。工人合作社、社区土地信托、公共投资银行——这些都是我们反民主经济的可能解决方案。但我们需要一场政治运动来建立、支持和维持这些替代方案。

你可能会问：这些替代方案会对人工智能和未来的工作产生什么影响？简而言之，人工智能和自动化方面的技术进步，只有在那些直接受到这些技术影响的人对这些技术的开发和实施有发言权的情况下，才能对我们的工作生活产生解放作用。民主运作的工作场所更有可能使用节省劳动力的技术来减少每周的工作时间，腾出时间用于社区、家庭、锻炼、教育和其他有助于人类福祉的事情。但只要工人自己对这些技术的实施内容和方式没有发言权，他们就更有可能被解雇，面临机器人的竞争，或者在没有他们投入的情况下，他们的工作被贬低和去技能化。

 

NE：你还在创作其他什么主题？

AS：我对经济民主化的问题很感兴趣，原因很简单：我相信我们的当代生活被资本主义的职业道德和经济不平等所主导，以至于我们经常错过美好生活中最重要的方面。所以对我来说，我也有兴趣思考是什么构成了有意义的工作，是什么构成了有意义的休闲，以及我们如何设想一个未来的世界，在这个世界里，正确的平衡得到了实现。我们知道，有些人觉得自己的工作很有意义，但前提是工作相对自主，能让他们发展自己的能力，给他们一种使命感和归属感，当然，还能让他们获得足够的资源，让他们茁壮成长。

我们目前的工作世界为我们提供的这些东西很少，所以我工作的米兰体育是考虑找到一个甜蜜点，在这个甜蜜点上，一个人可以从事有意义的工作，但在这种情况下，工作不会主导他的整个生活。

 

内：从马萨诸塞大学波士顿分校毕业后，你的工作把你带到了哪里？

AS：正如你所提到的，我是东北奥克兰大学的助教，我是他们政治、哲学和经济学项目的项目协调员。我们的目标是发展一个允许学生参与经济和社会正义问题的项目，因此它与我自己的目标以及我在这里所做的工作完全一致。我在马萨诸塞大学波士顿分校的这段时间对建立一个强大的平台来从事这类工作起到了重要作用。我有研究、写作、教学和参与公共学术的自由——这些机会是我在其他地方得不到的。我很自豪能成为AEC和IEET这样一个具有前瞻性的团队的一员，我迫不及待地想看看它从这里走向何方！