许多人工智能系统通过与人类的行为和创造的信息进行互动来进行“训练”。最近，华盛顿大学的研究人员发现，当人类意识到自己的行为被用于训练人工智能时，他们的行为会发生变化。
不仅人们的行为会改变，这些变化还会持续到未来，形成新的习惯。一个人的行为倾向或偏见，包括那些他未必意识到的，也会随之改变。
那么，究竟是谁在训练谁呢?
“这项研究明确指出，我们需要理解人们与人工智能互动的行为，尤其是在他们帮助训练这些工具时，这样我们才能衡量并减轻这种偏见，”华盛顿大学信息学研究所所长、医学教授菲利普·r·o·佩恩博士表示。
然而，如果人们的行为被用于训练人工智能，那么改善他们的行为可能会带来负面影响。首席研究员、华盛顿大学研究生劳伦·特雷曼(Lauren Treiman)指出，例如，如果人们帮助训练自动驾驶汽车的人工智能，他们可能会特别小心驾驶，这可能导致人工智能成为一个完美的司机。
然而，在像圣路易斯这样的地方，人们经常闯黄灯，试图让人工智能成为完美司机可能会更危险。
她表示：“人工智能可能需要学会识别黄灯，如果这是人们的行为倾向的话。”
特雷曼提到，她第一次思考人工智能训练方式的影响，以及决定我们在网上看到内容的算法，是在她浏览社交媒体时。
“当你看到‘推荐’视频时，算法可能会非常敏感，”她说。“只需停留几秒钟，你就会看到一遍又一遍的相似内容。”
她表示，她会故意快速浏览某些内容，或者根本不点击，这样社交媒体算法就会学会减少向她展示这类内容。
这种为了应对AI而改变自己行为的经历激发了她的实验灵感。
华盛顿大学心理学和脑科学助理教授沃特·库尔表示，研究人员使用了最后通牒游戏——一种“经典的学术方法”。
最后通牒游戏有两个玩家：一个决定如何在两人之间分配10美元(RM43)，并提出一个对方可以接受或拒绝的提议。如果提议被接受，每个玩家都能得到他们同意分享的钱；但如果被拒绝，双方都无法获得任何钱。
在研究中，一些玩家被告知他们的游戏方式将用于教AI玩游戏。在他们的屏幕角落有一个小的网络摄像头图标，上面写着“用于训练人工智能的报价”，以提醒他们。
研究人员发现，为了训练人工智能而玩游戏的人往往会拒绝更多不公平的提议。尽管拒绝提议会降低玩家的经济收益，但那些为了训练AI而玩游戏的人比那些没有这样做的人更频繁地拒绝。人们似乎希望训练AI公平竞争，并改变自己的行为以满足这一愿望。
然而，参与者被告知他们随后将与AI进行最后通牒游戏——那么他们是为了公平而公平地训练它，还是为了在下一轮中获得更好的运气?
为了回答这个问题，研究人员设置了相同的实验，但这次告诉参与者，他们将训练一个人工智能，而其他人将在下一轮面对这个人工智能。结果是一样的：人们训练AI公平地比赛，即使这需要花费他们一些钱——即使他们将来不会与AI对抗。
最后，研究人员检查了被观察的感觉是否会促使参与者公平竞争。
“这是研究中的一个老问题，”佩恩说。“人们知道他们正在被观察，这影响了(研究人员)正在观察的内容。”
因此，研究人员从人工智能训练组的屏幕上删除了网络摄像头图标，以减轻人们被监视的感觉。
尽管如此，“人们仍然愿意牺牲奖励来让人工智能更公平，”华大计算机科学与工程学院研究员兼助理教授何建柱(Chien-Ju Ho)表示。
所有这些实验有力地证明了人类在训练人工智能时改变自己的行为，但三位研究人员一致认为，最有趣的是这种行为改变持续了多长时间。
库尔表示，最初的实验只花了大约5分钟。参与者在两三天后回到游戏中，并以与第一次相同的方式进行游戏，即使他们被明确告知不再训练AI。
库尔说：“观察第二阶段的行为，我们看到了这些非常美丽、清晰的行为持续模式。”
特雷曼表示，这些发现可能会影响人工智能的训练方式，并引发其他问题。
“在最后通牒博弈中，公平有一个明确的定义。但是，在许多其他情况下，并没有一个明确的定义。”“你总是希望得到最公平、最诚实的人工智能。但在其他情况下，什么是公平?特别是因为人们会将自己的偏好、偏见或信念灌输到他们正在训练的人工智能系统中。”——圣路易斯邮报/论坛报新闻社
本文来自作者[admin]投稿，不代表rxizk号立场，如若转载，请注明出处：https://rxizk.cn/zlan/202508-2997.html
评论列表（4条）
我是rxizk号的签约作者“admin”！
希望本篇文章《美国研究人员揭示：人工智能训练我们，反之亦然》能对你有所帮助！
本站[rxizk号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览： 许多人工智能系统通过与人类的行为和创造的信息进行互动来进行“训练”。最近，华盛顿大学的研究人员发现，当人类意识到自己的行为被用于训练人工智能时，他们的...