152 3716 2630
科技生活

AI 助手无微不至 主人的大脑会变懒变蠢吗?

2023-05-07 23:09:32 13

使用智能电子邮件程序,人工智能(AI)小助手会及时甚至提前提示,下一句该写什么,用什么词,于是发一封邮件的时间比原来缩短了很多,或许也更有文采,但是,被AI如此体贴关照,我们是不是因此而逐渐丢失了某些东西?

_128830008_bd075096-8b2b-40d5-b991-f1a45daa552c.jpg

在谷歌的Gmail中输入答复,你可能从一开始就觉得它能读懂你心里所思所想,打出字母“tha”,一句话的其余部分便会弹出,在屏幕上以灰色字体显示。你按 Tab 键,这句话就自动完成。

在一切都更简单的时代,你需要花宝贵的几秒钟不厌其烦地手动输入“非常感谢”或“听起来很棒”,但现在,像 Gmail 这样的电子邮件系统可以为您自动完成句子。

在背后支撑这个功能的是一种叫做自然语言处理的人工智能(AI),它对语言的理解和使用与人类更相似,不同于以前的计算机处理。

但是,虽然它有助于缩短写电子邮件花费的时间,许多人对自动完成功能(称为智能撰写)的感觉还是比较复杂。有些人觉得它可以扫描信息并提出恰当回应建议,这种能力简直“令人毛骨悚然”。

机器开始接替我们完成给同事、朋友和亲人发信息这件事的部分努力,这个过程中是否有可能剥夺了一些对我们而言更重要的东西?它是否在抽走我们的个性和人类互动的乐趣?甚至,这种自动完成技术会不会改变我们大脑的工作方式?

“预测是感知和我们与世界关联的基础,”美国宾夕法尼亚大学研究听觉感知和学习神经元回路的玛丽亚·格芬(Maria Geffen)说。

“我们的大脑持续不断地做预测。例如,当某人在嘈杂的背景噪音中高声说话时,即使我们只听到一部分声音,我们的大脑也会预测他口中说出的短语是什么。更复杂的认知过程也同样,包括造句。”

写作 —— 无论是手写还是在计算机上写 —— 涉及复杂的认知过程的协调,包括调用长期记忆、语义系统、工作记忆和计划。

但是,如果我们将遣词造句的工作分包给机器,格芬认为那可能会对我们大脑的工作方式产生一些深远的影响。

“我们现在正在做实验,一连数天跟踪代表声音的神经元在大脑中的活动,发现相同的神经元集合每天都表现出不同的活动模式,” 她说。“因此,设想一下这种情况会很有意思 —— 预测是由计算机算法执行,而不经由我们的大脑,以及这种不断重复的体验对我们与世界的互动会产生什么影响。”

据估计,全球 38 亿电子邮件用户每天发送 2810 亿封电子邮件,这意味着我们每个人平均每天收到大约 74 封电子邮件。回到互联网诞生前的时光,我们每天收到二、三封以上的信就很幸运了,而且其中大部分都是账单。

因此,在应对接踵而来的一堆信息时,我们可能需要一点帮助来减轻负担,也就不足为奇了。能够分析我们的写作习惯继而预测接下来我们最有可能使用什么词汇的技术,可以把键入数十个字母的工作减少到只需在键上点一下。

智能撰写只是使用人工智能来预测我们可能想说什么的众多技术之一。大多数智能手机上都已经有预测文本算法程序,在我们编写文字过程中基于过去我们曾输入的内容提出接下来建议用什么词汇。在桌面电脑文字处理程序上自动完成遣词造句的应用程序也开始出现。

这些技术紧随其他一些尝试之后出现,那些尝试的目的是减轻我们必须完成的打字任务中一些繁重的部分。

在推出智慧撰写(Smart Compose)之前,Gmail曾推出智慧回复(Smart Reply),它使用类似的方法为用户提供三个简短的可选回应,作为“快捷方式”,可以通过单击按钮进行选择。搜索引擎现在通常使用自动完成功能来建议我们可能会提出的问题。智能手机和网络浏览器还具有自动填写功能,可以为我们填写在线表格。

好处当然是有的。例如,自动完成可以减少认知负荷和填写在线表格所需的时间。根据一项研究,它甚至可以帮助你拿到更低的机票价格。

但即使是相对简单的功能,如自动更正——1990年代首次在Microsoft Word上引入,后来在手机上无处不在的短信辅助工具——也令人担忧它对儿童写作技能会产生不利影响。

对自动完成遣词造句任务的更先进技术的影响进行大量研究,目前可能还为时过早,但有迹象表明它们可能会改变我们使用语言的方式。

一项为期一年的研究发现,在手机上使用预测文本的中学生比非用户犯的拼写错误更多,但使用写作辅助工具的大学生犯的语法错误更少。

甚至有一些证据表明,预测文本技术可能会对使用它们的人产生积极影响,领导这项研究的诺丁汉特伦特大学心理学家克莱尔·伍德(Clare Wood)说。

“我们知道,对于成年人来说,接触拼写错误有时会干扰他们对正确拼写的记忆,”她说。“因此,自动建议功能可能有助于最大限度地减少文本和其他在线通信中拼写错误的单词对成年人可能产生的负面影响。”

自动建议功能也有可能对在线交流的语法结构产生积极影响。

不过,伍德警告说,由于这些人工智能驱动的系统依赖于从我们过去输入的内容中学习,它也可能会引入错误。

“如果它检测到某个不合语法规范的单词经常同时出现,那么这种组合就会得到强化确认,” 她补充道。

但是自动暗示也可能影响我们想说什么以及我们如何说。哈佛大学和马萨诸塞州剑桥市德雷珀实验室的计算机科学家发现,使用人工智能驱动的预测文本系统可能会给人们写的东西带来偏见。

这是因为用于在大量数据集上训练AI系统的机器学习算法可以拾取并放大数据中包含的偏差。因此,使用来自正面在线评论的文本进行训练的预测文本系统可能倾向于建议更积极的单词。

研究人员发现,当人们写一家餐馆时,人们看到的文本快捷方式被偏向为更积极,由此产生的评论往往比他们看到有负面倾向的快捷方式建议更积极。

“预测文本系统开始提供比以往任何时候都更长、更连贯、更切合上下文的建议,” 哈佛大学工程与应用科学学院研究员肯·阿诺德(Ken Arnold)说。“想想未来的预测文本系统如何帮助人们成为更有效的作家是令人兴奋的,但我们也需要透明度和问责制,以防止可能带有偏见或具操纵性的建议。”

现在连八岁的孩子都开始使用手机,而且也可能用这些自动功能发送短信和电子邮件,这就引发了一个问题,即它们会对下一代的思维发展可能产生什么影响。

“大多数关于神经可塑性的数据来自儿科患者人群,他们的神经元连接正处于快速形成阶段,”堪萨斯州执业的医生钦维·德莱尔(Chinwe Dryer)说。“随着越来越多的年轻人使用手机,预测文本也可能影响词库的形成和演变。”

硅谷居民一直在抱怨 - 我们今天使用的大部分技术就是在那里开发的 - 他们不希望自己的孩子经常使用屏幕。位于加利福尼亚州山景城的半岛华尔道夫学校(Waldorf School of the Peninsula)的学费高达38000美元(29000英镑),就读的大多是硅谷高级技术高管的子女,该校尽量避免年轻学子使用计算机。学校指出,对教师的调查表明,使用计算机和发短信会损害学生的写作技能。

这是各地许多教师都同意的观点。

“通常,使用自动更正的学生非常依赖它来确定他们拼写的单词是什么,以至于不会停下来查看这个单词是否自己想要的正确单词,”俄亥俄州的教师凯特·海特坎普(Kate Heitkamp)说。“如果学生没有基本的拼写技能,自动更正似乎没有帮助,因为它会给他们一个不正确的单词。”

过度依赖这种技术“拐杖”可能会对今天的儿童产生长期影响。孩子的词汇量,即使是从很小的时候开始,也可以成为他们以后生活中“成功”程度的指标。

然而,伍德说没有迹象表明自动暗示和预测文本技术对儿童的识字能力发展有任何影响。

“归根到底,这种技术的主要优点是提高了我们在线撰写的速度,” 她说。“对于那些阅读能力可能强于拼写能力的孩子,自动建议将促进他们在网上有效沟通的能力,从而向更年轻的群体或可能正在努力用传统方式识字的孩子打开短信世界的大门。”

但是, AI 辅助带来的方便对人们彼此之间沟通的方式也可能会有其他长远、持久的影响。

谷歌透露,它已在其智能撰写技术中内置过滤器,以防止其暗示基于性别的代词。

该公司的一位研究科学家发现,当他输入一个包含“投资者”一词的句子时,人工智能工具假设伴随的代词应该是“他”。同样,人工智能技术假设“医生”是男性,“护士”是女性。

为了避免尴尬,谷歌选择从系统中完全删除性别代词。

无论如何,我们对可以替我们写作的技术的使用可能会增加。现在整篇体育消息可能都是由人工智能利用数据串编写而成。其他人正在使用预测文本背后的技术来撰写新形式的虚构文学作品。

我们每天喜爱和使用的语言是否有可能因此而失去一些东西?

“更高级的预测文本把预测从我们自身的语言系统中移除,用以填补的是回归均值的东西,这就减少了变化性,”格芬说。她警告说,其结果可能会使我们写出来的文字变得欠缺人性化。

相关案例推荐
相关资讯