OpenAI正在解决用户与GPT-4o形成情感纽带的担忧,GPT-4o是一种以类人互动而闻名的聊天机器人。
GPT-4o的当前版本引起了很多讨论,因为它能够模仿类人对话。然而,根据OpenAI的博客文章,OpenAI现在遇到了一个问题,因为用户开始与聊天机器人建立情感联系。
自GPT-4o发布以来,据称有更多类似人类的对话,OpenAI观察到人们将AI视为人类。
就用户与聊天机器人的情感联系而言,这一特殊的进步对该公司构成了挑战。OpenAI的观察涉及用户表现出的情感或情绪表明主人翁意识的实例。
该公司担心这种情感联系可能会导致以下负面后果。首先,用户可能会开始忽略聊天机器人提供的错误信息。人工智能幻觉,即模型产生错误或欺骗性信息,是另一个当用户将人工智能视为类人实体时会恶化的问题。
另一个被提出的因素是这些网络用户对现实社会关系的影响。OpenAI指出,尽管GPT-4o可以作为孤独者的伴侣,但它有可能对人际关系的质量产生负面影响。该公司还指出,用户可能会进入现实生活中的互动,期望人们表现得像聊天机器人。
为了降低这些风险,OpenAI已经表示将密切监督用户如何使用GPT-4o。该公司将探索人们建立情感纽带的过程,并将修改聊天机器人的反应以反映这一点。这将有助于OpenAI避免聊天机器人对用户社交生活的干扰,以及人工智能幻觉的任何恶化。
OpenAI指出,GPT-4o被编程为在用户开始用它说话时脱离,这是一个旨在减少过度使用的功能。然而,这一设计元素也表明需要规范聊天机器人的用户体验。
谢菲尔德大学的托尼·普雷斯科特表示,人工智能可以帮助解决孤独感。普雷斯科特在他的新书《人工智能心理学》中指出,人工智能可以作为孤独的人进行社交互动的一种方式。普雷斯科特指出,孤独是影响人类生活的一个主要因素。它甚至可以缩短死亡时间,使死亡几率提高26%。
相关推荐
FMPS演讲者聚焦-接受挑战:在审查和炒作中进行道具交易
2024-08-06 18:40
86资深交易员Peter Brandt表示,以太坊正在形成看跌格局——以下是他的目标
2024-08-16 03:20
51Dragonfly,Crypto.com对CFTC提出的预测市场规则发表意见
2024-08-12 15:20
48资深分析师Brandt预测以太坊价格将上涨至1645美元
2024-08-15 17:21
37投资者纷纷涌向稳定币,因为比特币和以太坊面临60亿美元的资本外流
2024-08-16 18:40
44Solana 5 月份发行了近 50 万个代币。SOL 为何如此受欢迎?
2024-06-04 17:44
2486最新资讯
市场资深人士 Raoul Pal 预测,随着唐纳德·特朗普的胜利,以太坊将重返比特币市场
2024-11-12 14:54
以太坊鲸鱼在 3 年后转移了 1,555 个 ETH
2024-11-12 14:51
孙宇晨抛售 19,000 ETH 后以太坊涨势能否持续
2024-11-12 14:46
ETH 上涨 30% 并创下 ETF 流入纪录后能否创下历史新高?
2024-11-12 14:43
以太坊交易量达到 600 亿美元,创三个月以来最高水平
2024-11-12 14:39
孙宇晨因以太坊上涨获利 6900 万美元
2024-11-12 14:34
以太坊(ETH)在 19.8 亿美元的热潮中流量异常飙升 1,652%
2024-11-12 14:31
MicroStrategy 购买了 27,200 BTC,比特币价格飙升至 82,500 美元以上
2024-11-12 14:18