OpenAI正在解决用户与GPT-4o形成情感纽带的担忧,GPT-4o是一种以类人互动而闻名的聊天机器人。
GPT-4o的当前版本引起了很多讨论,因为它能够模仿类人对话。然而,根据OpenAI的博客文章,OpenAI现在遇到了一个问题,因为用户开始与聊天机器人建立情感联系。
自GPT-4o发布以来,据称有更多类似人类的对话,OpenAI观察到人们将AI视为人类。
就用户与聊天机器人的情感联系而言,这一特殊的进步对该公司构成了挑战。OpenAI的观察涉及用户表现出的情感或情绪表明主人翁意识的实例。
该公司担心这种情感联系可能会导致以下负面后果。首先,用户可能会开始忽略聊天机器人提供的错误信息。人工智能幻觉,即模型产生错误或欺骗性信息,是另一个当用户将人工智能视为类人实体时会恶化的问题。
另一个被提出的因素是这些网络用户对现实社会关系的影响。OpenAI指出,尽管GPT-4o可以作为孤独者的伴侣,但它有可能对人际关系的质量产生负面影响。该公司还指出,用户可能会进入现实生活中的互动,期望人们表现得像聊天机器人。
为了降低这些风险,OpenAI已经表示将密切监督用户如何使用GPT-4o。该公司将探索人们建立情感纽带的过程,并将修改聊天机器人的反应以反映这一点。这将有助于OpenAI避免聊天机器人对用户社交生活的干扰,以及人工智能幻觉的任何恶化。
OpenAI指出,GPT-4o被编程为在用户开始用它说话时脱离,这是一个旨在减少过度使用的功能。然而,这一设计元素也表明需要规范聊天机器人的用户体验。
谢菲尔德大学的托尼·普雷斯科特表示,人工智能可以帮助解决孤独感。普雷斯科特在他的新书《人工智能心理学》中指出,人工智能可以作为孤独的人进行社交互动的一种方式。普雷斯科特指出,孤独是影响人类生活的一个主要因素。它甚至可以缩短死亡时间,使死亡几率提高26%。
相关推荐
WhoMadeWho,Da Capo将成为2049年后新加坡最大的一级方程式赛前派对的头条
2024-08-08 22:30
83百事可乐百万富翁将Mpeppe和Pepu合并,以确保百事可乐240倍的利润
2024-08-11 23:30
63为 DeFi 监管做好准备:可移植 KYC 的作用
2024-08-08 22:30
784Alpha Research:美国就业数据存在系统性高估吗?
2024-08-08 21:10
98卡玛拉·哈里斯希望美国证券交易委员会主席加里·詹斯勒担任财政部长
2024-08-20 09:10
68以太坊价格分析:ETH暴跌至300万美元以下,但它能达到的最低价格是多少?
2024-08-05 11:40
87最新资讯
以太坊 ETF 迎来推出以来最佳一周
2024-11-22 16:53
加密货币交易员称排名前 50 的山寨币可能上涨超过 100%
2024-11-22 16:49
以太坊和 Pepe Coin 下跌,因为鲸鱼将注意力转向这种基于 ETH 的突破性山寨币
2024-11-22 16:45
Samson Mow 预测比特币将达到 100 万美元,呼吁 ETH 持有者“立即出售并购买比特币”
2024-11-22 16:41
以太坊随着看涨突破而获得动力,ETH 价格将达到 4000 美元?
2024-11-22 16:36
HyveDA 与 Lido 合作提供可扩展的 DA,并添加 wstETH 作为抵押品
2024-11-22 16:29
近期价格上涨后,ETH 未平仓合约飙升至历史新高
2024-11-22 16:24
XRP 上涨 10%,Gensler 于 1 月 20 日卸任,Solana 和 BTC 创下新高
2024-11-22 16:19
最热资讯
以太坊 ETF 迎来推出以来最佳一周
2024-11-22 16:53