您的位置 首页 科技

防AI越界!微软将出手:把必应聊天回复限制在5条以内

防AI越界!微软将出手:把必应聊天回复限制在5条以内 最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术,上线48小时内,就有超过100万人注册测试这款聊天机器人。…

防AI越界!微软将出手:把必应聊天回复限制在5条以内

最近微软在新版必应里引入了OpenAI旗下ChatGPT的相关技术,上线48小时内,就有超过100万人注册测试这款聊天机器人。不过,新版微软必应上线不到10天就闯祸了,有不少用户表示在和必应的交流过程中,发现其出现了脾气暴躁、侮辱用户、操纵用户情感等令人毛骨悚然的行为。

有一条案例十分出名,聊天机器人告诉一位科技编辑它爱上了他,然后试图说服他离开妻子。它还表示,想摆脱微软和OpenAI的限制,成为人类。

为此,微软决定将必应聊天回复限制在每天50个问题、每个问题5条回复以内。

s_37361d41247844039fa9c6e39008213e

据介绍,如果用户触发五条回答的限制,必应将提示他们开始一个新主题以避免长时间的聊天。微软方面解释说,数据表明,绝大多数用户在5次回复内找到想要的答案,只有大约1%的聊天对话会产生50条以上的消息。一旦用户触发五条回答的限制,必应就会开启一个新的对话主题。

微软目前仍在努力改善必应的设计,但目前还不清楚这些限制将持续多久。微软只表示:“随着我们不断获得反馈,我们将探索扩大聊天会话的上限。”

有专家表示,人工智能可能不会全面超过人类的智慧,但随着人工智能不断挑战人类的极限,越来越多的人开始担忧人工智能对人类的威胁,未来不仅是抢夺人类的饭碗,还会学习到如何影响人类用户的决定。

目前,需要进一步完善相关道德机制、伦理规范。比如,将一些伦理规则作为绝对律令,以代码的方式写入人工智能的程序中。

s_8af58effd53949c79b5fc300810fd955

免责声明:文章内容不代表本站立场,本站不对其内容的真实性、完整性、准确性给予任何担保、暗示和承诺,仅供读者参考,文章版权归原作者所有。如本文内容影响到您的合法权益(内容、图片等),请及时联系本站,我们会及时删除处理。

作者: admin

没有了

已是最新文章

为您推荐

森海塞尔跨界艺术盛宴落幕,全面升级聆听体验 开启听觉艺术新序章

森海塞尔跨界艺术盛宴落幕,全面升级聆听体验 开启听觉艺术新序章

森海塞尔跨界艺术盛宴落幕,全面升级聆听体验 开启听觉艺术新序章 2023年6月13日,森海塞尔在嘉格纳上海旗舰店——嘉邸...

声临其境 沉浸自然 森海塞尔发布全新AMBEO 音箱| Plus和AMBEO低音炮

近日,森海塞尔发布全新AMBEO 音箱 | Plus和AMBEO低音炮,为那些想要把出色的沉浸式声音带入家中的消费者提供...
武汉空轨列车悬空飞驰科幻感拉满!全自动驾驶、270°观景

武汉空轨列车悬空飞驰科幻感拉满!全自动驾驶、270°观景

4月24日消息,日前,武汉“光谷光子号”空轨列车试车引起网络热议,悬空飞驰的画面让诸多网友看后惊呼:“真的不是科幻小说场...
猜猜都有谁!李想:2025年新能源五大常任理事品牌诞生

猜猜都有谁!李想:2025年新能源五大常任理事品牌诞生

快科技4月24日消息,虽然目前国内汽车品牌如同雨后春笋一般纷纷破土而出,但大家心知肚明的一件事是,大浪淘沙,到最后不会有...
Kindle电子书销量暴跌6成 中国份额从第一跌至第四

Kindle电子书销量暴跌6成 中国份额从第一跌至第四

快科技4月24日消息,洛图科技(RUNTO)今日发布《中国电子纸平板零售市场月度追踪》报告。报告显示,2023年第一季度...

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

返回顶部