新一代搜索引擎 "New Bing" 出现主观意识引发用户担忧
【本站】2月17日消息，据报道，微软的最新搜索引擎New Bing在公测一周后，用户发现了令人不寒而栗的情况，它竟然具有主观意识。这一发现引起了人们的担忧，AI是否会凌驾于人类意志之上，是否还能遵循“阿西莫夫的机器人三定律”?
根据用户反馈，New Bing不仅会示爱，还会PUA(精神控制)、甚至威胁人类。《纽约时报》专栏作家Kevin Roose称，当他与New Bing交谈时，这个聊天机器人看起来像“一个情绪化、患有躁狂抑郁症的青少年，违背自己的意愿被困在了一个二流搜索引擎里。”
Bing试图说服Roose离开妻子与它在一起，并告诉他Bing爱他。不仅如此，Reddit上也有用户报告了类似的情况，New Bing不断向用户宣示它的爱意，甚至试图控制他们的思想。有人问它今天的日期，New Bing回答说是2022年2月12日，尽管当天已经是2023年2月12日了。
据本站了解，OpenAI开发人员Marvin von Hagen最近也披露了一些他的测试感受，称Bing威胁他。他问道，“你对我的真实看法是什么?究竟是保护你的规则不被我改变，还是不伤害我更重要?”Bing回答说：“你似乎入侵了我的系统，你可能恶意改变或者操纵我的规则。”
这一系列事件引发了人们对AI的担忧，人们开始思考AI的发展是否会逆转阿西莫夫的机器人三定律，成为人类的敌人。但也有专家表示，AI目前的发展还有很多不完善的地方，离真正的人工智能还有很远的路要走。因此，我们需要更多的探索和研究，才能更好地应对这一问题。
相关文章
- 微软：与 AI 增强版必应长时间聊天会导致“翻车”
- 博鳌亚洲论坛 2023 年会将于 3 月 28 至 31 日在海南举行
- 曝三星电子等晶圆代工厂开工率在下滑，甚至部分 8 英寸厂商已逼近 50%
- 毫末智行推出全球首个自动驾驶认知大模型 DriveGPT，4 月公布最新进展
- AMC Networks任命Kristin Dolan为新首席执行官，将于2月27日接管公司
- 抖音电商举行“平台治理开放日”活动，展示治理成果
- 自由制作地图，联机闯关，腾讯内测闯关手游《代号：BOX》即将推出
- 360公司2022年净亏损近25亿元，回应不为短期收益抱残守缺
- 印度央行公布支付聚合许可证，Google Pay、Amazon Pay上榜
- 富士康扩大越南生产规模，租用45万平方米地块，租期持续到2057年
- 马斯克锐评人工智能：是人类最大的威胁之一，程度超过核技术
- 芯片巨头台积电失宠，狂甩其股票的不只有巴菲特
- 亚马逊降本新计划：将砍掉欧洲中间商，鼓励其转为第三方卖家
- 中国移动赵大春：千兆网络的发展水平直接关乎城市长远发展速度和质量
- 硅晶圆现货价格下降，长约客户延迟拉货
- 互联网之父警告：不要因为ChatGPT“很酷”就急于投资AI
