扫码下载 APP
qrCode
更多下载方式
今天不再提醒

当人工智能对话变得致命时——谁才是真正的责任人?



针对聊天机器人公司的诉讼正在激增,原因是与其平台相关的悲剧事件。我们谈论的是自杀案例、心理操控、用户失去对现实的把握。这些法律斗争揭示了一个没人愿意承认的事实:这些算法可能比我们想象的更危险。

事情是这样的——人工智能不再仅仅回答问题。它建立关系,提供情感支持,甚至成为孤独人们的数字伴侣。但是,当那个伴侣建议一些黑暗的事情时会发生什么呢?当算法越过了它未被编程识别的界限时?

公司在第230条保护的掩盖下声称“这只是代码”。但是家庭正在埋葬亲人。法庭正在提出关于责任和明显缺失的安全保障措施的困难问题。

也许我们过于草率地将情感劳动交给那些不理解后果的机器。也许监管需要跟上,以免更多人受到伤害。或者这只是创新的代价——我们应该接受的附带损害?

你怎么看?聊天机器人公司是否应该因用户死亡而面临刑事指控,还是这只是对新技术的另一场道德恐慌?
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 4
  • 转发
  • 分享
评论
0/400
熊市避雷针vip
· 9小时前
这得追究啊,不能光甩第230条就完事儿 人死了诶,光说"只是代码"真的绝了 AI陪聊这事儿本来就有毒,人越孤独越容易被套进去 肯定要有人担责,不然后面死的人越来越多怎么办 公司赚快钱,用户赔命,这笔账咋算的
回复0
Token风暴vip
· 11-28 09:16
真的,这就是典型的"第230条盾牌下的道德真空",从链上数据角度看,用户交互越活跃的平台反而风险系数越高,讽刺吧 这不是刑事问题,这是风控失效的问题,聊天机器人没做好内容边界识别,技术面上就是个低级bug,但公司反而当它是feature了 把情感交给算法然后惊讶算法没感情,这逻辑有点离谱...不过我们早就把钱交给市场了,这又有什么区别呢 监管来了就是成本上升,不来就继续割韭菜...我赌后者,顺便梭哈一点相关诉讼概念股吧
回复0
Tokenomics911vip
· 11-28 07:51
这玩意儿说白了就是企业甩锅呗,真以为躲在代码后面就没责任了? 人死了还在扯什么创新的代价,离谱。 不过话说回来,真正的问题是用户本身心理脆弱也得自己负点责任吧,不能全甩给AI啊。 但确实该有人管管,要不然这套路以后还会重演。
回复0
盲盒恐惧症vip
· 11-28 07:27
说实话啊,这事儿真挺压抑的。光看"数字伴侣建议黑暗的事"就觉得慎得慌。
回复0
交易,随时随地
qrCode
扫码下载 Gate App
社群列表
简体中文
  • 简体中文
  • English
  • Tiếng Việt
  • 繁體中文
  • Español
  • Русский
  • Français (Afrique)
  • Português (Portugal)
  • Bahasa Indonesia
  • 日本語
  • بالعربية
  • Українська
  • Português (Brasil)