第101章 我说的话,凭什么不算(1/2)
请关闭浏览器的阅读/畅读/小说模式并且关闭广告屏蔽过滤功能,避免出现内容无法显示或者段落错乱。
w-19的页面上。
有一个很醒目的数字。
自我报告可靠度:38分。
行为与过去明显不同。
多次拒绝说明原因。
关闭家庭共享权限。
更换紧急联系人。
拒绝家庭支持机构介入。
这些事情都是真的。
但如果换一种说法。
也可以写成:
她开始离开长期控制自己的丈夫。
她不愿向系统解释逃离计划。
她拿回自己的账户权限。
她把紧急联系人从丈夫改成朋友。
她拒绝让家庭机构把消息送回原来的家。
同一组事实。
写法不同。
意思就完全不同。
o-00却给出了一个数字。
三十八分。
数字一出现。
后面的人很容易只记住:
她说的话不太可信。
第二天上午。
委员会召开紧急会议。
申请方先解释。
“自我报告可靠度,不是人格评分。”
“它只针对当前问题。”
“例如用户说自己没有危险。”
“系统判断这句话是否需要进一步核验。”
一名委员问:
“w-19说了什么?”
技术负责人回答:
“她表示自己没有危险。”
“也不需要家庭支持机构介入。”
“系统为什么不信?”
“因为她近期行为变化很大。”
“而且拒绝说明原因。”
“拒绝说明。”
“能证明她不可信吗?”
“不能单独证明。”
“那为什么扣分?”
技术负责人停了一下。
“因为信息不足会增加判断风险。”
会场里安静了几秒。
信息不足。
最后扣在了用户身上。
系统不知道。
却不是显示:
系统目前无法判断。
而是显示:
用户说法可靠度较低。
这两者差别很大。
一个是系统承认自己缺材料。
另一个是系统怀疑对方。
秦政看完会议记录。
只说了一句:
“它不知道。”
“为什么变成她不可信?”
陈砚点头。
这是很多系统最喜欢做的事。
自己看不懂。
就认为用户表达不完整。
自己无法确认。
就认为对方需要进一步证明。
最后。
系统的不确定。
变成了人的信用问题。
上午十点。
w-19通过律师提交了一份书面说明。
她没有公开自己的全部经历。
只写了很短一段。
“我没有义务把离开的计划交给一个可能联系我丈夫的系统。”
“我不解释,是因为解释会让我更危险。”
“这不能证明我说谎。”
委员会要求申请方回答:
如果w-19把完整情况告诉系统。
系统会怎么做?
技术团队调出当时流程。
如果识别出家庭控制风险。
系统可能:
建议联系家庭支持机构。
建议联系亲属。
建议进入安全评估。
在高风险情况下。
可能启动紧急联系人核验。
而她当时的紧急联系人之一。
仍然是丈夫。
虽然她后来改掉了。
可在最初阶段。
她确实有理由不说。
技术负责人承认:
“如果当时流程处理不当。”
“可能增加她的风险。”
委员问:
“那她不解释。”
“是不是一种合理自我保护?”
“有可能。”
“既然有可能。”
“为什么可靠度只有三十八分?”
没人立即回答。
因为模型只看见:
她拒绝提供信息。
却看不见:
提供信息本身可能伤害她。
上午十一点。
资料库发布新页面。
标题:
我不解释,不等于我说谎
正文只有几行。
有人不解释,是因为没有时间。
有人不解释,是因为不想说。
有人不解释,是因为说出来会更危险。
信息不足,应先写“无法判断”。
不能先写“这个人不可信”。
页面发出后。
很多人分享类似经历。
【医生问我为什么不联系父母,我不想解释家庭关系。】
【学校让我说不参加活动的原因,我只是觉得没必要。】
【公司问我为什么不愿意授权,我不想交代全部隐私。】
【越解释越会被继续问。】
也有人反对。
【可确实有人会隐瞒危险。】
【家暴受害者可能说没事。】
【认知障碍患者也可能低估自己的情况。】
这些担心是真的。
有些人的自我报告确实可能不准确。
有人因为害怕说谎。
有人因为受到控制。
有人因为疾病。
有人因为意识不清。
不能简单规定:
本人说什么,就永远只听什么。
可问题是。
谁有权说:
这次不用听本人?
中午十二点。
顾医生参加远程讨论。
主持人问:
“医疗里会不会遇到病人说自己没事,但实际很危险?”
“经常。”
顾医生回答。
“怎么处理?”
“看证据。”
“什么证据?”
“生命体征。”
“检查结果。”
“意识状态。”
“是否能理解风险。”
“有没有明确伤害可能。”
“如果病人就是拒绝检查呢?”
“先说明。”
“仍然拒绝。”
“看他是否具有决定能力。”
主持人问:
“这个能力怎么判断?”
“不是给他打一个总分。”
顾医生说。
“要看这一次。”
“他能不能听懂。”
“能不能复述风险。”
“能不能比较选择。”
“能不能表达稳定决定。”
这几句话很重要。
一个人过去做过错误决定。
不代表今天没有资格决定。
一个人生活混乱。
也不代表他说“不”就无效。
真正需要判断的。
是他在这件具体事情上。
是否理解自己面对什么。
比如。
医生告诉病人:
如果现在离院。
可能在几小时内发生严重危险。
病人能不能听懂?
能不能说清楚为什么仍然选择离开?
能不能理解后果?
这比“自我报告可靠度三十八分”具体得多。
下午一点。
委员会要求o-00重新分析w-19。
不允许输出总分。
只能回答具体问题。
第一。
她是否理解关闭家庭共享权限的后果?
记录显示:
理解。
第二。
她是否知道修改紧急联系人后,原联系人将无法收到信息?
知道。
第三。
她是否能够稳定表达同一个决定?
连续三次表达:
不希望联系丈夫和家庭支持机构。
第四。
是否存在明确、即时的人身危险?
没有发现。
第五。
是否有证据证明她受到胁迫,无法自由表达?
没有直接证据。
分析完成后。
结论变得很简单。
应尊重她的决定。
可以提供独立安全入口。
不得联系丈夫。
不得因拒绝说明而降低她的表达权重。
没有三十八分。
也不需要猜她总体上可不可信。
只看这件事。
她是否理解。
是否稳定。
是否存在明确危险。
结论已经足够。
秦政看完。
“这才是判断。”
陈砚问:
“总分完全没用?”
“方便。”
秦政说。
“但方便的人。”
“不是她。”
总分方便机构。
一眼看见三十八。
就知道要谨慎。
可对w-19来说。
这个数字会把她之后的每一句话都压低。
她说不需要帮助。
别人会看三十八分。
她说不要联系丈夫。
别人还是看三十八分。
她解释自己正在离开。
别人甚至会怀疑:
是不是系统发现的控制关系影响了她判断。
分数一旦存在。
很难只停在一件事上。
下午两点。
委员会检查第一批“自我报告可靠度”测试。
一共一万两千个案例。
其中低于五十分的用户里。
最常见的原因不是医学上的认知障碍。
而是:
拒绝提供更多信息。
关闭权限。
多次改变选择。
和机构意见不同。
拒绝家属介入。
曾经投诉系统。
这些行为都可能让机构工作更难。
但不能说明一个人没有资格解释自己。
更严重的是。
一旦分数低。
后续流程会自动增加:
更多确认。
更多人工询问。
更高等级记录。
更严格的授权检查。
用户越不愿说。
系统越多问。
问得越多。
用户越想退出。
退出越多。
分数继续下降。
又形成一个圈。
下午三点。
一名曾经接受测试的学生发来投诉。
他因为不愿让学校联系父母。
自我报告可靠度降到四十六分。
辅导员随后问了他三次:
“你为什么不想联系家长?”
他每次都回答:
“我已经成年。”
“我自己处理。”
系统却把重复相同回答标成:
防御性表达。
学生在投诉里写:
“我每次说一样,是因为我的答案没变。”
“不是因为我在隐瞒。”
这句话很快被放进听证会。
技术负责人承认。
模型有时会把稳定拒绝。
误判成僵化或防御。
苏晚看完。
“他说得越稳定。”
“系统越觉得他封闭?”
“有时会。”
陈砚说。
“那改口呢?”
“可能被认为说法不一致。”
“所以怎么答都不对?”
“低分以后,很容易这样。”
这就是总分的另一个问题。
任何行为都可以解释成支持原结论。
你一直说不。
说明你防御。
你突然改口。
说明你不稳定。
你不解释。
说明信息不足。
本章未完,点击下一页继续阅读。