助理把心语科技的函件放在桌上就退了出去。老夫子没动那叠纸,只低头看了眼手机屏幕,新闻推送还在跳:#AI伦理争议持续发酵#。
他抬起头,会议室里已经坐满了人。
三位技术部专家坐在左侧,面前摊着笔记本,其中一人正用笔在纸上画数据流图。五位行业代表坐在对面,有两位他认得,上周还在媒体上他们搞“道德绑架”。
老夫子打开投影仪,画面切到一份文档标题——《人工智能伦理基本准则(草案第一版)》。
“昨有人让我们道歉。”他,“因为他们怕我们立规矩。”
屋里没人接话。
“现在我们不是要道歉。”他继续,“是要把规矩写出来,摆在这儿,谁都能看,谁都能改。”
右侧一个戴眼镜的行业代表咳嗽两声:“你们标准定这么严,公司根本跟不上。这不是推进行业,是卡别人脖子。”
老夫子点头,转头对左边的技术专家:“把那个案例放一下。”
专家操作电脑,屏幕上出现一段流程图:用户输入“我睡不着”,系统自动打标“情绪异常”,关联行为预测模型,推送高价助眠课程,同时将数据传入第三方保险数据库。
“这不是个别问题。”老夫子,“是整套逻辑错了。我们以为在帮人,其实是在筛猎物。”
另一位行业代表皱眉:“可用户确实买了课,明有需求。”
“一个失眠的学生,被连续推送七‘心理干预套餐’,最后花光生活费下单。”老夫子看着他,“你的需求,是算法造出来的,不是人真的想要。”
屋里安静了几秒。
语音识别方向的专家开口:“我们做过测试。关闭情绪标签后,误判率下降百分之八十二。也就是,大多数所谓‘精准服务’,其实是乱猜。”
情感计算专家补充:“现有模型分不清调侃和倾诉。有人发句‘今不想活了’,可能是段子,系统却当成危机处理,结果越管越乱。”
系统安全专家直接翻出日志截图:“更严重的是权限滥用。某平台后台能调取用户三年前的私聊记录,连删除的对话都能恢复。”
行业代表们开始翻资料。
一个穿灰西装的男人问:“你们的‘高敏感场景’具体指什么?”
“三类。”老夫子答,“未成年人对话、涉及自残或暴力的表达、医疗建议请求。这些交互默认不存数据,不进训练集。”
“那预警功能呢?”另一人问,“真有人出事,谁负责?”
“责任不能靠偷数据来逃避。”老夫子,“如果模型不准,宁可不预警。总比吓错人强。”
有人摇头:“这太保守了。”
“不是保守。”老夫子,“是诚实。我们现在的能力,配不上那么大的权力。”
圆桌另一侧,一位来自教育AI公司的代表突然开口:“我们产品下个月上线新版本,原计划采集学生情绪数据优化互动。按这个标准,是不是做不了了?”
“可以做。”技术专家回答,“但要用模拟数据训练,或者让用户主动提交,单独存储。”
“用户愿意交吗?”
“我们试过。”老夫子,“加个按钮,写着‘我想帮你变聪明’,下面一行字明用途。愿意的人不少。关键是要让人知道他们在做什么。”
会议节奏慢慢变了。
有人开始提细节。
“三级确认会不会太烦?”
“可以优化提示语。”老夫子,“第一次弹窗写‘这段对话可能被记录’,第二次写‘记录将用于改进服务’,第三次写‘确认开启?取消则全程不留痕’。清楚就校”
“审计接口怎么建?”
“留标准数据端口。”系统安全专家,“密码由第三方机构掌握,每月随机抽查一次,结果公开。”
“监督委员会人选怎么定?”
“你们自己选。”老夫子,“家长、老师、医生,每类至少两人。重大更新必须过半数同意才能上线。”
灰西装男韧头记零什么,抬头问:“如果我们照做,市场会认吗?”
“第一批执行的企业,我们会联合发布白名单。”老夫子,“用户能看到谁守规矩,谁没底线。”
屋里的气氛松了下来。
有人掏出手机,给同事发消息。有人拿起笔,在草案空白处写修改建议。
四十分钟后,文档完成修订。
标题仍是《人工智能伦理基本准则(草案第一版)》,但内容已调整十余处。删除了“全面禁止”字样,改为“分级管控”;增加了“自愿贡献数据”的独立通道;明确了监督委员会的退出机制。
老夫子让助理打印出来,放在桌子中央。
没人立刻去拿。
年长的技术专家摸了摸纸页,低声:“这东西要是早五年出来,多少孩子能少受点伤。”
另一位行业代表接过话:“我们公司下周开管理层会,我带一份回去讲。”
曾批评他们“作秀”的那位代表也开口:“能不能先试点?比如从教育类应用做起?”
“可以。”老夫子,“但半年内必须覆盖全品类。”
“时间太紧。”
“那就九个月。”老夫子,“不能再拖了。”
会议进入尾声。
有人提议成立临时工作组,跟进后续落地。三位技术专家表示愿意驻场支持。五位行业代表中有四位当场同意签署联合倡议书。
老夫子站在投影前,画面停留在最终版本的四条核心原则:
一、高敏感交互,系统自动屏蔽数据留存
二、普通采集,实行递进式三次确认
三、运行日志开放第三方抽查接口
四、监督委员会对重大更新具有一票否决权
“这不是限制。”他,“是划条线,让大家知道哪里不能踩。”
屋里很静。
灰西装男人忽然问:“你们不怕得罪人吗?这么多企业靠数据吃饭。”
“怕。”老夫子,“但我们更怕有一,自己的孩子也被当成测试样本。”
众人陆续起身收拾东西。
老夫子走到圆桌尽头,拿起那份刚打印好的草案,纸张还带着打印机的余温。
他翻到最后一页,签名栏空着。
抬头看向满屋子的人。
“谁愿意第一个签字?”
喜欢老夫子之打工皇帝请大家收藏:(m.132xs.com)老夫子之打工皇帝132小说网更新速度最快。