AI客服会泄露客户信息吗
会,但多半不是你想的那种——AI自己把资料念出去的情况其实很少,真正出事的是权限没分级、日志没人看、离职账号没回收。我见过最离谱的一例,客户把测试环境的完整客户库导进了知识库,机器人对着电话念了三个月,愣是没人发现。辉耀网络给企业接AI客服,第一步不是配话术,是先把“哪些数据绝对不能进知识库”列成一张表。这张表通常不长,十来条,但没它后面全是隐患,出事只是时间问题。
先划一条线:哪些话AI不该知道
这条线应该在整理知识库之前就画好。客户手机号、身份证、合同金额、成本价、内部人员名单,这些一旦进了向量库,就等于放进了随时可能被问出来的抽屉。
有个细节容易被忽略:文档里的批注、修订记录、Excel隐藏列,都会一起被读取。整理之前先把文件清一遍,比事后删库省事得多。
权限比模型重要得多
同一个机器人,给内部员工用和给外部客户用,能回答的范围必须分开。见过一家公司,内部知识库和对外客服共用同一套检索,结果客户问“你们给某某公司的报价是多少”,机器人真答了。
做法不复杂:内部库和外部库物理分开,账号按角色给权限,客户能触达的那一套只放对外可说的内容。麻烦的是前期梳理,但这一步省不得。
日志是个经常被忘掉的窟窿
对话日志里全是客户信息,谁在看、存多久、什么时候删,很少有人想过。更常见的是测试环境用了生产数据,测试人员随手就能翻。
建议定三条规矩:日志保留不超过必要期限;导出要留痕;测试环境一律用脱敏数据。这三条不难,难的是有人盯着执行。
问供应商的四个问题
数据存在哪、能不能只留在自己服务器上、员工账号离职后多久失效、出了事故多久通知你。这四个问题答不上来的,谨慎一点。尤其是最后一条——很多合同里根本没写通知义务。
真出了事怎么办
先留住对话记录别删,再确认泄露范围,然后按行业要求决定要不要上报。最怕的反应是“赶紧把记录清掉”,那等于把唯一的证据也毁了。
说回实操。如果你现在正准备上AI客服,别一上来就追求答得多聪明,先把边界框死:哪些库能碰、哪些话不能说、出事谁负责。答得笨一点没关系,说错一句可能要赔钱。这个顺序反了,后面补起来很贵。
扫一扫,联系辉耀