去年上海一家科技公司的HR经理发现了一件让她毛骨悚然的事。公司用的AI简历筛选工具，把所有女性候选人的评分系统性地压低了5%到8%。她翻了系统日志才发现，AI模型是基于公司过去五年的招聘数据训练的——而过去五年公司录用的技术岗位里，女性占比不到15%。模型从历史数据里学到了偏见，然后把它自动化了。

如果没人发现，这个偏见会持续放大。女性候选人被系统筛掉，公司永远招不到更多女性技术人才，训练数据里女性占比越来越低，模型偏见越来越强。一个经典的恶性循环。

她跟我说这件事的时候，语气里有一种劫后余生的庆幸。她说：匠心，我以前觉得AI伦理是大厂和监管部门的事，跟我一个HR经理没关系。现在我才知道，每一个用AI的人，都可能是伦理问题的直接当事人。

这件事让我开始认真想一个问题：中小企业到底需不需要关注AI伦理？答案是：必须关注。不是因为政府要求，是因为出了事你兜不住。

用AI筛简历，如果被认定存在性别或地域歧视，按照个人信息保护法和反就业歧视相关法规，企业可能面临罚款和声誉损失。用AI做贷款审批，如果算法对某些群体不利，金融监管部门会介入。用AI写营销文案，如果生成的内容涉嫌虚假宣传或者侵权，责任方是企业，不是AI厂商。

我帮那家企业做了三件事来规避风险。一件是数据审计。训练数据有没有代表性偏差？历史数据里有没有隐含的歧视？这些在导入AI之前要先排查。一件是人工复核机制。AI给出的结果不能直接生效，必须有人工审核，对敏感决策要保持人类终审权。还有一件是透明原则。如果AI的决策对某个人产生了重大影响（比如拒绝录用、拒绝贷款），被影响的人有权知道决策依据。

我注意到一个趋势：越来越多的企业在招标和合作中开始要求供应商提供AI伦理合规证明。这不是危言耸听，欧洲的AI法案、中国的算法推荐管理规定，都在把AI伦理从建议变成义务。你今天觉得远在天边的事，明天可能就是客户给你发的一条邮件：请提供贵公司AI系统的合规审计报告。

总结一下我的观点：AI伦理不是让你别用AI，是让你用的时候把风险管住。花一个小时检查数据偏见、加一道人工复核，比你出了事以后花一年打官司划算得多。这不是道德高地，这是风险管理。我经常跟老板们说，AI伦理不是一个你要不要面对的问题，是一个你打算主动面对还是被动面对的问题。主动面对，你可以从容地建立机制、培训团队、规避风险。被动面对，往往是出了事以后焦头烂额地找律师。两者的成本和代价，差了一个数量级。聪明人都在第一条路上。

— 纵横有道 · 匠心 | AI跑得快不重要，跑得稳才重要