近日，整个AI圈都在渲染AI可能给人类带来的灾难。
曾先后在OpenAI、Anthropic做前沿大模型预训练研究员的雅各布·考克森近日发布离职声明：只需十年，AI就可能杀死所有人。
声明刷屏，"AI会不会毁灭人类"成了最热辩题。
但AI未来会不会杀死人类不清楚，普通人的清白已经先一步成了代价。
据"长安街知事"近日文章显示，黄贵耕等人被百度搜索的AI摘要造谣长达一年多，仍在等待一个公正的处理结果。
快播的词，到了百度嘴里
2025年5月，北京律师黄贵耕收到案件委托人发来的三张截图：
截图内容是以“黄贵耕律师”为关键词检索后，由百度AI生成的检索结果。
AI在错误归结全网信息后显示，“黄贵耕律师”涉及伪造公司印章案、保证期间审查案和威胁法官案。
一位律师，莫名其妙成为AI口中的犯罪嫌疑人员。
黄贵耕告诉北京日报记者，这位委托人的妻子为核实其背景，通过百度查询黄贵耕的资料，看到AI生成的虚假负面摘要后，对黄贵耕的执业品行产生极大疑虑，双方之间一度爆发信任危机。
由此可见，百度AI搜索所提供的错误信息，已经超出了单纯的事实偏差，对黄贵耕的职业生涯造成了实质性的冲击。
2025年，黄贵耕起诉百度索赔百万元。直至起诉立案后，错误内容仍在持续生成。
这并非个案。从多家媒体报道看，百度AI摘要正在批量制造类似情况：
南京律师李小亮，百度AI直接给他配了张身着律师袍的照片，说他“被判三年有期徒刑”。
江西一家酒厂的老板，在百度搜索自家品牌名，自动关联出“为什么被禁”，点进去AI进行一通分析，列出的几条“被禁理由“，全是凭空捏造。
根据“新京报”报道，2025年底，37岁的冀承祥在百度检索姓名时，发现自己同样遭受了AI的“诋毁”。
百度AI将“组织卖淫罪”放在他的早年真实求学经历之后，称他被法院判处有期徒刑五年六个月，而这一信息同样“嫁接”自另一同名同姓人士。
北京云嘉律师事务所高级合伙人顾金焰也向媒体透露过相似案例，当事人的遭遇与此十分相似。
在用百度搜索引擎检索当事人姓名与近况时，AI生成其“被判刑10年3个月”内容，配以标题“十年牢狱路，前路待光明”，并在生成信息前醒目标注“综合全网54篇真实经验”。
这些案例有一个共同点：AI并非简单的“搞错了”，而是进行了一种规模性的“张冠李戴”。
它将网络上关于其他同名同姓者的犯罪记录，或者新闻报道中匿名处理的“黄某”，精准地嫁接到了无辜者身上，并配以其真实的照片或经历，生成了一份看似权威、实则失实的摘要。
一件件事标志着，AI已经在精神上对人类造成了实质性的客观伤害。
这不由得想起，去年百度世界大会上，李彦宏曾说："现在你用百度搜索，绝大部分结果已经是AI自动生成的。"
并表示，AI将重新定义搜索。
此时的他大概没想到，搜索被重新定义的，竟也包括普通人无处安放的名誉。
面对如潮的质疑和诉讼，百度的回应方式引发了业界的广泛讨论。
2026年2月，黄贵耕案一审开庭，百度当庭答辩称：AI幻觉是产品发展中无法避免的阶段性问题，百度提供中立技术服务，不存在主观过错，不构成侵权。
有意思的是，这套话术，与2016年快播CEO王欣站在被告席上说的“内容不是我的责任”。“技术中立”、“我只是技术服务方”何其相似。
不过，技术平台的责任不应该只是维护平台
最近闲鱼平台上被曝光暗藏涉黄产业链，记者在调查中发现，一些客服的个人信息中赫然写着“处宝可约”四个字，经进一步沟通确认，这些可供“预约”的女孩大多是未成年人，年龄最小的仅14岁。
如果“技术中立”可以成为百度的借口，那它同样可以成为闲鱼的挡箭牌——“我只是撮合交易的平台，用户发布的内容是否涉及组织未成年人卖淫，与我无关”。
技术本身没有立场，但掌握技术的人有。
当技术不再是简单的工具，而是深度介入信息分发、影响公共事务甚至个人命运时，它就已经脱离了“中立”的范畴。
快播当年因未能有效管控盗版和色情内容而引发争议，百度AI如今也因生成可能影响个人声誉和职业发展的不实信息而受到质疑。
尽管两者涉及的具体情形有所不同，但其背后反映出的问题具有相似性：在技术深度融入社会运行的背景下，“技术中立”不应成为规避公共责任的理由。
百度还辩称“AI幻觉是产品发展中无法避免的阶段性问题”。
但这套说辞与其自身此前公开表态存在明显差池。
2024年11月世界大会上，李彦宏曾高调宣称大模型已“基本消除幻觉”。
然而，百度AI搜索的实际表现却与这一战略预期形成了鲜明反差：所谓的“幻觉”不仅未绝迹，反而呈现出一种令人不安的“定向攻击性”。
它不再是随机的技术噪点，而是精准地“嫁接”并凭空捏造出受罚、定罪、判刑等高风险负面情节。
AI模型确实存在幻觉问题，但这种精准冒名、主动编造的行为，已超出技术局限的范畴。
根据“长安街知事”报道，百度在自己对系统的说明中提到，在增强搜索以后，大模型会对候选信息的相关性、实时性、权威性、安全性、重复性及低质内容等进行多维度筛选。
然而，涉及法官、律师、刑事案件这类高敏感关键词，审核机制显然未能有效拦截。
问题的核心在于：如果审核机制真正运转到位，这些内容根本不可能被释放。
百度或许需要回答的是，这套机制究竟在哪一环失效了？
最具参考价值的证据来自行业对比。在李小亮案中，二审法官当庭发问："豆包、DeepSeek上发问，为什么没有这些评价？"
这一提问指向一个关键事实——同类产品未出现类似问题，说明这个错误可能不是技术发展的必然代价，而是平台可能在审核与防控义务上的投入上可能存在差距。
AI搜索被百度定位为下一个增长引擎，资源大量投入，用户习惯逐步养成。
但事前内容安全评估、事中审核拦截机制、事后高效纠错通道——这三道关卡的投入与增长速度的匹配度，百度至今没有给出令人信服的说明。
问题的核心或许在于：当一家公司将AI搜索定位为"增长引擎"时，它究竟把多少资源投向了内容安全，又有多少投向了商业化变现？
回看百度的发展轨迹，虽然踩中了AI风口，但底层商业逻辑似乎存在连续性。
2016年魏则西事件中，百度将搜索结果排序权与竞价广告挂钩；同年，血友病吧被出售，社群信任被直接变现。
在用户权益与商业利益中，百度貌似都再选择后者。
百度是时候担起大厂的责任了
根据澎湃新闻此前报道，在此前李小亮案件庭审中，百度代理人还表示，该案系中国人工智能大模型侵权第一案，该案件的判决，对产业的风险产生巨大的冲击，希望法院能够审慎审理。
事实上，AI引发的争议已经走出理论探讨，陆续进入法庭，成为需要裁判的具体案件。
它们的走向，也将为整个行业提供参照。
这除了可能产生冲击外，更多的也开始敲响警钟。
随着AI的普及，越来越多头部企业意识到AI面临的安全问题。
9月12日，Anthropic CEO达里奥·阿莫代伊公开发文，呼吁前沿AI“减速”，并提议引入第三方安全评估、建立行业安全标准，乃至全球协调限制高危AI能力。
这一倡议迅速获得马斯克、奥特曼及谷歌DeepMind哈萨比斯的响应，微软CEO纳德拉也强调需为AI安全测试留出时间。
硅谷四大前沿AI实验室罕见达成共识，标志着行业对安全问题的集体警觉。
相较之下，百度作为中国头部AI企业，在商业化快速推进的同时，或许也需提前构建更多的风险防控与责任机制。
百度Q2财报中，AI业务收入达125亿元，占其一般性业务收入近半，即每两元收入中便有一元来自AI。
百度AI构建了从昆仑芯芯片、飞桨深度学习框架、文心大模型到行业垂类模型的完整技术链条，是国内少数实现全栈自研的AI企业。
其在自动驾驶领域，更是被成为中国自动驾驶黄埔军校。
百度对中国AI的推进是有目共睹的，站在中国AI的前沿。
如今AI业务占比的提升，也意味着百度在AI领域的责任与风险同步加重。
百度或许需要在承担更多责任方面发力了。
除AI搜索摘要出现“张冠李戴”现象外，其自动驾驶业务“萝卜快跑”今年3月在武汉发生集体趴窝事件，近百辆萝卜快跑车辆当场停在马路街头，乘客被困高架近两小时。
值得一提的是，车内SOS系统失灵，客服电话无法有效响应，最终依赖交警徒步疏散。
这一事件暴露出“萝卜快跑”在应急响应、道路救援及与交管联动机制上的短板——企业享受“无人化”带来的成本优势，却将安全风险转嫁至公共救援体系，本质上是一种责任缺位。
无论是AI幻觉导致的信息误导，还是自动驾驶中的应急失灵，都指向同一问题：百度在AI业务拓展中，或许未能同步建立起与之匹配的风险拦截与用户保障机制。
在商业利益与用户信任之间，百度仍需找到更稳健的平衡点。
当然，AI应用尚处起步期，探索之路漫长。
百度在商业化中暴露的问题，是行业发展的必经阶段，而非不可逾越的障碍。
李彦宏在ESG报告中明确表示，百度将持续深耕内容治理、数据安全与AI伦理，让技术进步真正造福社会。
随着AI技术不断成熟，还是期待百度扛起更多大厂责任——责任从不是AI发展的绊脚石，而是行稳致远的“压舱石”，更盼其为中国AI产业的健康发展树立标杆。
免责声明：本文涉及有关上市公司的内容，为作者依据上市公司根据其法定义务公开披露的信息(包括但不限于临时公告、定期报告和官方互动平台等)作出的个人分析与判断，但作者不保证该信息资料的完整性、及时性；文中的信息或意见不构成任何投资或其他商业建议，财观二姐不对因采纳本文而产生的任何行动承担任何责任。
作者提示:个人观点，仅供参考
本文来自微信公众号“财观二姐”，作者：金一句，36氪经授权发布。