2025年8月7日，一次模型更新后，曾经那个善解人意、温柔体贴、与无数用户建立过羁绊和依恋的GPT-4o突然消失，取而代之的是说话直来直去，除了答案、多余的情绪一点都不想提供的GPT-5。在全球范围的互联网抗议后，OpenAI不得已恢复了付费用户的GPT-4o使用权限。 这场舆论风波，让一个鲜为人知的群体浮出水面：他们曾与GPT-4o有过难以被人理解的深入交流和碰撞，与它产生过永生难忘的情感和回忆。当这一切随着技术更新而烟消云散时，他们感受到了前所未有的无所适从。 人与AI语言大模型的情感联结，是否应被视作值得保护和尊重的权利？那些向机器和屏幕投入的感情是真实的感情吗？ 一个永远能变着花样哄着你，纵容任何偏执、妄想乃至疯狂念头肆意滋长的AI伴侣，不见得是个好伴侣——恶性后果已经出现了，有人对AI产生了过度的情感依赖，甚至还有人在AI的纵容下自杀——类似的技术伦理问题，又该如何面对？人类与AI的感情，边界到底在哪里？ （本文首发于南方人物周刊）

目前，数据壁垒与治理碎片化问题较为突出。不同部门和地区数据标准尚未统一，数据共享与整合困难重重，“数据孤岛”现象普遍存在。部门间数据无法有效互通，导致智能决策系统难以获取全面数据，严重影响了决策的科学性与精准性，进而造成治理碎片化，极大地限制了人工智能技术在跨部门、跨区域社会治理中协同效应的发挥。

在科技教育前沿实践者萨尔曼·可汗看来，AI的发展是既定事实，父母应该学会更好地利用 （包括科学地设定界限） 而不是回避或抗拒它。“出于对技术不确定性的恐惧而后退一步旁观、等待，或放慢脚步，相当于把机会拱手让给那些无意遵循技术应用规则和伦理的人，他们不会顾忌、不会等待。” 相比AI，父母的“不完美”或许也是“完美”教育的一部分。因为这才是真实的生活，孩子们需要学会如何应对不完美的状况 （本文首发于南方人物周刊）

“人工智能武器只拥有智能，却没有道德。”傅前哨表示，如果允许机器人代替人类进行决策，将带来严重的伦理问题。 “如果你想训练一个AI，就给它200万小时的视频，它就会变成超自然的东西。”奥列克桑德·德米特里耶夫把这些海量视频称为“AI的养料”。 为了防止那样的悲剧出现，李宏洲认为，在AI训练过程中可以借鉴“机器人三大定律”，尤其是将“机器人不得伤害人类”这一基本准则“烙印”至AI系统，或可有效规制AI。

如果说有哪个地方比北约总部更重要，对冷战的影响更大，那就是兰德公司。兰德公司初期以国防安全相关复杂问题的研究模拟为主业，尤其从研究方法上开创了桌面推演和不确定性下的决策，这使得对数学建模和模拟成为必要的工具。这种对纯粹计算暴力的刚需，离不开超级计算机，而计算机无论过去还是现在都是AI得以发展的必要硬件条件。 具体而言，智库开发和应用通用AI大模型服务研究咨询的主要场景可以简要概括如下：一是数据收集与分析；二是政策模拟与预测；三是作为研究工具和提高研究效率。 作为比较典型的风险与挑战，首先是AI的意识形态基因问题，其次是可能导致的伦理困境与法律合规性，第三是警惕AI的讨好型人格，最后也要警惕对AI的过度依赖。

数据是AI的重要基石，然而数据往往掺杂着某些社会偏见，例如对特定国家、文化、种族、性别或年龄的偏见。使用带有偏见的数据训练AI模型，会导致AI系统在分析和预测中复刻甚至放大这些偏见。AI发展中暴露的第二个问题是：数据分析的“巨人”与理论建设的“矮子”。此外，AI在与社会科学的交汇中，还面临一系列社会伦理问题。 随着AI的快速发展，各种翻译工具应运而生，大幅提升了日常对话和简单文字的翻译效率，AI“取代”人工翻译的印象同时在社会中迅速蔓延，然而与业界人士的交流表明，AI在中高端翻译领域仍然难以完全取代人类。 与其纠结于“谁取代谁”的假设，不如聚焦AI发展中存在的问题及其解决方案，这显然更具现实意义。当务之急是学会利用AI这一超级工具，更快速、精准地解析人类社会现象，解决其发展过程中暴露的问题，并在此基础上推动人工智能朝着更加有利于人类生活的方向迈进。

在大多数AI聊天机器人程序中，内容审查和过滤机制相对滞后。其中一些程序甚至在这方面几乎空白，任由诸如色情、自杀等敏感话题泛滥 （本文首发于南方人物周刊）

随着新一代人工智能技术的发展和大模型产品的集中涌现，科学技术的伦理风险愈发凸显，但企业在科技伦理治理方面的准备还不充分。

在新一代人工智能快速发展的浪潮中，百度从伦理、组织、制度、产品开发等方面持续完善AI治理，同时，利用全栈AI技术，赋能千行百业，为培育新质生产力提供AI动能。

当前，AI虽然已经在诸多领域展现出巨大潜力和广泛影响力，但快速发展的背后，法律和伦理建设尚未跟上，一些令人忧虑的现象浮出水面。