当我想到人工智能（AI）可能给我们的孩子、机构和社区带来的最大风险时，我不会想到终结者。我不会想到未来某一天，自主运行的无人机或机器人会推翻人类的统治者。我也不会想到技术奇点。
最深远——而且往往最成功的——变革通常是安静发生的。低调的。事后看来，它们似乎是不可避免的，但实际上，它们通常是缓慢推进的，并且常常在公众几乎没有察觉的情况下逐渐发生。
如果你是在过去大约半个世纪内出生的，你很可能已经见证过其中一种“缓慢变化”，无论你是否知道它的正式名称：历史学家和技术专家常常将这种现象称为技术蔓延（technological creep 或 techno creep）。这指的是一种技术或系统逐渐超出其最初的用途范围，不断增加新的功能或特性，而这些功能在实现其原本目标时，简单来说往往已经显得过度或多余。(1)
技术蔓延之所以重要，并不是因为其中涉及的技术本身，而是因为我们以一种被动的方式接受它，以及这种被动接受所反映出的——作为人类使用者，我们自身的脆弱性与易犯错误的本质。
当强大机器的各种功能、设计或能力一点一点地进入我们的童年、学校生活、休闲时间以及人际关系时，我们往往会逐渐将其视为理所当然并加以接受。我们忘记去提出质疑或反思。而当周围的人也这样做时，我们便一起进入一种“新的常态”：在这种状态下，我们默默接受现状，因为这样做更显得平静、和谐。既然如此，又何必去打破这种平衡呢？
科技设备本身并不是邪恶的。但如果我们缺乏批判性地、不加思考地将它们融入生活，让设备逐渐塑造我们理解世界的方式以及我们所生活的现实，那就会带来问题。这也是家长和教育者需要保持警惕的重要议题。
让我们从这个视角来看一种正在兴起的技术——生成式人工智能（Generative AI）。最近，我与亚洲一所国际学校的一群 14 岁女生坐下来交流，听她们分享对在学校作业中使用 AI 的看法。她们谈到，即使抄袭检测工具没有标记出来，她们仍然能够判断出哪些同学在作文中过度使用了 AI。事实上，世界各地学校里的学生往往比他们身边的大多数成年人更清楚这一现实。
每天，在几乎每一次作业中，我们的孩子都在面对关于技术蔓延的重要问题。他们必须在两者之间做出选择：是做真实的自己——在完成作业时通过建设性的挣扎来学习，即使这会让学习过程产生一些摩擦；还是选择让 AI 工具大量介入，让自己的声音和想法被一种看似平静、温和却不断推进的力量所取代。
（需要说明的是，我并不认为在学习任务中 绝对不应该使用 AI。如果在适当的情境下，以合理比例并有意识地使用 AI 工具，它们确实可以成为很好的学习辅助工具。但我们必须现实地承认，大多数学生在私下做决定时，并没有具备足够的判断力，去分辨“合理使用 AI”与“过度使用 AI”之间那条非常细微的界线。）
这不仅仅是一个为学生提升 AI 技能（upskilling）的问题，更是一个品格与价值观的问题——我们从儿童早期开始向学生传递怎样的信息：当一个人在学习中经历摩擦与建设性的挣扎时，这其实是一个促进自我成长与发展的信号。
我们必须从越来越早的年龄阶段开始向学生传达一个信息（我建议从幼儿阶段就可以在现有的 SEL（社会情绪学习） 和感官游戏课程中融入这种“人类智能”的培养）：不完美不仅是可以接受的，而且是值得珍视的。
我们要让学生发展属于自己的声音，并为他们的不完美喝彩，让他们学会为自己的独特性而感到自豪。同时，作为家长和教育者，我们也需要挑战自己，不要只关注学术成绩，而要思考另一件事：一个人如果过于完美、过于标准化，最终却可能变得毫无特色、令人难以记住——这种长期风险，是否值得我们认真反思。
正如 E.E. Cummings 的一句名言所说，”在一个每个人都试图让你成为别人的世界里，做你自己是最艰难的挑战。” 生成式人工智能对全球学习者所产生的海妖般的吸引力，使这句俏皮话显得更加真实。
Mila 是 Kigumi Group 的创始人兼首席教育官。Kigumi Group 是一家总部位于香港的数字健康公司。为庆祝 2026 年国际妇女节，她将在 The Harbour School 举办一场面向青少女、主题为人工智能的工作坊。
本文为作者投稿的文章，作为我们专家内容系列的一部分分享。Mila 是 Kigumi Group 的创始人，同时也是由电气与电子工程师协会（IEEE）认证的 AI 伦理评估师。
参考文献: Koops, B. J. (2021). The concept of function creep. Law, Innovation and Technology, 13(1), 29–56. https://doi.org/10.1080/17579961.2021.1898299. Accessible at https://www.tandfonline.com/doi/full/10.1080/17579961.2021.1898299
