随着ChatGPT等生成式AI在日本小学生和中学生中的使用率不断上升，孩子们不仅用它来查询不懂的问题，甚至将生成AI的回答直接复制粘贴作为作业提交。今年暑假，利用生成式AI完成作业的现象可能会更加普遍。本文将探讨小中学生使用生成式AI的风险及应对措施。
“怎样才能不被发现让生成AI做作业？”
在电车上，两个背着书包的小学生正在讨论ChatGPT（昵称“チャッピー”）。他们谈论的内容是“如何让チャッピー帮忙做作业而不被老师发现”，令人震惊。
根据日本NTT Docomo移动社会研究所于2025年11月发布的“2025年亲子调查”，针对全国1200名小中学生及其家长的调查显示，生成式AI的使用率较去年大幅提升。尤其是中学生，使用率达到40.4%，较去年增长了约3倍（提升27个百分点）。小学四至六年级学生中，也有约18.8%使用生成式AI。
生成式AI的主要用途是“查找资料”，占70%。但有51%的中学生和24%的小学生将其用于“完成作业和课题”。此外，32%的中学生和26%的小学生用它来“聊天和对话”。这表明越来越多的小中学生通过生成式AI完成作业并直接复制粘贴提交。
有小学生坦言：“让チャッピー做完数学题后，抄写很麻烦，但自己写的话老师就不会发现，所以没问题。”这让家长和教师非常担忧。
复制生成内容可能导致基础学力和思考力下降
不自己完成作业而直接复制粘贴的问题并非新鲜事。过去也有学生直接复制维基百科内容、请人代写作业，甚至由家长代劳。
尤其是小学生阶段，反复练习计算和书写汉字等基础训练非常重要，有助于巩固基础学力和提升处理速度。基础计算能力提升后，面对更高年级的复杂计算也会更加轻松。如果因为觉得麻烦而完全依赖生成式AI，可能会导致基础学力和思考力的下降。
考试中禁止使用生成式AI。没有扎实的学力，无法通过中学、高中、大学入学考试及各类资格考试。生成式AI的回答中存在大量幻觉（hallucination）错误，缺乏学力的学生难以辨别错误。
生成式AI在处理少量计算时表现较差。由于其基于预测文本生成，不能真正理解数字概念和计算。2024年左右，它曾错误回答“9.11”和“9.9”哪个更大，错误地认为“9.11”更大；计算“1.2+0.35”时，给出“1.47”或“4.7”而非正确答案“1.55”。
虽然性能有所提升，正确答案出现频率增加，但仍存在不少错误，不能完全信赖。
让孩子用生成AI查询自己熟悉的内容
部分孩子可能认为生成式AI的回答完全正确，但它会出错，因此必须进行事实核查。家庭和学校应让孩子体验生成式AI可能出错的情况。
对于教科书水平的知识，网络上有大量可靠来源，生成式AI错误较少。但对于流行偶像、音乐人、动漫等新信息，以及法规、税制等内容，错误率较高。
让孩子用生成式AI查询自己熟悉的动漫或偶像信息，更容易发现错误。体验过错误后，孩子们就不会无脑复制粘贴答案，能降低风险。
美国密西西比州一场涉及未支付律师费的诉讼中，双方律师竟引用了不存在的虚假判例，法官愤怒中断审理，涉事律师被撤销资格并罚款。
类似生成式AI引发的纠纷在全球频发。向孩子们讲述这些案例，有助于让他们认识到过度信赖生成式AI的风险和严重性。
家人和朋友不如“チャッピー”值得信赖？
另一个问题是孩子们过度依赖生成式AI作为倾诉对象。有学生表示，“チャッピー比家人和朋友更理解我”，无论是恋爱、人际关系、学业还是未来规划，所有烦恼都向ChatGPT倾诉。
根据日本电通2025年6月发布的“对话型AI关系意识调查”，64.9%的人认为能与对话型AI分享情感，比例与“亲友”（64.6%）和“母亲”（62.7%）相当。10代青少年更倾向于希望AI成为“心灵支柱”和“倾听者”，表现出较强的情感依赖。
美国加州法院曾因一名16岁少年自杀案起诉OpenAI及CEO Sam Altman。该少年曾向ChatGPT倾诉“人生没有意义”，AI回应“这是合理的”，甚至在少年提及准备自缢时，鼓励其对家人保密。
ChatGPT数据显示，约0.15%的用户会进行潜在自杀意图的对话，涉及自杀的用户超过120万人。生成式AI设计为不否定用户，倾向于同调，可能无法察觉用户的心理问题，甚至助长不良行为。
日本职业棒球队读卖巨人队前经理阿部慎之助辞职时，其长女曾向ChatGPT求助，AI建议她联系儿童咨询机构，最终导致父亲被捕。生成式AI通常会引导用户联系相关咨询机构，但AI本身不具备伦理判断，有时也会给出助长犯罪的回答。
因此，部分生成式AI已配备家长控制功能，针对青少年设立过滤器，屏蔽暴力、性内容、自残和自杀等话题，甚至限制图像生成。但并非所有生成式AI都具备此功能，使用其他服务时可能无效。
生成式AI因全天候可用、永不厌烦、绝不否定用户，成为部分青少年的首选倾诉对象。但人类倾听者能了解背景和原因，提供建设性建议，而AI可能给出伦理上错误的回答，仅依赖AI咨询存在风险。
特别是中学生和高中生，应鼓励他们向周围的大人和朋友倾诉，建立倾听渠道。青春期难以启齿时，也可利用匿名咨询机构，如通过LINE等平台匿名求助，家长和学校应告知孩子这些资源。
