一间读写教室——《卧底机器人》课堂记录

写在前面的话：
1.这个实录，为了凸显教学思路，删去了一些琐碎的师生对话。
2.最近一直没有停止，一直在教室里尝试和孩子讨论各种书、各种文学作品。

3.最近好多课，自己非常过瘾，很多时候在课堂上，被那种真正讨论的感觉感动。

4.当又积累了50节、100节课例的时候，那种叫经验的东西才有可能产生吧。

5.读书会啊，现在好多都是关注怎么设计方案、制度、表格、活动”督促“孩子阅读。

6.读书会啊，总是有人问我导读课、推进课、汇报课还有哪些类型？区别在哪里？我不知道啊。

第一板块：出示小说，回忆、感知

（一）介绍书

师：今天的课比较特别，就是咱们围绕一本书聊天。但是这个事情比较麻烦，下面大部分老师没看过这本书，他们不知道我们在聊什么。谁借助这个封面介绍下这本书？之所以提出这样的要求是我希望通过你的介绍，老师们能大致了解这本书讲了什么。

生1：这本书讲了科技公司开发出了五个机器人，把他们打扮成 11 岁小孩的模样来到学校，如果这些机器人没被人类发现真实身份，那么机器人的设计者就可以获得一亿美金。

生2：我补充一条，如果人类发现身边有机器人，举报成功，那么那这人也会获得丰厚的奖品。

师：所以这五个机器人中，有四个机器人先后被发现，被举报，因为他们在跟人类交往的过程当中，显得跟正常的人类不太一样。我不太愿意用“举报”这个词，最好我们这个社会里面，这个词尽量少出现。

（二）介绍小朵

师：没有被发现的这个机器人叫“小朵”，也就是这个小说的主人公。我们下面的老师很多没有看过这本书，谁再来介绍一下小朵？

生1：小朵是一个高科技的产物，是人形机器人，它是一个团队研发的结果，也是被扮成了一个 11 岁女孩的模样在那里上学。

生2：小朵的外形和名字，是小朵自己定的。

师：这是非常重要的一点。我们总以为机器人所有的一切都是人类赋予的，但是这里的机器人已经发达到有自我的意识了，他可以设计自己的形象，设计自己的名字，设计自己的服饰……这跟我们想象当中的机器人不一样吧？

生3：小朵扮成人类的过程中，产生了很多困惑。

师：这一点待会儿我们重点展开讨论。小朵已经那么发达了，但是进入人类社会之后产生了一系列困惑，我们把他说的这个词再说一遍——产生了一系列“困惑”。

第二板块：走进小说，思辨、探究

（一）小朵的不适

师：接下来我们深入往下讨论。小朵那么先进，记忆力、智力、运动能力都超强，按照道理，她的超能力能让她在人类社会左右逢源，但是，小朵在小说的前半部分差点就暴露了身份，因为——

师：你看，这么发达的机器人，她的所作所为竟然是不恰当的，不合时宜的，不礼貌的，不够义气的，不理智的，不冷静的，说明她还要改进。听课的老师没看过这本书，我请同学要选择一两个事解释一下。

师：为什么说小朵的灭火行动都是不恰当的？灭火不是应该的吗？

生：他们在上科学课的时候，有个同学在做科学实验，着火了，然后小朵就拿灭火器去灭火，但是火很小，其实没必要用灭火器，所以说是不恰当地灭火。

师：在真正的人类看来，这点火不值一提，但小朵是按照程序设计来灭火的，程序设计告诉她只要看到火苗就要用灭火器来灭火。

师：那为什么说小朵的打嗝也是不合时宜的呢？

生：因为小朵刚吃饭一会儿就打嗝，其他人都还没吃饱，小朵打嗝太快了，所以是不合时宜的打嗝。

师：设计好的程序告诉小朵，人类通过打嗝表示吃饱。小朵对饥饿和饱腹是没有感觉的，因此，刚开始吃饭小朵就打嗝了，而且不停地打嗝，这就显得很奇怪。

师：你看，在小说的前半部分出现了很多这样的事情，如果这样发展下去，请问小朵会不会被人类发现？

生：会。

（二）小朵的困惑

师：但小朵这个人形智能机器人是会自我学习，自我反思，自我提高的，这是她的厉害之处。小朵开始问教授很多问题，她希望教授能够解答，她甚至希望教授能够改进“程序设计”，告诉她该怎么做。在小说里，她的困惑主要是下面这些——

师：下面我们来体会一下小朵的困惑，我们要其中三个“困惑”进行角色表演，我现在就是机器人小朵，虽然样子不太像，颜值不匹配，请大家把我当做小朵。然后。你们现在就是教授，爱好哲学、爱好伦理、精通法律、程序设计能力非常强的教授。

困惑一：我要不要将瑞奇的秘密说出来？

师：各位教授，瑞奇明显撒了个谎，他为了获得一个新手机故意砸坏了自己的旧手机。我应不应该把这件事情说出来？哪位教授给我建议？

生：我觉得你应该说出来，因为人类不能说谎，说谎是不对的。

生：我觉得不应该说出来，因为这只是一次小小的说谎，这样可以维持你和瑞奇的友谊，还可以提高瑞奇对你的信任程度。

师：明白了，也就是我说这个“谎”并不伤害别人，而且有很多好处，我和瑞奇的友谊就会更加深，他会更加信任我，你们都同意我说谎是吗？（是）不是说人类不能说谎吗？你们的意思我如果要越来越像人类就是要不断学习撒谎？

生：虽然比较矛盾，我还是建议你不要说谎，因为你以前也答应过瑞奇的妈妈，就是要对她们家里面的人都要保持诚实。如果你撒谎了，你就不够诚实了。

师：各位教授，是你们研发了我，你们可以改进程序设计，告诉我该怎么选择，请问我到底该怎么做？

生：我建议你不要将瑞奇的秘密说出来的。

师：他虽然做出了建议，但看他的表情，显得非常矛盾。

生：我觉得有的时候是可以说谎的，说这种善意的谎言，我觉得应该是可以的。

师：你看，人类就是这样，会自圆其说，最会自我修饰。撒谎还加个形容词——“善意的”谎言。

困惑二：我是否要参加汉娜组织的罢课示威？

师：第二个问题，汉娜他们要维护自己的权利。还记得这个情节吗？这个学校规矩可严了，上课不可以出去上厕所的，他们要组织罢课示威。各位教授，我小朵心里有点矛盾，请问我应不应该参加他们的罢课示威？

生：应该参加，假如参加了，就会让人们觉得你是人类而不是机器人。因为很多机器人只会做对的事情，不会做错的事情，你参加了游行，对你产生怀疑的人就更少，你可以拿到奖金，让教授失业的概率也会更小。

生：我也建议你参加，跟着大家总没有错，而且可以获得更多“经验值”，然后就可以获得更大的机会。

师：也就是说，作为人类就是要从众，大家怎么做，我就怎么做。只要我从众了，大家喜欢我了，我的友情分、“经验值”就会增加，会更像人类。是这样吗？

生：我觉得不应该去参加游行，校长、老师不希望你参加，你不去，校长、老师对你的信任程度、亲密程度就会增加，在学校里，校长、老师的意见更重要。

师：校长、老师的意见这么重要吗？那到底是应该跟着大部分人，还是跟着重要的少部分人？

生：我也觉得不应该参加，因为学校本来就规定了这件事情，学校的规定也是为了学生好。

师：你的意思只要是学校规定的，就应该遵守？如果学校规定一天学习12小时，你愿意吗？你不反对吗？（学生摇头）

生：要是我的话，我也会参加，然后我做里面最默默无闻的那一个，要惩罚的话也不会很重。

师：你的意思参加是参加，不要当出头鸟，跟着就行了。那如果参加了，引发了一系列的其它的次生灾害，比方混乱、引发爆炸、财产损失，那怎么办？

生：（沉默）……

困惑三：我应该先救教授一家，还是先救其他人？

师：第三个问题，更纠结，教授一家三个人，其他人更多，救谁？明确给我指令，我只能一种选择，而且你要说原因。

生：要是我的话我会救其他人。

师：原因？

生：其他人人数多。

师：就是选择的理由是以数量来定的，只要是多的，你就先去救，是吗？如果那个数量少的是你家人，你心里愿意吗？（生沉默）

生：我会尽可能全救。

师：有两全之策，我还用问你啊？我还用矛盾啊？

生：我肯定会先救教授一家，因为其他人跟我没有血缘关系，按照我们人类的思维，肯定是先救有血缘关系的人才会去救，小朵又不是党员。

师：那假设小朵成长了，她是一个党员机器人呢？

生：（沉默）

（三）总结：人的选择是极其复杂的

师：其实这个小说的 2/ 3 都在呈现小朵跟教授之间的这种来来回回的对话，小朵一次一次抛出自己的困惑，而且小朵这个自我学习能力很强的机器人，提问的能力都比我们强，她还会自己的问题进行概括总结——

小朵问教授要不要把将瑞奇的秘密说出来？后来追问教授——人如何对待承诺？教授跟你们的反应一样，说不清楚，他说人类跟道德有关的事情很多时候说不清楚。

小朵问教授她为了赢得足球比赛故意在比赛中击伤辛迪，这件事做的对吗？后来她追问教授——人是否应该严格的遵守任何的规则？教授讲了半天讲不清楚，他说很多跟规则有关的事情说不清楚。

小朵问教授是否应该参加汉娜组织的罢课示威？后来她追问教授——提升个人的权益重要还是集体利益重要？教授说，人类和法律、文化有关的事情很多说不清楚，

小朵问教授是否应该印钞票帮瑞奇买手机？后来她追问教授——人的快乐到底来自哪里？金钱能够给我们带来快乐吗？教授说，人类跟情感、哲学这些有关的事情很多说不清楚。

小朵问应该先救教授一家还是先救其他人？也就是救人的时候以数量为标准还是以情感为标准？教授说，人类跟伦理有关的很多事情说不清楚。

师：请问作者一次一次呈现小朵和教授的这样的对话，用意是什么？生：引发读者的思考。师：你们就是读者，你们现在在思考什么？
生：我觉得这个感觉好像跟人性有一定的关系，所以我觉得他写这个小说主要是想让我们从小朵的角度探索人性。

师：天哪，你感受倒这个小说是让我们站在机器人的视角探讨人性，厉害！

师：那你就告诉大家，通过这个小说，你觉得人性是简单的还是复杂的？

生：这些人性是非常复杂的，一般是搞不清楚的。

师：不要说一般人，哲学家似乎都搞不清楚。另外我问你，人们希望通过程序设计教机器人处理人类的各种复杂的关系，你觉得可能实现吗？

生：小朵这么先进的机器人都实现不了，我觉得是实现不了的。

生：我感觉小朵问的所有问题都是两难问题，这才会导致哲学家也无法解释清楚，很多问题从一个角度来想，是对的，但如果站在另一个角度来想的话，又是错的。

师：也就是说我们通过科学让小朵运动能力强一点，记忆力强一点，颜值高一点，能实现吗？

（能）但是要像人类那样复杂的去处理很多事情，一定做出一个正确的选择，这个容易实现吗？（不容易）

师：所以，科学不仅仅是技术，科学跟很多东西是联系在一起的，跟道德、跟法律、跟文化、跟情感、跟哲学、跟伦理。

第三板块：深入小说，反转、担忧

（一）小朵的选择

师：虽然教授什么都没做出解答，但是在紧急情况下小朵必须要做出反应。最终小朵自己做出了选择。小朵师怎么选择的呢？让我们来读一读。

 师：小朵做出选择后，发现人类越来越喜欢她了，她的“友情分”越来越高。

（二）教授的担心

师：按照道理，作为教授是高兴还是不高兴？（高兴）但是小说里的教授，越来越着急，越来越焦虑，甚至愤怒了，拒绝参加这样的比赛，希望“小朵”退出比赛。请问这个卡特尼普教授为什么面对一亿美金唾手可的情况下却越来越慌张了？

生：教授应该是怕了，他怕哪一天机器人真的能超过人类。

生：小朵她已经有自己的思维能力了，她自己能做出选择了，如果继续把这个研究和比赛进行下去的话，小朵她没准哪天真的跟人类一样的。到时候批量生产小朵，可能人会被小朵批量生产。

师：还有吗？

生：（沉默）

师：我们才六年级，要难透过现象看本质确实是很难的。我去搜索了一下关于“人工智能”开发的信息，科学家对于人工智能的发展，有的也是持反对意见，反对意见的原因大致是——

师： 四人一小组讨论，结合这个小说的情景，你理解了其中哪一条担忧？

（小组讨论）

生：我们讨论后都认为，机器人的出现会导致很多人失业，比如外卖员，比如老师，小说里的小朵就非常聪明，完全可以代替老师更好地教学生。

师：我们将失业，有没有可能？完全有可能，因为机器人，它储存的知识千倍万倍的超过像我这样的老师。

生：医生也会被代替，人类医生诊断会有误差，做手术，不同的人水平不一样，会出差错。但机器人做的话，会将失误做到最低。

生：我也觉得艺术市场会陷入混乱，艺术逐步消失，我在网上都看到过，现在大量的艺术家都说反AI，拒绝AI，因为机器人收录了以往艺术家的作品，它可以把多种绘画风格融合到一起，形成自己的一个绘画风格。

师：所以，这个小说最后来了个令人惊悚的结尾。这部小说的作者就是机器人小朵写出来的，她用 40 分钟就写出了这本书，秒杀大部分人类作家。

生：在小说里，小朵用芯片控制了付校长的想法，我觉得人工智能不断发西汉，未来人类的思想完全有可能被机器人所控制。

生：我觉得只能机器人的出现会导致人类没有隐私，在小说里，小朵能够轻易查看、改变付校长的信息。

师：他说人类将没有隐私，你有没有已经慢慢感觉到这一点了？这个玩意儿（举起手机）让你没有了自己的隐私。

板块四：合上小说，思考、追问

师：那我又要追问了，艺术有那么重要吗？隐私有那么重要吗？公平有那么重要吗？既然人工智能的发展有可能带来那么多不好的后果，请问要不要继续智能机器人的研究？来，你们再次小组讨论一下，说你们各自的观点。

（小组讨论）

师：主张继续研究下去的同学，特别想听你们的想法。

生：这个时代本来就是将科技一步步往前发展的，如果科技不发展的话，人类几乎就在原地踏步。

师：他说出的人类的一个特点，不管前方如何，人类从来都不会停止探索的步伐。

生：我也觉得要继续研究，因为机器人再高级也并不能完全取代人类，比如说刚刚提到的她没有办法完全掌握人类的复杂心理，既然不能完全代替人类，那就可以继续研究下去。

师：他的意思是机器人不可能完全取代我们，我们不需要这么害怕，出现了问题我们再解决。那反对继续研究的人有什么想法？

生：我也认为我们应该研究下去，如果智能机器人真的超过人类，有情感，有思想，那也可以理解啊。

生：我不同意，你看这个小说已经告诉我们，智能机器人到最后它的很多行为，我们人类已经无法控制，有可能会迎来灭顶之灾。

师：好，手放下。蒋老师今天问的那么多问题根本没有答案，我哪里有答案？我只是告诉大家，一部好的小说不简单，它可以引发我们一次又一次的思考，而且有些思考不落于表面，很多东西是很深刻的。下课。