“艾莎门”与“邪典儿童视频”始末①：视频网站的黑镜时刻

这篇文章将按照时间顺序，讲述YouTube从2015年到2017年爆发ElsaGate的事件始末，这是一个足以给反乌托邦科幻剧集《黑镜》提供好几集素材的故事。如果你是一个恐慌的家长，希望你读完这篇文章后，能够更为理性地对待这类事件。更重要的是，希望这篇文章，能帮助你更好地理解当下，让大家用更冷静的方式和态度，来真正保护好孩子。

这档专门针对学龄前儿童的节目没有任何台词和对话，女性角色扮演《冰雪奇缘》中的艾莎公主，男性角色扮演蜘蛛侠，通过场景和动作来表现日常生活故事。该节目在去年已被YouTube删除，根据当时的报道和讨论来看，其中可能有个别地方遭到过质疑，或被认为不太适合特别小的孩子，而大部分内容是尚可接受的。彼时谁也没想到，这款看似无害的节目，会成为“艾莎公主门”丑闻的滥觞。

这档节目一火，大量模仿者一窝蜂般出现，影响迅速扩散。因为这类节目的制作成本极低，只需要几套服装（欧美国家能买到很便宜的万圣节化妆服），手机即可拍摄编辑，人人都可以上传；制作也没有难度，节目连对话都没有，只需要找点背景音乐，也不要求复杂的情节构思；而且因为没有对话，也就没有外语门槛，几乎所有的学龄前小朋友都能看，受众遍布全球。

另一款初期和“WebsTiaras”高度相似的节目“ToyMonster”（玩具怪兽）就是用玩具而不是真人扮演超级英雄。制作人Eric（他拒绝透露全名）在接受采访时表示，正好就是在2015年夏天，这类真人扮演超级英雄的低龄儿童节目非常火，他和一些朋友看到后觉得非常适合自己，后来就全职做这种节目了。而“SuperheroRealityTV”（超级英雄真人秀）的制作家庭则买了几套不同的服装，三周内做好了节目，发布才48小时就获得了2000万观看量，按照父亲DaveyOrgill的原话，“钱就像水一样流进来。”

YouTube的“黑镜”时刻

那么，YouTube的算法到底是怎么回事呢？

形象地说，YouTube的产品等于在三岁小孩面前摆上了一条传送带，任何人都可以从另一头把自制的食物放在传送带上——天知道哪些能吃。YouTube宣称自己可以为孩子们筛选出安全的食物，直到有一天家长发现，自己的娃塞了一嘴巴烂糊糊，大概还很开心，而YouTube算法根据吃烂糊糊的偏好或行为，把更多的烂糊糊摆在了你家娃的面前。

这一幕的反讽意味，可比新一季的《黑镜》牛逼多了。然而当往嘴里塞烂糊糊的是你自己的宝宝时，这一点都不好笑。

2017年3月的新闻截图：广告商抵制YouTube，可能令Google损失百万。

但这还远远不够。“算法不能代替人工干预，当你想要给孩子更安全的环境时，你需要的是人。”2017年年底，两年前的投诉信署名人、“让童年远离商业”组织的执行总监，JoshGolin在接受Polygon采访时说道。

不管是多高明的算法和技术，终究是人造物，它会被人扭曲，被人滥用和攻击。即使是算法的训练和改进，也仍然需要人。YouTube的CEO，SusanWojcicki，在2017年12月的官方博客中也承认了这一点：“无论是删除不适宜内容，还是训练机器学习，人工审核者的参与都至关重要，因为只有人，才能结合语境对内容做出恰如其分的判断。”他们决定在2018年增加更多的职位，加强对内容的人工审核。而JoshGolin的看法要更尖锐和极端：“如果真正担心的是孩子的安全问题，那整个YouTubeKidsAPP的前提就是错误的。”在JoshGolin为代表的技术悲观论者眼中，只要是以盈利为目的，儿童安全问题的隐患就永远存在。

文中注释：

⑴、YouTubeKidsApp最早的宣传：

⑵、“让童年远离商业“组织的最早的投诉信，已被美国联邦贸易委员会存档，并持续更新，多家关于Elsagate的报道都引用了投诉信内容：

⑷、ToyMonster首次正面解释为何观看浏览量如此之大：

⑸、美国联邦贸易委员会对YouTubeKidsApp的最早批评：

⑹、YouTubeCEO于2017年12月发布的官方博客内容：