钛媒体注：本文来源于微信公众号硅兔赛跑（ID：sv_race），作者丨Lexie，编辑丨Lu，钛媒体经授权发布。
Facebook在10月末改名成Meta的新闻想必大家都看到了，小扎表示这一举动是为了向实现元宇宙的终极目标努力，但不少新闻媒体猜测这一次改名也是为了改运，Facebook是想要将大众的注意力从之前的丑闻转移到这个更大的新闻上。
图片来源：Meta
这次的丑闻焦点就是Facebook对用户尤其是青少年用户的心理健康有着极大的负面影响，华尔街日报的报道公布了Facebook的内部调查，在英国有13.5%的青春期少女表示她们在开始用Instagram之后自杀的想法出现的更加频繁了，更有17%的青春期少女表示在开始用Instagram之后饮食障碍症更加严重了，32%的青少年女孩表示Instagram让她们对自己身材感觉更差了。
曾经在Facebook担任数据分析师的Frances Haugen是这次事件的“吹哨人”，她揭露出Facebook的算法将用户互动视为最重要的任务，这就意味着那些点赞和评论最多的帖子会被置顶且获得更多的曝光度，这样的“潜规则”让青少年无形中对受欢迎这件事有了很多压力，加重了外貌和身材焦虑，甚至是美国参议员都因此对Facebook开始了严厉审查，要求公司做出改变的承诺。
图片来源：Facebook
Facebook对此的表示也不只有改名而已，更是终止了之前为13岁以下孩子打造他们专属的Instagram的“Instagram Kids”的计划，虽然他们的初衷是专为孩子们设计，打造适龄体验，但迫于社会各界的压力，在找到更好的保证青少年隐私安全和心理健康的方法之前，这个项目不得不被按下暂停键，但之前在这个计划中所包含的家长监督功能却会被继续开发，加码青少年安全。
Instagram今年夏天还增设了其他几项保护青少年用户的功能，比如美国16岁以下和欧洲18岁以下的用户会在注册时被自动设置成私密账户，现有的年轻用户也会被系统提醒建议改成私密账户；此前广告商可以根据低龄用户在其他app和网站上的兴趣和活动推送广告的选项也将被取消，广告商在未来只能根据年龄、性别和地区等基本信息打广告了，这一改变将在Instagram、Facebook和Messenger上同时应用。
图片来源：NPR
当然，近两年来在儿童和青少年安全方面被大众和法规机构仔细审视的不只有Facebook而已，Google和其视频平台YouTube在2019年就被罚款了1.7亿美元，正是因为YouTube Kids打着为孩子们提供更加安全环境的幌子，却偷偷的在收集未成年人的信息并用此来投放广告，这不但让许多家长顿时暴走，更是违反了“儿童网络隐私保护法（COPPA）”因此被美国联邦贸易委员会（FTC）“公开处刑”，YouTube在被罚款后便宣布不再会对儿童用户进行视频中的广告推送了。
图片来源：Twitter
在今年，Google又宣布增设了更多保护年轻用户的功能，比如YouTube会为13-17岁的用户自动开启“休息一下”和睡觉时间提醒功能；在YouTube Kids中，自动播放功能更是自动关闭，由父母选择是否开启这项功能；YouTube也将移除过于“商业化”的内容以减少年轻用户盲目花钱的行为，像是非常火热的“开箱”内容就是典型。
图片来源：Fatherly
Google则将推出让18岁以下的用户或是其父母申请将个人图片从Google搜索结果中移除的服务；Google还会为13岁以下的用户自动过滤掉成人内容；同时18岁以下拥有家长监督账号的用户定位历史将无法被开启…
而60%的用户都是Z世代的TikTok也不例外，它在2019年也被FTC因未经父母同意非法收集儿童包括姓名和邮箱等个人信息被罚了570万美元，这之后TikTok便做出决定将此前13岁以下用户上传的视频通通删除，并开始要求用户获得家长授权才可在平台上进行视频上传和评论等行为。
就在今年9月，TikTok为“Family Pairing”这一家长监督功能增添了新的教育内容，让家长们去学习如何更好引导孩子们使用这一平台，比如孩子们可能不想跟父母在TikTok上互关，但这并不意味着他们要“干坏事”，这只是这一代青少年的偏好而已；或是青少年们若是在数字世界里遇到危险，父母如何处理问题而不只是迁怒于孩子上网这件事本身等等…这将帮助它保护用户的同时重新赢回年轻用户的心。
图片来源：Techcrunch
为什么和年轻用户相关的操作麻烦这么多，互联网巨头们却还是痴心不改，宁可反复折腾，修改条例和推出新功能也不消停？原因就是儿童和青少年已经不再是互联网用户中的少数了。
根据PwC进行的一项儿童数字媒体报告显示，有40%的新互联网用户来自5-15岁这一年龄群，他们所具备的广告市场潜力在2021年达到了17亿美元。虽然利润丰厚，但目前我们的互联网主要还是为成年人打造的，专注于儿童科技的公司和投资都并不多，但就在这两年，随着年轻用户的上线，互联网需要也正在做出改变。
危与机永远是并存的，有些公司在疯狂整顿，其他公司则视此为商机，针对互联网儿童保护推出了特定产品：
比如SuperAwesome，它所打造出的技术让广告商们能够给儿童和青少年打广告的同时确保自己的操作符合美国的“儿童网络隐私保护法（COPPA）”和欧洲的“儿童数据保护法（GDPR）”，和针对成年人所使用的广告定位方式不同，SuperAwesome并不依赖第三方的cookies收集用户信息，而是通过分析网站的内容来选择匹配合适的广告，这一技术每月能触及超3亿16岁以下的青少年，目前收获了300家包括Mattel、Disney、Hasbro和乐高等以儿童为主要受众的公司成为客户。
图片来源：Venture beat
SuperAwesome的产品还包括PopJam，专为13岁以下的儿童打造的符合COPPA和GDPR法规的社交内容平台，儿童用户可以跟他们最爱的网红和品牌互动，无需担忧隐私和安全问题，内容创造者则可以通过头脑风暴、投票、解谜等方式吸引用户注意。
图片来源：supersome
它还专门为7-12岁受众打造了一个视频平台Rukkaz，YouTube此前在被罚款后宣布不再会对儿童用户进行视频中的广告推送，SuperAwesome想要成为这些面向儿童的内容创造者的“新家”，因为它的社群保证安全性，对用户的盈利也符合COPPA的法规。
图片来源：Google play store
还有Kids Web Services （KWS）这一家长身份验证和授权系统，允许开发者在授予儿童用户收集个人信息的功能时自动验证父母的身份，一经验证就会加入ParentGraph这一网络，之后无需再次验证，大大增加了用户参与游戏的流畅度。
SuperAwesome至今已经完成了5800万美元融资，最近一轮是去年1月由微软的投资基金M12领投的1700万美元融资，考虑到微软旗下有非常受儿童欢迎的游戏Minecraft和游戏直播软件Mixer，这一步意义深重。
在去年9月，游戏开发商Epic Games收购了SuperAwesome，主要看中的就是KWS这一技术，因为它不但对儿童进行了保护来帮助Epic Games守法，而且减少了数据处理的繁琐，家长一经认证，未来Epic Games想让儿童用户玩任何游戏和开启新功能都将是一个更加无缝的体验。
而今年9月， Epic Games更是选择将KWS这一家长身份验证技术对所有开发者开放，帮助打造一个更加安全的游戏世界。
图片来源：Protocol
作为元宇宙（metaverse）的死忠粉，Epic Games的CEO Tim Sweeney也将这一布局与元宇宙相连，他认为元宇宙能够为我们提供多种体验，这些体验并不会由一个公司单独提供，作为游戏开发者既要保证所打造的体验具有交互性，更要保证在用户安全性上不能马虎，在前期在用户安全上下功夫将在未来具有深远的意义。
01、高效除互联网“恶霸”！除了信息被收集，年轻用户在互联网体验中遇到的最大问题莫过于霸凌和骚扰了，数据显示全美有40%的12-17岁的用户在网络世界中遭遇过霸凌，74%的玩家在游戏中都曾遇到过不同程度的骚扰。
目前多数平台现有的机制并不有效，往往将希望寄予在家长监管身上，但家长有的时候并不知道年轻人在使用什么平台和如何使用，更别说防患于未然了，我们需要更加批量化和智能的解决方案。
曾经上过以色列版“Shark Tank”的连续创业者Zohar Levkovitz所创立的L1ght就提供了一个不同的解决思路，让监管从游戏和社交等平台开始。通过使用人工智能和深度学习技术，L1ght能够分析文字、图片、视频、语音等资料来判断这是否是一个需要举报的情况，Minecraft等游戏平台和WhatsApp等聊天软件都可以通过API接入使用L1ght的技术来大批量快速“消灭”平台上的“坏蛋”。
类似的筛查技术通常使用字典式匹配，但L1ght则是分析语境和用户的历史聊天记录，准确度更高，它可以精准辨别一段对话是两个成年人在火热调情还是成年人在恶意骚扰未成年人，还可以分别出一段包含打斗词语的对话是两个人在玩游戏还是一方在暴力辱骂另一方。
图片来源：Venture beat
这一技术刚面世3个月，L1ght就成功的移除了WhatsApp上公开群组中超13万个恋童癖，它还成功说服Google和Facebook清除了在它们的平台上打广告的带有儿童色情等可疑内容的软件，Bing也在它的建议下将未成年人色情内容从搜索结果中彻底清除。
L1ght在去年2月完成了由Mangrove Capital Partners和Tribeca Venture Partners领投的1500万美元种子轮融资，这笔资金将用于扩大R&D方面的努力，不断提升高效检测网络上“危险发言”的能力并和更多互联网公司达成合作关系。
瑞士的初创公司Privately也在使用AI做类似的事情，它第一款面向消费者的产品叫做Oyoty，可以与Facebook和Instagram等软件相连，实时分析危险性帖子和对话并及时干预，比如用户想要发裸露照片或分享地址等个人信息时，系统会提示他们再考虑一下要不要这样做。
图片来源：Techcrunch
这两年随着互联网巨头连续在青少年网络安全方面栽跟头，Privately也将注意力转移到发展B2B方面的技术，它的软件可以插入任何app，干预网络暴力和隐私侵犯方面的危险行为。
比如Privately就和BBC合作推出了一款叫做Own It的app，它的键盘自带机器学习技术，能够记录和分析年轻用户的文字和图片背后的情绪，当用户的行为出现异常或带有风险，系统就会自动跳出建议和支持方面的内容及时悬崖勒马，比如用户如果在搜索“我有自杀的念头…”那么系统就会建议“你想和别人聊聊这一想法吗？”并且还会显示可以帮助的热线电话号码。
图片来源：Venture beat
02、虎爸虎妈最爱神器网络世界充满了危险，光靠儿童和青少年用户自己识别和防范当然不足够，对家长来说，知道自己的孩子每天在手机上干什么、在网络世界中要面对什么也很重要。近两年，“直升机父母（helicopter parents)”这一词语在美国媒体中越来越流行，它指的正是那些极尽所能保护和监督孩子的家长，他们大多是Z世代孩子的父母，孩子在网络中的玩法越来越复杂和高级，父母也需要数字化的工具助力，不少科技公司所打造出的技术和产品正中下怀：
由宾夕法尼亚大学毕业生Ron Kerbs创立的Kidas也是使用AI技术分析用户在游戏中的语音和文字沟通，每当有霸凌、骚扰、仇恨言论等恶性行为发生的时候迅速给家长提醒，像是把电话号给陌生人之类的行为也会被告知家长，Kidas起初主要是针对Xbox等游戏主机，但在今年应用户需求将重点转移到了PC游戏上，这样一来非常受欢迎的Fortnite和RoBlox等游戏也可以插入Kidas的技术，还有游戏沟通平台Discord也一样可以用！
Kidas在今年11月刚完成了由New York Venture Partners领投的200万美元种子轮融资，未来的目标是让这一技术可以插入任何游戏，比如iPad游戏、手游和任天堂主机游戏等等…
还有来自弗罗里达的MamaBear为孩子和父母打造出了能够帮助双方都更好关注孩子动态的技术，当这一app在孩子和父母的设备中安装后，孩子拥有的功能是日常通过表情包来告知家长自己的状态怎么样，还有遇到紧急情况时能够向父母发出警报。
而父母所拥有的功能就更多了，不但能够追踪孩子的地理位置，当孩子去不该去的地方时候会收到警报，孩子开车超过驾驶速度时候家长也会收到提醒，还能够监控孩子的Facebook和Instagram等社交媒体。为了节省家长的时间，MamaBear会将父母须知定时总结成新闻流的模式展示在app中，比如孩子在社交媒体上关注了谁，收获了谁成为新的粉丝，还有要发布什么内容等等…
图片来源：Mamabear
来自英国的iKydz更绝了，不仅是监测孩子的动态，而且让父母可以直接“上手”管制，它所开发出的硬件和app技术能够让家长对孩子的电子设备有绝对控制权，不管是在家还是在外，父母都可以随时监测孩子在电子设备上干什么，并可以选择在他们应该写作业的时候关闭社交媒体和视频网站的权限，还能设置雷打不动的玩游戏时长和固定的睡眠作息，也可以对某些成人内容网站设置拒绝访问权限…
iKydz的技术非常硬核，即使孩子们试着偷偷访问不该看的网站app也会知道并告知父母，并且很难在父母不知晓的情况下彻底删除app，想必虎爸虎妈应该非常喜欢这个发明。
图片来源：iKydz
来自芝加哥的Joibit则是发明了小巧轻便的定位设备，让父母精准追踪孩子的位置（有些用户也选择给宠物佩带），它的重量不超过4个小硬币，可以系在鞋带和腰带上或装在口袋里，和传统的GPS追踪设备只能在室外使用和定位粗略不同，Joibit的技术更加精准，在室内也可以使用，家长还可以选择设置地理围栏，一旦孩子进入“违禁区”，系统就会迅速发出警报，在拥挤的商场或博物馆防止孩子走丢非常有效，Joibit在今年4月被家庭追踪技术公司Life360以3700万美元的价格收购。
图片来源：Techcrunch
孩子和家长之间对于电子设备使用自由的“争夺战”并不是一个全新的话题，但随着Z世代们这一“数码通”群体的扩张，加上疫情大大减少了孩子们真人互动的场景，让互联网成为了他们娱乐社交的主阵地，年轻用户在网络上的安全将越来越会被重视。
即使是孩子们自己也渴望更加安全和健康的互联网，根据SuperAwesome的一项调查显示，全美有88%的年轻用户偏爱使用只有儿童和青少年的社交app，8-9岁的用户非常担忧会在网络上看到不合适的内容。
不管是为了让家长还是年轻用户本身放心，互联网巨头纷纷在安全这一领域布局都是值得欣喜的，随着各家都在向元宇宙这一以沉浸和互动为卖点的未来网络世界作出努力，我们更需要保证互联网的安全性，尤其是年轻用户这一涉世未深的群体更需要关注和帮助。
虽然父母追踪和监管技术听起来十分有“黑镜”和“老大哥”的意味，但毕竟互联网世界充满了“怪兽”，虎爸虎妈们时候真的需要“道高一尺魔高一丈”的助攻，想想那些因网络安全不到位而酿成悲剧的令人心痛的新闻，就不再觉得这些公司的产品太过火了，他们或许真的是在造福全人类。
参考资料：
1.Ad tech isn’t dying: children-focused ad platform SuperAwesome raises $17m （Digiday）
2.Epic Games makes children’s privacy services free for developers （The Verge)
3.Pausing “Instagram Kids” and Building Parental Supervision Tools (Instagram)
4.This is Facebook’s internal research on the mental health effects of Instagram (The verge)
5.Google and YouTube Will Pay Record $170 Million for Alleged Violations of Children’s Privacy Law （FTC.gov)
6.TikTok adds educational resources for parents as part of its Family Pairing feature (TechCrunch）
7.L1ght Saves Kids From Online Toxicity, Using Data Science And AI （Forbes）
