独家对话 | 月增百万用户背后，内容安全“命门”谁来守护？-诸暨APP开发为你呈现

温馨提示：文末设置了「有奖互动」哦

作为一个成年人，你有没有经历过被家长群支配的恐惧？

前有#爸爸家长会崩溃大哭直言压力大#，后有#压垮成年人只需一个家长群#，家校矛盾话题频上热搜，本是家校沟通桥梁的“家长群”，却在无形间成为了“压力群”。家长群大量的无用信息不仅对家长造成干扰，遗漏老师反馈的重要信息，对老师而言，也大大增加了不必要的工作强度。

如今的家校沟通效率，其实是可以更高的。今天小珊对话的这款家校沟通神器——“班小二”小程序，相信大家在看完之后，都会情不自禁想要介绍给身边每一位家长和老师！

《班小二》：家校共育痛点完全解决方案

故事要从2018年讲起，“跳一跳”的兴起，跳出了一个微信小程序时代。

国内最早的一批家校行业从业者，负责过超5000万用户的家校行业项目，有着丰富产品经验和人脉，自然也不乏敏锐的市场嗅觉，面对着即将到来的小程序蓝海，眼看着目前日益激化的家校矛盾，经历了一段时间的潜心开发后，“班小二”在他们手中应运而生。

开发团队难掩自信地向我们介绍到：“班小二是一款免费、安全、方便、省事的微信小程序，我们将‘微信群+小程序’完美结合，用微信群建立并维护老师与家长之间天然的社交关系，用小程序实现‘班级通知、班级相册、报名接龙、亲子任务、班费收缴’等校园刚需功能服务。”

话音刚落，小珊瞬间get到这款被称作“神器”的小程序，着实不负虚名。

在家校矛盾频发的背景下，我们过多地关注于如何给家长群设立规矩，更有甚者被激怒道：“我就退出家长群怎么了？”，殊不知，达成“家校共育”的共识，再用对的工具去给家校双方减负，才是我们该关心的。

△ 家长群消息混乱

像班小二这样独特的设计，既保留了微信群沟通的便利、及时性，符合家长与老师的使用习惯，又很好地解决了微信群消息刷屏无提醒等痛点。小珊给99分，剩下一分怕它骄傲！

当对话涉及到用户量及推广渠道时，看着班小二“覆盖超800万用户、25万个班级（截止2020年5月）”的数据，以及轻描淡写的一句“我们在获客上是没有花钱的”，小珊就明白了，说不骄傲？简直不可能~

项目启动初期，班小二采用在教师群体较多的互联网平台做内容引流、进学校地推的方式，最大程度地让其在老师和家长群体里自发传播。目前班小二95%以上用户都来自口碑传播，可见这样的成绩并不是通过大量的商业推广，而是真是抓住了用户微信群通知的痛点，通过不断打磨产品满足用户需求，达到了产品的自传播。

班群管理助手  家校沟通神器

班小二在线调研了上万个家长和老师的实际使用场景，量身定制出解决当下家校互动痛点以及实际使用习惯的最佳方案。

打卡任务收集上报：老师发起信息采集接龙或创建打卡，成功避免了群内信息错乱混杂的场面，高效实现管理。

在线布置与批改作业：班小二通过小程序在线支持布置作业，学生家长拍照上传，老师在线批改，还可实现自动批改。

分类消息通知公告：班小二支持三种不同类型的通知：普通通知、重要通知、回执通知，避免因消息刷屏产生遗漏。

小红花奖励体系：班小二有红花排行榜，而且还分周榜、月榜等，可随时按排行榜来表扬优秀的学生。

据班小二开发团队介绍，所有功能都是根据不同年龄段孩子的成长所需去匹配的，相当于在每个班级，都有一个量身定制的班小二。

不仅功能量身定制，服务也要量身定制。班小二拥有健全的客服体系，服务包括数万名老师在内的用户群，及时跟进反馈意见，实现产品迭代。

好的产品除了要能满足用户在特定场景的需求，提供无微不至的服务外，用户隐私、信息传输的安全，健康的、符合主流价值观的内容才是其得以长远发展的重要保障。

在用户信息方面，班小二完全基于微信生态，不需要导入通讯录，不涉及任何用户敏感信息。

在技术架构方面，班小二前端以小程序原生+vue为技术基础，在此基础上封装了一套开发框架，如抽象了用户登录与权限管理，增加了页面缓存策略，引入云函数等机制等等，提升了开发效率，减少了用户响应时间，缓冲了服务端压力。数据校验上，通过珊瑚安全API，从数据源头开始检测，杜绝了敏感信息的产生。后端服务采用k8s托管，服务水平拆分，完全容器化上云。业务数据采用分库分表存储，并大量引入消息列表、redis、mongodb等服务。

△ 技术框架

早期还未接入珊瑚安全API之前，班小二开发团队自建了一个敏感词库，但团队直言：“我们自建的内容安全服务远不够专业，效果不达标，始终面临着一定的风险。”

而正是珊瑚安全的及时出现，让这一风险未能转化为更大的危机。

珊瑚安全+人工机制 为内容安全“排雷”

2020年疫情突然肆虐，老师与家长、学生的沟通更多开始基于线上，班小二作为便捷有效的家校互通平台突然爆红，创下了月增百万用户的成绩。班小二团队在喜悦的同时，也面临着巨大的运维压力，难免顾此失彼。

有次团队在人工巡检时发现一张漏网的违规图片，内容安全无小事，班小二迅速发起全体员工，耗费大量人力在全系统内搜寻，只为找到其他“漏网之鱼”。

“就是那时，珊瑚安全像一根救命稻草，出现在我们视野里”，班小二开发团队说，“内容安全远比我们想象的要复杂，一般企业仅靠自己短时间的积累很难做好，因此我们采用了专业的珊瑚安全API来提高安全系数，它可提供包括文本检测、图片检测、音视频检测等在内的全方位内容安全保障，大幅度降低漏审、错审风险。这只需要很小的代价就能搞定，比我们自己去做要划算得多。”

班小二作为家校沟通产品，本是仅为家长和老师使用的，疫情期间有些学生在家拿到手机并无意上传了一些敏感图片，但彼时已经接入珊瑚安全API的班小二，都能迅速将其识别发现并拦截，大幅降低了人工审核成本，团队开始放心地专注于自身业务拓展。

“珊瑚安全API对我们来说，帮助最大的就是敏感词库”，班小二开发团队不吝夸奖到。珊瑚文本内容安全接口基于10万级大规模敏感词库，结合多种文本对抗方法，并运用了深度学习技术，高效识别高危有害内容。班小二采用的“自建敏感词库+珊瑚安全敏感词库”双重过滤审核方式，无疑是为内容安全拴上了双保险。

而珊瑚安全API的严格程度之高，也令班小二开发团队倍感安心的同时稍有无奈：“接入珊瑚后，‘漏网之鱼’是没有了，更多的是‘错杀之鱼’，用户在使用时偶尔会被提示存在敏感词发不出去。”

但班小二表示，在安全问题上坚持宁可“错杀”也不可放过。人机协作是内容安全闭环的基础，班小二目前采用的“珊瑚安全API+人工机制”双重审核，才是完善的内容安全之道。

安全危机的解除，让班小二能够全心为“节省教师工作每一秒，关爱孩子成长每一天”而努力，小珊也希望未来珊瑚安全API能够助力更多开发者团队做好内容安全防控~