深入浅出复合事件处理(CEP)

　　Tail Last COMPLEX EVENT PROCESSING 避免发生 资金损失 察觉威胁 消除隐患 发现老公 可能外遇 支 付 进行系统 动态校验 宝 技 术 部 正确预测 股票涨跌 蔡 学 镛 了解总督系统 独到之处 其实你每天都在做CEP 只是你不知道而已… 这就是人肉CEP 感知 判断 行动 人肉CEP的三个示例 基础事件1：皮肤感觉温度下降 基础事件2：鼻子感觉湿气很重 基础事件3：耳朵听到远方雷声 基础事件4：眼睛看到乌云、闪电 复合事件：即将下雨 因应之道：把衣服收到屋內 因应之道：出门要带伞 基础事件1：看到员工经常有一堆事没做完 基础事件2：看到员工经常上班时偷菜 复合事件:该员工不适任 因应之道:FIRE他 基础事件：老公老说要加班 哪有公司这么常加班的？ 基础事件：我感觉他在外面洗过澡 还说没有，明明就有肥皂味！ 基础事件：衣服上沾粘长头发 我的头发可没这么长！ 基础事件：对我性趣缺缺 我都打扮成兽兽了耶！ 复合事件：老公有外遇 他包二奶 了啦！ 提醒:别急著下毒手,误报警率可能很高 因应之道:雇用「捉猴」侦探跟踪他 看了这么多比喻 应该能体会CEP了吧！ 事件捕获 困 难 度 事件分析 困 难 度 事件因应 困 难 度 其实你每天都能做CEP 只是你不知道而已… 这是一个IT事件爆发的时代 ERP 每个系统Ora都cle会产生大SCM量的事件 RFID CRM Cloud Computing IBM E‐Mail PeopleSoft IM B2B Microsoft Web BAM B2C SAP 但我们一股脑儿把事件全扔了！ 事件盲（Event‐Blind）：对事件视而不见 承认吧！现况就是如此！ 我发誓要改 变现状，开 始重视复合 事件。 简单！参加 总督CEP系统 的监控就行了！ 总督CEP：减少延迟，增加价值 每一段延迟都 潜 会造成业务价 在 值的急遽下降。 的 总督CEP可帮你 业 减少延迟，增 务 加价值！ 价 值 时间 CEP应用领域 商业活动监控 业界 应用 群众智能 网络攻击 犯罪预防 系统动态校验 支付宝使用CEP 对外，防止犯罪 网络诈欺、网络攻击、洗钱防治 对内外：防止资损 银行、商户、用户错帐；内部错帐 对内：业务状况监控 趋势因应、营销决策、风险规避 商业CEP产品 Coral8 难得有微软没做的领域？ 微软即将推出StreamInsight CEP关键技术 CEP 关键字 ? Streaming – 连续不间断 – 实时处理 ? Base – 资料量大 – 数据库 ? Insight – 有用的信息 – 智能 CEP关键过程 格式化 预处理 模式侦测 事件发派 报警 CEP关键模块 3 事件接入 模块 4 预处理 模块 1 EPL 解析器 6 数据模型 模块 5 CEP规则 引擎 2 规则管理 模块 7 事件发派 模块 8 行动模块 CEP辅助工具 规则制作工具 报表输出工具 实时仪表板 EPL解析器 事件接入 模块 预处理 模块 EPL 解析器 数据模型 模块 CEP规则 引擎 规则管理 模块 事件发派 模块 行动模块 EPL（事件处理语言） 理論上： EPL 规则 EPL 解析器 内部 规则 实际上： CEP-EPL EPL 解析器 SQL/LINQ 命令、函数、 Trigger 市面上CEP-EPL大都是扩展自SQL SQL SELECT FROM WHERE GROUP BY HAVING ORDER BY INSERT INTO … CEP CEP-EPL RETAIN MATCHING OUTPUT … 无误报警，但漏网之鱼很多… 有误报警，但无漏网之鱼 有误报警，漏网之鱼很少 无误报警，无漏网之鱼… YA! 预处理模块 事件接入 模块 预处理 模块 EPL 解析器 数据模型 模块 CEP规则 引擎 规则管理 模块 事件发派 模块 行动模块 预处理模块采管线架构设计 字段过滤 字段填入 事件过滤 事件分流 事件合流 好处是…前后随你接 事件分流 字段填入 事件过滤 引擎与数据模型 事件接入 模块 预处理 模块 EPL 解析器 数据模型 模块 CEP规则 引擎 规则管理 模块 事件发派 模块 行动模块 事件流会先被放进数据库表中 输入事件 输出事件 扫描比对 输入事件 输出事件 扫描比对 输入事件 输出事件 把输出当输入 输入事件 输出事件 把输出当输入 输入事件 输出事件 继续扫描 输入事件 输出事件 也可以多个表输入，一个表输出 A B C D E 复合事件的阶级 规则分解成上下游许多片段规则 片段规则 1 片段规则 2 有些CEP允 许事件逆流 而上 片段规则 3 片段规则 4 扫描方式：滑动与跳跃 滑动式 扫描 跳跃式 扫描 扫描区间：定量与定时 定量区间 定时区间 1000个事件 1分钟 Input Output IBM Amit CEP Architecture Input Mgr Input Adapter Input Adapter Definition Mgr Routing Mgr Action Mgr Plug‐in Plug‐in Context and Model Based Rule Engine User Recovery Persistence DB DB DB Output Mgr Listener Listener 孔宣大人 【小品】 哥做的不是后督 是总督 我是 正牌总督 我是孔宣 （支付宝工程师） 升堂 传犯人孔宣 威武 . . . 本府为朝廷任命之 正牌总督，但最近 本府听说你自封为 总督，你可知罪？ 冤枉呀！总督大人。小的是负 责软件开发的，原本要开发一 套后督系统，以进行资损的监 控，但因为此系统功能相当弹 性而强大，可以督的事情不只 资金的部份，所以小的随口将 「后督」改名为「总督」罢了 哦！是这样嘛？那 这套总督系统可以 做那些事呢？ 基本上，BI（商业智能）、 BAM（商业活动监控）、系 统监控、网络攻击侦测、 洗钱预防 … 等任务，大部 分「总督系统」都能做到！ 这么强大？不会只是 宣传噱头吧？ 冤枉呀！大人。 总督系统通过状态机引擎运行监 控规则，只要编写各式各样的总 督规则，就可做各种不同的监控。 而这总督规则就是程序，可以做 任何的事，任何数学计算与逻辑 运算都难不倒它。 这么强大，给本府一 套玩玩。 大人你有所不知，因为小的编程能 力有限，所以系统现在还有很多 BUG，不太稳定。加上人力短缺， 开发进度一直快不起来，估计最快 还要两三季才能完善整个系统。 大胆刁民，藉口这么 多，来人呀！拖出去 斩了！ 后督 EDA 数据库CEP 状态机CEP 总督 Viceroy 支付宝 总督系统 总督采用不同于其他CEP系统的设计 他牌CEP 数据库引擎 支付宝总督 状态机引擎 他牌CEP：笨重、庞大、僵化 1. 他牌CEP无法（或难以） 描述相当复杂的复合事件。 2. 他牌CEP事件格式受到数据库表 schema的限制，无法自由扩展。 3. 他牌CEP需要大量的存储。 总督CEP：轻巧、敏捷、灵活 总督CEP状态机的好处 S3 交易进行中 S2 S4 S5 S6 S1 等待 创建 R1 T1 等待付款 T2 交易 S7 R2 S8 S9 等待送货 T3 事件不放 数据库， 所以格式 不受限制。 状态机相当 灵活，描述 能力很强。 S10 只需记录当 前状态，相 当节省存储。 总督支持两种模式 模式 反模式 CEP系统的三大难题 海量事件，处理压力太大 返乡人口众多， 请耐心等待！ 网络或系统延迟，事件乱序 遵守交通次序， 请勿超车！ 存在误报警的可能 小心误触警铃， 严格求证真相！ CEP的未来令人期待… 2010年的CEP 若干年后…