微信扫一扫,关注公众号

  • 科技行者

  • 算力行者

见证连接与计算的「力量」

首页 云智慧CEO:APM技术难点在于前端数据采集与后端数据分析的结合

云智慧CEO:APM技术难点在于前端数据采集与后端数据分析的结合

2015-04-16 10:57
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-
2015-04-16 10:57 CNET科技资讯网

  应用性能管理(APM)可能对于大多数国内企业来说,还比较陌生。企业用户利用APM可以对自身的关键业务应用进行监测、告警与优化,并不断改善业务可靠性与稳定性,提升核心竞争力。然而在研发出一款成功的APM产品背后,实际上也有较高的技术要求,更需要跨过很多技术难点。云智慧,作为一家专注于APM业务的SaaS服务供应商,从创立伊始就开始不断发挥着自身在技术上的基因优势,而这一点,从活跃在产品一线领导技术团队研发产品的云智慧CEO殷晋身上就能不难看出。为了进一步了解云智慧的技术优势与立足之本,以及国内APM市场形势与前景,InfoQ特意邀请了殷晋接受专访,谈一谈云智慧及APM背后的那些事。

  InfoQ:请您从云智慧研发经验的角度,谈一谈APM现在的技术难点在于哪些方面?

  殷晋:我认为APM的技术难点主要在于两方面。

  第一个方面在于前端数据采集。在各种的语言及其运行环境中采集用户的数据,还需要尽量不影响用户系统本身的性能,这实际上难度是非常大的。各种语言有不同特点,即使是比较单一的Java语言,就有Java6、Java7、Java8等各种不同的版本与运行环境,而PHP则又是另一种模式,而且还要考虑各种运行时容器、数据库等。因此从不同的代码里将用户性能数据提取出来的工作就会变得非常复杂,再加上用户最关心的问题——抓取数据时对系统运行有什么影响?所以算法的优化也会变得非常重要。

  第二方面是后台的大数据分析。现在很多开源的大数据框架,比如Spark、Storm、ElasticSearch、还有Hadoop,都可以做离线的数据分析,无非是效率上的差异。但是如果涉及到实时的数据分析的话就会变得非常困难,尤其是在APM领域,还必须要考虑到用户体验等因素。

  InfoQ:像你刚才说的,APM的技术难点在于前端的数据采集与后端的数据分析上,那么如果把这些都放在云上的话,又会是有什么不一样呢?

  殷晋:如果针对客户单独开发一款软件或是售卖许可证的话,实际产生的业务量都不会很大。但是当我们的监控服务迁移到云端,每天的数据量达到TB级,甚至更多的时候,存储就会成为一个很大问题。这些海量的数据进行存储之后,还要进行处理,并生成实时的分析报告。另外还要把用户的数据无损的存入后端,而当用户规模比较大的时候,采集来自不同用户的数据时如何有序的进行区分整理,这些都是比较严峻的新挑战。

  InfoQ:可否详细的谈一谈,云智慧这边做了什么样的大数据实践?遇到了哪些问题?

  殷晋:云智慧的底层系统实际是在大数据处理平台的基础之上也做了一些个性化的修改。比如存储用到了Hive Database,还有个性化修改后的Elasticsearc,底层用分布式处理这种模式也做了很多水平扩展。在前端采用了Kafka等等以接受不同来源、不同协议的数据,云智慧利用这些不同的技术构建了一套完整的框架。

  当前的瓶颈,主要还是在于实时的大数据处理。云智慧在底层的数据结构、数据存储方面做了很多工作。比如用户可以使用一个叫做SmartView的工具,从不同角度来看数据,也可以自己制定一个规则,然后去用一种近似于SQL的语言来查询实时的数据,并生成实时的分析报表。

  InfoQ:对云服务来说,安全一直是一个固定话题,当然也是用户最关心的问题。那么云智慧在保护用户隐私数据这方面做了什么样的措施呢?

  殷晋:保护用户隐私数据可以为两方面内容,一是数据的独立性,二是数据的安全性。数据独立性,是指用户不能看到其他用户的数据。因为SaaS是多租户模式的,因此云智慧从系统架构设计上做了一些保护措施,比如对用户数据进行了逻辑上的分区,甚至是做物理上的分区。而在数据安全性方面,云智慧同样也做了很多专门的部署,比如针对跨站脚本攻击,或者是一些SQL注入攻击,都采取了相应的防护措施,防止用户数据泄露。另外,云智慧还会定期测试自身系统的安全性,不断对系统漏洞或设计缺陷进行完善。

  InfoQ:您认为今年国内的APM市场会有新的变化吗?或者说有新的增长点出现?

  殷晋:今年无论是对于云智慧还是其他APM同行来说都将是非常好的一年。首先要提的就是云计算发展的推动作用。云智慧一直在做SaaS,从用户量的增长,以及收入的各方面增长,都能明显感觉到用户对于SaaS的接受程度正变得越来越高。其次,国内企业现在所有的业务都在强调互联网+的概念,因此要想把业务都搬到互联网上的话,就必须要依托强大的IT系统,这时整个IT系统对于企业业务重要性就会提高,由此一来很多企业客户就能非常清醒的认识到,APM能够让企业的业务运行的更好,从而开始接受APM产品。

  InfoQ:前一段时间好像有新闻报道出来国外老牌厂商Compuware正在把APM业务撤出中国,你觉得这对整个国内APM市场有什么意义?

  殷晋:实际上我认为,Compuware并没有退出中国,也不会退出中国,只是可能正处在一个比较艰难的转型期,在对自身的业务进行调整,同时这也证明了APM对于企业用户的重要性。而对于国内的APM厂商来说,在短期内肯定会出现更多的机会去抢占市场份额或是争取到更多的用户,特别是目前国内APM市场正处于一个上升期。另一方面,国内厂商也将有机会吸引来一些比较高端的技术人才。

  但是从长远的角度来看,Compuware的转型对于国内市场来说也不完全是一件好事。许多国内企业在IT方面都依赖于IOE或是其他国外的厂商,如果未来一段时间内国产化进程仍然没有取得较大的进展的话,等到Compuware完成转型,以更加强大的实力卷土重来的话,那么国内的APM厂商势必将面临更加严峻的挑战。

  高危漏洞频发,隐私泄露,普通开发者该如何避免和防范;开发者如何从逻辑上避免风险?在【QCon北京2015】“新时代的安全”专题中,在Pwn2Own 2015上夺冠的Keen Team安全研究员Peter Hlavaty将解读内核安全精髓;阿里巴巴安全专家祝建跃将分享互联网全球最大DDoS攻击防御实战。

分享至
0赞

好文章,需要你的鼓励

推荐文章
----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.- ----..---.-...-/--...-.-......./-...-....-..--../-............-.-