分布式统计,WCF+JSON+实体对象与WebService+DataSet功用大比拼

新近做公司项目,大家要整合全部事情种类的客户数量,各工作系统的数据库有的Oracle,有的是SQLSECRUISERVE奥迪Q3,而且表结构也差距等,怎样结合不一致系统之间的客户数据变成一个令人胃疼的难点!

 

缓解方案:

在结合数据的格局上存在差别,有两种方案:

方案1,将有着系统的客户数据整合到3个数据库中–“中心数据库”,所要的工作第叁有筹划一个“一级客户数据表”,尽或许多的含有种种业务系统的客户数据表的字段,然后再支付一套程序落成种种业务数据库与“中央”数据库直接的多寡导入,更新,同步等;

方案2,不设立“宗旨数据库”,数据从各类业务连串中按需询问,在内存中组成查询出的一些数据为3个内存数据集,数据集的表头依照配置决定,所要求的干活相对复杂,须求在各种业务系统中成本和安顿“客户数据服务”,还要开发2个代理服务来组合数据,好处是方案1的数目更新同步难点不设有了,数据维护量大大减轻。

 

大家采取WCF服务来兑现2号方案,具体来说就是在各个业务连串中付出各自的WCF客户数据服务(以下简称外围服务),再支付3个重组数据的WCF代理服务,在外面服务和代办之间拔取TCP通道进行数据的高速传输,而在客户端和代办服务端,为了让IE那样的客户端可以利用JSON格式的多少,所以大家在代理服务端拔取WCF+JSON+实体类
的法门提供劳动。

 

透过长达半个月的来头测试开发(POC程序),方案2好不简单不负众望达成了,但集团别的同事对这么的“分布式统计”形式格外存疑,因为之前从没有人如此做过,况且集团是以做多少起家的,对“集中式数据管理”的优势深信不疑,必要我们搭建3个测试环境举办自查自纠测试。

 

测试环境:

2号方案测试环境:

有5台服务器,A,B,C,D,E,在每台服务器上边安顿2个WCF客户数据服务程序,每台服务器上面都有二个SQLSERubiconVELacrosse二〇〇九格式的客户数据库,服务程序访问自个儿机器上边的数据库,每一个数据库的客户数量是500万条,5台服务器合计有2500万条客户数据,任意两台服务器之间的客户数据都以不重复的;代理服务程序和客户端程序都在大家的开支机器下面。

各种外围服务程序从友好的数据库中取2万条记下,合计10万条,从第一万页数据(每页2万条)开首取

 

1号方案测试环境:

提供一台服务器Z,它上边仅仅有3个SQLSE酷路泽VE君越二零零六格式的客户数据库,但它有2500万条客户数量,数据都是不另行的;访问数据库的Web服务和客户端程序也在大家的开销机器上边。

Web服务将每一遍从该数据库中取10万条记下,从第2万页数据(每页2万条)开头取

 

测试结果:

2号方案测试景况:

我们监控代理服务调用种种外围服务的数据,下边是VS二〇〇八的测试窗口输出的结果(有个别服务器并未健康运维,故工作的服务器并未5台):

二〇〇八/7/7 16:02:55 服务器192.168.50.25:8119
早已打响完毕职务,距离起首时间(ms):2633.1506
线程 0x1550 已脱离,重临值为 0 (0x0)。
2009/7/7 16:02:56 服务器192.168.50.19:8119
曾经打响做到职责,距离初步时间(ms):3180.1819
线程 0x160c 已脱离,重回值为 0 (0x0)。
二零零六/7/7 16:02:56 服务器192.168.50.15:8119
早就打响做到任务,距离初叶时间(ms):3457.一九七七
线程 0x8c0 已退出,重临值为 0 (0x0)。
二〇〇八/7/7 16:02:59 服务器192.168.50.5:8119
曾经打响完毕职务,距离开首时间(ms):6033.3451
线程 0x14a4 已脱离,重临值为 0 (0x0)。
共计耗时(ms):6041.3456
线程 0x1020 已退出,重临值为 0 (0x0)。

免去执行时间相比长的服务器,评价时间不到4秒(此例实际总耗时6秒左右);

客户端页面输出的总耗时:大约17.6秒;除去代理服务准备数据的时光,代理服务和客户端之间传输数据消耗了大概11秒左右;

 


1号方案测试结果:

笔者们在Web服务器下面监视直接动用ADO.NET查询数据所要的时日,具体代码如下:

 

 [WebMethod]
        public DataSet GetALLUser()
        {
            System.Diagnostics.Stopwatch timer = new System.Diagnostics.Stopwatch();
            timer.Start();
            string sql = ”  select top 100000 * from B_User where UID not in (select top 2000000 UID from [B_User])”;
            DataSet ds = new DataSet();
            SqlDataAdapter ada = new SqlDataAdapter(sql, conn);
            ada.Fill(ds);
            timer.Stop();
            System.Diagnostics.Debug.WriteLine(“WebService 耗时(毫秒):”+timer .Elapsed .TotalMilliseconds);
            return ds;
        }

 

 

执行该程序的时光为:

WebService 耗时(毫秒):3339.8151

 

而全体实施时间(从客户端发起呼吁到成功多少绑定),一共耗时(几乎):12.5秒,约等于Web服务和客户端的数额传输时间大概9.2秒;


汇总相比较结果:

1号方案当先,比2号方案快差不多 5秒!

 

JSON
输给了XML?


 大家看看1号方案和2号方案在多少传递进度的门道:

1号方案:数据库==》Web服务==》客户端;
2号方案:数据库==》外围服务==》代理服务==》客户端;

 

从数额传输路径来说,2号方案明显比1号方案多了1个“代理”环节,自然有人嘀咕那样的方案数据查询会不会晚点,但我们精心分析,2号方案在“分布式数据查询”方面平素不输给1号方案的“集中式数据查询”,大家看看即使1号方案的服务器环境完全一致,代理服务拿多少的时刻大约在3.5秒左右(除去耗时的50.5服务器),而Web服务上边取数据也要3.3秒左右,那二种办法的多少查询效能差别基本上可以忽略,但怎么2号方案的末段结出跟1号方案差距有5秒(排除较慢的50.5服务器,也有2秒)之多吧?方案2不是利用了JSON来传递数据吗?依据一般的知道,JSON格式的数据量比XML格式的数据量要小的,一般也会节约至少15%左右的数据量(未做过密切测试),所以JSON格式的数量应该比XML快,但此处JSON却输给了XML?

 

JSON:不堪 “体系化”/“反连串化”之重!


笔者们的测试环境中,客户端都是ASP.NET后台程序,没有在前台用IE直接采纳Ajax测试,因为HTML表格直接绑定XML格式的数量比较艰辛,所以大家的“客户端”程序是壹个ASP.NET后台程序来分别绑定1号方案的DataSet和2号方案的实体类的,但问题也在此地。

DataSet的数据表示天生就是间接帮衬XML的,所以它在后台系统间传输数据“体系化”/“反体系化”十三分快(在此作者不敢肯定是或不是这么,对.NET底层不是很精晓),而实体类要表示成JSON格式,必须连串化,在前台(那里的客户端),必须对JSON字节流反系列化,再生成实体类,这一进程通过地点的争执统一,我们发现成效是很低的(因为2号方案唯有4台服务器工作,故实际上查询的总和据量比1号方案少了2万条)。上边附上JSON在前台反种类化的代码:

 

 

 /// <summary>
        /// 以GET形式呼吁WCF服务,并将结果处理成钦赐的系列。服务端采纳JSON格式处理请求和再次回到值。
        /// </summary>
        /// <typeparam name=”TResult”>结果类型</typeparam>
        /// <param name=”url”>服务地点,例如请求一个带参数的法子 http://localhost:9162/Service1.svc/GetData?value=10 </param>
        /// <returns>重回 TResult 类型的数目</returns>
        public static TResult GetData<TResult>(string url) where TResult : class
        {
            var request = GetRequest(url, “GET”);
            var stream = request.GetResponse().GetResponseStream();
            DateTime dt = DateTime.Now;
            var serializer = new DataContractJsonSerializer(typeof(TResult));
            var result = (TResult)serializer.ReadObject(stream);
            System.Diagnostics.Debug.WriteLine(“DataContractJsonSerializer use time(ms):” + DateTime.Now.Subtract(dt).TotalMilliseconds);
            return result;
        }

  private static System.Net.WebRequest GetRequest(string url, string method)
        {
            if (url == null || url.Trim().Length == 0)
                throw new ArgumentNullException(“服务地点为空,参数:url”);

            var request = System.Net.WebRequest.Create(url);
            if (method != null && method.Trim().Length > 0)
                request.Method = method;
           
            return request;
        }

 

 

相关文章