SQL ServerC# 用 SqlBulkCopy 类批量复制数据及数据库

不久前庄需要优化导入的问题,由于之前运用的章程是生成 Insert
语词插入数据库,数据量小的时刻还行,但是随着发展数据量渐渐老了,之前的道性能就跟不上了,于是发现了 SqlBulkCopy
这个类似。

动 SqlBulkCopy 类只能为 SQL Server 表写副数据。但是,数据源不限于 SQL
Server;可以行使其他数据源,只要数据只是加载到 DataTable 实例要可采取
IDataReader 实例读取数据。

public class Conn
    {
        private static string StrConn
        {
            get
            {
                return ConfigurationManager.ConnectionStrings["StrConn"].ToString();
                //return ConfigurationManager.AppSettings["StrConn"].ToString();
            }
        }

        public static SqlConnection SqlConn
        {
            get
            {
                return new SqlConnection(StrConn);
            }
        }
    }

      public class SqlHelper
    {

        public DataTable GetDataTable(string sql)
        {
            DataTable dt = new DataTable();
            SqlConnection conn = null;
            SqlDataAdapter sda = null;
            try
            {
                conn = Conn.SqlConn;
                sda = new SqlDataAdapter(sql, conn);
                conn.Open();
                sda.Fill(dt);
            }
            catch (Exception ex)
            {

            }
            finally
            {
                if (conn != null)
                {
                    conn.Close();
                    conn.Dispose();
                }
                if (sda != null)
                {
                    sda.Dispose();
                }
            }
            return dt;
        }

        public DataSet GetDataSet(string sql)
        {
            DataSet ds = new DataSet();
            SqlConnection conn = null;
            SqlDataAdapter sda = null;
            try
            {
                conn = Conn.SqlConn;
                sda = new SqlDataAdapter(sql, conn);
                conn.Open();
                sda.Fill(ds);
            }
            catch (Exception ex)
            {

            }
            finally
            {
                if (conn != null)
                {
                    conn.Close();
                    conn.Dispose();
                }
                if (sda != null)
                {
                    sda.Dispose();
                }
            }
            return ds;
        }


        /// <summary>
        /// 使用事务插入方法
        /// </summary>
        /// <param name="dt">源数据</param>
        /// <param name="tableName">目标表名</param>
        public void InsertO(DataTable dt, string tableName)
        {
            using (SqlConnection conn = Conn.SqlConn)
            {
                using (SqlBulkCopy sqlBuleCopy = new SqlBulkCopy(conn.ConnectionString, SqlBulkCopyOptions.CheckConstraints | SqlBulkCopyOptions.Default | SqlBulkCopyOptions.UseInternalTransaction))
                {
                    try
                    {
                        //设置目标表名,即数据库表名
                        sqlBuleCopy.DestinationTableName = tableName;

                        //设置每一批次的行数,即达到指定的行数就插入一次数据库
                        sqlBuleCopy.BatchSize = 100000;

                        //设置超时之前完成的时间(秒)
                        sqlBuleCopy.BulkCopyTimeout = 3600;
                        for (int i = 0; i < dt.Columns.Count; i++)
                        {
                            //设置源数据列与目标表的列的映射关系,第一个参数为源数据列,第二个参数为目标表列
                            sqlBuleCopy.ColumnMappings.Add(dt.Columns[i].ColumnName, dt.Columns[i].ColumnName);
                        }
                        sqlBuleCopy.WriteToServer(dt);
                    }
                    catch (Exception)
                    {
                    }
                }
            }
        }

        /// <summary>
        /// 未使用事务插入方法
        /// </summary>
        /// <param name="dt">源数据</param>
        /// <param name="tableName">目标表名</param>
        public void InsertT(DataTable dt, string tableName)
        {
            using (SqlConnection conn = Conn.SqlConn)
            {
                using (SqlBulkCopy sqlBuleCopy = new SqlBulkCopy(conn))
                {
                    try
                    {
                        conn.Open();
                        //设置目标表名,即数据库表名
                        sqlBuleCopy.DestinationTableName = tableName;

                        //设置每一批次的行数,即达到指定的行数就插入一次数据库
                        sqlBuleCopy.BatchSize = 100000;

                        //设置超时之前完成的时间(秒)
                        sqlBuleCopy.BulkCopyTimeout = 3600;
                        for (int i = 0; i < dt.Columns.Count; i++)
                        {
                            //设置源数据列与目标表的列的映射关系,第一个参数为源数据列,第二个参数为目标表列
                            sqlBuleCopy.ColumnMappings.Add(dt.Columns[i].ColumnName, dt.Columns[i].ColumnName);
                        }
                        sqlBuleCopy.WriteToServer(dt);
                    }
                    catch (Exception)
                    {
                        conn.Close();
                        conn.Dispose();
                    }
                    finally
                    {
                        conn.Close();
                        conn.Dispose();
                    }
                }
            }
        }
    }

自身的来数据是使用 Excel
导入的数码,导入的章程就是隐瞒了,不是此处的严重性,之后我会专门总结一下
Excel
导入的法。然后查询目标表需插入数据的字段,修改源数据表的配段名和类别,然后调用批量栽的艺术。

protected void btnImport_Click(object sender, EventArgs e)
        {
            try
            {
                //获取导入的数据
                DataSet ds = BI.ExecleDs(savePath, "");
                if (ds != null && ds.Tables.Count > 0)
                {
                    DataTable dt = ds.Tables[0];

                    //查询目标表需要插入的字段
                    string sql = " select U_No,U_Name,U_Pwd,P_Id from UserInfo ";
                    DataTable dt1 = sqlhelper.GetDataTable(sql);

                    if (dt1 != null)
                    {
                        for (int i = 0; i < dt1.Columns.Count; i++)
                        {
                            //修改源数据表的字段类型和字段名称
                            dt.Columns[i].DataType = dt1.Columns[i].DataType;
                            dt.Columns[i].ColumnMapping = dt1.Columns[i].ColumnMapping;
                            dt.Columns[i].ColumnName = dt1.Columns[i].ColumnName;
                        }

                        sqlhelper.InsertO(dt, "UserInfo");
                    }
                }
            }
            catch (Exception ex)
            {

                throw;
            }
        }

上述这种修改数据列的方法,如果遇上数据类型不平等并且 DataTable
有数据的上,会报错,不能够修改有数量的排列的数据类型。(好像是废话,嘿嘿,没有多少及发数据经常莫能够修改数据列,这统统是未曾因此之。)

故就是闹矣脚的计,先实例化一个初的
DataTable,然后复制目标表的架,然后再度把数量保存到新的 DataTable 中。

protected void btnImport_Click(object sender, EventArgs e)
    {
        try
        {
            //获取导入的数据
            DataSet ds = BI.ExecleDs(savePath, "");
            if (ds != null && ds.Tables.Count > 0)
            {
                DataTable dt = ds.Tables[0];

                //查询目标表需要插入的字段
                string sql = " select U_No,U_Name,U_Pwd,P_Id from UserInfo ";
                DataTable dt1 = sqlhelper.GetDataTable(sql);
                DataTable dt2 = new DataTable();

                if (dt1 != null)
                {
                    //复制目标表的架构
                    dt2 = dt1.Clone();

                    for (int i = 0; i < dt1.Rows.Count; i++)
                    {
                        DataRow dr = dt2.NewRow();
                        dr = dt1.Rows[i];
                        dt2.Rows.Add(dr.ItemArray);
                    }

                    sqlhelper.InsertO(dt2, "UserInfo");
                }
            }
        }
        catch (Exception ex)
        {

            throw;
        }
    }

比方来数据表的排列和目标表的排的一一或列名不同等,那就是非得采用
ColumnMaSQL Serverppings.Add() 方法设置映射关系。

参考:

http://www.cnblogs.com/zfanlong1314/archive/2013/02/05/2892998.html

 

相关文章