用SSIS导入数百万条记录
答
下面是我用来说明在3分钟内从文本文件加载100万行到SQL Server数据库的示例。样本中的包使用SSIS 208 R2创建,并在至强单核CPU 2.5GHz和3.00 GB RAM上执行。
Import records on SSIS after lookup
一个在进口大量行的将成为目标组件的主要瓶颈。目标组件可以更快地插入行,前面的源或转换组件可以更快地处理行。同样,如果碰巧有像排序转换这样的组件,将会有所不同,因为排序转换会在发送到管道之前阻止所有要排序的数据。
发送电子邮件取决于你想要做什么。
如果您需要简单的成功或失败,您可以简单地使用发送邮件任务。其他选项是,您还可以在SQL作业上启用警报通知,以便您可以安排该程序包定期运行。
如果您需要更多信息添加到电子邮件中,则可能需要使用脚本任务来制定邮件正文。创建邮件正文后,您可以从脚本任务中发送邮件或使用发送邮件任务。
希望随着文章@Nikhil S提供的例子应该可以帮助你微调你的包。
答
This SimpleTalk article
讨论如何优化数据流任务
平铺分区数据到被转移成N个数据流。其中N是安装了ssis的服务器上可用的cpu核心数量。 使用ssis缓冲区大小属性来玩我们的设置最适合您的数据类型。
您认为平均每个导入需要多长时间才能获得这么多的数据..也许有30列。 –
以及它依赖于1.目标表是一堆还是不是。 2.您如何设置数据流任务。 etc .. –
30列进入约2个表,每个约有2个连接..他们很简单,如果/然后,没有内部循环.. –