从S3复制数据到使用php的红移

问题描述:

如何将S3文件夹中的CSV文件复制到Redshift并避免重复行? 我已阅读有关复制命令,但没有找到任何有关通过PHP SDK使用它的文档。从S3复制数据到使用php的红移

PHP SDK旨在运行管理任务(与Web控制台相同)。

为了加载数据,只需使用PostgreSQL连接器连接到数据库并运行COPY查询。

避免重复行是另一个问题 - 当前redshift不强制UNIQUE约束,因此源文件中存在的任何行将被添加到目标表中(即使相同的UNIQUE值已经存在)。

文档提供了一些提示如何导入只喜欢新行:

  1. 将数据复制到temp_table;

  2. 只插入新的数据:

INSERT INTO dest_table (
    SELECT * from temp_table 
    WHERE key NOT IN (
    SELECT key FROM dest_table 
) 
)