1,Azure 访问地址

1,国际版

https://portal.azure.com/#homehttps://portal.azure.com/#home2,世纪互联中国版

Microsoft Azure 由世纪互联运营https://portal.azure.cn/2,创建资源组并且所有的后续组件都是再此资源下面创建。

3,创建Data Factory 工具

4,核心组件

1. 管道(Pipeline)

  • 功能:逻辑工作流容器

  • 特点

    • 由多个活动组成

    • 支持参数化

    • 可调度执行

  • 典型使用:定义完整的数据处理流程

2. 活动(Activity)

  • 功能:管道中的单个处理步骤

  • 类型

    • 数据移动(如Copy)

    • 数据转换(如Data Flow)

    • 控制流(如If Condition)

  • 示例:从Blob复制数据到SQL DB

3. 数据集(Dataset)

  • 功能:输入/输出数据的结构定义

  • 特点

    • 指向具体数据存储

    • 定义数据格式

    • 支持分区定义

  • 示例:定义Azure SQL表的结构

4. 链接服务(Linked Service)

  • 功能:连接外部资源的定义

  • 特点

    • 包含连接信息

    • 支持多种认证方式

    • 可重用

  • 示例:连接到Azure SQL Database的服务

5. 集成运行时(Integration Runtime)

  • 功能:执行环境基础设施

  • 类型

    • Azure IR(完全托管)

    • 自托管IR(本地/混合云)

    • Azure-SSIS IR(运行SSIS包)

  • 选择依据:网络环境与性能需求

6. 触发器(Trigger)

  • 功能:管道执行调度机制

  • 类型

    • 计划触发器(定时)

    • 事件触发器(如Blob上传)

    • 手动触发器

  • 示例:每天凌晨1点触发数据加载

5,抽取Demo 

1)创建元数据表以及需要抽取的2个表。

CREATE TABLE [META].[META_SOURCE_OBJECTS]
(
    [SYSTEM_NAME] [nvarchar](100) NULL,--source_system_name  指定系统EBS系统
    [DATABASE_NAME] [nvarchar](100) NULL,--source_DB_NAME  指定数据库APPS DB
    [SCHEMA_NAME] [nvarchar](100) NULL,--Synapse-schema_name  指定架构ODS
    [OBJECT_NAME] [nvarchar](255) NULL,--Synapse-Object_name      指定表名Customer
    [INGEST_PATTERN] [nvarchar](50) NULL,--Full,Increment,Special    指定抽取模式 increment
    [TRIGGER_TIME] [nvarchar](100) NULL,--0100 start-time at 01:00 AM  指定抽取开始时间
    [ACTIVITY_CONFIG] [nvarchar](4000) NULL,--{"field_name":"CREATED_DATE_TIME"} 指定增量字段
    [ENABLED] [bit] NOT NULL,-- enabled_status Y是启动,N是不启动
    [USER_DEFINE_CONFIG] [nvarchar](4000) NULL,--{"target_name":"EKKO"}--用户自定义例如表,或者需要指定抽取的时间 getdate()-30
    [CREATE_TIME] [datetime] NULL  --指定创建时间
)

 DECLARE @DynamicQuery NVARCHAR(MAX);
SELECT @DynamicQuery = STRING_AGG(CONCAT('SELECT ','''', SYSTEM_NAME, ''' AS SYSTEM_NAME, ','''', DATABASE_NAME, ''' AS DATABASE_NAME, ','''', SCHEMA_NAME, ''' AS SCHEMA_NAME, &#

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。
如若转载,请注明出处:http://www.pswp.cn/bicheng/89030.shtml
繁体地址,请注明出处:http://hk.pswp.cn/bicheng/89030.shtml
英文地址,请注明出处:http://en.pswp.cn/bicheng/89030.shtml

如若内容造成侵权/违法违规/事实不符,请联系英文站点网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

django queryset 去重

在Django中,使用QuerySet时,如果你想要对查询结果进行去重(即去除重复的记录),你可以使用几种不同的方法。这里列出了一些常见的方法: 使用distinct() distinct()方法用于返回QuerySet中不重复的唯一对象。…

WIFI MTU含义 ,协商修改的过程案例分析

WIFI MTU含义 ,协商修改的过程案例分析 文章目录 **WIFI MTU含义 ,协商修改的过程案例分析****一、WIFI MTU的含义****二、MTU协商修改的过程案例分析****1. TCP/IP协议中的MTU协商****2. 蓝牙(BLE)中的MTU协商****3. 网络设备配置中的MTU调整****三、协商修改的注意事项**…

记一次Android Studio编译报错:Execution failed for task ‘:app:compileDebugAidl‘

问题背景: android studio导入AIDL文件的时候编译提示: Execution failed for task :app:compileDebugAidl. > A failure occurred while executing com.android.build.gradle.tasks.AidlCompile$AidlCompileRunnable > com.android.ide.common.process.ProcessEx…

selenium跳转到新页面时如何进行定位

在 Selenium 中,当你跳转到新页面(例如通过点击链接、提交表单或 JavaScript 重定向)时,通常会遇到页面加载或窗口切换的问题。为了在新页面上继续进行页面定位操作,你需要确保以下几点:✅ 1. 等待页面加载…

QT——QComboBox组合框控件

QComboBox概述QComboBox是Qt框架中提供的组合框控件,它结合了按钮和下拉列表的功能,允许用户从预定义的选项列表中选择一个或多个项目。基本特性特性描述显示方式显示当前选中项,点击后展开下拉列表编辑能力可设置为可编辑或不可编辑项目类型…

CentOS 安装jenkins笔记

1. 安装 Java。目前一般jdk要求11以上,否则会报错2. 手动添加 Jenkins 仓库先创建一个专门的Jenkins文件夹:mkdir jenkins然后 执行 sudo curl -fsSL https://pkg.jenkins.io/redhat/jenkins.io.key -o /etc/pki/rpm-gpg/jenkins.io.key 然后&#xff0…

C#枚举:从基础到高级的全方位解析

C#枚举:从基础到高级的全方位解析 在 C# 编程中,枚举(Enum)是一种特殊的值类型,用于定义命名的常量集合,它为代码提供了更强的类型安全、可读性和可维护性。从简单的状态标识到复杂的位运算组合&#xff0c…

[spring6: Resource ResourceLoader ResourceEditor]-加载资源

Resource Resource 接口为处理和访问不同类型资源(如文件、URL、输入流等)提供了统一的 API,支持资源的存在性检查、读取、转换等操作。 public interface Resource extends InputStreamSource {boolean exists();default boolean isReadable…

Spring Boot - Spring Boot 集成 MyBatis 分页实现 PageHelper

一、PageHelper 概述 PageHelper 是一个优秀的 MyBatis 分页插件&#xff0c;可以方便地在 Spring Boot 项目中使用 MyBatis 结合 PageHelper 实现分页功能二、PageHelper 引入 1、依赖引入 pom.xml <properties>...<postgresql.verison>42.5.6</postgresql.ver…

jenkins自动化部署前端vue+docker项目

文章目录一、准备工作二、编写dockerfile文件三、新建jenkins任务一、准备工作 默认你的服务器centos已经搭建完成&#xff0c;同时已经安装了jenkins和docker。 接下来去下载开源项目ruoyi并上传到自己的gitee中。 二、编写dockerfile文件 打开项目工程&#xff0c;在rouy…

opencv中contours的使用

一 Contour FindingContours使用 STL-style vector<> 表示&#xff0c;如 vector<cv::Point>, vector<cv::Point2f>。opencv中&#xff0c;使用函数 cv::findContours() 寻找contours&#xff0c; 具体函数定义如下&#xff1a;void cv::findContours(cv::In…

网络安全初级

1、docker并配置代理 &#xff08;1&#xff09;在Ubuntu中安装docker apt-get install docker.io docker-compose &#xff08;2&#xff09;安装完成后&#xff0c;进入/etc/systemd/system/docker.service.d/http-proxy.conf配置文件下进行代理的配置&#xff0c;配置如图…

JetBrains IDE 性能优化指南:idea.vmoptions 核心参数解析与配置建议

文章目录深入解析 JetBrains IDE 的 VM 选项&#xff1a;idea.vmoptions 参数详解一、内存与垃圾回收配置二、诊断与错误处理三、运行时优化参数四、模块系统与反射控制五、特殊参数说明六、配置建议指南深入解析 JetBrains IDE 的 VM 选项&#xff1a;idea.vmoptions 参数详解…

Datawhale AI夏令营 《基于带货视频评论的用户洞察挑战赛》Part .1.

1. 赛题 参赛者需要构建端到端的评论分析系统&#xff0c;完成三大核心任务&#xff1a; 商品识别 输入&#xff1a;视频描述文本(video_desc)和标签(video_tags)输出&#xff1a;精准识别推广商品名称(Xfaiyx Smart Translator/Recorder) 多维情感分析 维度&#xff1a;情感倾…

【博文汇项目全维度测试报告:功能与自动化双轨验证】

&#x1f308;个人主页: Aileen_0v0 &#x1f525;热门专栏: 华为鸿蒙系统学习|计算机网络|数据结构与算法 ​&#x1f4ab;个人格言:“没有罗马,那就自己创造罗马~” 文章目录 项目背景:项目背景与意义&#xff1a;项目概述已实现的主要功能包括&#xff1a;当前系统存在的不足…

Java陷阱之assert关键字详解

Assert.isTrue()方法用于断言条件是否为真&#xff0c;如果条件不满足&#xff08;即为false&#xff09;&#xff0c;则会抛出IllegalArgumentException&#xff0c;并附带预设的错误信息。在示例中&#xff0c;当1.23不小于2.23时&#xff0c;方法抛出了异常&#xff0c;显示…

mysql 散记:innodb引擎和memory引擎对比 sql语句少用函数 事务与长事务

文章目录innodb引擎和memory引擎对比对比sql 语句&#xff1a;尽可能不使用函数条件隐式转换隐式类型转换隐式字符编码转换补充问题事务与长事务ACIDread viewMVCC 一致性视图当前读view 虚拟表长事务的影响与排查影响排查方法预防innodb引擎和memory引擎对比 innodb引擎是索引…

APK安装器(安卓端)一键解除VX限制!轻松安装各种手机应用

VX为了防止恶意软件通过平台传播&#xff0c;保障用户设备安全&#xff0c;会把通过VX发送的 APK 文件自动改成 “apk.1” 格式&#xff0c;这样就能减少恶意软件传播的风险。我平时推荐安卓软件的时候&#xff0c;有朋友反馈说&#xff0c;文件发到VX里就变成 “apk.1” 了&am…

Debian:从GNOME切换到Xfce

最近为20年前的T43重新安装了Debian系统&#xff0c;但使用的gnome桌面太卡了。于是换成轻量级的Xfce系统。 1.安装Xfce sudo apt update sudo apt install xfce4 xfce4-goodies命令中xfce4 是Xfce桌面环境的核心组件&#xff0c;xfce4-goodies 是一些额外的工具和插件&#xf…

徐州服务器租用:BGP线路的特点有哪些?

BGP的中文全称为边界网关协议&#xff0c;是指一种运行在传输控制协议上的自治系统路由协议&#xff0c;主要的功能就是可以实时控制路由的传播&#xff0c;同时能够帮助用户选择更合适的路由线路&#xff0c;保证网络能够稳定的运行&#xff0c;不会轻易出现网络卡顿或故障的状…