搜索
查看
编辑修改
首页
UNITY
NODEJS
PYTHON
AI
GIT
PHP
GO
CEF3
JAVA
HTML
CSS
搜索
weixin_40725706
这个屌丝很懒,什么也没留下!
关注作者
热门标签
jquery
HTML
CSS
PHP
ASP
PYTHON
GO
AI
C
C++
C#
PHOTOSHOP
UNITY
iOS
android
vue
xml
爬虫
SEO
LINUX
WINDOWS
JAVA
MFC
CEF3
CAD
NODEJS
GIT
Pyppeteer
article
热门文章
1
Linux上运行MySQL出现“ERROR 2002 (HY000): Can't connect to
2
02、MongoDB -- MongoDB 的安全配置(创建用户、设置用户权限、启动安全控制、操作数据库命令演示、mongodb 的帮助系统介绍)_mongodb 创建用户
3
华为OD机试2024年最新题库(Python、JAVA、C++合集)_华为od机试题库_od题库
4
简述ECC加密算法
5
MTK平台Android13实现三方launcher为默认_android13 系统默认launcher
6
年终前端安全防护规范总结
7
微信小程序slot插槽的使用
8
Python解压7z压缩文件
9
QT窗体间传值总结之Signal与Slot_qt 两个窗体 slot signal
10
第三方库介绍——cJSON库_c语言json库
当前位置:
article
> 正文
DataStage 使用心得_datastage 计算数据条数
作者:weixin_40725706 | 2024-06-25 08:40:11
赞
踩
datastage 计算数据条数
DataStage 使用心得
最近一个月开始使用datastage,遇到很多问题,在这里和大家分享一下。
一. datastage支持很多数据库的直接抽取,也可以对普通文本文件,XML文件进行抽取和转换。
实际使用中发现用的多是文本文件,并不推荐直接重数据库读取数据进行抽取和转换。个人感觉如果直接从数据库抽取和转换数据
会影响datastage的执行速度。如果使用文本文件,可以减轻数据库服务器的压力,直接使用datastage server和datastage client
的资源,因为一个datastage server可以扩充多个datastage client,datastage server根据每个client的运行情况调度作业运行,
相对于以前把数据的抽取转换放在数据库服务器上速度要会,特别是在数据量很大的时候。
二.datastage实现了数据抽取和转换的可视化,简单的说就是傻瓜式的使用数据库。但是datastage只能实现数据的轻度整合,很难
实现复杂的数据抽取和转换。比如在用Aggregation stage时我即计算和又要计算条数,在Aggregation stage里要么算和,要么计算
条数,不能同时计算。解决方法是在聚合前多加一个字段cont_sign,默认值1,在算条数时sum该字段即可。
三.数据抽取完成后不能增量装入数据库。datastage对装入有索引的表的策略是先删除表的索引,装入数据重建索引。当增量装入数据
时无法成功重建唯一索引。
四.在datastage中好像不支持存储过程和函数,要用shell封装后调度执行。
五.我个人觉得datastage调试很麻烦,报错信息不清楚,特别是在stage较多的时候。非常浪费时间。
以上是我在使用datastage时遇到的问题,如有问题感谢大家指正。
关于datastage在调试时的报错信息不知各位网友是否有相关资料可以提供?
还有如何在datastage中使用存储过程和函数,除了用shell封装以外,还有什么好方法吗?怎么实现?
datagestage有个API接口的文档在那里可以找到??
声明:
本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:
https://www.wpsshop.cn/w/weixin_40725706/article/detail/755674
推荐阅读
article
数据
资产
赋能
智能
决策
:
通过
深度挖掘
数据
资产
价值
,
构建全面
智能
决策
支持系统
,
精准
分析
,
辅助
决策
,
显著提...
具体来说
,
企业
可以利用系统提供的
数据
可视化工具
,
将复杂的
数据
信息以直观、易懂的方式呈现出来
,
帮助
企业
管理者快速了解
企业
运...
赞
踩
article
OSPF
协议
及其原理_
ospf
路由
协议
是一种典型
的
链路
转态(
link
-
state
)
的
路由
协议
,一般用...
本论文分析了Internet 上
路由
协议
使用
的
现状,随着网络
的
不断扩大,
OSPF
在网络中
的
应用也越来越多。因此研究OSP...
赞
踩
article
【AT-START-F423测评】 +
AT32
_
Work
_
Bench
配置点亮
LED
_
at32
wo...
生成的工程没有Delay_ms和Delay_us函数,需要延时则需要加入BSP包里的
at32
f423_board.c和a...
赞
踩
article
日志
分析
系列之
平台
实现_
wauzh
...
本系列故事纯属虚构,如有雷同实属巧合
平台
实现前的说明小B在给老板汇报了"统一
日志
分析
平台
"项目后,老板拍板立即开始做,争...
赞
踩
article
buuctf
[
Tomcat
]CVE-20
1
7-
1
26
1
5_
buuctf
[
tomcat
]
cve
-2...
漏洞简介当
Tomcat
运行在 Windows 主机上,且启用了 HTTP PUT 请求方法(例如,将 readonl...
赞
踩
article
VS2022
关于“
error
C4996
: ‘
fopen
‘:
This
function
or va...
点击项目,找到*(您的项目名)属性并点击,找到C/C++下的预处理器,在预处理器这里,点击后面的向下小箭头,点击<编辑>...
赞
踩
article
Django
REST
framework
数据展示技巧:
分页
、
过滤
与搜索的实用配置与实践...
在本篇博客中,我们将详细解析
Django
REST
framework
中
分页
、
过滤
和搜索的定义、功能以及使用方法。我们不...
赞
踩
article
python
嵌入式
打包即
embed
版
安装
使用_
python
embed
...
python
嵌入式
打包即
embed
版
安装
使用_
python
embed
python
embed
...
赞
踩
article
OSPF
的
邻居
和
邻接
的区别_
ospf
邻居
和
邻接
的区别...
OSPF
的
邻居
和
邻接
的区别
邻居
(Neighbor)和
邻接
(Adjacency)运行
OSPF
的路由器之间需要交换链路状态信...
赞
踩
article
超
GPT
-4o,代码
能力
超强!
Claude
3.5
Sonnet
正式发布_一句话
生成
网页,让
前端开发
...
虽然
Claude
3.5
的性能很强但成本却与上一代的
Claude
3
Sonnet
差不多,每100万Tokens输入为3...
赞
踩
article
地图
可视化
数据处理
技术
在
银行
领域的应用_
银行
需要
地图
吗...
大数据时期,商业
银行
金融企业竞相开始寻找新的发展之路,怎样合理运用大数据变成一个热点话题。
在
其中,大数据
可视化
是一项关键...
赞
踩
article
实验
4
《
算符
优先
分析法
设计与
实现
》(
java
版)_实验
4
《
算符
优先
分析法
设计与
实现
》(
java
版)...
本关任务:加深对语法分析器工作过程的理解;加强对
算符
优先
分析法
实现
语法分析程序的掌握;能够采用一种编程语言
实现
简单的语法...
赞
踩
article
web
安全
day43
:
网络
扫描
和
Nmap
的使用...
目录
扫描
技术资产发现主机发现端口
扫描
Nmap
的使用
Nmap
语法选项简单
扫描
全面
扫描
/综合
扫描
扫描
指定段ping
扫描
无pi...
赞
踩
article
mac
利用套件
管理工具
homebrew
正确地同时
安装
python2.7
和
python3
...
MAC OSX 正確地同時安裝 PYTHON 2.7 和 PYTHON3Python3 出來了(其實已經出來很久了,暈)...
赞
踩
article
2024最新
Jenkins
+
Docker
实战教程(七)-
Jenkins
实现
远程
传输和自动
部署
...
在之前的章节中,博主带着大家都是基于一台
Jenkins
服务器多个容器的形式
实现
的自动构建
部署
,当然这个也已经满足了大多数...
赞
踩
article
Java
基础
知识
自学
指南(
一
)
Java
快速入门_
java
自学
需要
哪些
基础
...
本篇博客是精简后,用于自我学习记录的,是博主自己抓的重点,遗忘点,和易错点,可能并不适用于
基础
者(博主先学了C++/C、...
赞
踩
article
实验3:
算符
优先
分析
法_c++实验 3
:
算符
优先
分析
表
的
构造
前提
:
给定教材 p90 例 5.4
的
...
本次实验要求根据
算符
优先
关系表编制一个
算符
优先
分析
程序,以便对任意输入
的
符号串进行
分析
。”一列中如果是规约则写明规约串;...
赞
踩
article
内存
碎片
产生
原因及
解决办法
_
内存
碎片
产生
原因及减少方法...
内存
碎片
产生
原因及
解决办法
_
内存
碎片
产生
原因及减少方法
内存
碎片
产生
原因及减少方法 来源...
赞
踩
article
【
漏洞
学习——
任意
文件
上传
】
LAMP
兄弟连旗下猿代码存在
任意
上传
文件
漏洞
_
lamp
漏洞
...
漏洞
细节输入网址:http://www.ydma.cn/ 1、随意注册一个账号2、购买
任意
免费课程3、进入该课程的讨论区...
赞
踩
article
先定
产权
还是
先定
价格,
数据
交易
场景
下的
市场
设计
问题
,合作博弈中“沙普利值”...
目录
先定
产权
还是
先定
价格
数据
交易
场景
下的
市场
设计
问题
价格是什么呢?
交易
中的关键信息那么
市场
交易
机制应该如何设计呢?这需要...
赞
踩
相关标签
大数据
人工智能
数据资产
数据资产入表
数据资产管理
数据资产化
数据资产解决方案
网络
信息与通信
android
嵌入式硬件
单片机
elasticsearch
数据分析
syslog
nginx
visualstudio
django
python
分页
过滤
搜索
DRF
开发语言