设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
资源
节点
飞墙
Follow
明白贴
报酬
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
数据库
›
大数据量联表操作
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
我的人生好像有点坏掉了,请大家给点建议
›
长话短说 大家觉得花三十万结婚,存款花完
›
域名不用了记得要及时注销备案
›
离线听书 App 上架 Google Play,寻找封闭测
›
重度苹果用户投华做了两面派
今日热议主题
设计前端后端岗位上新~~上海游戏厂
有人想在你公司交社保,怎么操作正规一些
fitness+初体验,有点上瘾,希望能坚持下去
阿里 和 腾讯,谁先倒?
我用 DuckDB 搓了个“本地” Excel As Chat
想买便宜的 macbook,不知道会不会有坑
关于日用 LLM 模型的选择及渠道
我做了一个,可能是全世界第一个真正能用不
你们见过体系员工吗
有没有智能音箱执行指令,播放本地音乐,投
显示全部
|
最新评论
37 条回复
·
1216 次点击
21#
lyusantu
小成
2024-7-31 09:04:40
PG 百万数据就卡不应该吧 EXPLAIN 一下看看优化优化
22#
iamzcr
小成
2024-7-31 09:19:13
百万就卡,要不先看看执行计划?
23#
yiyufxst
初学
2024-7-31 09:23:13
我们 PG 大表(千万、亿级)连太慢,现在说把 PG 同步到 Starrocks ,SR 大表关联性能还可以,缺点是他复杂查询性能好,简单查询不如 PG 、MySQL 这种关系型数据库
24#
lpn666
小成
2024-7-31 09:33:54
flink cdc 然后 join ,最后吧结果数据写到 es 。转批处理为流处理,upsert 保证数据一致性。 后台查询 es 大表,保证实时。
25#
yjfkk
小成
2024-7-31 10:25:42
这不是搜索典型应用场景吗?上 ES
26#
oneisall8955
小成
2024-7-31 12:45:25
查询字段溶于一张表,详细表其余表走主键
27#
caronyan
小成
2024-7-31 14:29:05
用 cdc 预联表打宽做个新表,在新表上把联表查询改成单层的查询就行了,这个数据量延迟也就秒级
28#
RandomJoke
小成
2024-7-31 15:27:21
基于关系型数据库 能优化的:
1. 首次 fetch 只查 id ,根据 id 最后获取想要的数据
2. 部分冗余,部分卡顿场景具体分析解决
3. 分表,这个要针对业务场景了,有些情况要就是没法分的
4. 冷数据处理,比如几年前的数据,把它迁移走
5. 建立好索引,优化查询语句
基于 CDC:
1. 做个新的宽表,数据仍旧放在 PG
2. 新宽表放到 ES CH 等地方
29#
wu00
小成
2024-7-31 15:52:33
要是挡不住这个需求的话,赶紧抽数据做宽表吧。
我们的更恶心,相当于要把“订单”、“收货单”、“入库单”、“退货单”等不同类型的单据强行抽象成同一种业务单据供分页查询,并且每个字段可筛选,充分迎合业务人员的需求“一个页面可以把所有事情都干了”。
其实这需求都还好... 最恶心的是产品没想清楚,就潦草设计快速上线,然后三天两头的加字段改字段、改抽象逻辑、刷历史数据,苦的都是开发、测试。
30#
opzpy
小成
2024-7-31 17:03:05
先查询主表 ,然后多线程查询 join 表,内存连接,如果存在 join 表条件就在这个 join 表的查询结果中过滤掉主表的记录
下一页 »
1
2
3
4
/ 4 页
下一页
浏览过的版块
职场话题
宽带症候群
程序员
生活
硬件
分享发现
加密货币
macOS
OpenAI
返回顶部