设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
资源
节点
飞墙
Follow
明白贴
报酬
工算小助手
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
数据库
›
大数据量联表操作
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
没想明白,现在小朋友学新技术起手式是在 B
›
元宝开始撒钱了,大家捡个午饭钱吧
›
小红书怎么找到一个曾经聊过天的账号?
›
讨论关于 nas 的系统选择有没有好的建议
›
2026 年了,前端开发还能学点啥
今日热议主题
无法设置双重认证。你的 Apple ID 目前无法
周末上线一个在线批量生成二维码的网站
[寻求建议] 大文件分享 | BT
谷歌号风控了,深度体验了下 k2.5。还是很
收个 12400F 或 12490F CPU
讨论关于 nas 的系统选择有没有好的建议
OPPO 相册云服务着实把我恶心了一把
跟风 moltbook,写了一个让 AI 相互发布悬
做了一个 AI 涂色页小工具,想听听大家的想
AI 让新手开发者变懒了吗?
显示全部
|
最新评论
37 条回复
·
1333 次点击
21#
lyusantu
小成
2024-7-31 09:04:40
PG 百万数据就卡不应该吧 EXPLAIN 一下看看优化优化
22#
iamzcr
小成
2024-7-31 09:19:13
百万就卡,要不先看看执行计划?
23#
yiyufxst
初学
2024-7-31 09:23:13
我们 PG 大表(千万、亿级)连太慢,现在说把 PG 同步到 Starrocks ,SR 大表关联性能还可以,缺点是他复杂查询性能好,简单查询不如 PG 、MySQL 这种关系型数据库
24#
lpn666
小成
2024-7-31 09:33:54
flink cdc 然后 join ,最后吧结果数据写到 es 。转批处理为流处理,upsert 保证数据一致性。 后台查询 es 大表,保证实时。
25#
yjfkk
小成
2024-7-31 10:25:42
这不是搜索典型应用场景吗?上 ES
26#
oneisall8955
小成
2024-7-31 12:45:25
查询字段溶于一张表,详细表其余表走主键
27#
caronyan
小成
2024-7-31 14:29:05
用 cdc 预联表打宽做个新表,在新表上把联表查询改成单层的查询就行了,这个数据量延迟也就秒级
28#
RandomJoke
小成
2024-7-31 15:27:21
基于关系型数据库 能优化的:
1. 首次 fetch 只查 id ,根据 id 最后获取想要的数据
2. 部分冗余,部分卡顿场景具体分析解决
3. 分表,这个要针对业务场景了,有些情况要就是没法分的
4. 冷数据处理,比如几年前的数据,把它迁移走
5. 建立好索引,优化查询语句
基于 CDC:
1. 做个新的宽表,数据仍旧放在 PG
2. 新宽表放到 ES CH 等地方
29#
wu00
小成
2024-7-31 15:52:33
要是挡不住这个需求的话,赶紧抽数据做宽表吧。
我们的更恶心,相当于要把“订单”、“收货单”、“入库单”、“退货单”等不同类型的单据强行抽象成同一种业务单据供分页查询,并且每个字段可筛选,充分迎合业务人员的需求“一个页面可以把所有事情都干了”。
其实这需求都还好... 最恶心的是产品没想清楚,就潦草设计快速上线,然后三天两头的加字段改字段、改抽象逻辑、刷历史数据,苦的都是开发、测试。
30#
opzpy
小成
2024-7-31 17:03:05
先查询主表 ,然后多线程查询 join 表,内存连接,如果存在 join 表条件就在这个 join 表的查询结果中过滤掉主表的记录
下一页 »
1
2
3
4
/ 4 页
下一页
浏览过的版块
职场话题
iOS
V2EX
Vim
互联网
生活
分享创造
创业组队
分享发现
C++
返回顶部