28人参与 • 2026-01-07 • ar
starrocks(原名 dorisdb,后开源并更名为 starrocks)是一款高性能、实时、mpp(大规模并行处理)架构的现代化分布式 sql 数据库,专为 olap(在线分析处理) 场景设计。它兼容 mysql 协议,支持标准 sql,具备亚秒级查询响应能力,适用于实时报表、即席查询、多维分析、用户画像、日志分析等场景。
starrocks 提供三种数据模型,适应不同业务场景:
| 模型 | 适用场景 | 特点 |
|---|---|---|
| aggregate key(聚合模型) | 预聚合指标(如 sum、count) | 相同 key 的 value 自动聚合(如 sum(clicks)) |
| unique key(唯一主键模型) | 实时更新、主键去重 | 支持 upsert,类似 hudi/iceberg 的主键更新 |
| duplicate key(明细模型) | 日志、事件流等原始明细 | 不聚合,保留所有记录,支持排序键加速查询 |
✅ 推荐:
- 实时数仓 → unique key(支持 cdc 更新)
- 报表聚合 → aggregate key
- 原始日志 → duplicate key
partition by range(date)),用于分区裁剪。-- 示例:按天分区,按 user_id 分桶
create table user_behavior (
event_time datetime,
user_id bigint,
item_id bigint,
behavior varchar(32)
)
engine=olap
duplicate key(event_time, user_id)
partition by range(event_time) (
partition p20241201 values less than ("2024-12-02"),
partition p20241202 values less than ("2024-12-03")
)
distributed by hash(user_id) buckets 10;-- 创建物化视图:按天统计 uv
create materialized view uv_daily_mv
as
select
date(event_time) as dt,
bitmap_union(to_bitmap(user_id)) as uv
from user_behavior
group by date(event_time);starrocks 采用 无共享(shared-nothing) 架构,主要包含两类节点:
+---------------------+
| client (mysql) |
+----------+----------+
|
+-----v-----+
| fe (sql解析, 优化) |
+-----+-----+
|
+-------v--------+ +------------------+
| be1 (tablet a) | <---> | be2 (tablet b) |
+----------------+ +------------------+
| |
+-------v--------+ +------v-----------+
| be3 (副本) | | be4 (副本) |
+----------------+ +------------------+
✅ 优势:
- 无单点瓶颈,横向扩展;
- 计算靠近数据(data locality);
- 自动故障恢复。
create table sales (
sale_date date,
region varchar(32),
product_id int,
amount decimal(10,2),
user_id bigint
)
engine=olap
aggregate key(sale_date, region, product_id)
partition by range(sale_date) (
start ("2024-01-01") end ("2025-01-01") every (interval 1 day)
)
distributed by hash(product_id) buckets 16
properties(
"replication_num" = "3",
"storage_format" = "default"
);curl --location-trusted -u user:passwd \
-h "label:load_20241229" \
-h "column_separator:," \
-t data.csv http://fe_host:8030/api/db/sales/_stream_load
create routine load db.sales_kafka on sales
properties(
"desired_concurrent_number"="3",
"max_batch_interval" = "20"
)
from kafka(
"kafka_broker_list" = "kafka:9092",
"kafka_topic" = "sales_topic",
"property.kafka_default_offsets" = "offset_beginning"
);
load label db.load_hdfs_001
(data infile("hdfs://path/to/data.parquet")
into table sales
format as "parquet")
with broker "my_broker";
-- 多表 join(支持 shuffle/broadcast)
select
u.city,
sum(s.amount) as total
from sales s
join user_dim u on s.user_id = u.id
where s.sale_date >= '2024-12-01'
group by u.city
order by total desc
limit 10;
-- bitmap 精确去重(uv)
select
count(distinct user_id) -- 自动转为 bitmap_union
from user_behavior;-- upsert(通过 stream load 或 routine load) -- 新数据自动覆盖旧主键 -- delete(谨慎使用,仅支持 duplicate/unique 模型) delete from sales where sale_date < '2023-01-01';
| 能力 | starrocks | hive/spark | clickhouse |
|---|---|---|---|
| 查询延迟 | 亚秒级 | 秒~分钟级 | 亚秒级 |
| 实时更新 | ✅(unique key) | ❌ | ❌(replacingmergetree 有限支持) |
| 标准 sql | ✅(完整 join、子查询) | ✅ | ⚠️(join 性能差) |
| 多表关联 | ✅(shuffle + broadcast) | ✅ | ❌ |
| 物化视图 | ✅(自动匹配) | ❌(需手动) | ✅(但难维护) |
| 运维复杂度 | 低(无依赖) | 高(yarn/hdfs) | 中 |
starrocks = 高性能 + 实时性 + 易用性 + 开源免费
它解决了传统 olap “快而不全”(如 clickhouse)或“全而不快”(如 hive)的痛点,是当前国产开源 olap 引擎的标杆。如果你需要:
那么 starrocks 是一个非常值得投入的技术选型。
到此这篇关于starrocks(sr)的基本概念、架构及基本使用介绍的文章就介绍到这了,更多相关starrocks使用内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
您想发表意见!!点此发布评论
版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。
发表评论