📖简体中文 | 📖English
千数平台(qData)是一款一站式开源数据中台,覆盖中台数据集成、基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力。 平台采用高效、灵活、可扩展的架构设计,支持多源数据的统一整合与标准化治理,助力各类业务系统实现数据资产化、服务化与价值释放。通过强大的数据处理能力和低门槛的开发工具,qData 为前台应用提供稳定、安全、高性能的数据支撑,全面赋能数据驱动的智能决策与业务升级。
✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech
✨✨✨演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123
✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请联系客服获取
适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的企业和机构。无论是大型企业、中小企业,还是政府机构,均可通过千数平台(qData)实现数据资产化与价值释放。
场景 | 描述 |
---|---|
数据整合治理 | 任何拥有多种来源数据的企业或机构,如来自不同的业务系统、数据库或外部合作伙伴的数据。 |
提升质量效率 | 在数据分析过程中遇到数据质量不高、处理效率低下问题的企业或机构。 |
打破数据孤岛 | 内部存在多个独立运行的数据系统,导致信息流通不畅的企业或机构。 |
驱动决策创新 | 通过数据分析支持战略决策,并希望通过深入挖掘数据价值来推动产品和服务创新的企业或机构。 |
推动数字转型 | 正在进行或计划进行数字化转型的企业和政府机构,无论其规模大小。 |
优势点 | 描述 |
---|---|
高效数据集成 | 数据集成模块对标 Kettle,兼容性强、使用成本更低。 |
全栈功能,业务闭环 | 覆盖数据全生命周期,构建端到端业务闭环能力。 |
轻量部署,灵活扩展 | 支持单节点部署,轻量高效,按需弹性扩展。 |
高性能处理,小节点大吞吐 | 单节点每分钟处理千万级数据,性能强劲。 |
批流一体,多引擎支持 | 统一平台支持批处理与流处理,兼容多种执行引擎。 |
全类型数据资产管理 | 结构化/非结构化数据统一管理,资产清晰可视。 |
数据质量合规可靠 | 符合国家标准 GB/T 36344,保障数据质量与一致性。 |
开发与生产环境一体化 | 任务配置跨环境复用,开发测试更高效。 |
模块 | 描述 |
---|---|
数据集成(ETL) | 支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标Kettle,以更低的使用成本助力数据流转。 |
数据资产 | 数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。 |
数据服务 | 数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。 |
数据标准 | 数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。 |
数据质量 | 数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。 |
元数据管理 | 元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。 |
标签管理 | 统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。 |
数据开发 | 数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。 |
数据查询 | 数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。 |
系统管理 | 系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。 |
功能名称 | 功能描述 |
---|---|
数据集成(增强) | 支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。 |
作业调度中心 | 实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。 |
数据血缘分析 | 支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。 |
数据图谱管理 | 基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。 |
实时数据开发 | 基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。 |
数据质量管理(增强) | 基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。 |
数据比对管理 | 支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。 |
元数据管理(扩展) | 扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。 |
离线数据开发 | 支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。 |
数据可视化 | 提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。 |
AI 辅助开发与治理 | 引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。 |
💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。
qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,整合常用中间件与数据工具,构建一站式数据中台解决方案。
分类 | 技术 | 描述 |
---|---|---|
后端技术栈 | Spring Boot | 提供快速开发能力 |
Spring Security | 实现用户权限认证与控制 | |
MySQL、PostgreSQL、达梦8、人大金仓 | 持久化存储与配置管理 | |
MyBatis-Plus | 简化数据库操作 | |
Redis | 支持缓存、分布式锁等 | |
RabbitMQ | 实现异步通信与解耦处理 | |
前端技术栈 | Vue 3 | 现代化响应式框架 |
Element UI | 常用 UI 组件支持 | |
Vite | 快速开发与构建工具 | |
第三方依赖 | Hive | 支持数据建模、分区管理及元数据维护 |
Spark | 批流一体,支持 ETL 数据处理 | |
Hive、HBase | 支持海量非结构化与半结构化数据存储 | |
DolphinScheduler | 提供可视化任务编排、依赖管理及调度能力 |
在部署 qData 之前,请确保以下环境和工具已正确安装:
环境 | 项目 | 推荐版本 | 说明 |
---|---|---|---|
后端 | JDK | 1.8 或以上 | 建议使用 OpenJDK 8 或 11 |
Maven | 3.6+ | 项目构建与依赖管理 | |
达梦8 | 8.0 | 关系型数据库(可切至MySQL) | |
Redis | 5.0+ | 缓存与消息功能支持 | |
RabbitMQ | 可选 | 用于任务调度、异步通信等功能 | |
操作系统 | Windows / Linux / Mac | 通用环境均可运行 | |
前端 | Node.js | 16+ | 构建工具依赖 |
npm | 10+ | 包管理器 | |
Vite | 最新版 | 脚手架工具 |
👉 如需在商业场景中使用千知平台,请点击下方按钮查看商用授权详情:
👉 点击下方按钮,查看完整的安装与部署指南:
欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |
![]() |