Skip to content

千数平台(qData) 是一款一站式开源数据中台,覆盖中台基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力,致力于高效赋能数据前台,为各类业务系统提供统一、高效、安全的数据支撑服务。

License

Notifications You must be signed in to change notification settings

qiantongtech/qData

Repository files navigation

banner.png

JDK Downloads Downloads

📖简体中文 | 📖English

🌈平台简介

千数平台(qData)是一款一站式开源数据中台,覆盖中台数据集成、基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力。 平台采用高效、灵活、可扩展的架构设计,支持多源数据的统一整合与标准化治理,助力各类业务系统实现数据资产化、服务化与价值释放。通过强大的数据处理能力和低门槛的开发工具,qData 为前台应用提供稳定、安全、高性能的数据支撑,全面赋能数据驱动的智能决策与业务升级。

✨✨✨在线文档✨✨✨ https://qdata.qiantong.tech

✨✨✨演示地址✨✨✨ https://qdata-demo.qiantong.tech ,账号:qData 密码:qData123

✨✨✨商业版演示地址✨✨✨ https://qdata-pro.qiantong.tech ,演示账号请联系客服获取

🍱 使用场景

适用于希望通过整合、治理和分析多源数据,打破孤岛、提升质量与效率,实现数据驱动与业务创新的企业和机构。无论是大型企业、中小企业,还是政府机构,均可通过千数平台(qData)实现数据资产化与价值释放。

场景 描述
数据整合治理 任何拥有多种来源数据的企业或机构,如来自不同的业务系统、数据库或外部合作伙伴的数据。
提升质量效率 在数据分析过程中遇到数据质量不高、处理效率低下问题的企业或机构。
打破数据孤岛 内部存在多个独立运行的数据系统,导致信息流通不畅的企业或机构。
驱动决策创新 通过数据分析支持战略决策,并希望通过深入挖掘数据价值来推动产品和服务创新的企业或机构。
推动数字转型 正在进行或计划进行数字化转型的企业和政府机构,无论其规模大小。

💡 优势

优势点 描述
高效数据集成 数据集成模块对标 Kettle,兼容性强、使用成本更低。
全栈功能,业务闭环 覆盖数据全生命周期,构建端到端业务闭环能力。
轻量部署,灵活扩展 支持单节点部署,轻量高效,按需弹性扩展。
高性能处理,小节点大吞吐 单节点每分钟处理千万级数据,性能强劲。
批流一体,多引擎支持 统一平台支持批处理与流处理,兼容多种执行引擎。
全类型数据资产管理 结构化/非结构化数据统一管理,资产清晰可视。
数据质量合规可靠 符合国家标准 GB/T 36344,保障数据质量与一致性。
开发与生产环境一体化 任务配置跨环境复用,开发测试更高效。

✅ 已有功能一览

模块 描述
数据集成(ETL) 支持数据库、文件、消息队列等多种数据源的无缝接入,提供直观的ETL设计界面、多任务调度与实时监控,并内置丰富的数据清洗规则。对标Kettle,以更低的使用成本助力数据流转。
数据资产 数据资产管理通过目录结构对数据资产进行精细化分级分类,覆盖从创建到销毁的全生命周期管理,确保每一份数据都得到妥善处理,提升资产可见可控性。
数据服务 数据服务管理模块负责将数据资产封装为API服务,支持外部API接口转发,并包含全面的日志管理、数据脱敏、数据接口和服务接口管理及其调用日志监控,实现数据服务能力标准化与可管可控。
数据标准 数据标准管理涉及逻辑模型(表级关联数据元)和数据元模型(字段级绑定规范、稽查与清洗),为结构化数据制定统一标准,并确保其质量达到企业级要求。
数据质量 数据质量管理利用预置的稽查规则和数据清洗规则,对数据的准确性、一致性、完整性进行自动化校验与修正,确保数据始终处于最佳状态,满足高质量治理需求。
元数据管理 元数据管理模块集中管理数据表、字段、稽查、清洗指标等元信息,构建统一的数据资产目录,为用户提供便捷的数据查找途径,支持深入的数据血缘分析和结构维护。
标签管理 统一标签管理支持自动生成多维度标签,并提供强大的筛选能力,使数据分类与精准检索变得轻而易举,提升数据使用效率与业务响应速度。
数据开发 数据开发模块支持达梦8、MySQL、Oracle、人大金仓等主流数据库的任务开发,结合SQL及大数据脚本,根据业务需求灵活加工和处理数据,支撑复杂业务场景下的数据建模与计算。
数据查询 数据查询模块提供灵活且高效的交互式查询工具,让用户能够迅速分析和挖掘结构化数据中的深层价值,提升数据探索与决策辅助能力。
系统管理 系统管理涵盖系统配置、用户与权限管理、运行监控、日志管理和服务器资源监控等核心功能,同时提供工作空间管理,实现任务在不同项目组间的高效拆分与协作,适应前店后厂式组织流程。

🚧 未来开发计划

功能名称 功能描述
数据集成(增强) 支持异构数据源、文件、接口及网络爬虫的统一采集与同步,扩展数据转换类型与接入方式,提升多源异构数据整合能力,满足企业多样化数据集成需求。
作业调度中心 实现任务编排、依赖管理、定时执行、失败重试、日志追踪等核心调度能力,全面提升任务执行的自动化水平与流程可控性。适用于复杂任务流的统一调度与集中管理。
数据血缘分析 支持字段级血缘追踪与图谱化展示,全面梳理数据流转路径与依赖关系,帮助用户清晰理解数据来源与流向,提升数据可追溯性与治理精准度。
数据图谱管理 基于数据仓库构建业务实体、事实表与维度表之间的图谱关系,支持多层级模型梳理与可视化展示,增强对数据逻辑结构与业务依赖的理解与管理能力。
实时数据开发 基于 Flink、Kafka 等流处理引擎构建实时任务开发能力,支持低延迟数据处理与动态指标计算,适用于实时监控、预警推送与事件驱动型业务场景。
数据质量管理(增强) 基于规则引擎实现数据质量检测机制,支持质量报告生成与指标统计分析,自动识别数据准确性、完整性、一致性问题,助力企业构建高质量数据治理体系。
数据比对管理 支持数据库连接配置与任务调度,自动执行结构与内容比对任务,生成比对日志,有效验证跨源数据一致性,提升数据校验效率与问题排查能力。
元数据管理(扩展) 扩展字段级元数据、数据地图、SQL 控制台与变更记录等能力,逐步构建数据血缘分析、影响分析与结构可视化体系,提升数据资产可维护性与治理透明度。
离线数据开发 支持基于 Spark、Hive、SQL 等任务类型的离线数据处理,适用于大规模数据的周期性加工与分析,提供统一的作业管理入口与执行调度机制,提升批量处理效率与稳定性。
数据可视化 提供 BI 报表、数据看板、大屏展示等多种可视化能力,支持拖拽式配置、权限控制与图表联动,助力业务人员快速洞察数据价值。
AI 辅助开发与治理 引入 AI 技术,支持离线与实时数据开发中的 SQL 智能补全、自动优化、异常检测与调试辅助,显著提升开发效率、代码质量与问题响应能力。

💡 如您有好的建议或功能需求,欢迎 提交Issue,与我们共同完善数据中台功能。

🛠️ 技术栈

qData 平台采用前后端分离架构,后端基于 Spring Boot,前端基于 Vue 3,整合常用中间件与数据工具,构建一站式数据中台解决方案。

分类技术描述
后端技术栈Spring Boot提供快速开发能力
Spring Security实现用户权限认证与控制
MySQL、PostgreSQL、达梦8、人大金仓持久化存储与配置管理
MyBatis-Plus简化数据库操作
Redis支持缓存、分布式锁等
RabbitMQ实现异步通信与解耦处理
前端技术栈Vue 3现代化响应式框架
Element UI常用 UI 组件支持
Vite快速开发与构建工具
第三方依赖Hive支持数据建模、分区管理及元数据维护
Spark批流一体,支持 ETL 数据处理
Hive、HBase支持海量非结构化与半结构化数据存储
DolphinScheduler提供可视化任务编排、依赖管理及调度能力

🏗️ 部署要求

在部署 qData 之前,请确保以下环境和工具已正确安装:

🖥️ 服务端环境要求

环境项目推荐版本说明
后端JDK1.8 或以上建议使用 OpenJDK 8 或 11
Maven3.6+项目构建与依赖管理
达梦88.0关系型数据库(可切至MySQL)
Redis5.0+缓存与消息功能支持
RabbitMQ可选用于任务调度、异步通信等功能
操作系统Windows / Linux / Mac通用环境均可运行
前端Node.js16+构建工具依赖
npm10+包管理器
Vite最新版脚手架工具

🚨 商用授权

👉 如需在商业场景中使用千知平台,请点击下方按钮查看商用授权详情:

💼 了解授权详情

🚀 快速开始

👉 点击下方按钮,查看完整的安装与部署指南:

🧭 查看快速开始文档

👥 QQ交流群

欢迎加入 qData 官方 QQ 交流群,获取最新动态、技术支持与使用交流。

加入QQ群

🖼️ 系统配图

登录页 首页
稽查规则 清洗规则
逻辑模型 数据元
映射 数据连接
数据发现 资产地图
数据集成任务 可视化ETL
数据服务 执行日志
发布服务 日志

About

千数平台(qData) 是一款一站式开源数据中台,覆盖中台基础建设、数据治理、数据开发、监控告警、数据服务与数据可视化等核心能力,致力于高效赋能数据前台,为各类业务系统提供统一、高效、安全的数据支撑服务。

Resources

License

Stars

Watchers

Forks

Packages

No packages published

Contributors 3

  •  
  •  
  •