数据建模无法满足复杂业务需求?别慌,数据开发平台可以完美互补!

前言

数据可视化建模无论是对于企业的数字化转型,还是对数据资源的价值开发来说,都是至关重要的工具,小兵在前文《数据可视化建模平台介绍》。中有详细介绍过他的能力,包括面向多源异构的企业数据,为企业提供数据集成、数据管理、数据分析和价值挖掘等全面能力。数据建模的优势非常明显,低技术门槛、高业务响应效率、提高数据质量、降低开发成本等,但数据建模却也不是万能的,在很多数据中台项目中小兵发现,在面对一些特别复杂或较为少见的业务需求时,数据建模可能会因为受限于固有的算子而无法设计出满足业务需求的模型。

图片

01 问题分析

看到这里有的朋友一定会质疑,数据建模无法百分百满足业务需求,一定是产品设计出了问题!其实不然,这其实与数据建模产品的定位有关,我们来看一下数据建模的定位:

首先,数据建模产品面向的用户群体是“业务专家”,他们熟悉业务但不懂IT技术,需要一套工具帮助他们将丰富的业务积累转变为“数据财富”。

数据建模产品通过可视化拖拉拽的方式来设计模型(无需写代码),降低了数据建模的技术门槛,使我们的“业务专家”用户也可以完成;通过预置丰富的算子提高建模效率,实现了对业务需求的快速响应。

准确来说,数据建模是由“业务专家”来使用,能够高效完成80%以上业务需求响应的一套产品。如果一定要通过数据建模工具来实现这类复杂或少见的业务需求,需要开发人员根据需求,定制开发新的算子,然后对系统版本升级和重新部署后,才能够上线新的算子来满足业务需求,这无疑与数据建模产品低门槛、高效率的定位和特点相矛盾。

图片

02 解决思路

想要解决这个问题其实不难,数据建模实现了通过业务人员就能在极高的效率下响应业务的数据需求,这在小兵看来已经非常的棒了。我们要做的就是再设计一个产品--数据开发平台,定位为给开发人员使用,通过低代码工具实现算子的定制开发和热部署。这样一来,我们可以通过数据建模产品设计模型来满足绝大部分的业务需求,而数据建模无法满足的少数需求,我们通过数据开发平台来定制开发实现,问题就完美的解决啦。

03 什么是数据开发平台?

3.1 数据开发平台定义

数据开发平台面向企业复杂的数据需求,为开发人员提供低代码且高度灵活的算子定制化开发能力,通过算子开发、步骤管理、任务编排、任务调度等功能,可以满足用户所有复杂的数据需求。通过脚本在线编辑和Jar包上传等方式进行算子开发,无需升级系统和重新部署即可快速响应业务需求。

3.2 功能介绍

图片

功能架构图

  • 算子开发中心

    主要能力是对算子进行定制化的开发。包括算子的创建、查询、查看、编辑、删除等管理功能。支持SQL脚本、Python脚本、HTTP(API)和上传jar包等方式创建算子,维护算子基础信息后,通过算子设计器进行算子设计。设计过程中支持算子模版和数据源的快捷查看和选取。

  •  步骤管理

    主要能力是选择开发出来的算子,将其维护成任务中执行的步骤和步骤组。包括步骤的创建、查询、查看、编辑、删除等管理功能。支持选择已有算子进行步骤的创建,维护步骤基础信息,支持对算子配置的参数进行修改。可以选择多个步骤维护成步骤组,步骤组中的所有步骤在任务执行时会同时执行。

  • 任务编排中心

    主要能力是依据业务需求选择对应的步骤和步骤组进行组合并排序(执行顺序),形成可以满足业务需求的任务。包括任务的创建、查询、查看、编辑、删除、执行等管理功能。支持可视化拖拉拽的方式进行任务设计,可以将维护好的步骤和步骤组拖拽至设计区域,并对步骤和步骤组进行顺序编排。

  • 调度中心

    主要能力是对任务进行调度和监控。包括调度管理、任务执行、日志管理等功能。

3.3 业务流程图

图片

(1)根据业务需求创建对应的步骤,创建步骤时需选择适合的算子并修改算子的参数。若没有适合的算子,可以先开发出算子后再选择。

(2)将需要同时执行的步骤选出,维护成步骤组。

(3)创建任务,选择任务需要的步骤和步骤组,拖拽至设计区形成步骤节点和步骤组节点。

(4)通过拖拽方式对节点进行排序,完成后任务将按照节点顺序依次执行。

(5)通过调度中心对任务进行执行和监控

3.4 优势亮点

  • 低代码:仅需编写简单的脚本,其他数据开发、设计过程均通过可视化方式实现

  • 不受限:算子可定制开发,灵活且不受限制,可以满足各种复杂的数据需求

  • 高效率:系统提供各类可复用模版和组件,提高数据开发工作效率

  • 热部署:通过在线编辑脚本和Jar包上传等方式就可完成数据开发,无需系统升级和重新部署上线,提高需求响应速度

04 总结

无论是数据建模平台产品还是数据开发平台产品,都有着非常清晰的定位和适用的场景:

数据建模面向业务专家,提供全流程可视化的低技术门槛数据建模的能力,可以满足80%以上的数据需求;

数据开发面向开发人员,提供灵活、高效的算子定制化开发能力,可以满足各种复杂的数据需求。

两种产品配合使用,简直天衣无缝,完美解决用户所有的数据需求。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/145751.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

PCL 读取txt格式点云并可视化

目录 一、概述 1.1原理 1.2实现步骤 1.3应用场景 二、代码实现 2.1关键函数 2.2完整代码 三、实现效果 PCL点云算法汇总及实战案例汇总的目录地址链接: PCL点云算法与项目实战案例汇总(长期更新) 一、概述 1.1原理 TXT格式的点云文…

4.5 pandas 实战 分析抖音播放数据(1)

课程目标 基于pandas对抖音播放数据做数据分析 数据准备 点此去下载 课程内容 导包 import pandas as pd import numpy as np import matplotlib.pyplot as plt import seaborn as sns plt.rcParams["font.family"] "SimHei" plt.rcParams["ax…

焦化行业的变革力量:智能巡检机器人

根据相关数据,2024年1-2月份,焦炭产量为8039.5万吨,同比增长2.1%,这表明,我国焦化行业仍是全球最大的焦炭生产国和消费国,其市场规模占据了重要地位。焦化企业主要集中在山西省,其合计焦炭产能约…

c++的decltype关键字

它可以将变量声明为表达式指定的类型

Hash入门

unordered_set void test_unordered_set() {unordered_set<int> us;us.insert(4);us.insert(2);us.insert(1);us.insert(5);us.insert(6);us.insert(2);us.insert(2);//去重unordered_set<int>::iterator it us.begin();while (it ! us.end()){cout << *it…

MyBatis-Plus代码一键生成

官网地址&#xff1a;MyBatis-Plus &#x1f680; 为简化开发而生 开始&#xff1a; 添加依赖&#xff1a; <dependency><groupId>com.baomidou</groupId><artifactId>mybatis-plus-generator</artifactId><version>3.5.7</version&g…

IMS 在线计费 IMS 离线计费

目录 1. IMS 在线计费 1.1 主要内容 1.2 IMS 在线计费架构 ​编辑1.3 IMS 在线计费方案 1.4 IMS 在线计费的关键步骤 1.5 在线计费的基本流程 1.6 IMS Information AVP 2. IMS 离线计费 2.1 IMS 离线计费架构 2.2 IMS 离线计费概述 2.3 什么时候 AS 给 CG 发送 ACR?…

独立站技能树/工具箱1.0 总纲篇丨出海笔记

正所谓要把一件事做到90分很难&#xff0c;但做到60分基本上照着SOP做到位都没问题&#xff0c;如果我们能把每件事都做到60分&#xff0c;那绝对比至少60%的人都强&#xff0c;除非你的对手不讲武德——那就是他很可能看了我这篇文章&#xff0c;不但每方面都超过及格线&#…

油耳拿什么清理比较好?比较推荐哪种可视耳勺

相信很多小伙伴都有挖耳朵方面的困扰&#xff0c;尤其是油性耳朵的人&#xff0c;用棉签掏耳朵时感觉越掏越往里去&#xff0c;而使用普通耳勺又因为材质过硬&#xff0c;在使用过程中容易刮伤耳道。于是市面上出现了可视挖耳勺&#xff0c;让人们可以在看得见的情况下取出耳道…

解决novnc1.2.0不能使用剪切板的问题

1.下载资源文件asciidef.js,在rfb.js中引入 2.修改rfb.js中clipboardPasteFrom方法如下 clipboardPasteFrom(text) {if (this._rfbConnectionState !== connected || this._viewOnly) {return; }if (this._clipboardServerCapabilitiesFormats[extendedClipboardFormatText] &…

MT6765/MT6762(R/D/M)/MT6761(MT8766)安卓核心板参数比较_MTK联发科4G智能模块

联发科Helio P35 MT6765安卓核心板 MediaTek Helio P35 MT6765是智能手机的主流ARM SoC&#xff0c;于2018年末推出。它在两个集群中集成了8个ARM Cortex-A53内核&#xff08;big.LITTLE&#xff09;。四个性能内核的频率高达2.3GHz。集成显卡为PowerVR GE8320&#xff0c;频率…

研发企业的源代码防泄密秘籍:一机两用的沙盒电脑

在数字化时代&#xff0c;数据安全已成为企业最关注的问题之一。尤其是对于研发密集型企业&#xff0c;源代码的安全更是核心资产。SDC沙盒&#xff0c;正是为了应对这一挑战而设计的先进数据防泄密解决方案。 全面保护&#xff0c;从源头开始 SDC沙盒采用独特的代码级安全设…

python线程(python threading模块、python多线程)(守护线程与非守护线程)

文章目录 Python多线程入门1. Python多线程概述2. threading模块基础- Thread 类: 这是一个代表线程的类。可以通过创建Thread类的实例来新建一个线程。- Lock 类: 在多线程环境中&#xff0c;为了防止数据错乱&#xff0c;通常需要用到锁机制。Lock类提供了基本的锁功能&#…

如日中天的AI大模型,也到了发展幻灭期!

近期 Gartner发布了《新兴技术成熟度曲线》&#xff0c;其中生成式 AI &#xff08;GenAI&#xff09; 正式进入到了幻灭期。 2018 年 6 月&#xff0c;OpenAI发布GPT-1模型&#xff0c;生成式AI开始向产品化发展。 到2022年的GPT-3.5发布&#xff0c;并且ChatGPT首次向公众推…

企业微信-前往服务商后台页面对接解决方案

序 我会告诉你在哪里点我会告诉你在哪里配置点下去他只返回auth_code的&#xff0c;我怎么登录 正文 他是在这个位置 是这样&#xff0c;应用授权安装第三方应用后&#xff0c;企业微信&#xff08;管理员角色&#xff09;是可以从pc端企业后台点第三方应用的。 如果我没记…

【qt】一个WPS项目了解qt界面设计的基本套路

项目功能演示: 放心食用!最后有完整代码. 超级详细,期待您的一个点赞❥(^_-) 一览全局: WPS项目目录 一.创建项目二.导入资源三.ui设计四.字号选择框初始化五.滚动条初始化六.添加自定义文本类七.初始化action状态八.新建文档九.打开文件十.保存与另存为十一.打印/打印预览十…

QT设置git仓库

笔者最近想写一个qt的程序&#xff0c;想要把这个代码推送到github上。 前提是电脑已安装了git、QT 以下是设置步骤&#xff1a; 1.设置QT中关于git的配置 打开QT&#xff0c;点击工具-》选项-》版本控制-》填写PATH 这个PATH是你安装git的绝对路径&#xff0c;如果你不记得…

HTTP中的Cookie与Session

一、背景 HTTP协议是无状态无连接的。 无状态&#xff1a;服务器不会保存客户端历史请求记录&#xff0c;每一次请求都是全新的。 无连接&#xff1a;服务器应答后关闭连接&#xff0c;每次请求都是独立的。 无状态就导致服务器不认识每一个请求的客户端是否登陆过。 这时…

Mybatis框架映射---代码实现(XML配置以及注解形式)

目录 一. 映射关系 1 对 1-映射方式 1.通过xml文件实现映射的一对一关系 总结 &#xff1a; 2.通过注解的方式来实现下面的 1 对 1 的映射关系&#xff0c;实现级联查询 总结&#xff1a; 二. 映射关系多对一 1.通过xml文件实现映射的多对一关系 2.通过注解的方式来实现…

【Elasticsearch系列十五】强大特性

&#x1f49d;&#x1f49d;&#x1f49d;欢迎来到我的博客&#xff0c;很高兴能够在这里和您见面&#xff01;希望您在这里可以感受到一份轻松愉快的氛围&#xff0c;不仅可以获得有趣的内容和知识&#xff0c;也可以畅所欲言、分享您的想法和见解。 推荐:kwan 的首页,持续学…