Structured Streaming 和 Flink 对比有什么优劣势呢？

2023-04-10

Structured Streaming和Flink都是现代流数据处理框架，它们在分布式计算、实时数据处理、容错性以及操作API等方面都有着相似之处。然而，它们也有一些显著的不同点。在本文中，我们将比较Structured Streaming和Flin ...

activemq和Kafka有什么区别？

2023-04-07

ActiveMQ和Kafka都是常用的开源消息队列软件，它们在设计上有许多不同之处。在本文中，我将介绍这两种消息队列系统的区别，并探讨它们各自的优点和缺点。 ActiveMQ是一种基于JMS（Java Message Service）规范的消息 ...

Kafka消费者组数量较大对性能有什么影响？

2023-04-04

Kafka 是一个高性能、可扩展的分布式消息系统，常用于大规模数据处理和实时数据流处理。在 Kafka 中，消费者组是一种重要的概念，它允许多个消费者共同消费同一个主题(topic)的消息，并且可以实现负载均衡和容错机制 ...

Kafka的消费者组该怎么删除？

2023-04-04

Kafka是一种高性能、可扩展的分布式消息系统，广泛应用于各种领域的数据处理和通信场景中。在使用 Kafka 的过程中，消费者组是一个非常重要的概念。消费者组可以使多个消费者协同消费 Kafka 中的消息，从而实现负载 ...

Kafka topic数据如何写入hdfs？

2023-04-04

Apache Kafka是一种分布式流处理平台，它可以将大量数据以流的形式传输和处理。Hadoop Distributed File System（HDFS）是Apache Hadoop生态系统中的一个分布式文件系统，它在大数据领域得到广泛应用。本文将探讨如 ...

如何获取Kafka某一topic中最新的offset？

2023-03-31

获取 Kafka 中某个 topic 最新的 offset 是一个常见的需求，特别是在数据处理和监控中。下面将简单介绍如何获取 Kafka 中某个 topic 的最新 offset。 在 Kafka 中，每个消息都有一个唯一的偏移量（offset），它表示 ...

高并发的情况下（100W）,数据先存在Redis保证快速响应，然后怎么往MySql里面写？

2023-03-27

在高并发的情况下，为了保证系统的稳定性和性能，往往采用将数据先存储在Redis中，以保证快速响应。但是，Redis属于内存数据库，数据存储在内存中，当服务器宕机或者Redis进程被杀掉时，数据会丢失。因此，需要将数 ...

Kafka和mqtt的区别是什么？

2023-03-23

Kafka和MQTT是两种不同的消息传递协议，它们都被广泛地应用于分布式系统中，为开发人员提供了高效、可靠和实时的消息传递机制。本文将会比较与总结这两种协议的特点和区别，并探讨如何选择适合自己的协议。 一、Kafk ...

Kafka解决了什么问题?

2023-03-22

Kafka是一款适用于大规模数据处理的开源消息队列系统，它由LinkedIn公司开发并在2011年正式发布。如今，Kafka已经成为了当今最受欢迎的分布式消息队列之一，被许多大型企业和互联网公司广泛应用于实时数据流、日志 ...

Kafka分布式的情况下，如何保证消息的顺序?

2023-03-15

在Kafka分布式的情况下，如何保证消息的顺序是一个非常重要的问题。由于Kafka是一个分布式系统，它将消息分配到多个节点上进行处理和存储，这意味着消息可能会以不同的顺序到达不同的节点。为了解决这个问题，Kafka ...

大数据零基础学习

2022-11-07

虽说人生没有白走的路，新的一年来到，会的还是原来的知识，人的身价就摆在那里，无论怎么折腾，也不会拿到更好的offer。所以在年轻还有拼劲的时候多学学知识，寻找自身的不足，查漏补缺非常重要。今天小编给大家 ...

Hadoop招聘面试常见的问题和答案详解

2022-10-18

Q1.什么是 Hadoop? Hadoop 是一个开源软件框架，用于存储大量数据，并发处理/查询在具有多个商用硬件(即低成本硬件)节点的集群上的那些数据。总之，Hadoop 包括以下内容： HDFS(Hadoop Distributed File Sys ...

数据工程的构建技巧

2022-03-30

由解决方案架构师和数据工程师Mohammed M Jubapu撰写 数据工程是当今市场上最受欢迎的工作之一。数据无处不在，被认为是新时代的石油。企业从不同的来源产生大量的数据，数据工程师的任务就是组织数据信 ...

成为数据工程师所需的9项技能

2022-03-14

多里安·马丁，GetGoodgrade 你想涉足数据工程吗？ 好主意. 很多公司都在寻找数据工程师--如果你在LinkedIn上搜索“数据工程师”，仅在美国就会得到88，000多个好的职位。每个人都可以使用远程工作选 ...

数据工程师面试指南

2022-03-14

网飞数据工程师欣然·威贝尔。 尽管数据工程师(DE)是2019年增长最快的科技职位，但没有太多关于数据工程面试期待什么以及如何准备的在线资源。 在过去的一年里，我在湾区的几家科技公司面试了数据工程师 ...

【成都大淘客科技有限公司】招聘数据分析师

2018-08-30

【成都大淘客科技有限公司】招聘数据分析师 国内首家专注淘宝客的网站。打造最好用、最懂淘宝客的淘客工具。强大的功能覆盖、全面的数据整合、个性化使用体验。2013年成立，致力打造中国最具影响力的淘客生态服务平 ...

大数据是什么？怎么学？这里有答案

2018-08-27

大数据是什么？怎么学？这里有答案 首先给大家介绍什么叫大数据，大数据最早是在2006年谷歌提出来的，百度给他的定义为巨量数据集合，辅相成在今天大数据技术随着互联网的发展，更加迅速的成长，小到个人，企业 ...

【深圳市拓安信计控仪表有限公司】招聘数据分析师

2018-08-24

【深圳市拓安信计控仪表有限公司】招聘数据分析师  深圳市拓安信计控仪表有限公司成立于一九九六年，是专业流量仪表的研发、生产、销售、服务的科技型企业。公司产品拥有流量计开发核心技术和多项专利技术。流 ...

企业该如何做大数据的分析挖掘？这里有一份参考指南

2018-08-23

企业该如何做大数据的分析挖掘？这里有一份参考指南 现如今已经进入大数据时代，各种系统、应用、活动所产生的数据浩如烟海，数据不再仅仅是企业存储的信息，而是成为可以从中获取巨大商业价值的企业战略 ...

大数据时代的数据分析师该了解哪些事情

2018-07-20

大数据时代的数据分析师该了解哪些事情 近几年来，大数据养精蓄锐，从刚开始的无人谈及，到现在的盛行谈论，就这样走进了公众的视野。什么是大数据呢?对于数据分析师，它有意味着什么?处在人人高谈的大数据时代 ...