Spark 算子之filter使用

命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

导读:本篇文章讲解 Spark 算子之filter使用,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

前言

filter,可以理解为过滤,直观来说,就是对一组数据按照指定的规则做过滤,filter这个算子在java或者其他语言中多有使用,能够很方便的帮我们从一组数据中过滤得到期望的数据;

函数签名

def filter(f:
T => Boolean
): RDD[T]

函数说明

将数据根据指定的规则进行筛选过滤,符合规则的数据保留,不符合规则的数据丢弃。 当数据进行筛选过滤后,分区不变,但是分区内的数据可能不均衡,生产环境下,可能会出现
数据倾斜;

案例一,从一组数据中过滤出偶数

import org.apache.spark.rdd.RDD
import org.apache.spark.{SparkConf, SparkContext}

object Filter_Test {

  def main(args: Array[String]): Unit 

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由半码博客整理,本文链接:https://www.bmabk.com/index.php/post/143256.html

(0)

相关推荐

  • flink Table Api 理论篇

    命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

    导读:本篇文章讲解 flink Table Api 理论篇,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年5月14日
    00
  • IO流:文件输入流、输出流,直接代码解析如何应用。

    导读:本篇文章讲解 IO流:文件输入流、输出流,直接代码解析如何应用。,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年2月28日
    00
  • scanf输入注意事项

    导读:本篇文章讲解 scanf输入注意事项,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年2月28日
    00
  • 【LeetCode】剑指 Offer 35. 复杂链表的复制 – Go 语言题解

    导读:本篇文章讲解 【LeetCode】剑指 Offer 35. 复杂链表的复制 – Go 语言题解,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    2023年2月26日
    00
  • 【ElasticSearch】HTTP调用API

    命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

    导读:本篇文章讲解 【ElasticSearch】HTTP调用API,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年5月24日
    00
  • MySQL表锁了,强制释放

    人生之路不会是一帆风顺的,我们会遇上顺境,也会遇上逆境,在所有成功路上折磨你的,背后都隐藏着激励你奋发向上的动机,人生没有如果,只有后果与结果,成熟,就是用微笑来面对一切小事。

    导读:本篇文章讲解 MySQL表锁了,强制释放,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年3月8日
    00
  • 【MySQL】DDL数据库、表的创建与管理

    生活中,最使人疲惫的往往不是道路的遥远,而是心中的郁闷;最使人痛苦的往往不是生活的不幸,而是希望的破灭;最使人颓废的往往不是前途的坎坷,而是自信的丧失;最使人绝望的往往不是挫折的打击,而是心灵的死亡。所以我们要有自己的梦想,让梦想的星光指引着我们走出落漠,走出惆怅,带着我们走进自己的理想。

    导读:本篇文章讲解 【MySQL】DDL数据库、表的创建与管理,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年4月22日
    00
  • 【啃书】Python数据结构与算法分析(第二版)—导论

    命运对每个人都是一样的,不一样的是各自的努力和付出不同,付出的越多,努力的越多,得到的回报也越多,在你累的时候请看一下身边比你成功却还比你更努力的人,这样,你就会更有动力。

    导读:本篇文章讲解 【啃书】Python数据结构与算法分析(第二版)—导论,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com,来源:原文

    后端笔记 2023年5月24日
    00
  • 安装mingw+Theano+keras(多警告、错误解决办法)

    导读:本篇文章讲解 安装mingw+Theano+keras(多警告、错误解决办法),希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年2月26日
    00
  • es6 语法简单使用

    导读:本篇文章讲解 es6 语法简单使用,希望对大家有帮助,欢迎收藏,转发!站点地址:www.bmabk.com

    后端笔记 2023年3月3日
    00

发表回复

登录后才能评论