一、SparkSQL概述 Spark SQK是Spark用来处理结构化数据(结构化数
  

新手835383 5227

{{ttag.title}}
一、SparkSQL概述
Spark SQK是Spark用来处理结构化数据(结构化数据可以来自外部结构化数据源也可以通过RDD获取)的一个模块

        外部的结构化数据源包括 Json,parquet(默认),rmdbs,hive等

2、Spark SQL的优点
     mapreduce             hive(sql框架)减少代码编写

     sparkcore              sparksql(sql框架) 

      hive将sql转换成mapreduce,然后提交到集群上执行,大大简化了mapreduce的程序的复杂性,由于mapreduce这种计算模型。因此spark sql就应运而生了 

优点: 1、容易整合

            2、同一的数据访问方式

            3、兼容hive

            4、标准的数据连接

3、Spark SQL版本迭代
1)sparkSQL的前身是shark

2)spark-1.1(2014-9-11)开始的引入sparksql,对hive进行无缝的兼容

3)spark-1.3:增加了DataFrame的API

4)spark-1.4:增加了窗口分析函数

5)spark-1.5:增加了UDF函数

6)spark-1.6:引入DataSet SparkSession

7)spark-2.x:SparkSQL+DataFrame+DataSet(正式版本),Structured Streaming(DataSet),引入SparkSession 统一了 RDD,DataFrame,DataSet 的编程入口

乱拳打死老司机 发表于 2019-1-16 13:34
  
您好,您这是啥,好像不是跟某公司相关的问题耶,Spark SQL、DataFrame、Dataset
发表新帖
热门标签
全部标签>
2025年技术争霸赛
每日一问
标准化排查
功能体验
GIF动图学习
新版本体验
纪元平台
产品连连看
高手请过招
【 社区to talk】
信服课堂视频
2023技术争霸赛专题
每周精选
2024年技术争霸赛
社区新周刊
安全效果
畅聊IT
答题自测
专家问答
技术笔记
技术圆桌
在线直播
MVP
网络基础知识
安装部署配置
升级
安全攻防
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
排障笔记本
产品预警公告
玩转零信任
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
卧龙计划
华北区拉练
天逸直播
以战代练
秒懂零信任
技术晨报
平台使用
技术盲盒
山东区技术晨报
文档捉虫
齐鲁TV
华北区交付直播
北京区每日一练
场景专题
故障笔记
排障那些事
西北区每日一问
升级&主动服务
高频问题集锦
POC测试案例
全能先锋系列
云化安全能力
专家说
热门活动
产品动态
行业实践
产品解析
关键解决方案

本版达人

新手89785...

本周建议达人

YangZhe...

本周分享达人