欢迎关注Hadoop、Spark、Flink、Hive、Hbase、Flume等大数据资料分享微信公共账号:iteblog_hadoop
  1. 文章总数:961
  2. 浏览总数:11,488,030
  3. 评论:3873
  4. 分类目录:103 个
  5. 注册用户数:5844
  6. 最后更新:2018年10月17日
过往记忆博客公众号iteblog_hadoop
欢迎关注微信公众号:
iteblog_hadoop
大数据技术博客公众号bigdata_ai
大数据猿:
bigdata_ai

Spark 1.1.0中使用Hive注意事项

  Spark 1.1.0中兼容大部分Hive特性,我们可以在Spark中使用Hive。但是默认的Spark发行版本并没有将Hive相关的依赖打包进spark-assembly-1.1.0-hadoop2.2.0.jar文件中,官方对此的说明是:

Spark SQL also supports reading and writing data stored in Apache Hive. However, since Hive has a large number of dependencies, it is not included in the default Spark assembly

  所以,如果你直接使用官方提供的预编译好的Spark发行版,将会出现以下的错误:

Exception in thread "main" java.lang.NoClassDefFoundError: 
                                      org/apache/spark/sql/hive/api/java/JavaHiveContext
	at SparkHiveTest.main(SparkHiveTest.java:20)
	at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
	at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
	at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
	at java.lang.reflect.Method.invoke(Method.java:597)
	at org.apache.spark.deploy.SparkSubmit$.launch(SparkSubmit.scala:328)
	at org.apache.spark.deploy.SparkSubmit$.main(SparkSubmit.scala:75)
	at org.apache.spark.deploy.SparkSubmit.main(SparkSubmit.scala)
Caused by: java.lang.ClassNotFoundException: 
                                      org.apache.spark.sql.hive.api.java.JavaHiveContext
	at java.net.URLClassLoader$1.run(URLClassLoader.java:202)
	at java.security.AccessController.doPrivileged(Native Method)
	at java.net.URLClassLoader.findClass(URLClassLoader.java:190)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:307)
	at java.lang.ClassLoader.loadClass(ClassLoader.java:248)
	... 8 more

  解决办法就是重新编译Spark。可以用下面的两种方法解决:

一、如果你是Maven用户,可以用下面办法重新编译

$ mvn clean package -DskipTests -Pyarn -Phadoop-2.2 -Phive

二、如果你是SBT用户,可以用下面办法重新编译

$sbt/sbt -Phive assembly/assembly

用上面的命令编译完的Spark中的lib包将会多出现以下三个jar:

-rw-r--r-- 1 wyp  iteblog 337012  Sep 25 16:28 datanucleus-api-jdo-3.2.1.jar
-rw-r--r-- 1 wyp  iteblog 1801810 Sep 25 16:28 datanucleus-core-3.2.2.jar
-rw-r--r-- 1 wyp  iteblog 1769726 Sep 25 16:28 datanucleus-rdbms-3.2.1.jar

而且在spark-assembly-1.1.0-hadoop2.2.0.jar中也有Hive相关的类,比如JavaHiveContext。
  这时候,你再去运行程序,在日志中你可以看到以下一行的输出:

Spark assembly has been built with Hive, including Datanucleus jars on classpath

这就说明你的Spark已经将Hive相关的包打进去了。

本博客文章除特别声明,全部都是原创!
转载本文请加上:转载自过往记忆(https://www.iteblog.com/)
本文链接: 【Spark 1.1.0中使用Hive注意事项】(https://www.iteblog.com/archives/1144.html)
喜欢 (7)
分享 (0)
发表我的评论
取消评论

表情
本博客评论系统带有自动识别垃圾评论功能,请写一些有意义的评论,谢谢!
(5)个小伙伴在吐槽
  1. 我把spark1.5.1编译过之后还是没有发现JavaHiveContext。
    给Zji^_^2016-04-16 16:56 回复
    • 从Spark 1.3.0版本开始,JavaHiveConcext.scala文件已经被移除了。只能用HiveConcext。
      w3970907702016-04-18 16:20 回复
  2. 我编译过了,还是没见到“Spark assembly has been built with Hive, including Datanucleus jars on classpath”另外,我发现没有编译过的预编版,lib里面也有那3个datanucleus的包
    奥啦2015-07-10 12:57 回复
    • 纠正下上面的,没编译过是没那个3个 datanucleus包的 。你用过spark 1.4 hadoop2.6 hive 1.2 吗,编译要好久。还没解决spark 用hive 报错找不到JavaHiveConcext 的问题,再试一次吧。你spark 1.1 hadoop 2.2 这样能行的是吗?
      奥啦2015-07-10 14:15 回复
  3. Mark一下,以便有用。
    412554112014-09-26 11:25 回复