1.如何在Mac使用Intellij idea搭建远程Hadoop开发环境
如何在Mac使用Intellij idea搭建远程Hadoop开发环境
(1)准备工作
1)
安装JDK
6或者JDK
7
2)
安装scala
2..x
(注意版本)
2)下载Intellij
IDEA最新版(本文以IntelliJ
IDEA
Community
Edition
.1.1为例说明,关联不同版本,源码界面布局可能不同)
3)将下载的链接Intellij
IDEA解压后,安装scala插件,关联手表网站源码流程如下:
依次选择“Configure”–>
“Plugins”–>
“Browse
repositories”,源码输入scala,链接然后安装即可
(2)搭建Spark源码阅读环境(需要联网)
一种方法是关联直接依次选择“import
project”–>
选择spark所在目录
–>
“SBT”,之后intellij会自动识别SBT文件,源码并下载依赖的链接外部jar包,整个流程用时非常长,关联取决于机器的源码首长信箱免费源码网络环境(不建议在windows
下操作,可能遇到各种问题),链接一般需花费几十分钟到几个小时。关联注意,源码下载过程会用到git,链接因此应该事先安装了git。智慧波段指标公式源码
第二种方法是首先在linux操作系统上生成intellij项目文件,然后在intellij
IDEA中直接通过“Open
Project”打开项目即可。在linux上生成intellij项目文件的方法(需要安装git,不需要安装scala,sbt会自动下载)是rfid酒店管理系统源码:在
spark源代码根目录下,输入sbt/sbt
gen-idea
注:如果你在windows下阅读源代码,建议先在linux下生成项目文件,然后导入到windows中的intellij
IDEA中。
(3)搭建Spark开发环境
在intellij
IDEA中创建scala
project,并依次选择“File”–>
“project
structure”
–>
“Libraries”,招聘网源码vip选择“+”,将spark-hadoop
对应的包导入,比如导入spark-assembly_2.-0.9.0-incubating-hadoop2.2.0.jar(只需导入该jar
包,其他不需要),如果IDE没有识别scala
库,则需要以同样方式将scala库导入。之后开发scala程序即可:
编写完scala程序后,可以直接在intellij中,以local模式运行,方法如下:
点击“Run”–>
“Run
Configurations”,在弹出的框中对应栏中填写“local”,表示将该参数传递给main函数,如下图所示,之后点击“Run”–>
“Run”运行程序即可。
如果想把程序打成jar包,通过命令行的形式运行在spark
集群中,可以按照以下步骤操作:
依次选择“File”–>
“Project
Structure”
–>
“Artifact”,选择“+”–>
“Jar”
–>
“From
Modules
with
dependencies”,选择main函数,并在弹出框中选择输出jar位置,并选择“OK”。
最后依次选择“Build”–>
“Build
Artifact”编译生成jar包。
2024-11-06 13:30
2024-11-06 12:25
2024-11-06 11:50
2024-11-06 11:35
2024-11-06 11:34
2024-11-06 11:27