zoukankan      html  css  js  c++  java
  • idea 的搭建 maven spark开发环境

    spark依赖配置网址http://mvnrepository.com/
    1.create new project
    2.meven,直接next
    3.输入group id等
    4.输入project name
    5.可以删掉main下的java和resources
    6.右键点击项目,选Add Framework Support,勾选Scala前面的复选框,然后点击确定即可
    7.在main文件夹中建立一个名为 scala 的文件夹,并右键点击 scala 文件夹,选择
    Make Directory as,然后选择Sources Root ,这里主要意思是将 scala 文件
    夹标记为一个源文件的根目录,然后在其内的所有代码中的 package ,其路径就
    从这个根目录下开始算起。

    8.在已经标记好为源文件根目录的 scala 文件夹 上,右键选择 New,然后选择
    Scala Class,随后设置好程序的名称,并且记得将其设置为一个
    Object(类似于Java中含有静态成员的静态类),正常的话,
    将会打开这个 Object 代码界面,并且可以看到IntelliJ IDEA自动添加了一些最
    基本的信息;

    9.在文件添加代码
    def main(args: Array[String]):Unit = {
    println("Hello World!")
    }
    run了之后可看到hello world

    10.pom中导入对应依赖包
    <properties>
    <spark.version>${spark.version}</spark.version>
    <scala.version>2.11</scala.version>
    </properties>


    <dependencies>
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-core_${scala.version}</artifactId>
    <version>${spark.version}</version>
    </dependency>
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-streaming_${scala.version}</artifactId>
    <version>${spark.version}</version>
    </dependency>
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-sql_${scala.version}</artifactId>
    <version>${spark.version}</version>
    </dependency>
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-hive_${scala.version}</artifactId>
    <version>${spark.version}</version>
    </dependency>
    <dependency>
    <groupId>org.apache.spark</groupId>
    <artifactId>spark-mllib_${scala.version}</artifactId>
    <version>${spark.version}</version>
    </dependency>

    </dependencies>

    <build>
    <plugins>

    <plugin>
    <groupId>org.scala-tools</groupId>
    <artifactId>maven-scala-plugin</artifactId>
    <version>2.15.2</version>
    <executions>
    <execution>
    <goals>
    <goal>compile</goal>
    <goal>testCompile</goal>
    </goals>
    </execution>
    </executions>
    </plugin>

    <plugin>
    <artifactId>maven-compiler-plugin</artifactId>
    <version>3.6.0</version>
    <configuration>
    <source>1.8</source>
    <target>1.8</target>
    </configuration>
    </plugin>

    <plugin>
    <groupId>org.apache.maven.plugins</groupId>
    <artifactId>maven-surefire-plugin</artifactId>
    <version>2.19</version>
    <configuration>
    <skip>true</skip>
    </configuration>
    </plugin>

    </plugins>
    </build>


    11.https://blog.csdn.net/u012373815/article/details/53266301
    https://blog.csdn.net/u012877472/article/details/51000690

    12.二维数组输出
    for((k,v)<-r)println(k+"="+v) //r为二维数组

  • 相关阅读:
    眼底血管分割测试部分
    眼底血管分割训练函数(SVM,Adaboost)
    将眼底图片生成的txt文件进行格式化处理
    图像特征的提取(gaussian,gabor,frangi,hessian,Morphology...)及将图片保存为txt文件
    读书计划(2020年秋)
    假期周进度报告3
    信息化领域热词分类分析及解释
    个人课程总结
    第二阶段团队冲刺3
    第二阶段团队冲刺2
  • 原文地址:https://www.cnblogs.com/acg88688/p/9380182.html
Copyright © 2011-2022 走看看