This course is for students with SQL experience and now want to take the next step in gaining familiarity with distributed computing using Spark. Students will gain an understanding of when to use Spark and how Spark as an engine uniquely combines Data and AI technologies at scale. The four modules build on one another and by the end of the course the student will understand: Spark architecture, Spark DataFrame, optimizing reading/writing data, and how to build a machine learning model. The first module will introduce Spark, including how Spark works with distributed computing and what are Spark Dataframes. Module 2 covers the core concepts of Spark such as storage vs. computing, caching, partitions and Spark UI. The third module looks at Engineering Data Pipelines covering connecting to databases, schemas and type, file formats and writing good data. The final module looks at the application of Spark with Machine Learning through the business use case, a short introduction to what machine learning is, building and applying models and a final course conclusion. By understanding when to use Spark, either scaling out when the model or data is too large to process on a single machine, or having a need to simply speed up to get faster results, students will hone their SQL skills and become a more adept Data Scientist.
Learn SQL Basics for Data Science の専門講座カリフォルニア大学デービス校（University of California, Davis）このコースについて
学習内容
Use the collaborative Databricks workspace and write SQL code that executes against a cluster of machines
Use Spark UI to analyze performance and identify bottlenecks
Create an end-to-end pipeline that reads data, transforms it, and saves the result
Build a linear regression model and make predictions using SparkSQL
習得するスキル
提供：
カリフォルニア大学デービス校（University of California, Davis）
UC Davis, one of the nation’s top-ranked research universities, is a global leader in agriculture, veterinary medicine, sustainability, environmental and biological sciences, and technology. With four colleges and six professional schools, UC Davis and its students and alumni are known for their academic excellence, meaningful public service and profound international impact.
シラバス - 本コースの学習内容
Introduction to Spark
In this module, you will be able to discuss the core concepts of distributed computing and be able to recognize when and where to apply them. You'll be able to identify the basic data structure of Apache Spark™, known as a DataFrame. You will be able to use the collaborative Databricks workspace and write SQL code that executes against a cluster of machines.
Spark Core Concepts
In this module, you will be able to explain the core concepts of Spark, and increase query performance by caching your data and modifying Spark configurations. You will also be able to use the Spark UI to analyze performance and identify bottlenecks.
Engineering Data Pipelines
In this module, you will be able to identify and discuss the general demands of data applications. You'll be able to access data in a variety of formats and compare and contrast the tradeoffs between these formats. You will explore and examine semi-structured JSON data, which is common in big data environments, schemas, and parallel data writes. You will be able to create an end-to-end pipeline that reads data, transforms it, and saves the result.
Machine Learning Applications of Spark
In this module, you will be able to define the basics of machine learning and identify the difference between regression and classification problems. You will build a linear regression model and use it to make predictions using Spark SQL. You will also be able to describe how machine learning fits in with concepts you learned in this course and from the other courses in this series. And lastly, you will be able to explain how a machine learning model is trained.
レビュー
DISTRIBUTED COMPUTING WITH SPARK SQL からの人気レビュー
I highly recommend this course for anyone in the BI and Data space interested in learning Spark. The course gives an easy to understand to the framework and applicable hands on examples.
Amazing course that really cuts through the fundamentals of using distributed computing power to analyze and manipulate data. Well organised structure on fundamentals
This has been an amazing course. What is worth mentioning is how the content was delivered. Nice hands on. Highly recommended for anyone who is new to Spark
Great introduction to Spark SQL and ML Flow. I love that they give extra resources if you want to learn more. It was a fun learning journey.
Learn SQL Basics for Data Science専門講座について
よくある質問
いつ講座や課題にアクセスできるようになりますか？
講義と課題へのアクセスは、登録のタイプによって異なります。聴講モードでコースを受講すると、ほとんどのコース教材を無料で見ることができます。採点された課題にアクセスして修了証を取得するには、聴講中または聴講後に、修了証エクスペリエンスを購入する必要があります。聴講オプションが表示されない場合：
- コースは聴講オプションを提供していない可能性があります。代わりに無料トライアルをお試しいただくか、学資援助を申請することができます。
- コースは、聴講オプションを提供せずに「修了証なしフルコース」オプションを提供する場合があります。このオプションでは、すべてのコース教材が表示され、必須の評価を提出して、最終成績を取得することができます。この場合、修了証エクスペリエンスは購入できません。
この専門講座をサブスクライブすると何を行うことができるようになりますか？
コースに登録する際、専門講座のすべてのコースにアクセスできます。コースの完了時には修了証を取得できます。電子修了証が成果のページに追加され、そこから修了証を印刷したり、LinkedInのプロフィールに追加したりできます。コースの内容の閲覧のみを希望する場合は、無料でコースを聴講できます。
返金ポリシーについて教えてください。
サブスクライブすると、7日間の無料トライアルを体験できます。この期間中は解約金なしでキャンセルできます。それ以降、払い戻しはありませんが、サブスクリプションをいつでもキャンセルできます。返金ポリシーをすべて表示します。
学資援助はありますか？
はい。受講料の支払いが難しい受講生に、Coursera（コーセラ）は学資援助を提供しています。左側の［登録］ボタンの下にある［学資援助］のリンクをクリックして申請してください。申請書の入力を促すメッセージが表示され、承認されると通知が届きます。キャップストーンプロジェクトを含む専門講座の各コースでこのステップを完了する必要があります。詳細。
コースを修了することで大学の単位は付与されますか？
このコースでは大学の単位は付与されませんが、一部の大学ではコース修了証を単位として承認する場合があります。詳細については、大学にお問い合わせください。Coursera（コーセラ）のオンライン学位および Mastertrack™証明書は、大学の単位を取得する機会を提供します。
さらに質問がある場合は、受講者向けヘルプセンターにアクセスしてください。
