Category: Cloud

[AWS] curl 上傳檔案至 AWS S3

Posted on by

在導入 AWS 作為後端雲平台的時候，遇到了需要透過 curl 指令將檔案直接上傳到 S3 的需求，一開始以為一定要透過 presigned URL 的方式才能夠進行，但是後來參考了幾篇網路的文章並且經過實作驗證之後，發現也可以直接用 bash shell 配合 AWS credentials 進行，由於 AWS 的 credentials 有分成有時效性與無時效性兩種，本篇針對兩種不同的憑證放上不同的程式碼。

詳細內容

[Hive] Metastore in Azure Databricks

Posted on by

在開發 Spark 與 Deltalake 的應用的時候，需要建立很多的 Table 與 Database 等資源，這些 Table 的資源究竟是怎麼管理的？就是 Hive Metastore 的角色，我們在很自然使用 Spark SQL 的時候，是否真正了解背後發生了什麼事情？本篇我們紀錄如何在 Databricks 上面使用客製化的 Hive Metastore。

詳細內容

[Cloud] Mount NFS on Kubernetes (K8S)

Posted on by

前幾篇記錄了有關 K8S 與 Spark 的應用與一些 K8S 的常用指令，最近需要研究如何把 NFS 掛載上 K8S 裡面的 Pod，最主要的目的是要模擬出一個封閉的運算環境，在一個封閉的伺服器群集裡面，最好的分享檔案的方式就是利用像是 NAS 或是 NFS 等等的服務，本篇記錄一些在 Azure 環境裡面創造出 NFS 服務給 Kubernetes 使用遇到的一些挑戰與經驗。

詳細內容