[GPU] Native Rapids UDF – Compilation Environment
上一篇我們介紹了如何利用 cudf C++ 創建自己可以跑在 GPU 上面的 UDF，本篇我們想要紀錄如何利用 Spark Rapids Examples 提供的編譯環境建造出屬於自己的 jar 可以跑在有 GPU 的 Spark 叢集運算之上。
詳細內容
Author: 檸檬爸
[GPU] Native Rapids UDF – Create Custom UDF
在上一篇我們成功實作了 HiveUDF，為了要進一步利用 GPU 加速，我們需要去實作 evaluateColumnar 這一個函數，參考 Spark Rapids 的 Github 與 ColumnView 裡面的範例，針對我們想做到的 UDF 我們沒有發現適合的函數去實作針對一個 Array[String] 的過濾程式，所以我們需要自己去實作 Tutorial 裡面所謂的 Native Code Examples，Tutorial 裡面針對 HiveUDF 只有提供一個範例是 StringWordCount，本篇我們紀錄藉由這個範例去實作一個支援 GPU 的 HiveUDF。
詳細內容
[法國租屋] Chèque Energie 能源補助支票
檸檬爸前一陣子收到一個有關 Chèque Energie 的 Email，以為是詐騙就放著沒有管，直到連檸檬媽也收到相關的 Email 之後，決定要來好好研究怎麼使用這張 Chèque Energie，在使用上面也遇到了一些問題，所以想說利用本篇記錄一下整個過程。
詳細內容
[Spark] Define and Register Hive UDF with Spark Rapids
在上一篇我們介紹如何透過 Spark Rapids 去利用 GPU 加速執行 SQL，我們遇到了幾個問題並一一解決，最後我們成功在 Spark Thrift Server 上面啟動了 Spark Rapids 的功能，並且使用 pyHive 將 SQL 的 Request 送進 Spark Cluster 裡面，為了要更進一步完全使用 GPU 的資源，在執行 SQL command 的時候如果遇到沒有支援 Spark Rapids 的 UDF (User-Defined Function) 的時候，會拖慢整體的速度，讓使用 GPU 的效果沒有發揮出來，因此本篇想要紀錄如何實作並定義一個 Hive UDF。
詳細內容
[租屋] Charge Récupérables 房客負擔管理費
檸檬爸最近收到了過去一年社區管委會 (Syndicat des Copropriétaires) 寄過來的管理費補繳帳單 (Répartition des Charges)，與台灣不同的是法國的管理費或是物業費 (Charges) 其實是有包含熱水 (Eau Chaudes) 與暖氣的 (Chauffage)，所以你的物業費會根據你的使用量來跟你計費，由於目前檸檬家有出租的關係，究竟要如何跟房客一起分擔這筆費用，其實法國政府有明文規定，房東即便沒有實際住在房子裡面，還是有需要分擔的部分，一開始檸檬爸也是搞錯狀況，所以趕緊補上這篇，算是一個紀錄。
詳細內容
[微軟認證] Microsoft Certification DP-100
檸檬爸在考完 Microsoft AZ-104 之後，又有新的需求針對的是 Microsoft DP-100，這個為想要成為 Azure Data Scientist 的人設計的，與 AZ-104 考試相同，微軟有提供免費的教材，如果有需要進一步的教學也有相對應的課程可以購買。
詳細內容
[Rapids] Support Spark SQL with Spark Rapids
Spark SQL 是很多公司提供給商業智慧 BI (Business Intelligence) 的大數據介面，
爸在介紹完 Spark Thrift Server 之後，使用者可以透過 Spark SQL 對自己的資料做操作，Spark SQL 的好處是可以很容易去滿足使用者的需求，但是往往容易遇到因為使用者執行複雜 Query 導致的效能低落，本篇想要透過導入 Spark Rapids 配合 Spark Thrift Server 引入 GPU 的資源看看是否能夠加速 Spark SQL 的運算效率？
[Hive] Index part #0 for `ROLES` already set
檸檬爸在前面幾篇介紹了有關 Hive Metastore, Hive on Spark 和 Spark Thrift Server 等等的觀念，本篇想要紀錄一個花了不少時間的除錯過程，錯誤發生的環境是在 Spark Standalone 的叢集上啟動的 Spark Thrift Server 嘗試去連接在 MySQL 上的 Hive Metastore，成功使用一段時間之後會時不時地遇到這個 Bug，後來的解決方法是重新創建 MySQL 的使用者。
詳細內容
[ML] Fine Tune Spark NLP QA model
使用 Spark NLP 去執行 Question Answering 的範例，可以參考 JohnSnowLabs 裡面很多的 Question Answering 模型，例如 Roberta QA Model，至於要怎麼去 Fine Tune QA 模型？在 Spark NLP 裡面並沒有講解得很清楚，本篇想要記錄如何 Fine Tune 一個自己的 QA 模型供 Spark NLP 來使用？
詳細內容
[租屋] 申報法國房屋使用狀況
為了進一步了解並統計法國的房屋使用情況，2023 年開始法國稅務機關在報稅網站上面提供一個線上申報的方法，具有房產的屋主開始有義務申報房屋使用狀況，其實政府這樣做的另一個目的就是作為逐步取消住房稅的配套，2023 年是每個人主要居所 100% 永久免除的第一年，這包括富裕家庭。但事實上，住房稅並沒有消失，它繼續適用於業主出租的所有第二套住房和出租，透過這個機制稅務機關也取得空置住房徵稅的信息，作為閒置房屋資源徵稅的依據，本篇想要記錄並介紹法國房屋使用申報的過程，參考 BFM 新聞
詳細內容