Apache 軟體基金會(ASF)於2022年12月03日,透過了 Apache Linkis 計算中介軟體專案的孵化畢業投票。2023年01月18日,Apache 軟體基金會官方宣佈 Apache Linkis 順利畢業,成為 Apache 頂級專案(TLP)。
以上截圖來自 Apache 官網
原文連結:https://news.apache.org/found...
一、關於 Apache Linkis
Apache Linkis 計算中介軟體專案,是由微眾銀行大資料平臺團隊在2019年7月進行開源,並於2021年8月正式捐獻給全球頂級開源社群 Apache 軟體基金會(ASF),成為 ASF 孵化專案,在2022年12月03日透過孵化畢業投票。
Apache Linkis 在上層應用程式和底層引擎之間構建了一層計算中介軟體。透過使用 Linkis 提供的 REST/JDBC/Shell 等標準介面,上層應用可以方便地連線訪問 MySQL/Spark/Hive/Trino/Flink 等底層引擎,同時實現變數、指令碼、函式和資原始檔等使用者資源的跨上層應用互通,以及透過 REST 標準介面提供了資料來源管理和資料來源對應的後設資料查詢服務。作為計算中介軟體,Linkis 提供了強大的連通、複用、編排、擴充套件和治理管控能力。透過計算中介軟體將應用層和引擎層解耦,簡化了複雜的網路呼叫關係,降低了整體複雜度,同時節約了整體開發和維護成本。
自開源以來,開源社群群使用者總數超 7600人,沙箱累計試用公司超 2600家,收到超過 110家企業已投入生產的反饋,生產環境支撐的資料量超 400PB,生產服務的使用者超 5000人,涉及金融、電信、製造、網際網路等多個行業。許多公司已經用 Linkis 來解決大資料平臺連通、擴充套件、管控、編排等計算治理問題。
在一年多的孵化期間,Apache Linkis 由社群開發者主導釋出了7個 Apache 版本,平均約兩個月就會釋出一個版本;新加入了4個 PPMC 和13個 Committers,來自不同的公司和團隊,貢獻人數達到127人。Apache Linkis 社群各項指標發展良好,專案已經趨於成熟, Apache Linkis 順利透過 ASF 專案管理委員會的畢業評估和投票,畢業晉升為 Apache 基金會頂級專案。
二、Apache Linkis 的核心功能點以及 Roadmap
透過使用 Linkis,上層應用工具如批次系統可以把 Linkis 作為統一的閘道器或者 JobServer 來提交批次任務;資料分析工具可以利用 Linkis 的互動式任務的能力實時獲取日誌、結果集、進度資訊等能力。整合了 Linkis 的工具可以做到互聯互通,在不同的工具中可以使用同一個定義的 UDF、資料來源、物料等。
接入了 Linkis 的上層應用工具都可以擁有以下核心功能特性:
- 豐富的底層計算儲存引擎支援:Spark、Hive、Flink、Python、Sqoop、OpenLooKeng、Presto、Trino、ElasticSearch、JDBC、SeaTunnel 和 Shell 等;
- 豐富的語言支援:SparkSQL、HiveQL、Python、Shell、Pyspark、Scala、JSON 和 JAVA 等;
- 強大的計算治理能力:能夠提供基於多級標籤的任務路由、負載均衡、多租戶、流量控制、資源控制等能力;
- 全棧計算儲存引擎架構支援:能夠接收、執行和管理針對各種計算儲存引擎的任務和請求,包括離線批次任務、互動式查詢任務、實時流式任務和資料湖任務;
- 統一上下文服務:支援跨使用者、系統、計算引擎去關聯管理使用者和系統的資原始檔(JAR、ZIP、Properties 等),結果集、引數變數、函式、UDF 等,一處設定,處處自動引用;
- 統一物料:提供了系統和使用者級物料管理,可分享和流轉,跨使用者、跨系統共享物料;
- 統一資料來源管理:提供了 Hive、ElasticSearch、Mysql、Kafka、MongoDB 等型別資料來源資訊的增刪查改、版本控制、連線測試和對應資料來源的後設資料資訊查詢能力;
- 錯誤碼能力:提供了任務常見錯誤的錯誤碼和解決方案,方便使用者自助定位問題;
從孵化器畢業也證明了 Linkis 專案和社群進一步走向成熟,但是要成為一個世界頂級的計算中介軟體專案還有很多的事情要做。Linkis 社群整理了一份 Roadmap ,歡迎大家參與一起貢獻。部分重大特性如下:
三、Apache Linkis 生態
Linkis 作為計算中介軟體,也積極推動與多個開源社群的專案進行整合,以豐富 Linkis 的生態。下圖是部分已經與 Linkis 整合的開源專案,涵蓋了資料分析、工作流、資料交換、資料質量、機器學習、以及常用的計算和儲存引擎等。上層應用工具透過 Linkis 提交和管理各類引擎的任務,把 Linkis 當成了一個開發基座。極大的降低了上層應用工具在連通、擴充套件、管控等計算治理方面的開發工作量,讓上層應用工具只需專注於其自身的功能性需求。
未來我們也將進一步引導和推動更多的上層工具系統和底層引擎,去與 Linkis 對接整合,豐富 Linkis 的生態。歡迎越來越多的專案參與其中。
四、畢業寄語(按姓氏首字母排序)
恭喜 Apache Linkis 順利畢業!一路走來,我有幸見證了 Linkis 社群的發展壯大,在開源大資料領域的影響力也與日俱增。希望 Apache Linkis 未來發展的越來越好,成為更有影響力的世界級開源專案!
—— 堵俊平
Apache Linkis ChampionApache
軟體基金會 Member
開放原子開源基金會TOC 主席
Linkis 社群發展的非常繁榮,恭喜 Linkis 順利從 Apache 孵化器畢業成為頂級專案,作為大資料領域優秀的計算中介軟體, Linkis 使得使用者可以更加方便的透過 REST/JDBC 等標準介面來訪問 Spark、Flink 等底層引擎。畢業是一段新旅程的開始,期待 Linkis 能發展得更好!
—— 代立冬
Apache Linkis MentorApache
軟體基金會 Member
Apache DolphinScheduler PMC Chair
感謝社群每一位成員的熱情和貢獻!我們透過對 "Apache Way" 的持續踐行,形成了一個多樣、有序,且能夠推動專案不斷進化的、富有生命力的社群。畢業只是新徵程的開始,期待與大家一起,繼續增強 Linkis 在連通、管控、編排、複用等資料平臺計算治理方面能力,讓大資料變得更簡單。
—— 邸帥
Apache Linkis PMC Chair
微眾銀行大資料平臺負責人
祝賀 Apache Linkis 從 ASF 孵化器中畢業成為 Apache 頂級專案。作為 Apache 孵化器導師,非常高興能夠看到 Apache Linkis 能夠依託專案使用者和開發者構建起健康發展的社群,並很好地踐行 Apache Way。祝願 Apache Linkis 茁壯成長,並與其他 Apache 大資料專案一同打造更加繁榮的開源大資料技術生態!
—— 姜寧
Apache 軟體基金會董事
Apache ServiceComb Chair
很高興看到,從微眾蹣跚起步的計算中介軟體 Linkis,能夠透過開源,在 Apache Way 的指引和社群夥伴的共同培育下快速成長,走進各行各業,服務千百企業,並順利畢業成為 Apache 頂級專案。期望 Linkis 能夠繼續茁壯成長,在大資料開源領域能夠發揮更大的價值。也期待更多的社群夥伴的參與,並湧現出更多優秀的開源專案,為基礎軟體開源的發展繼續添磚加瓦。
—— 盧道和
微眾銀行基礎科技產品部負責人
恭賀 Apache Linkis 在 2022 年終歲末時,為源自中國的 Apache 頂級專案再添一員強將(總共 20 個專案)。祝願 Apache Linkis 計算治理的征程順利開展,相容幷蓄的社群持續擴充!
—— 劉天棟
Apache 軟體基金會 Member
開源社聯合創始人
衷心祝賀 Linkis 成功從 Apache 孵化器中畢業,成為 Apache 頂級專案。作為微眾銀行主導開源和捐贈的優秀專案,計算中介軟體 Apache Linkis 經過金融級生產環境的持續打磨,和社群各行業貢獻者的共同建設完善,已成為解決大資料平臺計算治理問題的利器。未來,微眾銀行將一如既往支援開源社群建設,助力我國為全球基礎軟體的發展貢獻關鍵力量。
—— 馬智濤
微眾銀行副行長兼資訊長
作為 Apache Linkis 的重度使用者,非常高興看到它從 Apache 畢業,在這裡表示由衷的祝福。我們從2020年開始關注並嘗試在業務上使用它,目前已將大部分底層業務遷移到 Linkis 上管理。在此過程中得到了社群夥伴給與的大力支援,也貢獻了自己的一份力量。畢業不是結束,是新的開始,還有很多工作等著我們去做。希望未來和社群夥伴一起將 Apache Linkis 做的更強大更完善。
—— 聶磊
Apache Linkis Contributor
理想汽車大資料架構師
Apache Linkis 是2019年由微眾銀行開源並貢獻給 Apache 軟體基金會的一個大資料專案,Linkis 自開源之後,在業界引起了廣泛關注。更難能可貴的是,圍繞 Linkis 專案而形成的開發者社群非常活躍,目前已經有 23 位專案管理委員會成員、33 位程式碼 Committer 及超過127 位 Contributor,他們來自不同的地區和組織,自發地參與在專案中開發新特性、回答使用者問題、修復 bug、釋出版本等,呈現出良好的多樣性和可持續性。在 2022 年 12月,Linkis 專案透過了 Apache 孵化器的專案成熟度評估以及投票,畢業成為又一個 Apache 頂級專案。對 Linkis 來說,畢業不是終點,而只是一個里程碑。在 2023 年,希望 Linkis 社群能夠繼續秉承 The Apache Way 的理念,以 Community Over Code 的精神吸納更多的使用者和開發者,持續發展和壯大開源軟體專案,使其最終能夠惠及更多企業和個人使用者。
—— 史少鋒
Apache Linkis Mentor
Apache 軟體基金會 Member
Apache Kylin PMC Chair
很高興看到微眾銀行捐獻給 Apache 開源軟體基金會的 Linkis 專案畢業成為 Apache 基金會的頂級專案。這證明專案發起人充分理解 Apache 基金會的價值觀 Community Over Code,並遵循 Apache 社群的開放、透明、賢能治理的規則進行長期運作,社群成熟度得到了 Apache 軟體基金會孵化委員會的一致認可。恭喜 Linkis 專案和團隊,給大資料技術生態提供了一個值得長期信任的好專案,透過計算中介軟體將應用層和引擎層解耦,使得上層大資料應用編寫更簡單,更快速。
—— 譚中意
Apache 軟體基金會 Member
中國開源推進聯盟副秘書
開放原子開源基金會 TOC 副主席
熱烈慶祝 Linkis 從 Apache 孵化器畢業!Liniks 是一個 Hadoop 及相關生態圈“資料庫”的計算中介軟體,是一個非常有意思而且很有價值的專案,在此,衷心祝願 Apache LInkis 專案和社群發展越來越好!
—— 王華磊
Apache Linkis Contributor
郵儲銀行資料管理部副主任工程師
作為 Linkis 的使用者和開發者,非常榮幸見證了 Linkis 從開源,到 Apache 孵化,再到最終的畢業,真的很不容易,也見證了中國開源力量的崛起。隨著越來越多小夥伴的貢獻, Linkis 已經越來越標準穩定了,期待更多小夥伴們加入有愛的 Linkis 社群,一起將社群建設得更好。
—— 王小剛
Apache Linkis PMC Member
天翼雲 大資料開發工程師
作為專案的 Mentor,非常高興看到 Apache Linkis 成功畢業,成為 Apache 頂級專案。Apache Linkis 的社群非常活躍,在孵化期間,始終維持著兩個月一次的發版節奏,這在所有孵化專案中都非常難得,說明專案的參與人員都很活躍,且盡職盡責。祝 Apache Linkis 專案未來越來越好!
—— 張鐸
Apache Linkis MentorApache
軟體基金會Member
Apache HBase PMC Chair
恭喜 Apache Linkis 從 Apache 畢業!我們從2021年開始關注並嘗試應用於某些業務上,目前已有部分業務執行於 Linkis 上,現正著手於其它業務的遷移工作。非常感謝社群各位夥伴的耐心和幫助!成為頂級專案並不是結束,而是一個開始,衷心希望 Linkis 在未來得到更好的發展,並且幫助到更多的企業去構建大資料平臺。
—— 張華金
Apache Linkis PMC Member
廣州銀行信用卡中心高階需求分析師
作為 Apache Linkis 最早投入到生產環境的忠實使用者和開發者,非常開心見證了 Linkis 一步一步發展壯大,很榮幸能夠為社群貢獻一點綿薄之力。祝願 Apache Linkis 社群發展越來越好,為大資料平臺化貢獻更大的價值,希望大家參與進來一起將 Linkis 建設的更好!
—— 朱輝
Apache Linkis PMC Member
BOSS直聘資料中臺負責人
祝賀 Linkis 經過16個月的孵化,順利從 Apache 孵化器畢業成為頂級專案。在孵化過程中,Linkis 社群始終遵循 Apache Way,採用開放、透明、包容的治理體系,建立了非常繁榮且多元化的開源社群。祝賀 Linkis 社群所有的貢獻者和參與者,也祝願 Linkis 開源專案能夠發展越來越好!
—— 鍾燕清
微眾銀行開源管理辦公室負責人
五、期待你的加入
從 Apache 孵化器畢業只是一個開始,對於成為真正的頂級開源專案只是邁出了第一步。Linkis 社群將繼續踐行 Apache 的開源文化主旨,打造一個更加協作、開放、多元的社群。歡迎更多的組織和個人參與到 Apache Linkis 的建設中來,促進 Linkis 社群持續健康的發展。
六、Apache Linkis 官方連結
官網主頁:https://linkis.apache.org/
倉庫地址:https://github.com/apache/linkis
訂閱Linkis郵件列表:dev-subscribe@linkis.apache.org(傳送任意內容到郵箱後,根據回覆以訂閱郵件列表 )