Go etcd 的依賴問題終於解決了。。。
來源:腦子進煎魚了
大家好,我是煎魚。
前幾年非常高頻的接觸到這一堆微服務相關元件:grpc + grpc-gateway + etcd + protobuf + protoc-gen-go,一開始都是相安無事,逐步跟進新版本。
這不,么蛾子就來了。寫這些元件的開發大佬(或公司)都不在一起,各自為政,各有各的想法、喜歡、規範...因此會出互相不相容,甚至出現了卡脖子的情況。
各種相容問題
當 etcd 是 v3.3/v3.4,grpc > v1.27 時,經常會遇到各種看著腦殼痛的相容性問題。
至少但不限於如下幾個場景。只是例舉幾個比較常見的三個相容錯誤。
找不到 grpc/naming
找不到 grpc-go 庫中的google.golang.org/grpc/naming
包。原因是什麼?原因之一是 go.etcd.io/etcd/client
引用到 grpc-go 庫中的實驗包。
在 go mod tidy
時,會遇到如下報錯:
go: finding module for package google.golang.org/grpc/naming
go: finding module for package google.golang.org/grpc/examples/helloworld/helloworld
go: found google.golang.org/grpc/examples/helloworld/helloworld in google.golang.org/grpc/examples v0.0.0-20231026203026-8cb98464e599
go: finding module for package google.golang.org/grpc/naming
go: git.xxx.cn/xxx/xxx-common/jy imports
go.etcd.io/etcd/client tested by
go.etcd.io/etcd/client.test imports
github.com/coreos/etcd/integration imports
github.com/coreos/etcd/proxy/grpcproxy imports
google.golang.org/grpc/naming: module google.golang.org/grpc@latest found (v1.59.0), but does not contain package google.golang.org/grpc/naming
看到最後的 but does not contain package google.golang.org/grpc/naming
。以為是 grpc-go 亂刪庫,做了不相容變更。
想著找官方解決一下問題。印象很深刻,人家 grpc-go 表示:我這庫早就宣告瞭是實驗性,隨時可能刪除,你不應該依賴他。(不會支援的意思)
找不到 etcd/clientv3/balancer/picker
還是由於 grpc-go 庫的實驗包在新版本去掉了。會導致 etcd v3.3 出現:undefined: balancer.PickOptions
和 undefined: resolver.BuildOption
的相關錯誤資訊:
$ go get go.etcd.io/etcd/clientv3
# github.com/coreos/etcd/clientv3/balancer/resolver/endpoint
../../go/pkg/mod/github.com/coreos/etcd@v3.3.18+incompatible/clientv3/balancer/resolver/endpoint/endpoint.go:114:78: undefined: resolver.BuildOption
../../go/pkg/mod/github.com/coreos/etcd@v3.3.18+incompatible/clientv3/balancer/resolver/endpoint/endpoint.go:182:31: undefined: resolver.ResolveNowOption
# github.com/coreos/etcd/clientv3/balancer/picker
../../go/pkg/mod/github.com/coreos/etcd@v3.3.18+incompatible/clientv3/balancer/picker/err.go:37:44: undefined: balancer.PickOptions
../../go/pkg/mod/github.com/coreos/etcd@v3.3.18+incompatible/clientv3/balancer/picker/roundrobin_balanced.go:55:54: undefined: balancer.PickOptions
不得不說,這個 BUG 我還給 etcd 提了 issues 和 pr:
最終合併了。(但是 etcd v3.5 當年釋出的太慢了,沒等到...)
找不到 grpc.SupportPackageIsVersion6
protoc-gen-go 與 grpc 版本不相容。會出現如下報錯:
Getting error undefined: grpc.SupportPackageIsVersion6 and undefined: grpc.ClientConnInterface
本身這個問題,只需要升級 grpc >= 1.27 就可以了。但如果你使用了 etcd sdk,又會前面的 etcd 版本依賴問題,程式會陷入麻煩的升又升不得,降也降不了。
最後還是將 protoc(protoc-gen-go) 降級為 v1.3.2,grpc 保持在 v1.26,這樣 etcd v3.3 的依賴才能正常使用。
背後緣由
細心的同學會發現,歸根到底還是和 etcd v3.3 扯上關係,grpc 就沒法升級到 v1.27 以上。其他所有關聯的 protoc、grpc-gateway 的版本都沒法繼續推進。
當你想用 go module 來做各種相容管理時,會發現 etcd v3.3 根本沒有 go module...
etcd v3.4 雖然有 go.mod,但也無法拉取和使用(原因詳見:etcd-io/etcd/issues/11154[1])。
etcd 官方的響應也是不太積極的。猜測是積重難返,比較難解決。
解決方案
社群等了許多年,現在終於有了解決辦法。etcd v3.5 已經正式支援了 go module!
etcd 將之前的模組按功能做了領域劃分,把之前各種的低版本依賴、迴圈依賴等問題都處理了。
如下圖所示:
拆分為了 api、client、raft、server、etcdctl、bbolt 等獨立的 Go 模組。不會像老版本一樣交叉影響。
如果你是新專案,建議無腦使用 etcd v3.5 以上版本。千萬別用 v3.3/v3.4 及更低的!
比較無奈的一點
可能有的同學以為皆大歡喜了?其實並不。
他的模組化改造成功僅限於 etcd v3.5 的版本。而歷史專案,如果你是使用 etcd v2 store,那麼很抱歉。
etcd 老版本(v3.3/v3.4 等)是沒有變動的,在 v3.5 的新版本(包含最新的文件)中都在開始在逐步去除 etcd v2 的相關支援。
如果仍然在使用 etcd v2 的同學,建議進行資料遷移用 v3。這樣可以避免很多技術上的問題。
遷移不方便的話,除了各種 replace 和鎖版本外。如果你使用的 etcd 功能非常基礎,也可以自己實現一個簡易版的 SDK。
總結
etcd 的這個歷史問題已經存在了好幾年,一直處理的慢慢吞吞。甚至影響到了 Go 生態圈的一些技術選型問題。
前幾天有同學反饋 tidb 裡引用了 cloud.google.com/go/pubsub
庫,而該庫又依賴了 grpc 的較高的版本。從而導致原有卡在 grpc v1.26 的應用又出現了問題。才回過頭來看看。
在新版本中,etcd 的依賴問題終於解決了。真的是,這值得被我們記住!雖然他老版本依然沒處理...
參考資料
etcd-io/etcd/issues/11154:
來自 “ ITPUB部落格 ” ,連結:http://blog.itpub.net/70024922/viewspace-2992971/,如需轉載,請註明出處,否則將追究法律責任。
相關文章
- 關於 OkHttp 依賴衝突問題的解決過程HTTP
- PNP的子集和問題終於解決了
- 介面測試時依賴前置資料的問題解決了...
- 終於,解決了一個大問題
- Maven中解決依賴衝突的問題Maven
- 交叉編譯庫依賴問題的解決方法編譯
- 解決Maven中90%的依賴(導包)問題Maven
- Git Worktree:解決分支依賴衝突的問題Git
- 終於解決了這個線上偶現的panic問題
- go語言go get 匯入官方依賴的解決方法Go
- 依賴管理利器---Spring IO Platform解決Spring組合依賴問題實戰SpringPlatform
- 問題解決:嘗試解決maven依賴找不到的n種姿勢Maven
- 編譯OpenVPN及解決相關依賴問題編譯
- 解決 requests-2.17.3 依賴 chardet 庫版本不匹配的問題
- Spring 迴圈依賴的三種方式(三級快取解決Set迴圈依賴問題)Spring快取
- 解決npm 安裝部分依賴失敗問題總結NPM
- 函式計算|如何使用層解決依賴包問題?函式
- maven打包jar無法打入依賴專案問題解決MavenJAR
- 困擾Chrome使用者多年的大問題,終於要解決了!Chrome
- mysql 依賴包問題MySql
- composer依賴相關的問題和解決辦法
- 終於解決了moto mpx220發簡訊白屏的問題
- 解決Android studio中gradle依賴下載太慢的問題AndroidGradle
- 終於解決了《====》記一次mysql熱備份xtrabackup(沒有解決問題)MySql
- 問題解決--npm install 安裝依賴一直失敗NPM
- 請教一個關於 STF 依賴的 node 與 Appium 依賴的 node 版本衝突問題APP
- 使用ReflectionTestUtils解決依賴注入依賴注入
- go 中的迴圈依賴Go
- 如何解決微服務之間的資料依賴問題?微服務
- 依賴衝突時的解決方法
- 面試題:Spring 的迴圈依賴問題面試題Spring
- 使用maven-shade-plugin外掛解決spark依賴衝突問題MavenPluginSpark
- FreshTomato 2021.5釋出,終於解決了萬能中繼的問題中繼
- 【完結篇】 遇到的詭異問題,終於解決了,原來是因為鎖
- Glide終於解決了同時繫結多個webp格式圖片的問題IDEWeb
- 在maven專案中解決第三方jar包依賴的問題MavenJAR
- c++類迴圈依賴的問題C++
- 微服務之間的資料依賴問題,該如何解決?微服務