隨時隨地與 LLMs 聊天的開源專案「GitHub 熱點速覽」

削微寒發表於2024-08-06

眾所周知,本地執行 LLMs 需要下載模型(體積大),並且還比較吃硬體配置。近日 GitHub 推出了 GitHub Models 服務,讓開發者可以在 GitHub 上免費測試 Llama、Phi 3、Mistral 和 GPT-4o 等大模型。但是,目前該服務仍處於公測階段,類似早期的 Copilot,並未完全開放。需要先提交申請(waitlist)等待稽核透過後才可以使用。

雖然我還沒有獲得公測資格,但目測該服務應該是每天提供一定量的免費線上體驗 LLMs 的次數(Playground),然後再加上雲開發 Codespaces 和 Azure 服務收費。我和大家都一樣,最關心的還是免費的用起來爽不爽!

回到本週的開源熱搜專案,既然不能完全免費使用,不妨試試用 torchchat 在手機上執行 LLMs 聊天應用,實現隨時隨地、不限量地與 LLMs 聊天。還有類似 Shazam 的歌曲識別服務 seek-tune,輕鬆發現和下載熟悉旋律的歌曲。基於語音識別技術破解 reCAPTCHA 驗證碼的瀏覽器外掛 buster,用技術打敗技術。

最後,用 Rust 實現的輕量級的 LDAP 服務和直觀比較兩個 PDF 檔案的工具,體驗極簡應用帶來的高效與便捷。

  • 本文目錄
    • 1. 開源新聞
      • 1.1 GitHub Models 線上免費測試 LLMs
    • 2. 開源熱搜專案
      • 2.1 隨時隨地與 LLMs 聊天的 Python 庫:torchchat
      • 2.2 開源的惡意流量檢測平臺:Maltrail
      • 2.3 破解 reCAPTCHA 驗證碼的瀏覽器外掛:buster
      • 2.4 輕量級的 LDAP 實現:lldap
      • 2.5 類似 Shazam 的歌曲識別演算法:seek-tune
    • 3. HelloGitHub 熱評
      • 3.1 直觀比較兩個 PDF 檔案的工具:diff-pdf
      • 3.2 在 Mac 上執行 iOS 遊戲和應用的工具:PlayCover
    • 4. 結尾

1. 開源新聞

1.1 GitHub Models 線上免費測試 LLMs

GitHub Models 提供了一個線上體驗大型語言模型(LLMs)的聊天應用服務(Playground),使用者可以在這裡線上體驗、測試和執行 LLMs。此外,它還打通了 Codespaces,整合了雲執行和開發 LLMs 的功能,降低了大模型開發的門檻,目前僅支援 Llama、Phi 3、Mistral 和 GPT-4o 等大模型,暫不支援上傳自定義模型。

2. 開源熱搜專案

2.1 隨時隨地與 LLMs 聊天的 Python 庫:torchchat

主語言:PythonStar:2.4k周增長:2k

該專案是由 PyTorch 團隊開源的 Python 庫,旨在簡化大型語言模型 (LLMs) 的執行,輕鬆在桌面、伺服器、iOS 和 Android 等平臺上執行 LLMs 聊天應用。使用者可以直接透過命令列與大模型互動,或啟動 WebUI 在瀏覽器中使用。此外,基於 ExecuTorch 生成的 PTE 檔案,它還能生成適用於移動裝置的 LLMs 聊天應用,支援 Llama 3.1、Llama 3 和 Mistral 等大模型。

GitHub 地址→github.com/pytorch/torchchat

2.2 開源的惡意流量檢測平臺:Maltrail

主語言:PythonStar:6.1k周增長:100

這是一個用 Python 開發的惡意流量檢測系統,主要用於識別和追蹤可疑的網路請求。它利用公開的黑名單和自定義的列表進行實時流量監控,並提供了一個簡單的 Web 介面,用於展示報告和分析結果,支援檢測域名、URL、IP 或 HTTP User-Agent 等可疑資訊,以及啟發式分析功能可發現新型或未知的威脅。

GitHub 地址→github.com/stamparm/maltrail

2.3 破解 reCAPTCHA 驗證碼的瀏覽器外掛:buster

主語言:JavaScriptStar:7.4k周增長:200

該專案利用語言識別技術,幫助使用者自動透過 reCAPTCHA 驗證碼認證的瀏覽器外掛,支援 Chrome、Edge 和 Firefox 瀏覽器。

GitHub 地址→github.com/dessant/buster

2.4 輕量級的 LDAP 實現:lldap

主語言:RustStar:4k周增長:100

該專案用 Rust 語言實現了一個輕量級的 LDAP(輕量級目錄訪問協議)服務,旨在簡化使用者身份驗證和管理。它具有配置簡單、佔用資源少、友好的 Web 介面等特點,支援重置密碼和 Docker 部署,預設使用 SQLite 資料庫,同時相容 MySQL 和 PostgreSQL 等資料庫。

GitHub 地址→github.com/lldap/lldap

2.5 類似 Shazam 的歌曲識別演算法:seek-tune

主語言:GoStar:1.3k周增長:1.1k

該專案用 Go 語言實現了類似 Shazam 的歌曲識別演算法,並提供了簡單易用的 Web 服務。它利用音訊指紋技術,能夠識別使用者播放的音樂,並整合了 Spotify 和 YouTube,可以一鍵發現並下載音樂。

GitHub 地址→github.com/cgzirim/seek-tune

3. HelloGitHub 熱評

在本章節中,我們將分享本週 HelloGitHub 網站上的熱門開源專案,歡迎與我們分享你上手這些開源專案後的使用體驗。

3.1 直觀比較兩個 PDF 檔案的工具:diff-pdf

主語言:C++

這是一款用 C++ 編寫的 PDF 檔案比較工具。它支援兩種檢視方式,可以將檔案內容的差異輸出到一個新的 PDF 檔案,或直接在 GUI 中檢視。

專案詳情→hellogithub.com/repository/398f817f245e404b8ae7ad8ab7e80420

3.2 在 Mac 上執行 iOS 遊戲和應用的工具:PlayCover

主語言:Swift

該專案是專為 Apple Silicon Mac 裝置(M 系列晶片)設計,用於執行 iOS 應用和遊戲的工具。它透過模擬 iPad 環境和鍵盤對映功能,讓使用者可以在 Mac 電腦上玩 iOS 遊戲,需自行下載 IPA 檔案,適用於 macOS 12.0 或更高版本。

專案詳情→hellogithub.com/repository/2bb52cdd3e5b42df9cb171a00f66863a

4. 結尾

以上就是本期「GitHub 熱點速覽」的全部內容,希望你能夠在這裡找到自己感興趣的開源專案,如果你有其他好玩、有趣的 GitHub 開源專案想要分享,歡迎來 HelloGitHub 與我們交流和討論。

往期回顧

  • 最佳化 GitHub 體驗的瀏覽器外掛
  • 英偉達又向開源邁了一步

相關文章