Vigil Scanner: Fortifying LLM Model Security for ChatGPT and Beyond

https://multiplatform.ai/vigil-scanner-fortifying-llm-model-security-for-chatgpt-and-beyond/

Vigil 是一個由 Adam Swanda 開發的開源安全掃描器,旨在強化語言模型,如 ChatGPT 的安全性。作為 Python 模組和 REST API,它能識別提示注入和潛在威脅,並通過模組化掃描能力提供彈性的防護措施。此工具還支援本地嵌入、OpenAI 和透過 YARA 簽名的自定義檢測,以對抗已知攻擊。

via Artificial Intelligence on Medium

December 1, 2023 at 01:51AM

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *