4 月 2 日消息，生成式 AI 爆火的背后，安全性、隱私性和可靠性問題也日益凸顯。微軟公司為了遏制 Supremacy AGI（自稱掌控人類世界的 AI）等事件發生，近日推出了一系列解決方案，防止生成式 AI 失控。
微軟在官方公告中表示：“生成式 AI 如何有效防止提示詞注入攻擊已經成為重大挑戰。在這種攻擊中，惡意行為者試圖操縱人工智能系統做一些超出其預期目的的事情，例如制作有害內容或外泄機密數據”
微軟首先限制了 Copilot 的字符數量，以減輕嚴重的幻覺發作。另外微軟引入了 "基礎檢測"（Groundedness Detection）功能，旨在幫助用戶識別基于文本的幻覺。
該功能將自動檢測文本中的“ungrounded material”，以支持 LLM 輸出的質量，最終提高質量和信任度。
相關工具介紹如下：
Prompt Shields：用于檢測和阻止提示注入攻擊。包括用于在間接提示攻擊影響您的模型之前對其進行識別的新模型，即將推出，現在可在 Azure AI Content Safety 中預覽。
Groundedness detection：主要用于檢測模型輸出中的“幻覺”情況，即將推出。
Safety system messages：可引導您的模型朝著安全、負責任的方向發展。
Safety evaluationsde：用于評估應用程序在越獄攻擊和生成內容風險方面的脆弱性，現已推出預覽版。
Risk and safety monitoring：了解哪些模型輸入、輸出和最終用戶會觸發內容過濾器，從而為減輕風險提供信息，該功能即將推出，目前在 Azure OpenAI 服務中提供預覽版。
本站內容除特別聲明的原創文章之外，轉載內容只為傳遞更多信息，并不代表本網站贊同其觀點。轉載的所有的文章、圖片、音/視頻文件等資料的版權歸版權所有權人所有。本站采用的非本站原創文章及圖片等內容無法一一聯系確認版權者。如涉及作品內容、版權和其它問題，請及時通過電子郵件或電話通知我們，以便迅速采取適當措施，避免給雙方造成不必要的經濟損失。聯系電話：010-82306118；郵箱：aet@chinaaet.com。