由 AI 程式工具生成的頁面看似一切正常,甚至可以正常註冊、登入與接收私訊,但這仍不代表它已適合安全上線。
研究頁面 「Lovable apps expose passport details and more than 200K private messages」揭露,被暴露的資料包含使用者護照等敏感個人資訊,以及超過 20 萬則私人訊息。該研究登上 Hacker News 首頁,獲得 256 分和 79 則留言。
這起事件值得拆解來看。問題不單純是「模型生成了不良程式碼」,而是凸顯 AI 應用從提示詞、預覽環境到正式發布之間的斷層:程式碼可以迅速生成,權限設定卻不會有人替開發者自動把關。
原始研究:https://www.crissyfield.de/research/lovable-en/
Hacker News 討論:https://news.ycombinator.com/item?id=50499017
外洩的不是程式碼,而是應用邊界
傳統程式碼稽核通常從程式碼本身開始:是否存在 SQL 注入、硬編碼金鑰或危險相依套件。
AI 生成應用多了一層複雜度。開發者輸入的是一句自然語言,模型則將其轉換為前端、後端、資料庫表格與 API。提示詞可能只要求「做一個社交應用」,卻未明確交代:
- 哪些欄位只能由本人讀取;
- 哪些 API 需要驗證;
- 預覽環境是否允許存取真實資料;
- 發布時是否沿用測試環境的寬鬆權限;
- 第三方服務、物件儲存與資料庫採用哪些預設策略。
這些都不是模型能憑空猜對的產品決策。一旦預設權限過於寬鬆,生成速度越快,錯誤設定也會被複製得越快。
護照資料屬於高度敏感個人資訊,一旦外洩,危害不只是修改密碼或收回訊息。身分冒用、詐欺及跨服務關聯風險都會隨之升高。超過 20 萬則私人訊息遭暴露,更顯示外洩範圍已超出單一測試帳號。
因此,事件核心並不是「Lovable 會不會寫程式碼」,而是「它生成的應用是否將真實使用者與正式環境資料隔離在正確邊界內」。
從提示詞到真實資料的三段風險鏈
1. 建置階段:惡意指令可能混入需求
使用者可能會對 AI 程式工具下達這類指令:
新增上傳功能,並把檔案儲存到公開目錄。
模型照做後,上傳目錄、靜態資源服務與存取策略可能一併被設為公開可讀。
更棘手的是,儲存庫中的 README、issue 或環境設定文件也可能含有惡意文字。開發者複製一段看似無害的設定,AI 卻將它視為專案脈絡。當 AI Agent 擁有終端機、資料庫或部署權限時,提示注入不只會生成錯誤程式碼,還可能轉化為執行錯誤操作。
2. 預覽階段:測試介面可能連著真實資料
預覽環境原本應是低風險沙箱,但以下設定卻相當常見:
DATABASE_URL=真實正式環境資料庫位址
AUTH_SECRET=正式環境金鑰
OBJECT_STORAGE_PUBLIC=true
應用之所以能在本機正常運作,是因為它直接讀取正式環境資料。只要預覽網址可公開存取、驗證中介層遺漏掛載,或物件儲存策略被放寬,測試帳號就可能看到真實使用者內容。
Lovable 案例中,護照資訊與大量私人訊息同時出現,指向的正是這個問題:資料存取邊界與 UI 權限邊界並未對齊。
3. 發布階段:部署成功不等於授權正確
部署流程通常會檢查建置是否成功、連接埠是否健康,以及頁面能否開啟。這些屬於可用性檢查,而非安全檢查。
以下兩個 API 都可能回傳 200:
GET /api/messages/:userId
GET /api/messages/:userId
Authorization: Bearer <任意有效或缺失的權杖>
差異就在授權邏輯。資料庫能查到資料,只代表查詢語句執行成功;API 未逐一驗證使用者身分,則表示資料模型中的 user_id 並未成為存取控制條件。
這正是 AI 程式工具最容易遭到忽略之處:模型可以快速補齊 CRUD API,卻不會自動理解組織、租戶、角色、資源所有權與稽核要求。
Lovable 案例揭露了哪些問題
第一,程式碼生成品質與存取控制品質是兩套不同的指標。
語法正確、頁面完整且資料能顯示,不代表 API 僅允許資料擁有者存取。AI 往往擅長產生「主要流程」,包括註冊、登入、列表與詳情頁;但權限通常藏在條件分支、列層級過濾與中介層中。若這些要求只存在於一句模糊提示詞裡,模型很容易產生一個可供示範、卻不能正式上線的版本。
第二,資料庫存取是最值得優先檢查的環節。
以下是一個典型的危險 API:
export async function GET(
request: Request,
{ params }: { params: { userId: string } }
) {
const messages = await db.messages.findMany({
where: { userId: params.userId },
})
return Response.json(messages)
}
這段程式碼沒有任何語法錯誤,也不會引發執行階段例外,但它直接信任 URL 中的 userId。若登入工作階段未參與查詢,使用者只要修改參數,就能讀取他人的訊息。
安全版本至少應讓伺服器從已驗證的工作階段取得身分,並明確檢查資源所有權:
export async function GET(request: Request) {
const session = await requireSession(request)
const messages = await db.messages.findMany({
where: { userId: session.user.id },
})
return Response.json(messages)
}
第三,驗證與授權不能混為一談。
「使用者已經登入」只回答了你是誰;「你能否讀取這則私訊」則是在確認你能否存取該資源。後者需要物件層級檢查。管理員存取客服排障、測試帳號與共享資料,也都需要各自獨立的規則。
第四,預覽環境與正式環境必須強制隔離。
最有效的做法並非只更換資料庫位址,而是使用不同帳號、不同金鑰、不同資料儲存桶與不同網路策略。正式環境資料不應出現在一般預覽流程中。
開發者應補上的 5 道安全檢查
1. 最小化敏感資料
先問一個簡單問題:這項功能真的需要護照圖片、完整出生日期或長期保存的私人訊息嗎?
預設只收集業務必要欄位。能以狀態取代圖片,就不要上傳原始檔案;只需保存訊息數量,就不要複製完整訊息內容。
上傳檔案時,還應限制檔案類型、大小與儲存位置。護照掃描檔之類的資料,不應預設放入公開物件目錄。
2. 徹底隔離環境變數與資料
至少應準備三套環境:本地、預覽與正式環境,每套皆使用獨立的資料庫帳號與儲存桶。
# 本地與預覽只使用測試資料
DATABASE_URL="$PREVIEW_DATABASE_URL"
AUTH_SECRET="$PREVIEW_AUTH_SECRET"
OBJECT_STORAGE_BUCKET="app-preview-uploads"
OBJECT_STORAGE_PUBLIC=false
不要只依賴命名空間或 NODE_ENV 區分。真正的隔離應由資料庫帳號權限、網路策略與儲存桶策略共同落實。
3. 為每個 API 加上驗證與物件層級檢查
檢查清單包括:
- 未登入的請求是否回傳 401;
- 已登入但嘗試存取他人資料時,是否回傳 403 或 404;
- 查詢條件是否來自伺服器端工作階段,而非 URL 參數;
- 管理 API 是否設有獨立角色;
- 寫入操作是否具備 CSRF 防護或適當的 Token 策略。
可使用 curl 進行基本驗證:
curl -i https://example.com/api/messages/target-user-id
預期結果為 401。接著以另一名一般使用者身分登入,再請求相同路徑,預期不得取得目標使用者的資料。回傳 403 或 404 均可,但不能包含訊息內容。
4. 自動掃描常見暴露面
應將檢查納入 CI,而非在上線前依賴人工判斷。主要掃描項目包括:
- 是否存在路由 API;
- 是否引用環境變數;
- 驗證中介層是否完整覆蓋;
- 資料庫查詢是否帶有使用者或租戶條件;
- 儲存桶是否設有公開存取設定。
工具可以先進行靜態規則掃描,再搭配整合測試驗證越權存取。掃描器只能找出已編碼的問題,無法取代權限測試。
5. 上線前進行人工權限複核
至少讓兩個角色實際走完流程:一般使用者、管理員,以及一名未登入訪客。
重點不是「按鈕能不能點」,而是直接發出 API 請求。應特別檢查列表、搜尋、下載、匯出、分享連結與批次操作。許多問題藏在頁面之外,尤其是公開 API。
發布前還應加入資料暴露檢查:記錄存取日誌,確認近期是否出現異常高频讀取、跨使用者 ID 連續存取,以及短時間內大量匯出等情況。
編輯觀察
這起事件與過去的程式碼助理風險不同。過去,AI 主要協助開發者撰寫函式、補上測試或解讀程式碼;即使產出有誤,作業邊界通常仍在開發者熟悉的程式碼儲存庫內。如今,AI 程式產品將前端、後端、資料庫、預覽與部署串成一條完整鏈路,錯誤的預設值會直接變成可被存取的正式環境能力。
我的判斷是,AI 程式產品接下來的競爭指標,會從「數分鐘內生成可用應用」轉向「預設設定是否安全」。企業將會追問:預覽環境能否碰到正式環境資料?Agent 取得部署權限後能執行哪些操作?每次發布是否會自動產生權限測試與稽核報告?這些問題將比首頁呈現更能影響採購決策。
不過,目前資訊仍不足以斷言外洩究竟源自 Lovable 平台本身,還是由特定應用設定、第三方元件或錯誤部署共同造成。原始研究仍須持續追蹤。可以確定的是,程式碼能執行不等於授權邏輯正確;當真實護照與 20 萬則私訊遭到暴露,AI 程式工具便不能再將安全性完全交由提示詞承擔。