Kurumsal üretken yapay zeka güvenliği: Guardino Sentinel prompt'ları sızıntı ve injection için nasıl denetler?

Kurumsal üretken yapay zeka güvenliği; ekipler harici büyük dil modellerini kullanırken kimlik bilgilerinin, müşteri verilerinin, kaynak kodun ve sistem talimatlarının gönderilen metne karışmasını önleme pratiğidir. Guardino Sentinel bu işe prompt'un yazıldığı noktadan yaklaşır: metni gönderilmeden önce denetleyen bir tarayıcı eklentisi, bir API ve bir MCP sunucusu. Böylece ekipler yapay zeka araçlarını kullanmaya devam eder, belirgin sızıntılar önce yakalanır.

Sessiz boşluk: üretken yapay zeka ve gölge bilişim

Ekipler üretken yapay zekayı hızla benimsiyor. Yazılımcılar bir servisteki hatayı çözmek için hata çıktılarını ChatGPT'ye yapıştırıyor. Ürün yöneticileri araştırma notlarını ve görüşme dökümlerini Claude ile özetliyor. Analistler senaryoları sohbet asistanlarıyla modelliyor.

Bu araçlar gerçek zaman kazandırır, ama klasik kontrollerin göremediği bir yol da açar. Ağ güvenlik duvarı portlara, IP adreslerine ve alan adlarına bakar. Bir çalışan onaylı bir yapay zeka servisini HTTPS üzerinden açtığında ağ, izin verilen bir alan adına giden şifreli bir istek görür. İsteğin içinde bir veritabanı şifresi olduğunu görmez.

Bir bağlantı dizesi, bir API anahtarı ya da bir müşteri kaydı prompt'a girdiğinde üç risk doğar:

1. Sağlayıcı tarafında saklama: Prompt'lar, kullanılan plana ve veri saklama koşullarına göre sağlayıcının hata ayıklama, kötüye kullanım izleme ya da model geliştirme kayıtlarında tutulabilir.
2. Yeniden ortaya çıkma: Eğitim sürecine giren veriler bazı durumlarda başka kullanıcılara verilen yanıtlarda kısmen yeniden görünebilir.
3. Dolaylı prompt injection: Harici dokümanları, e-postaları ya da web sayfalarını okuyan yapay zeka akışları, bu içeriğin içine gizlenmiş talimatlarla yönlendirilebilir.

Guardino Sentinel denetimi, bunların hiçbiri gerçekleşmeden, prompt'un kendisine taşır.

Gönderim öncesi prompt denetimi nasıl çalışır?

Klasik veri kaybı önleme çözümleri dosyalar, e-posta ve ağ trafiği için tasarlandı. Bir kişinin sohbet kutusuna yazdığı metne genellikle bakmazlar ve bir ajanın prompt'u kod içinde oluşturduğu noktada nadiren bulunurlar.

Guardino Sentinel metni istek gönderilmeden önce denetler. Tarayıcı eklentisi sayfadaki sohbet editörünü denetler. REST API ve MCP sunucusu, kendi kodunuzun ya da ajanınızın göndermek üzere olduğu metni denetler. Yine beta aşamasındaki LLM gateway, OpenAI ve Anthropic API çağrılarının önünde durur ve her istekte aynı denetimi çalıştırır.

Denetim istek çıkmadan önce yapıldığı için işaretlenen bir prompt düzeltilebilir, maskelenebilir ya da yine de gönderilebilir; kararı klavyedeki kişi verir.

Guardino Sentinel'in üç katmanı

Guardino Sentinel pilotu genellikle iki grubu kapsar: tarayıcıda yapay zeka sohbet araçlarını kullanan çalışanlar ve ajanları koddan prompt gönderen yazılımcılar.

1. Tarayıcı eklentisi ve Hayalet Modu

Eklenti (beta, Chrome) ChatGPT, Claude, Gemini, DeepSeek ve Microsoft Copilot üzerindeki prompt kutusunu izler. Tüm denetim eklentinin içinde, yerel olarak çalışır.

Siz yazarken editörün yanındaki küçük bir panel bulunanı gösterir: hiçbir şey, türüne göre sayılmış hassas veri ya da bir injection girişimi. Hayalet Modu işaretlenen kısımları yerinde yeniden yazar; bir ayar bloğundaki Stripe gizli anahtarı [REDACTED_API_KEY] olur ve siz göndere basana kadar hiçbir şey gönderilmez.

Gönderim anında eklenti basit bir politika uygular. Prompt injection girişimi, metin değişene kadar bekletilir. Bir sır ya da kişisel veri, iki seçenekli bir uyarı açar: "Mask & send" (maskele ve gönder) veya "Send as is" (olduğu gibi gönder). Kurulum başına bir ayarla sırlar da engellenebilir.

Model maskelenmiş prompt'u alır ve metnin yapısıyla çalışmaya devam edebilir. Etiket yanıtta orijinal değere geri çevrilmez: model değeri hiç görmediği için yanıtı da onu içermez. Pilot için iki sınır önemlidir. Yalnız ana prompt editörü izlenir, dosya yüklemeleri ve yapıştırılan görseller henüz denetlenmez. Beş siteden biri arayüzünü değiştirdiğinde site seçicilerinin elle kontrol edilmesi gerekir.

2. Model Context Protocol ile ajan katmanı

Claude Code ve Cursor gibi yazılım ajanları dosya okur, komut çalıştırır ve web sayfası getirir. Sentinel MCP sunucusu @guardino/sentinel-mcp, bir ajana her adımın etrafında çağırabileceği beş araç verir:

• scan_prompt_safety metni injection ve jailbreak kalıpları, sırlar ve kişisel veri açısından denetler; kural kimlikleriyle birlikte ALLOW, WARN ya da BLOCK döndürür.
• redact_secrets anahtarları, token'ları, özel anahtarları, bağlantı dizelerini ve kişisel verileri etiketlerle değiştirir.
• generate_canary ve verify_output_leak bir sistem promptuna ya da dokümana kanarya token'ı yerleştirir ve her yanıtı bu token için denetler.
• report_incident maskeli bulguları (kural kimliği, maskeli alıntı, özet) Guardino hesabınıza gönderir; bunu yalnız bir anahtar tanımladığınızda yapar.

Bu araçları ne zaman çağıracağına ajan, talimatları ya da hook'ları üzerinden karar verir; MCP sunucusu kendini ajanın yoluna yerleştirmez. Beş aracın dördü tamamen MCP istemcisinin içinde çalışır, metin makineden çıkmaz. npm yayını beklemededir.

3. Kanarya token'ları

Kanarya, bir prompt'a ya da sistem talimatına eklediğiniz benzersiz ve anlamsız bir token'dır; örneğin gdo_canary_<uuid>. Eklenti bundan sonra token'ın sayfada sizin mesajınız dışında yeniden görünüp görünmediğini izler, MCP aracı verify_output_leak da bir yanıtı bu token için denetler. Token olmaması gereken bir yerde görünürse talimatlar ya da prompt dışarı sızmış demektir ve içindekiler yenilenmelidir.

Bu, gördüğünüz metin üzerinden yapılan, elden gelenin en iyisi düzeyinde bir kontroldür. Bir sağlayıcının eğitim verisini ya da saklama pratiğini denetlemez.

OWASP LLM Uygulamaları Top 10 eşlemesi

Guardino Sentinel'in kuralları OWASP LLM Uygulamaları Top 10 (2025) listesine göre etiketlidir. Bu bir kapsam eşlemesidir, uyumluluk iddiası değildir; OWASP ürün sertifikalandırmaz.

• LLM01: Prompt Injection: Talimat geçersiz kılma, jailbreak rol yapma, sınırlayıcı kaçışı ve dolaylı injection kuralları; gizli Unicode karakterlere ve kodlanmış yüklere karşı normalizasyon.
• LLM02: Hassas Bilgi İfşası: API anahtarı, token, özel anahtar ve bağlantı dizeleri için sağlayıcı imzası ve entropi kontrolü; kart numarası (Luhn), IBAN (mod-97) ve T.C. kimlik numarası (TCKN) için checksum doğrulamalı desenler, e-posta ve telefon.
• LLM06: Aşırı Yetki (Excessive Agency): Bağlı araçları yıkıcı ya da dışarıya veri gönderen komutlara yönlendiren güvenilmeyen girdiyi işaretleyen bir kural. Sentinel bunu raporlar; araç yetkilerini uygulamak ajanın çalıştığı ortama aittir.
• LLM07: Sistem Promptu Sızıntısı: Sistem promptunu açığa çıkarma talepleri işaretlenir, yanıtlar kanarya token'ları ya da talimatlarınızın birebir tekrarı için denetlenebilir.

Listenin diğer kategorileri yol haritasındadır.

Pilot olarak devreye alma

Guardino Sentinel beta aşamasında olduğu için bir ekiple ilk adım şirket çapında yayın değil, kapsamı belli bir pilottur:

1. Kapsam: Pilotun hangi ekipleri, yapay zeka araçlarını ve veri türlerini kapsadığı ve neyin faydalı sonuç sayılacağı birlikte belirlenir.
2. Kurulum: Eklenti pilot bilgisayarlara yüklenir, yazılımcılar MCP sunucusunu ajan yapılandırmalarına ekler. Mağaza kaydı ve Chrome Enterprise politikalarıyla merkezi dağıtım beta sonrasına planlanmıştır.
3. Politika: Sırların gönderim anında yalnız uyarı mı vereceği, yoksa engellenip engellenmeyeceği seçilir. Bu bugün kurulum başına bir ayardır; merkezi politika yönetimi yol haritasındadır.
4. Değerlendirme: Ekip, eklentinin sayaçlarından ve hesap anahtarı tanımlıysa Guardino panelindeki maskeli olaylardan neyin işaretlendiğine bakar ve yayını buna göre ayarlar.

Sıkça sorulan sorular

Kurumsal ölçekte Guardino Sentinel nedir?

Guardino Sentinel, beta aşamasındaki bir GenAI prompt güvenlik duvarı ve veri kaybı önleme (DLP) katmanıdır. Prompt'ları harici bir modele ulaşmadan önce prompt injection, API anahtarı ve kişisel veri açısından denetler. Tarayıcı eklentisi, REST API, MCP sunucusu ve LLM gateway ile çalışır.

Hayalet Modu veriyi cihazda nasıl tutar?

Tespit tarayıcı eklentisinin içinde çalışır ve prompt Guardino'ya gönderilmez. Hayalet Modu, işaretlenen kısımları siz göndermeden önce yerinde [REDACTED_…] etiketleriyle değiştirir. Uyarı alan bir mesaj yine de olduğu gibi gönderilebilir; dosya yüklemeleri ve yapıştırılan görseller henüz denetlenmez.

Guardino Sentinel yapay zeka çıktılarının doğruluğunu etkiler mi?

Maskeleme, sırrı [REDACTED_API_KEY] gibi bir etiketle değiştirir; model metnin yapısını görür ama değeri görmez. Hata ayıklama ve taslak işlerinin çoğu için bu yeterlidir. Görev gerçek değere ihtiyaç duyuyorsa model onu kullanamaz; amaç da budur.

Sentinel OWASP LLM Top 10 ile nasıl eşleşir?

Kurallar 2025 listesine göre etiketlidir: LLM01 (prompt injection) ve LLM07 (sistem promptu sızıntısı) için ayrı kurallar vardır, LLM02 (hassas bilgi ifşası) sır ve kişisel veri tespitiyle karşılanır, LLM06 (aşırı yetki) için araçları yıkıcı işlemlere yönlendiren girdiyi işaretleyen bir kural bulunur. Diğer kategoriler yol haritasındadır. OWASP ürün sertifikalandırmaz.

Guardino Sentinel otonom yazılım ajanlarına entegre edilebilir mi?

Evet, @guardino/sentinel-mcp adlı MCP sunucusu ile. Beş araç sunar: scan_prompt_safety, redact_secrets, generate_canary, verify_output_leak ve report_incident. Bunların dördü tamamen MCP istemcisinin içinde çalışır. npm yayını beklemede; o zamana kadar pilot ekipler paketi doğrudan bizden alır.

Ekibinizle deneyin

Üretken yapay zeka artık günlük işin parçası. Amaç, çalışanları yavaşlatmadan sırları ve kişisel verileri prompt'ların dışında tutmak. Guardino Sentinel beta aşamasında ve onu kendi iş akışlarında denemek isteyen ekiplerle pilot çalışmalar yürütüyoruz.

ChatGPT, Claude, Gemini, DeepSeek, Copilot, Cursor, Stripe, AWS ve OWASP sahiplerinin ticari markalarıdır; burada yalnız uyumluluğu tanımlamak için anılır.

Bu rehberin İngilizce sürümünü English bağlantısından okuyabilirsiniz.

Sentinel demosu talep edin