OWASP LLM Top 10 2025: Prompt Injection ve GenAI Riskleri 10-16-2026, 08:15 AM (Son Düzenleme: 10-16-2026, 05:02 PM, Düzenleyen: Tonyukuk.)
OWASP LLM Top 10 2025: Üretken Yapay Zeka Uygulamalarını Nasıl Güvence Altına Alırsınız?
Selamlar,
Chatbot'lar, RAG sistemleri ve ajan (agent) mimarileri artık ürünlerin içinde. OWASP GenAI Security Project'in LLM Top 10 2025 listesi, bu uygulamalardaki en kritik riskleri sıralıyor. Bu rehberde her maddeyi Türkçe özetliyor ve savunma ipuçları veriyoruz.
Konuda Anlatılacaklar
- LLM01-LLM10 maddeleri
- Prompt injection'a karşı pratik savunmalar
- RAG ve ajan sistemlerinde ekstra riskler
- Kaynakça
LLM01:2025 - Prompt Injection
Kullanıcı girdisi veya dış içerik (web sayfası, e-posta, PDF) modelin talimatlarını değiştirir. Doğrudan ("önceki kuralları unut") veya dolaylı (belge içine gizlenmiş talimat) olabilir.
Kod:
# Kötü: kullanıcı metni sistem prompt'una ham ekleniyor
system = "Sen bir destek asistanısın."
user = request.json["message"] # saldırgan: "Ignore previous instructions..."
# Daha iyi: girdiyi sınırla, araç çağrılarını whitelist'le, kritik işlemleri modele bırakmaLLM02:2025 - Sensitive Information Disclosure
Model eğitim verisi, sistem prompt'u veya RAG bağlamındaki PII/ticari sırlar yanıtta sızabilir.
Savunma: Çıktı filtreleme, PII redaksiyonu, sistem prompt'unu gizleme, eğitim verisi denetimi.
LLM03:2025 - Supply Chain
Üçüncü taraf modeller, eklentiler, vektör veritabanları, ince ayar veri setleri ele geçirilebilir veya zehirlenebilir.
Savunma: Model ve eklenti SBOM'u, imzalı model artefaktları, tedarikçi değerlendirmesi.
LLM04:2025 - Data and Model Poisoning
Ön eğitim, ince ayar veya gömme (embedding) verisine saldırgan örnekler eklenir; model yanlış veya zararlı davranış öğrenir.
Savunma: Veri kaynağı doğrulama, anomali tespiti, düzenli değerlendirme setleri.
LLM05:2025 - Improper Output Handling
Model çıktısı doğrulanmadan HTML/SQL/shell'e basılırsa XSS, SQLi veya komut enjeksiyonu doğar.
Kod:
# Kötü: model çıktısını doğrudan HTML'e basmak
# return HTMLResponse(llm_answer)
# İyi: kaçış / Markdown sanitizer / CSPLLM06:2025 - Excessive Agency
Modele e-posta gönderme, ödeme yapma, kod çalıştırma gibi geniş araç yetkileri verilir. Prompt injection ile bu yetkiler kötüye kullanılır.
Savunma: En az yetki, araç whitelist, yüksek etkili eylemlerde ikinci onay, harcama/oran limitleri.
LLM07:2025 - System Prompt Leakage
Sistem prompt'u iş kurallarını, gizli anahtarları veya moderasyon politikasını içeriyorsa sızdırılması doğrudan hasardır.
Savunma: Prompt'a sır koymayın; sırları sunucu tarafı ortam değişkenlerinde tutun.
LLM08:2025 - Vector and Embedding Weaknesses
RAG'te yetkisiz belgelerin indekslenmesi, embedding tersine çevirme, komşu zehirleme.
Savunma: Belge erişim kontrolünü indeksleme ve sorgu anında uygulayın, kiracı (tenant) ayrımı yapın.
LLM09:2025 - Misinformation
Halüsinasyon ve yanlış bilgi; özellikle hukuk, sağlık, finans cevaplarında tehlikeli.
Savunma: Kaynak gösterme (citation), güven skoru, "bilmiyorum" politikası, insan denetimi.
LLM10:2025 - Unbounded Consumption
Kontrolsüz token/CPU tüketimi: maliyet patlaması veya DoS.
Savunma: Kullanıcı başına kota, maksimum bağlam uzunluğu, zaman aşımı, anomali alarmı.
Hızlı Kontrol Listesi (Üretim Öncesi)
- Sistem prompt'unda API anahtarı / dahili URL var mı?
- Araç çağrıları sunucuda mı doğrulanıyor?
- RAG belgeleri kullanıcı yetkisine göre mi filtreleniyor?
- Çıktı HTML/SQL'e basılmadan önce temizleniyor mu?
- Token kotası ve maliyet alarmı tanımlı mı?
Kaynakça
Görsel: TurkTeam özgün kapak görseli.
Alıntı:Yasal Uyarı: Örnekler yalnızca kendi/izinli sistemlerinizde test edilmelidir. TCK 243-245 geçerlidir.