YZ Güvenliği Kariyeri 2026: LLMjacking ve Ajan Çağında Hangi Beceriler Aranıyor? 10-23-2026, 08:43 AM
Selamlar,
Sadece bu haftanın haberlerine bakalım: Symantec, ele geçirdiği LLM'lerle 100.000 adıma kadar kendi başına saldıran bir ajanı (Skynet) belgeledi; ABD bankaları müşteri hesaplarında üçüncü taraf YZ ajanları tespit edip engellemeye başladı; Railway ihlali YZ çıkarım sağlayıcılarının anahtarlarını hedefleyen bir saldırı serisinin parçası olarak açıklandı. "YZ güvenliği" artık bir slayt başlığı değil, günlük operasyon. Bu konuda bu alana girmek isteyenler için gerçekçi bir beceri haritası çıkarmaya çalıştım.
Konuda anlatılacaklar
- YZ güvenliğinde üç ana iş ailesi
- Temel beceriler (önce bunlar)
- Alana özgü beceriler
- Portföy fikirleri
- Kaçınılması gereken tuzaklar
Üç iş ailesi
- LLM uygulama güvenliği (AppSec + YZ): Prompt injection, aşırı yetki (excessive agency), veri sızıntısı, araç/MCP entegrasyonlarının güvenliği. Klasik AppSec'in genişlemiş hali.
- YZ red team / değerlendirme: Modelleri ve ajanları izinli kapsamda test etmek, jailbreak dayanıklılığı, değerlendirme setleri hazırlamak.
- YZ altyapı savunması (bulut + SOC): Model uç noktalarını, gateway'leri, API anahtarlarını korumak; LLMjacking gibi kötüye kullanımı token ve harcama telemetrisinden tespit etmek.
Temel beceriler (önce bunlar)
Bu alana "sadece YZ" bilerek girilmiyor. Skynet raporundaki araç listesine bakın: FOFA ile keşif, Django/Laravel/Next.js exploit modülleri, bulut metadata SSRF'si. Yani saldırgan tarafında da klasik web ve bulut bilgisi var. Sağlam temel:
- Web güvenliği: OWASP Top 10, SSRF, kimlik doğrulama ve yetkilendirme hataları.
- Bulut: IAM, gizli anahtar yönetimi, metadata servisleri.
- Python ve API'lerle rahat çalışmak.
- Log analizi ve temel tespit mühendisliği.
Alana özgü beceriler
- OWASP Top 10 for LLM Applications (prompt injection, excessive agency, sistem prompt sızıntısı vb.).
- MITRE ATLAS: YZ sistemlerine yönelik saldırı taktiklerinin ATT&CK benzeri haritası.
- Ajan mimarisi: araç çağırma, MCP, yetki kapsamı, insan onayı noktaları.
- Kötüye kullanım tespiti: token tüketimi anomalileri, anahtar başına bütçe ve hız limitleri.
Portföy fikirleri (yasal ve izinli)
- Yerel bir modelle (Ollama vb.) basit bir RAG uygulaması kurup kendi uygulamanıza karşı prompt injection testleri yazın ve düzeltmeleri belgeleyin.
- Kendi YZ gateway'inizde token kullanım loglarından anomali alarmı üreten küçük bir script yazın.
- Bir ajan için "en az yetki" tasarım dokümanı hazırlayın: hangi araç, hangi kapsam, hangi eylemde insan onayı.
- garak veya PyRIT gibi açık kaynak araçlarla kendi modelinize karşı değerlendirme raporu yayınlayın.
Tuzaklar
- Başkasına ait modellere veya API'lere izinsiz jailbreak denemesi portföy değil, hizmet şartı ihlali ve potansiyel suçtur.
- Açıkta bulduğunuz bir LLM uç noktasını "denemek" de izinsiz erişimdir; sorumlu açıklama kanalını kullanın.
- Sadece prompt yazma becerisi bir güvenlik kariyeri için yeterli değil; temel güvenlik bilgisi olmadan bu alanda kalıcı olmak zor.
YZ güvenliğine geçiş yapan veya bu alanda çalışan var mı? İş ilanlarında en sık hangi becerileri görüyorsunuz?
Yasal uyarı
Bu yazı bilgilendirme ve savunma amaçlıdır. Anlatılan kontrolleri yalnızca kendi sistemlerinizde veya yazılı izinle yapın. İzinsiz erişim, tarama ve sömürü girişimleri TCK 243-245 kapsamında suçtur. TurkTeam white-hat bir topluluktur; çalıntı veri, hesap, combo/log paylaşımı ve hack hizmeti talepleri forum kurallarına aykırıdır.
Kaynaklar