AI Red Teaming ve Prompt Injection Testing
LLM sistemlerini saldırgan gözüyle test etme: prompt injection, jailbreak, adversarial ve otomasyon.
Seviye
İleri
Süre
18 saat
Tahmini yayın
2028 Q1
Kategori
AI Security ve Governance
AI sistemlerini kırmaya çalışarak güvenli hale getiren saldırgan-taraf kursu. Prompt injection ve jailbreak tekniklerinden adversarial girdilere, manuel red teaming'den otomatik saldırı ve fuzzing'e; sistematik bir test programıyla zafiyetleri saldırgandan önce bulup kapatmayı öğrenirsin.
Öğrenilecek teknolojiler
Ne öğreneceksin
- Prompt injection ve jailbreak tekniklerini uygulama
- Adversarial girdilerle sistem sertleştirme
- Manuel + otomatik red teaming programı kurma
- Bulguları raporlayıp savunmaya dönüştürme
Kimler için
- AI güvenliğini test eden red team/AppSec uzmanları
- LLM ürününü sertleştiren mühendisler
- Güvenlik değerlendirmesi yapan ekipler
Müfredat özeti
- 01AI red teaming'e giriş
- 02Prompt injection ve jailbreak
- 03Adversarial girdiler
- 04Otomatik saldırı ve fuzzing
- 05Red team programı ve raporlama
- 06Savunmaya dönüştürme
Diğer kursları keşfet
AI Security ve Governance
AI Security: OWASP LLM Top 10
Prompt injection, sensitive information disclosure, model poisoning, excessive agency ve vector/embedding zafiyetleri.
AI Security ve Governance
EU AI Act: Teknik Ekipler için Uyum Rehberi
AI Act risk sınıfları, yükümlülükler, teknik dokümantasyon, GPAI kuralları ve pratik uyum adımları.
AI Security ve Governance
ISO 42001 ile AI Yönetim Sistemi
AI Management System (AIMS) kurma: politikalar, risk yönetimi, kontroller, roller ve sürekli iyileştirme.