bencede
New member
Yedinci bölümde şifreHaberler Security podcast'inde sunucular Christopher ve Sylvester sözde acil enjeksiyonları tartışıyor. Bunlar (Chat)GPT gibi ses yapay zekasına dayanan yazılımlara sızmak için kullanılabilecek saldırılardır. İstemi enjeksiyonlar, klasik BT güvenliğindeki uzaktan kod yürütmeye benzer: başarılı olursa, saldırgan temeldeki ses yapay zekasının kontrolünü ele geçirir ve bu ses yapay zekasının erişebildiği her şeyi elden çıkarabilir.
Duyuru
Böyle bir saldırıyla saldırganlar, kullanıcıyı bıçaklamak için bir AI sistemine yeni (gizli) bir görev atayabilir veya ona yeni (kötü amaçlı) bir kimlik verebilir. Sistemin erişebildiği araçları ve API'leri de arayabilirsiniz. Veriler, kullanıcıyı işbirliği yapmaya ikna ederek veya saldırıya uğrayan yazılımın yapay zeka çıktısındaki harici bağlantılar ve kaynaklar açısından çok ayrıntılı olması nedeniyle çeşitli yollarla da sızdırılabilir. Ne yazık ki ikincisi istisnadan çok kuraldır.
Chistopher ve Sylvester ilk olarak konuşma yapay zekalarının zamanında yapılan enjeksiyonlara karşı neden savunmasız olduğunu ve saldırıların neden giriş verilerinin doğru şekilde doğrulanmasıyla kolayca filtrelenemeyeceğini tartışıyor. Zamanında enjeksiyonları tespit etmek yalnızca otomatik sistemler için zor değildir: Zamanında enjeksiyon içeren virüslü verilerle uğraştıklarını kullanıcılardan gizlemek için çeşitli hileler de kullanılabilir.
İki sunucu aynı zamanda diğer olası karşı önlemleri de değerlendiriyor, ancak bunların hiçbirinin %100 işe yaramadığı ortaya çıkıyor. Uygulamada, çoğu zaman olduğu gibi, her şey çok daha kötü çünkü çoğu şirket bilinen karşı önlemleri bile kullanmıyor. Yapay zekanın koşuşturmacasında BT güvenliğiyle ilgili endişelere neredeyse hiç zaman kalmıyor. En azından konu yavaş yavaş merkezi hale geliyor; öyle ki, örneğin zamanında yapılan enjeksiyon saldırıları için hata ödülleri de ödeniyor.
Çarşamba gününden itibaren «Password – Haberler güvenlik podcast'inin» yeni bölümünü tüm podcast platformlarından indirmek mümkün.
(Evet)
Duyuru
Böyle bir saldırıyla saldırganlar, kullanıcıyı bıçaklamak için bir AI sistemine yeni (gizli) bir görev atayabilir veya ona yeni (kötü amaçlı) bir kimlik verebilir. Sistemin erişebildiği araçları ve API'leri de arayabilirsiniz. Veriler, kullanıcıyı işbirliği yapmaya ikna ederek veya saldırıya uğrayan yazılımın yapay zeka çıktısındaki harici bağlantılar ve kaynaklar açısından çok ayrıntılı olması nedeniyle çeşitli yollarla da sızdırılabilir. Ne yazık ki ikincisi istisnadan çok kuraldır.
Chistopher ve Sylvester ilk olarak konuşma yapay zekalarının zamanında yapılan enjeksiyonlara karşı neden savunmasız olduğunu ve saldırıların neden giriş verilerinin doğru şekilde doğrulanmasıyla kolayca filtrelenemeyeceğini tartışıyor. Zamanında enjeksiyonları tespit etmek yalnızca otomatik sistemler için zor değildir: Zamanında enjeksiyon içeren virüslü verilerle uğraştıklarını kullanıcılardan gizlemek için çeşitli hileler de kullanılabilir.
İki sunucu aynı zamanda diğer olası karşı önlemleri de değerlendiriyor, ancak bunların hiçbirinin %100 işe yaramadığı ortaya çıkıyor. Uygulamada, çoğu zaman olduğu gibi, her şey çok daha kötü çünkü çoğu şirket bilinen karşı önlemleri bile kullanmıyor. Yapay zekanın koşuşturmacasında BT güvenliğiyle ilgili endişelere neredeyse hiç zaman kalmıyor. En azından konu yavaş yavaş merkezi hale geliyor; öyle ki, örneğin zamanında yapılan enjeksiyon saldırıları için hata ödülleri de ödeniyor.
Çarşamba gününden itibaren «Password – Haberler güvenlik podcast'inin» yeni bölümünü tüm podcast platformlarından indirmek mümkün.
(Evet)