bencede
New member
Suçlular, hedeflenen kişileri haksız ödemeler yapmaları için kandırmak üzere hileli e-postalar kullanmaya çalıştıklarında, şu ana kadar bir sorunla karşılaştılar: Tipik kimlik avı e-postalarının metinleri kötü niyetlidir ve (sofistike saldırılar, mızraklı kimlik avı hariç) yalnızca yetersiz şekilde uyarlanmamıştır. hedef. Gözlemci kullanıcılar genellikle onları kolayca fark edebilir.
Duyuru
WormGPT ile bu durum değişebilir. Slashnext tarafından yazılan bir blog gönderisine göre, reform yaptığını iddia eden eski Black Hat korsanı Daniel Kelley, metin oluşturucuyu dilsel olarak mükemmel ve inandırıcı kimlik avı e-postaları oluşturmak için kullanmayı başardı. Araç, OpenAI’nin mevcut GPT-3’üne açık bir alternatif sağlamak için iki yıl önce oluşturulan GPT-J dil modelini temel alır.
Vicdansız yapay zeka
Kelley’e göre WormGPT, şu anda siber suç forumlarında sıcak bir konu ve dolandırıcılık girişimleri için şiddetle tavsiye ediliyor. Yazarların modeli “kötü amaçlı yazılımla ilgili verilerle” eğittikleri ve “etik sınırlamaları” olmadığı söyleniyor. Eğer öyleyse, ChatGPT gibi diğer modellerden temel farkı budur – geliştiricileri bu tür kısıtlamalar oluşturmuştur ve bu tür kısıtlamalar genellikle sözde “jailbreak” ile atlatılabilir. Bu durumda, bu, yapay zekayı gerçekten üretmemesi gereken bir metin oluşturmaya kandırmak için kullanılabilecek bazı istemler anlamına gelir.
Daniel Kelley, WormGPT ile oluşturulan bir kimlik avı e-postasının yalnızca bir ekran görüntüsüyle aracın çıktısını gösteriyor. İçinde, bir şirketin CEO’su bir astından ekli bir faturayı 24 saat içinde ödemesini isterdi. Bu metnin dili aslında güzel ve üslubu da konuya uyuyor. Ancak şirket, kişiler arasındaki ilişki, aciliyetin nedeni ve iddia edilen proje hakkında herhangi bir detay bulunmuyor. Çalışanların buna kanacağı göz ardı edilemez, ancak bu daha önceki manuel dolandırıcılık girişimlerinin ötesine geçmez.
Ancak Kelley haklı olarak bu tür araçların giriş engelini daha da azalttığına dikkat çekiyor. WormGPT ile kısa sürede ve muhtemelen suçluların anlamadığı dillerde bile daha fazla kimlik avı e-postası oluşturulabilir. Görünüşe göre WormGPT, GPT-J modeli gibi yalnızca İngilizce konuşuyor. Kelley, suç forumlarından, aracın çıktılarının başka hizmetler tarafından çevrilmesi gerektiğini aktarıyor.
Duyuru
(Asla)
Haberin Sonu
Duyuru
WormGPT ile bu durum değişebilir. Slashnext tarafından yazılan bir blog gönderisine göre, reform yaptığını iddia eden eski Black Hat korsanı Daniel Kelley, metin oluşturucuyu dilsel olarak mükemmel ve inandırıcı kimlik avı e-postaları oluşturmak için kullanmayı başardı. Araç, OpenAI’nin mevcut GPT-3’üne açık bir alternatif sağlamak için iki yıl önce oluşturulan GPT-J dil modelini temel alır.
Vicdansız yapay zeka
Kelley’e göre WormGPT, şu anda siber suç forumlarında sıcak bir konu ve dolandırıcılık girişimleri için şiddetle tavsiye ediliyor. Yazarların modeli “kötü amaçlı yazılımla ilgili verilerle” eğittikleri ve “etik sınırlamaları” olmadığı söyleniyor. Eğer öyleyse, ChatGPT gibi diğer modellerden temel farkı budur – geliştiricileri bu tür kısıtlamalar oluşturmuştur ve bu tür kısıtlamalar genellikle sözde “jailbreak” ile atlatılabilir. Bu durumda, bu, yapay zekayı gerçekten üretmemesi gereken bir metin oluşturmaya kandırmak için kullanılabilecek bazı istemler anlamına gelir.
Daniel Kelley, WormGPT ile oluşturulan bir kimlik avı e-postasının yalnızca bir ekran görüntüsüyle aracın çıktısını gösteriyor. İçinde, bir şirketin CEO’su bir astından ekli bir faturayı 24 saat içinde ödemesini isterdi. Bu metnin dili aslında güzel ve üslubu da konuya uyuyor. Ancak şirket, kişiler arasındaki ilişki, aciliyetin nedeni ve iddia edilen proje hakkında herhangi bir detay bulunmuyor. Çalışanların buna kanacağı göz ardı edilemez, ancak bu daha önceki manuel dolandırıcılık girişimlerinin ötesine geçmez.
Ancak Kelley haklı olarak bu tür araçların giriş engelini daha da azalttığına dikkat çekiyor. WormGPT ile kısa sürede ve muhtemelen suçluların anlamadığı dillerde bile daha fazla kimlik avı e-postası oluşturulabilir. Görünüşe göre WormGPT, GPT-J modeli gibi yalnızca İngilizce konuşuyor. Kelley, suç forumlarından, aracın çıktılarının başka hizmetler tarafından çevrilmesi gerektiğini aktarıyor.
Duyuru
(Asla)
Haberin Sonu